Il model collapse, in italiano “collasso del modello”, è il deterioramento progressivo di un modello di intelligenza artificiale generativa quando le successive generazioni vengono addestrate sui contenuti prodotti dalle precedenti, perdendo il legame con i dati originali. Le risposte possono diventare meno varie, meno accurate e meno capaci di rappresentare i casi rari.
Il rischio riguarda gli LLM, i modelli linguistici di grandi dimensioni, e altri modelli generativi, compresi quelli che producono immagini. Dipende da come vengono selezionati e utilizzati i dati di addestramento: usare contenuti generati dall’IA non comporta automaticamente il collasso.
Dati sintetici e addestramento ricorsivo
I dati sintetici sono dati generati artificialmente: in questo contesto, testi, immagini o altri contenuti prodotti da modelli di IA e utilizzati per addestrarne altri.
Si parla di addestramento ricorsivo quando l’output di una generazione di modelli entra nei dati di addestramento della successiva. Se questo ciclo riduce progressivamente la rappresentazione dei dati reali, gli errori possono accumularsi.
Un’immagine utile è quella della fotocopia della fotocopia: a ogni passaggio alcuni dettagli si perdono. È un’analogia per descrivere il rischio, la cui evoluzione dipende dalle condizioni di addestramento.
Come avviene il model collapse?
Ogni modello apprende un’approssimazione dei dati originali. I campioni che genera possono rappresentare poco gli eventi rari; riutilizzandoli per addestrare le generazioni successive, queste informazioni possono andare progressivamente perdute.
Lo studio AI models collapse when trained on recursively generated data, pubblicato su Nature il 24 luglio 2024 da Ilia Shumailov e coautori, distingue due fasi:
- Collasso iniziale (early model collapse): si perdono informazioni sui casi meno frequenti, le cosiddette “code” della distribuzione dei dati.
- Collasso avanzato (late model collapse): il modello si allontana sensibilmente dalla distribuzione originale, fino a perdere gran parte della varietà dei risultati.
Negli esperimenti sui modelli linguistici, il gruppo ha osservato un peggioramento attraverso cicli successivi di fine-tuning, cioè di adattamento di un modello già addestrato. Questi risultati descrivono le condizioni sperimentali studiate e richiedono cautela prima di essere estesi a tutti i sistemi di IA.
Perché il collasso del modello è un rischio?
I contenuti generati dall’IA possono rientrare nei dati raccolti dal web per addestrare nuovi modelli. Un’analisi di Graphite, su circa 55.400 articoli in inglese pubblicati tra gennaio 2020 e marzo 2026, stima che nel primo trimestre 2026 circa il 50% dei nuovi articoli fosse prevalentemente generato dall’IA. La stima usa rilevatori automatici e riguarda quel campione: non misura tutti i contenuti online né dimostra il collasso dei modelli.
La perdita di varietà può penalizzare esigenze poco comuni e conoscenze meno rappresentate. Il riutilizzo dei contenuti generati dall’IA può inoltre amplificare i bias algoritmici, rafforzando distorsioni e stereotipi presenti nei dati. Per un’impresa, ma anche per chi usa questi strumenti nella vita di tutti i giorni, questo può tradursi in risposte meno utili sui casi particolari e in risultati meno equi verso alcuni gruppi di persone.
Il model collapse è inevitabile?
Il collasso del modello può essere evitato nelle condizioni individuate da alcune ricerche. Lo studio Is Model Collapse Inevitable?, di Matthias Gerstgrasser e coautori, ha confrontato due modalità di addestramento:
- Sostituzione: ogni generazione di dati sintetici prende il posto dei dati precedenti, favorendo il deterioramento.
- Accumulo: i dati originali vengono conservati insieme alle successive generazioni di dati sintetici; negli esperimenti, questa strategia ha evitato il collasso.
È un risultato favorevole all’uso controllato dei dati sintetici, da valutare rispetto al modello e al compito specifico. Conservare una quota qualsiasi di dati reali non costituisce, da solo, una garanzia universale.
Come si può prevenire il model collapse?
Per ridurre il rischio si può intervenire sulla qualità dei dati e sulle verifiche dei modelli:
- Conservare fonti originali di qualità, mantenendo la varietà dei dati reali.
- Tracciare la provenienza dei dati, distinguendo contenuti umani e sintetici.
- Selezionare i dati sintetici, verificandone qualità e utilità per l’addestramento.
- Monitorare le prestazioni, includendo casi rari e gruppi meno rappresentati nelle verifiche.
Model collapse e allucinazioni: qual è la differenza?
Le allucinazioni dell’IA sono risposte errate o inventate. Il model collapse è un deterioramento legato al riutilizzo dei dati generati nei cicli di addestramento. Una risposta sbagliata, da sola, non permette di diagnosticare il collasso di un modello.
Altre risorse per approfondire
- Nature – AI models collapse when trained on recursively generated data – Lo studio sulle cause e sulle fasi del fenomeno.
- arXiv – Is Model Collapse Inevitable? – La ricerca sull’accumulo di dati reali e sintetici.
- Graphite – AI Now Writes as Many Online Articles as Humans – L’analisi sulla diffusione degli articoli generati dall’IA, con metodologia e limiti della stima.