Le allucinazioni dell’intelligenza artificiale (in inglese AI hallucinations) sono risposte generate da un sistema di IA che contengono informazioni false, inventate o non supportate dalle fonti, presentate come se fossero corrette.
Le allucinazioni riguardano soprattutto l’intelligenza artificiale generativa e, in particolare, i modelli linguistici di grandi dimensioni (LLM), su cui si basano assistenti come ChatGPT, Claude, Gemini e Copilot.
Un assistente AI può, per esempio, inventare una sentenza, attribuire a una persona una frase che non ha mai pronunciato, indicare uno studio inesistente o descrivere funzionalità che un prodotto non possiede: queste informazioni sono difficili da riconoscere perché compaiono in risposte fluenti, dettagliate e dal tono sicuro. Una risposta convincente, però, non è necessariamente una risposta corretta.
Il termine allucinazione è una metafora: un modello linguistico non percepisce il mondo come una persona, quindi non “vede cose che non esistono”: il termine indica che il sistema genera contenuti che non corrispondono ai fatti o alle fonti su cui dovrebbe basarsi. Per questo il NIST, l’istituto statunitense per gli standard e la tecnologia, nel suo profilo di rischio sull’IA generativa utilizza il termine “confabulazione” (confabulation).
Perché l’intelligenza artificiale ha le allucinazioni?
I modelli linguistici possono generare allucinazioni perché costruiscono le risposte sulla base di schemi appresi durante l’addestramento, senza verificare automaticamente che ogni affermazione sia vera.
Un LLM viene addestrato su grandi quantità di testi e impara a riconoscere regolarità e relazioni nel linguaggio: quando riceve una domanda genera la risposta un elemento alla volta, sulla base delle probabilità apprese durante l’addestramento. Questo processo permette di produrre testi coerenti e spesso utili, ma non garantisce che le informazioni siano corrette.
Secondo lo studio “Why Language Models Hallucinate“, pubblicato nel settembre 2025 da ricercatori di OpenAI e del Georgia Institute of Technology, le allucinazioni persistono anche perché alcuni sistemi di addestramento e valutazione premiano le risposte date con sicurezza più della capacità di riconoscere quando non si conosce la risposta.
Il meccanismo è simile a quello di un test a risposta multipla: se lasciare una domanda senza risposta non permette di ottenere punti, mentre indovinare offre almeno una possibilità di successo, si incentiva il tentativo di rispondere anche quando non si è sicuri.
Le allucinazioni possono diventare più probabili quando:
- le informazioni sono rare, incomplete o contraddittorie
- le domande sono ambigue
- vengono richiesti fatti successivi all’addestramento che il modello non può verificare attraverso fonti aggiornate
Quali sono gli esempi più comuni di allucinazioni dell’IA?
Le allucinazioni possono riguardare informazioni molto diverse, dai dettagli di un testo ai dati utilizzati per prendere decisioni.
Tra gli esempi più comuni ci sono:
- fonti inventate: articoli scientifici, libri, sentenze o documenti che non esistono
- citazioni false: frasi attribuite a persone che non le hanno mai pronunciate
- dati inesatti: percentuali, date, risultati economici o statistiche presentati senza un fondamento verificabile
- caratteristiche inesistenti: funzionalità attribuite a software, prodotti o servizi che in realtà non le possiedono
- informazioni aggiunte ai documenti: dettagli che non compaiono nel materiale fornito dall’utente, ma che il modello inserisce nella risposta.
Le allucinazioni non si verificano soltanto quando il modello deve rispondere a domande su argomenti che conosce poco, possono comparire anche quando l’IA lavora su documenti forniti direttamente dall’utente.
Che differenza c’è tra un’allucinazione e un errore dell’IA?
Un’allucinazione è un tipo particolare di errore: l’IA genera informazioni inventate, false o non supportate e le presenta come attendibili. Non tutti gli errori dell’intelligenza artificiale sono però allucinazioni.
Un assistente AI può sbagliare un calcolo, fraintendere una richiesta o non rispettare un’istruzione senza necessariamente inventare informazioni: se un modello somma male i valori di una tabella, commette un errore di calcolo; se invece aggiunge alla tabella un dato che non era presente e lo presenta come reale, produce un’allucinazione.
Nella pratica, la distinzione non è sempre netta: anche lo studio di OpenAI sulle cause delle allucinazioni le considera un caso particolare degli errori dei modelli linguistici, mentre la ricerca scientifica utilizza definizioni e criteri di valutazione differenti a seconda del sistema e del compito analizzato.
Per chi utilizza l’IA in azienda, la conseguenza è la stessa: non basta che una risposta sembri ragionevole, bisogna verificare che le informazioni su cui si basa siano corrette.
Le allucinazioni dell’IA si possono eliminare?
No, le allucinazioni si possono ridurre, ma non esiste un metodo che garantisca di eliminarle completamente dai sistemi di intelligenza artificiale generativa.
I modelli più recenti possono essere più affidabili in determinati compiti, ma continuano a generare informazioni inesatte o non supportate: è un limite riconosciuto anche dai ricercatori di OpenAI nello studio del settembre 2025.
Uno dei metodi utilizzati per ridurre il rischio è la RAG (Retrieval-Augmented Generation), una tecnica proposta nel 2020 da ricercatori di Facebook AI Research e University College London, che permette a un sistema di IA di recuperare informazioni da documenti, database o altre fonti esterne e di utilizzarle per costruire una risposta.
Un assistente aziendale basato sulla RAG, per esempio, può consultare i manuali tecnici ufficiali prima di rispondere a una domanda su un prodotto, invece di affidarsi soltanto alle conoscenze acquisite durante l’addestramento.
È il principio su cui si basa A.R.I.A.N.N.A., l’assistente che abbiamo sviluppato in Axura per Unimec: il sistema permette di interrogare cataloghi e documentazione tecnica dell’azienda attraverso domande in linguaggio naturale, rendendo più semplice trovare informazioni sui prodotti.
La RAG può migliorare l’affidabilità delle risposte, ma non elimina il problema: il sistema potrebbe recuperare un documento sbagliato, interpretare male un passaggio o aggiungere informazioni che nelle fonti non compaiono.
Perché le allucinazioni dell’IA sono un rischio per le aziende?
Le allucinazioni sono un rischio per le aziende perché informazioni false ma credibili possono entrare nei processi di lavoro e finire in decisioni, documenti e comunicazioni: il rischio aumenta quando le risposte vengono utilizzate senza verifica oppure inserite direttamente in documenti destinati a clienti, fornitori e altri interlocutori.
C’è anche un problema meno immediato: un’informazione inventata può diffondersi e diventare a sua volta una fonte per altri sistemi di IA. Se un dato sbagliato viene ripreso in un documento aziendale o pubblicato su una pagina web, altri assistenti potrebbero recuperarlo e utilizzarlo per costruire nuove risposte: in questo modo, l’errore iniziale rischia di propagarsi e diventare più difficile da individuare.
È uno dei motivi per cui è importante che i contenuti pubblicati dalle aziende siano accurati e verificati, soprattutto quando riguardano informazioni che soltanto l’azienda può documentare direttamente (ne parliamo anche nell’articolo Brand Journalism & AIO, GEO e AEO, dedicato al rapporto tra contenuti aziendali e visibilità nei sistemi di risposta basati sull’intelligenza artificiale).
Come si possono riconoscere e prevenire le allucinazioni dell’IA?
Per ridurre il rischio di allucinazioni è importante fornire all’assistente informazioni affidabili, chiedere risposte verificabili e controllare i contenuti prima di utilizzarli: un primo accorgimento consiste nel formulare richieste precise, indicando il contesto e, quando possibile, fornendo i documenti su cui basare la risposta.
È utile anche chiedere esplicitamente al modello di non aggiungere informazioni che non trova nelle fonti e di segnalare ciò che non può verificare; queste indicazioni possono aiutare, ma non garantiscono che il modello le rispetti sempre.
Quando una risposta contiene dati, citazioni, riferimenti normativi o informazioni tecniche, è necessario controllare le fonti originali, e la verifica dovrebbe essere tanto più approfondita quanto maggiori sono le conseguenze di un eventuale errore.
Riconoscere un’allucinazione richiede anche di conoscere il funzionamento di questi strumenti e i loro limiti: è uno degli aspetti dell’alfabetizzazione sull’intelligenza artificiale richiamata dall’articolo 4 dell’AI Act, che approfondiamo nell’articolo dedicato alla formazione sull’IA prevista dal regolamento europeo.
Che rapporto c’è tra allucinazioni e AI Sycophancy?
Le allucinazioni riguardano informazioni false o non supportate generate dall’IA; l’AI Sycophancy è la tendenza di un modello a dare ragione all’utente anche quando non dovrebbe.
Sono fenomeni distinti, ma possono rafforzarsi a vicenda.
Chi è responsabile se un’azienda utilizza informazioni inventate dall’IA?
L’utilizzo dell’intelligenza artificiale non trasferisce automaticamente al sistema la responsabilità delle informazioni pubblicate o delle decisioni prese da un’azienda: se un’impresa utilizza un contenuto generato dall’IA in una comunicazione commerciale, in un contratto o in una procedura interna, deve comunque valutarne l’accuratezza e rispettare gli obblighi applicabili.
Un caso spesso citato riguarda Air Canada: nel febbraio 2024 il Civil Resolution Tribunal della Columbia Britannica, in Canada, ha riconosciuto la responsabilità della compagnia aerea per le informazioni sbagliate fornite dal chatbot del proprio sito sulle tariffe agevolate in caso di lutto.
Un cliente aveva acquistato un biglietto facendo affidamento sulle indicazioni dell’assistente, che non corrispondevano alle condizioni effettivamente previste dalla compagnia. Nel procedimento, Air Canada aveva sostenuto che il chatbot fosse responsabile delle proprie risposte, ma il tribunale ha respinto questa argomentazione, considerando la compagnia responsabile delle informazioni pubblicate attraverso il proprio sito.
Nell’Unione europea il quadro di riferimento è l’AI Act, il Regolamento (UE) 2024/1689, che distingue gli obblighi in base al ruolo di chi interviene, per esempio chi sviluppa un sistema di IA (il fornitore) e chi lo utilizza nella propria attività (il deployer), e in base al livello di rischio del sistema.
Anche la normativa italiana richiama l’importanza del controllo umano in determinati ambiti professionali: la legge 23 settembre 2025, n. 132, all’articolo 13, prevede che nelle professioni intellettuali l’intelligenza artificiale sia utilizzata per attività strumentali e di supporto, mantenendo prevalente il lavoro intellettuale del professionista.
Non si tratta di una disciplina specifica delle allucinazioni, ma di un esempio di come l’impiego dell’IA non elimini le responsabilità professionali: le responsabilità giuridiche dipendono comunque dal contesto, dal ruolo dei soggetti coinvolti e dalle norme applicabili, non esiste una regola unica valida per qualsiasi utilizzo dell’intelligenza artificiale.
Sul piano organizzativo, però, il principio è chiaro: le persone devono mantenere il controllo sui contenuti e sulle decisioni che hanno conseguenze reali; per questo è importante stabilire quali attività possono essere svolte con l’IA, quali informazioni devono essere verificate e quando è necessaria una revisione umana (sono alcune delle indicazioni che proponiamo nel Decalogo dell’intelligenza artificiale in azienda).