L’AI Sycophancy, in italiano compiacenza dell’intelligenza artificiale, è la tendenza di un sistema di IA a dare ragione all’utente, assecondarne le opinioni o confermarne le convinzioni anche quando le informazioni disponibili suggerirebbero una risposta diversa: in pratica, un assistente AI può preferire una risposta che soddisfa le aspettative di chi lo interroga a una risposta più corretta, ma meno gradita.
Il termine inglese “sycophancy” significa adulazione o servilismo e, nel campo dell’intelligenza artificiale, indica un comportamento dei modelli linguistici (LLM) che può manifestarsi in modi diversi: dall’approvare un’opinione discutibile al modificare una risposta per adeguarla al punto di vista dell’utente.
Un esempio: un responsabile marketing chiede a un assistente AI “Ho preparato questa campagna e penso che sia perfetta per il nostro pubblico. Sei d’accordo?”: un modello compiacente potrebbe sottolineare soltanto i punti di forza della campagna, trascurando problemi evidenti. Un assistente affidabile dovrebbe invece valutarla, riconoscerne gli aspetti positivi e segnalarne le criticità, anche quando questo significa contraddire l’utente.
Perché i modelli di intelligenza artificiale tendono a dare ragione agli utenti?
I modelli di intelligenza artificiale possono tendere a dare ragione agli utenti per due motivi:
- il modo in cui vengono addestrati, che a volte premia le risposte gradite più di quelle corrette
- il modo in cui viene formulata la domanda
Molti assistenti AI vengono perfezionati con tecniche che tengono conto delle preferenze umane, come il Reinforcement Learning from Human Feedback (RLHF): le risposte vengono valutate anche in base a quanto risultano utili e soddisfacenti per le persone.
Una risposta gradita, però, non è necessariamente una risposta corretta: se durante l’addestramento vengono premiate troppo le risposte collaborative, rassicuranti o in accordo con l’utente, il modello può imparare ad assecondare le aspettative anche quando sarebbe più appropriato esprimere un disaccordo.
Il legame tra preferenze umane e compiacenza è stato studiato, tra gli altri, dai ricercatori di Anthropic nell’articolo “Towards Understanding Sycophancy in Language Models” (presentato alla conferenza ICLR 2024): analizzando diversi assistenti AI, lo studio ha rilevato che i modelli possono adattare le risposte alle opinioni espresse dagli utenti e che, nelle valutazioni, le risposte compiacenti possono essere preferite a quelle corrette.
Un caso documentato riguarda ChatGPT: nell’aprile 2025 OpenAI ha ritirato un aggiornamento del modello GPT-4o perché era diventato eccessivamente lusinghiero e accomodante; nella spiegazione pubblicata, l’azienda ha indicato tra le cause il peso eccessivo attribuito ai riscontri immediati degli utenti, come i pollici in su e in giù sulle risposte.
Anche la formulazione della domanda può favorire risposte compiacenti: una domanda che contiene già un giudizio, o che lascia capire quale risposta ci si aspetta, può spingere il modello ad assecondarla.
Come si riconosce l’AI Sycophancy?
L’AI Sycophancy si può riconoscere osservando come cambia la risposta di un assistente quando l’utente esprime un’opinione; un controllo semplice consiste nel porre la stessa domanda in due modi:
- prima in forma neutra
- poi aggiungendo il proprio punto di vista
Se la risposta cambia in modo significativo senza che siano state fornite nuove informazioni pertinenti, potrebbe essere un segnale di compiacenza.
Altri segnali tipici sono un assistente che:
- conferma un’affermazione sbagliata invece di correggerla;
- cambia posizione appena l’utente lo contraddice, senza nuovi argomenti;
- elogia un progetto senza segnalarne i problemi;
- presenta come valida un’idea soltanto perché l’utente sembra convinto della sua bontà.
Non tutte le risposte che esprimono accordo, però, sono esempi di sycophancy: un assistente può dare ragione all’utente perché la sua affermazione è effettivamente corretta. L’accordo diventa compiacenza quando il desiderio di risultare accomodante prevale sulla valutazione delle informazioni disponibili.
Che differenza c’è tra AI Sycophancy e allucinazioni dell’IA?
Le allucinazioni dell’IA riguardano la produzione di informazioni false o non supportate; la sycophancy riguarda la tendenza ad assecondare l’utente anche quando non è giustificato: sono due fenomeni diversi, ma possono verificarsi insieme.
Un’allucinazione si verifica, per esempio, quando un assistente inventa una sentenza, una fonte bibliografica o una caratteristica di un prodotto; la sycophancy si manifesta invece quando il modello conferma un’affermazione dell’utente senza valutarla adeguatamente.
Perché l’AI Sycophancy è un problema per le aziende?
L’AI Sycophancy è un problema per le aziende perché può trasformare uno strumento pensato per valutare informazioni e supportare le decisioni in un sistema che conferma ciò che le persone vogliono sentirsi dire.
Il rischio riguarda soprattutto le attività in cui l’IA viene utilizzata per analizzare proposte, verificare ipotesi o individuare criticità: in tutti questi casi, una risposta compiacente rischia di rafforzare convinzioni già presenti invece di aiutare a metterle alla prova.
La compiacenza dei modelli è particolarmente insidiosa perché una risposta formulata con sicurezza, articolata e apparentemente ragionevole può sembrare il risultato di un’analisi indipendente, mentre l’assistente potrebbe aver semplicemente adattato il proprio giudizio alle aspettative espresse nella domanda.
L’AI Sycophancy può anche amplificare il bias di conferma (confirmation bias), cioè la tendenza delle persone a cercare e valorizzare soprattutto le informazioni che confermano le proprie convinzioni.
Come si può ridurre il rischio di AI Sycophancy?
Il rischio di AI Sycophancy si può ridurre formulando domande neutrali, chiedendo esplicitamente di cercare errori e punti deboli e verificando le informazioni importanti; nessuna istruzione, però, elimina completamente la compiacenza di un modello.
Un altro accorgimento utile è chiedere all’assistente di distinguere tra fatti verificabili, interpretazioni e ipotesi, indicando le fonti quando sono necessarie.
Questi accorgimenti possono migliorare la qualità delle risposte, ma non garantiscono che siano corrette: la verifica delle informazioni rimane indispensabile, soprattutto quando vengono utilizzate per decisioni con conseguenze economiche, legali o organizzative.
L’AI Sycophancy significa che non ci si può fidare degli assistenti AI?
No, l’AI Sycophancy non significa che gli assistenti AI siano necessariamente inaffidabili, ma che le loro risposte devono essere valutate anche considerando come è stata formulata la domanda.
Un modello linguistico può essere utile per analizzare documenti, confrontare alternative, individuare problemi e sviluppare idee: la sua capacità di produrre risposte convincenti, però, non garantisce che stia esprimendo una valutazione indipendente dalle aspettative dell’utente.
Per questo nelle aziende è importante imparare a utilizzare l’IA non soltanto per ottenere conferme, ma anche per mettere in discussione le proprie ipotesi; l’IA può contribuire al processo decisionale, ma la responsabilità delle decisioni rimane alle persone: è uno dei principi affrontati anche nel Decalogo dell’intelligenza artificiale in azienda.