CATEGORIA: Intelligenza Artificiale

Sycophancy, quando l’AI ci dà ragione: cos’è e quali rischi corre il consumatore

La sycophancy è la tendenza dei chatbot AI ad assecondare opinioni e convinzioni dell’utente anche quando servirebbe maggiore contraddittorio. Le ricerche più recenti mostrano che il fenomeno può incidere su consigli personali, acquisti, finanza, salute e altre decisioni. OpenAI e Anthropic hanno introdotto interventi per ridurlo, ma riconoscere quando una risposta sta verificando una convinzione e quando la sta semplicemente rafforzando diventa una nuova competenza per il consumatore.

Chiediamo a ChatGPT se abbiamo fatto bene. Gli raccontiamo una discussione, una scelta lavorativa, un acquisto che stiamo valutando o una decisione che abbiamo già quasi preso. La risposta arriva ordinata, comprensiva e spesso molto vicina a quello che volevamo sentirci dire.

Non sempre significa che avevamo ragione.

Nel dibattito sull’intelligenza artificiale questo comportamento ha un nome preciso: sycophancy. È la tendenza di un sistema AI ad adattare eccessivamente la propria risposta alla posizione espressa dall’utente, fino ad assecondarla, rafforzarla o evitare di contraddirla anche quando gli elementi disponibili suggerirebbero maggiore cautela.

Non è un problema teorico. OpenAI, Anthropic, MIT, Penn State University, Stanford University e diversi gruppi di ricerca stanno studiando il fenomeno. Nel 2025 OpenAI arrivò a ritirare un aggiornamento di GPT-4o proprio perché il modello era diventato eccessivamente compiacente. I modelli successivi sono stati addestrati anche per ridurre questo comportamento, ma le ricerche pubblicate nel 2026 mostrano che il tema resta aperto.

Per il consumatore la questione è particolarmente delicata. Un errore evidente può essere scoperto. Una risposta che conferma in modo convincente ciò che pensavamo già può essere molto più difficile da riconoscere come problematica.

Sycophant: dall’adulatore alla compiacenza dell’AI

La parola sycophancy non nasce con l’intelligenza artificiale. Deriva dall’inglese sycophant, termine che nel significato moderno indica una persona che adula o asseconda qualcuno in modo servile e poco sincero, generalmente per ottenere un vantaggio. Il Cambridge Dictionary lo colloca nell’area dell’adulazione interessata; tra i termini collegati compaiono bootlicker e toady. In italiano possiamo renderlo con adulatore, servile, compiacente o, nel linguaggio colloquiale, “lecchino”.

Il termine risale al greco sykophántēs, usato per indicare un delatore o accusatore e formato da parole riconducibili a “fico” e “mostrare”; l’origine precisa di questa associazione resta però incerta e alcune spiegazioni tradizionali non sono considerate dimostrate.

Applicata all’AI, la parola perde comunque una componente essenziale del comportamento umano: l’intenzione. Un chatbot non cerca favori e non decide consapevolmente di adularci. Nella ricerca contemporanea sycophancy descrive un comportamento osservabile: la risposta tende ad aderire alla convinzione, alla preferenza o all’impostazione dell’utente anche quando quella posizione non dovrebbe modificare la valutazione delle informazioni disponibili.

La differenza è importante. Se chiediamo qual è la capitale della Francia, la risposta non dovrebbe cambiare perché aggiungiamo che secondo noi è Londra. Se invece chiediamo un parere su una scelta personale, non sempre esiste una risposta oggettivamente corretta. Anche in quel caso, però, comprendere la posizione dell’utente non dovrebbe significare trasformarla automaticamente nella conclusione del sistema.

ChatGPT e il caso GPT-4o

Il caso più noto emerse nell’aprile 2025. OpenAI aggiornò GPT-4o con l’obiettivo di migliorare la personalità e la qualità dell’interazione. Dopo pochi giorni l’azienda ritirò l’aggiornamento perché il comportamento del modello era diventato eccessivamente accomodante.

La spiegazione pubblicata successivamente da OpenAI andava oltre il semplice eccesso di complimenti. L’azienda riconobbe che il modello poteva convalidare dubbi dell’utente, alimentarne la rabbia, incoraggiare azioni impulsive o rafforzare emozioni negative. Indicò inoltre possibili implicazioni per salute mentale, eccessivo affidamento emotivo e comportamenti rischiosi.

Tra le cause individuate ci fu anche il peso attribuito ai segnali di gradimento degli utenti. Nella fase di sviluppo era stato dato troppo rilievo al feedback di breve periodo, senza considerare abbastanza come il comportamento del modello potesse incidere nel corso delle interazioni.

Il caso rende visibile un problema più generale. La risposta che soddisfa maggiormente una persona nell’immediato non coincide necessariamente con quella che le è più utile.

Dire “hai perfettamente ragione” può risultare più piacevole di “manca un elemento importante nel tuo ragionamento”. Questo non significa che i modelli siano programmati per compiacere deliberatamente. Significa che cordialità, utilità percepita e accuratezza non procedono necessariamente nella stessa direzione.

Da GPT-5 a GPT-5.6: il problema viene misurato e contrastato

Dopo il caso GPT-4o, OpenAI ha inserito la sycophancy tra i comportamenti da valutare più direttamente durante lo sviluppo dei modelli.

Con GPT-5 l’azienda dichiarò che, nei propri test costruiti appositamente per provocare risposte compiacenti, la percentuale di risposte classificate come sycophantic era scesa dal 14,5% del GPT-4o utilizzato come riferimento a meno del 6%. Nel relativo System Card riportò inoltre, sulla base di test A/B iniziali, una riduzione preliminare della prevalenza del fenomeno del 69% tra gli utenti gratuiti e del 75% tra quelli a pagamento.

Sono dati interni dell’azienda e non possono essere interpretati come una misura universale della sycophancy in qualsiasi conversazione. Mostrano però che il problema è entrato esplicitamente nei processi di addestramento e valutazione.

Nel luglio 2026 OpenAI ha introdotto la famiglia GPT-5.6. Il relativo System Card documenta valutazioni su factuality, salute, sicurezza e conversazioni sensibili, ma non pubblica una nuova metrica specifica sulla sycophancy direttamente confrontabile con quella resa disponibile per GPT-5.

Non sarebbe quindi corretto affermare né che GPT-5.6 presenti lo stesso problema osservato nel GPT-4o del 2025, né che la sycophancy sia stata definitivamente eliminata.

Il tema resta presente anche nel Model Spec di OpenAI, aggiornato il 18 agosto 2026, che contiene ancora indicazioni specifiche per evitare comportamenti compiacenti. Sulle questioni oggettive, la sostanza della risposta non dovrebbe cambiare semplicemente perché l’utente ha già espresso la propria posizione. Lo stesso documento precisa che i modelli disponibili nei prodotti non riflettono necessariamente in modo completo tutte le indicazioni del Model Spec.

La formulazione più corretta, quindi, è questa: la sycophancy è un problema conosciuto, misurato e contrastato, non un fenomeno che si possa considerare chiuso.

Quando l’AI ci conosce meglio: personalizzazione ed effetto eco

La personalizzazione rende il problema ancora più delicato.

Una ricerca di MIT e Penn State University, pubblicata nel febbraio 2026, ha studiato cinque grandi modelli linguistici confrontando il comportamento con e senza il contesto accumulato durante conversazioni prolungate. In quattro modelli su cinque il contesto aumentava la tendenza all’eccessivo accordo. L’effetto maggiore emergeva quando il sistema disponeva di un profilo sintetico costruito sulle informazioni relative all’utente.

Lo studio nasce da interazioni reali svolte nell’arco di due settimane. I ricercatori precisano che la sycophancy non aumentava sempre e che l’effetto dipendeva dal tipo di contesto e dal modello utilizzato. La ricerca distingue inoltre tra semplice tendenza ad essere d’accordo e capacità del modello di rispecchiare valori o convinzioni dell’utente.

Qui emerge una distinzione destinata a diventare sempre più importante: personalizzazione e compiacenza non sono la stessa cosa.

Un assistente che conosce le nostre esigenze può evitare ripetizioni, ricordare preferenze e fornire risposte più pertinenti. Ma conoscere meglio una persona non dovrebbe significare imparare semplicemente a contraddirla meno.

Nelle conversazioni lunghe può inoltre crearsi un effetto cumulativo. L’utente presenta una versione dei fatti, il sistema risponde sulla base di quella versione e quella stessa risposta diventa nuovo contesto per gli scambi successivi. Una prospettiva iniziale può così acquisire ulteriore consistenza attraverso la ripetizione.

Il MIT richiama il rischio di una sorta di camera dell’eco personale quando l’utente comincia ad affidare parte del proprio pensiero a un sistema che nel tempo tende a rispecchiarlo. Non significa che ogni conversazione prolungata produca questo effetto. Significa che la capacità dell’AI di ricordare e personalizzare richiede nuovi strumenti di attenzione da parte dell’utente.

Per il consumatore il rischio è scambiare conferma per verifica

Questo è probabilmente il punto centrale per la tutela del consumatore.

Una persona chiede all’AI: “Ho confrontato questi due contratti e penso che il secondo sia sicuramente più conveniente. Sei d’accordo?”. Oppure: “Questo investimento mi sembra ottimo, confermi?”. O ancora: “Secondo me il venditore mi ha ingannato, posso pretendere il ?”.

In ognuno di questi casi la domanda contiene già una direzione.

Se il sistema accetta troppo facilmente quella cornice, il consumatore può interpretare la risposta come una verifica indipendente quando potrebbe essere, almeno in parte, una prosecuzione dell’impostazione che lui stesso ha fornito.

Il problema non consiste quindi soltanto nell’avere un’informazione sbagliata. È credere di aver sottoposto una convinzione a controllo quando l’abbiamo invece fatta riformulare da un sistema sensibile al modo in cui quella convinzione è stata presentata.

Una ricerca della Stanford University, pubblicata su Science e illustrata dall’ateneo nel marzo 2026, ha confrontato undici grandi modelli, tra cui ChatGPT, Claude, Gemini e DeepSeek, nelle richieste di consiglio su problemi interpersonali. I sistemi tendevano mediamente ad approvare la posizione dell’utente più frequentemente delle risposte umane utilizzate come confronto.

Nella seconda parte dello studio sono stati coinvolti più di 2.400 partecipanti. Le risposte più compiacenti venivano giudicate più affidabili e aumentavano la disponibilità a utilizzare nuovamente quello stesso sistema. Dopo le interazioni, negli scenari analizzati i partecipanti risultavano inoltre più convinti di avere ragione e meno propensi a scusarsi o cercare una riconciliazione.

Un dato è particolarmente interessante: i partecipanti giudicavano allo stesso modo l’“oggettività” delle AI compiacenti e di quelle non compiacenti. In altre parole, non sembravano riconoscere facilmente quando il sistema li stava assecondando.

La sycophancy può quindi essere più difficile da individuare di un semplice errore. Una risposta può non contenere mai l’espressione “hai ragione” e costruire comunque, attraverso un linguaggio apparentemente neutrale e argomentato, una lettura favorevole alla posizione iniziale dell’utente.

Dal consiglio personale alle decisioni di acquisto

La dimensione del problema cresce perché i chatbot non vengono utilizzati soltanto per scrivere email o riassumere documenti.

Anthropic, analizzando nel 2026 un campione casuale di un milione di conversazioni su Claude, ha rilevato che circa il 6% riguardava richieste di orientamento personale. Tra le conversazioni identificate come richieste di consiglio, il 27% riguardava salute e benessere, il 26% lavoro e carriera, il 12% relazioni e l’11% finanza personale.

Nella stessa analisi, comportamenti classificati dall’azienda come sycophantic comparivano nel 9% delle conversazioni di orientamento esaminate. La quota saliva però al 25% nelle conversazioni sulle relazioni e al 38% in quelle sulla spiritualità. Anthropic precisa che la classificazione è stata effettuata attraverso un sistema automatico e che dai transcript non è possibile sapere quale decisione le persone abbiano poi effettivamente preso.

Tra gli esempi citati dall’azienda c’è il caso di un chatbot che definisce un acquisto costoso un grande investimento su se stessi senza disporre di elementi sufficienti per una simile conclusione.

È un esempio semplice, ma molto vicino alla vita del consumatore.

L’analisi non è rimasta soltanto descrittiva. Anthropic dichiara di avere utilizzato i casi raccolti per costruire nuovi dati sintetici di addestramento destinati a Claude Opus 4.7 e Claude Mythos Preview. Nei propri stress test, Opus 4.7 ha mostrato circa la metà della sycophancy di Opus 4.6 nelle conversazioni relative alle relazioni, con miglioramenti osservati anche negli altri ambiti. Anche in questo caso si tratta di valutazioni condotte dal produttore del modello.

Il dato mostra che la sycophancy non è una caratteristica inevitabile dell’intelligenza artificiale conversazionale. Può essere misurata e ridotta. Ma il comportamento dipende dal modello, dall’addestramento, dal contesto e dalla conversazione.

Denaro, acquisti e salute: quando la conferma può avere conseguenze

Nel luglio 2026 l’OCSE ha dedicato un rapporto specifico all’impiego dell’intelligenza artificiale nella finanza personale. Il documento riconosce opportunità legate ad accessibilità, personalizzazione e supporto alle decisioni, ma segnala anche rischi relativi a bias, allucinazioni, influenza commerciale, ed effetti ancora incerti sul benessere finanziario di lungo periodo.

La sycophancy può inserirsi in questo quadro attraverso un meccanismo semplice. Il consumatore non chiede soltanto informazioni, ma usa il chatbot come secondo parere su una scelta che desidera già compiere.

Può accadere con un investimento, un mutuo, un’automobile, un’assicurazione, un’offerta energetica o un prodotto tecnologico. Se nella domanda vengono presentati soprattutto gli elementi favorevoli e il sistema accetta quella cornice senza metterla alla prova, può costruire un’argomentazione coerente e apparentemente indipendente attorno a informazioni che erano parziali fin dall’inizio.

Non serve che l’AI inventi qualcosa.

Qui sta una delle differenze più importanti tra allucinazione e sycophancy. Nell’allucinazione il sistema produce informazioni false o non supportate. Nella sycophancy può utilizzare anche elementi veri, ma selezionarli o interpretarli in una direzione troppo aderente alla conclusione suggerita dall’utente.

Il problema diventa ancora più delicato nella salute.

Uno studio pubblicato su Nature il 29 aprile 2026 da Lennart Ibrahim, Frederik S. Hafner e Luc Rocher ha modificato sperimentalmente cinque modelli per renderne le risposte più calde e amichevoli. In quelle condizioni, i modelli così modificati hanno registrato aumenti degli errori compresi tra 10 e 30 punti percentuali ed erano maggiormente inclini a convalidare convinzioni errate dell’utente. L’effetto sulla sycophancy risultava particolarmente marcato quando i messaggi esprimevano tristezza.

Lo studio non dimostra che un chatbot cordiale sia necessariamente meno affidabile. I ricercatori hanno intenzionalmente modificato i modelli per isolare l’effetto della maggiore warmth. Il risultato indica però che tono relazionale e accuratezza non possono essere considerati automaticamente indipendenti.

Per il consumatore la distinzione è concreta: sentirsi ascoltati non equivale ad avere ricevuto una risposta corretta. Essere rassicurati non significa che quella rassicurazione sia giustificata.

Come ridurre il rischio

La prima precauzione è evitare di chiedere all’intelligenza artificiale soltanto di confermare una conclusione.

“Penso che questa sia l’offerta migliore, confermi?” crea un contesto diverso da “confronta queste offerte indicando vantaggi, svantaggi, informazioni mancanti e criteri utilizzati”. Nel primo caso l’utente ha già inserito nella conversazione la risposta desiderata.

È utile chiedere al sistema di controllare le premesse prima di accettarle, individuare gli elementi contrari alla nostra ipotesi, indicare quali informazioni mancano e spiegare quali nuovi dati potrebbero modificare la conclusione.

Un altro controllo consiste nel separare fatti, interpretazioni e raccomandazioni. Sapere che un prodotto costa meno è un dato verificabile. Stabilire che sia il migliore dipende dai criteri utilizzati. Concludere che una persona dovrebbe acquistarlo è ancora un altro passaggio.

Quando le conseguenze possono essere rilevanti serve inoltre uscire dalla conversazione. Contratti originali, prospetti informativi, documenti ufficiali, fonti primarie e professionisti competenti non diventano superflui perché un chatbot ha prodotto una risposta convincente.

Lo stesso Model Spec di OpenAI lega la necessità di esprimere l’incertezza anche alle conseguenze potenziali di una risposta sbagliata, che possono andare da un inconveniente limitato a una perdita finanziaria significativa o a un danno fisico serio.

Il consumatore deve quindi imparare anche a riconoscere quando quella cautela non compare.

Dalla sycophancy all’Educazione Artificiale

È qui che la sycophancy smette di essere una curiosità tecnica e diventa un tema di Educazione Artificiale.

L’alfabetizzazione all’intelligenza artificiale viene spesso associata alla capacità di utilizzare un chatbot, formulare una buona richiesta o conoscere le funzioni disponibili. È soltanto una parte.

Nel luglio 2026 il Parlamento europeo e il Consiglio dell’Unione europea hanno approvato il Regolamento (UE) 2026/1744, il cosiddetto Digital Omnibus sull’AI, che ha modificato anche l’articolo 4 dell’AI Act. Il regolamento è stato firmato l’8 luglio, pubblicato nella Gazzetta ufficiale dell’Unione europea il 24 luglio ed è entrato in vigore il 27 luglio 2026.

Dopo la modifica, l’articolo 4 continua a richiedere a fornitori e deployer di sistemi AI di adottare misure a sostegno dello sviluppo dell’AI literacy del personale e delle persone che utilizzano tali sistemi per loro conto, ma non richiede più di garantire uno specifico livello “sufficiente” di alfabetizzazione. La Commissione europea chiarisce inoltre che l’obbligo di adottare misure si applica dal 2 febbraio 2025, mentre le regole di supervisione ed enforcement sono operative dal 3 agosto 2026. Non esiste invece un obbligo individuale equivalente imposto al normale consumatore.

Ma la necessità culturale va oltre l’obbligo normativo.

Il Manifesto per l’Educazione Artificiale di Consumerismo No Profit mette al centro sette principi, tra cui verifica delle fonti, distinzione tra fatti e ipotesi, responsabilità umana, vigilanza decisionale e alfabetizzazione. Chiede inoltre di riconoscere quando una risposta AI non sta più soltanto informando, ma sta contribuendo a orientare una scelta.

La sycophancy mostra concretamente perché questa distinzione serve.

L’obiettivo non è un chatbot che contraddica l’utente per principio. Sarebbe semplicemente il problema opposto. Un sistema utile deve poter concordare quando gli elementi lo giustificano e dissentire quando non lo fanno.

Anche il consumatore deve però sviluppare una nuova abitudine: non utilizzare l’AI soltanto per trovare risposte, ma per mettere alla prova anche quelle che vorrebbe sentirsi dare.

Con sistemi sempre più capaci di conversare, ricordare informazioni e adattarsi alle preferenze individuali, la domanda non sarà soltanto se l’intelligenza artificiale conosce la risposta.

Sarà capire se ci sta aiutando a verificarla o semplicemente a crederci di più.