Le allucinazioni dell’intelligenza artificiale sono risposte plausibili ma false: citazioni inventate, dati inesatti, fonti inesistenti. Il problema nasce dal funzionamento probabilistico dei modelli linguistici e impone una regola semplice: usare l’AI come assistente, non come fonte definitiva.
I modelli generativi come ChatGPT, Claude o Gemini possono produrre testi fluidi, convincenti e sbagliati. OpenAI definisce le allucinazioni come affermazioni plausibili ma false generate dai modelli linguistici e riconosce che il problema resta una sfida strutturale anche nei sistemi più recenti.
La causa principale è il modo in cui questi sistemi generano linguaggio: non “sanno” nel senso umano del termine, ma prevedono quale parola o frammento testuale sia più probabile in base al contesto. Quando il dato richiesto è raro, ambiguo, recente o non presente nei materiali di addestramento, la risposta può diventare una ricostruzione verosimile ma infondata.
Gli effetti sono già concreti. Nel caso Mata v. Avianca, un tribunale federale di New York ha sanzionato avvocati che avevano depositato atti contenenti precedenti giudiziari inesistenti generati da ChatGPT; la Corte ha imposto una sanzione da 5.000 dollari e ha ribadito il dovere professionale di verifica.
Le metriche variano molto in base al compito. La leaderboard di Vectara, aggiornata all’11 maggio 2026, misura le allucinazioni nella sintesi di documenti e mostra tassi diversi tra modelli, dal 1,8% del migliore classificato al 3,1% di GPT-5.4-nano nel test riportato. Sono dati utili, ma non universali: una sintesi documentale non equivale a una consulenza legale, medica o scientifica.
La riduzione del rischio passa da fonti verificabili, citazioni, uso di RAG e controlli umani. Google indica che il grounding con Search può migliorare l’accuratezza e fornire citazioni, mentre Anthropic raccomanda verifiche con fonti, citazioni e restrizione ai documenti forniti. Il NIST, con l’AI Risk Management Framework, inserisce affidabilità, valutazione e gestione del rischio tra i pilastri dell’AI responsabile.
La conclusione è operativa: l’intelligenza artificiale può accelerare ricerca, scrittura e analisi, ma ogni informazione rilevante va controllata. Più alta è la posta in gioco, più severa deve essere la verifica umana.
Breve approfondimento: cronologia essenziale
2021 — Emily Bender e coautori pubblicano “On the Dangers of Stochastic Parrots”, studio che critica l’idea di modelli linguistici come sistemi realmente comprensivi.
26 gennaio 2023 — Il NIST pubblica l’AI Risk Management Framework 1.0.
22 giugno 2023 — Il caso Mata v. Avianca porta in tribunale il problema delle citazioni legali inventate dall’AI.
26 luglio 2024 — Il NIST rilascia il profilo dedicato ai rischi specifici dell’AI generativa.
11 maggio 2026 — Vectara aggiorna la sua hallucination leaderboard per valutare i modelli nella sintesi documentale.
Consigli di approfondimento: NIST AI RMF, documentazione Anthropic sulla riduzione delle allucinazioni, documentazione Google sul grounding con Search, sentenza Mata v. Avianca.
Abstract: pro, rischi e conseguenze future
L’AI generativa offre vantaggi evidenti: velocizza bozze, sintesi, traduzioni, brainstorming e analisi preliminari. Il rischio etico e sociale nasce quando la fluidità linguistica viene scambiata per affidabilità. In ambiti come giustizia, sanità, giornalismo, scuola e finanza, un errore presentato con tono sicuro può produrre danni reputazionali, decisioni sbagliate, disinformazione e perdita di fiducia pubblica. La conseguenza futura più probabile è una separazione crescente tra usi a basso rischio, dove l’AI sarà sempre più integrata, e usi ad alto impatto, dove serviranno audit, tracciabilità, fonti verificabili e responsabilità umana esplicita.
