Link alla fonte ufficiale e al documento:
Dipartimento degli Affari Interni del Sudafrica – comunicato ufficiale
Il caso delle “allucinazioni” AI nei documenti governativi apre un nuovo fronte sulla governance pubblica dell’intelligenza artificiale
Il governo sudafricano ha sospeso due alti funzionari del Dipartimento degli Affari Interni dopo la scoperta di presunte “allucinazioni” generate dall’intelligenza artificiale all’interno dei riferimenti bibliografici allegati alla versione aggiornata del Libro bianco su cittadinanza, immigrazione e protezione dei rifugiati. La decisione, annunciata il 30 aprile 2026, rappresenta uno dei primi casi internazionali in cui un’amministrazione pubblica interviene disciplinarmente per l’utilizzo improprio di sistemi AI nella produzione di documenti strategici governativi.
Secondo il comunicato ufficiale del Dipartimento, le anomalie riguarderebbero una lista di fonti e riferimenti inserita successivamente nel documento e non richiamata nel testo principale. Le verifiche preliminari suggeriscono che tali riferimenti possano essere stati generati automaticamente tramite Large Language Model (LLM), producendo citazioni inesistenti o non verificabili. Il Ministero ha quindi ritirato l’elenco contestato e avviato un’indagine indipendente affidata a due studi legali esterni.
La vicenda evidenzia un problema crescente nell’adozione dell’intelligenza artificiale nella pubblica amministrazione: la difficoltà di distinguere tra contenuti verificati e “allucinazioni” prodotte dai modelli generativi. Negli ultimi mesi università, centri di ricerca e istituzioni internazionali hanno segnalato rischi analoghi legati all’uso di chatbot e sistemi AI in ambito giuridico, accademico e amministrativo.
Nonostante l’incidente, il Dipartimento degli Affari Interni ha ribadito che il contenuto sostanziale del Libro bianco riflette la posizione ufficiale del governo sudafricano e non sarebbe stato alterato dai riferimenti contestati. Parallelamente, il Ministero ha annunciato nuove procedure interne di controllo, incluse verifiche obbligatorie e dichiarazioni sull’utilizzo dell’intelligenza artificiale nei processi di approvazione documentale.
Il caso sudafricano potrebbe diventare un precedente internazionale nella definizione di standard di responsabilità pubblica sull’uso dell’AI generativa. Sempre più governi stanno infatti introducendo linee guida per garantire trasparenza, supervisione umana e tracciabilità nei contenuti prodotti con strumenti di intelligenza artificiale.
Approfondimento e cronologia dei fatti collegati
- 2022: diffusione globale dei Large Language Model dopo il rilascio pubblico di ChatGPT e sistemi analoghi.
Fonte: OpenAI – ChatGPT Research Preview - 2023-2025: numerosi casi documentati di “hallucinations” AI in ambito legale e accademico, inclusi riferimenti bibliografici inesistenti.
Fonte: Nature – AI hallucinations in research and law - 2024: l’Unione Europea approva l’European Union AI Act, imponendo obblighi di trasparenza e gestione del rischio nei sistemi AI ad alto impatto.
Fonte: European Parliament – AI Act - 2026: il Sudafrica introduce verifiche AI interne dopo il caso del Libro bianco su immigrazione e cittadinanza.
Fonte: Governo del Sudafrica – dichiarazione ufficiale
Consigli di approfondimento
- UNESCO – Ethics of Artificial Intelligence
- OECD – AI Principles Overview
- NIST AI Risk Management Framework
Abstract: rischi e implicazioni etico-sociali
L’episodio sudafricano dimostra come l’intelligenza artificiale possa accelerare la produzione documentale ma anche introdurre errori difficili da individuare senza adeguata supervisione umana. Tra i vantaggi emergono velocità operativa, supporto analitico e automazione amministrativa. Tuttavia, i rischi includono disinformazione istituzionale, perdita di fiducia pubblica, errori normativi e responsabilità giuridiche.
Nel lungo periodo, casi simili potrebbero spingere governi e organizzazioni internazionali verso nuovi standard obbligatori di auditing AI, certificazione delle fonti e trasparenza algoritmica. La sfida centrale resterà trovare un equilibrio tra innovazione tecnologica ed affidabilità democratica delle istituzioni pubbliche.
