Quando l’intelligenza artificiale non sa qualcosa, tende a “inventare” risposte plausibili. Un fenomeno noto come allucinazione che preoccupa esperti e istituzioni. Un nuovo tipo di prompt mira a costringere i modelli ad ammettere incertezza e verificare le informazioni.
L’affidabilità degli assistenti basati su intelligenza artificiale è oggi al centro del dibattito globale. Modelli avanzati come ChatGPT o sistemi analoghi sono progettati per generare risposte coerenti e fluenti, ma non sempre accurate. Quando i dati sono insufficienti o ambigui, questi sistemi possono produrre informazioni errate con elevata sicurezza, un fenomeno documentato dalla letteratura scientifica e da istituzioni come il National Institute of Standards and Technology (NIST).
Per mitigare questo rischio, ricercatori e sviluppatori stanno sperimentando strategie di prompting avanzato. Tra queste emerge il cosiddetto “prompt di revisione forzata”, una tecnica che obbliga il modello a riesaminare la propria risposta prima di fornirla. Il meccanismo è semplice ma efficace: si chiede esplicitamente all’AI di verificare i fatti, segnalare eventuali incertezze e distinguere tra informazioni certe e ipotesi.
Un esempio di prompt utilizzato in ambito professionale include istruzioni come: “Verifica la risposta precedente, indica eventuali errori o supposizioni non supportate da fonti affidabili e specifica il livello di confidenza.” Questo approccio si inserisce nelle raccomandazioni di organismi come l’OCSE e la Commissione europea, che sottolineano l’importanza della trasparenza e della tracciabilità nei sistemi AI.
Tuttavia, gli esperti avvertono che il problema non è completamente risolto. Studi recenti pubblicati su arXiv evidenziano che anche con prompt avanzati, i modelli possono continuare a generare contenuti inesatti se non supportati da dati verificabili. La responsabilità resta quindi condivisa tra sviluppatori, utenti e istituzioni.
Approfondimento e cronologia
- 2020 – NIST (USA): prime linee guida su affidabilità e sicurezza dei sistemi AI
https://www.nist.gov/artificial-intelligence - 2021 – OCSE: principi per un’AI affidabile e trasparente
https://oecd.ai/en/ai-principles - 2024 – Commissione europea: AI Act introduce obblighi per sistemi ad alto rischio
https://artificial-intelligence-act.eu - 2025 – Studi accademici (arXiv): evidenze sulle allucinazioni persistenti nei LLM
https://arxiv.org
Consigli di approfondimento
- Linee guida UNESCO sull’etica dell’AI
https://www.unesco.org/en/artificial-intelligence/recommendation-ethics - Report MIT su affidabilità dei modelli generativi
https://www.mit.edu - Documenti ISO/IEC SC42 su standard AI
https://www.iso.org/committee/6794475.html
Abstract: rischi e implicazioni
L’uso di prompt per forzare la trasparenza rappresenta un passo avanti verso un’AI più affidabile, ma non elimina il rischio sistemico delle allucinazioni. I vantaggi includono maggiore consapevolezza dell’utente e miglior controllo della qualità delle informazioni. Tuttavia, persistono criticità etiche e sociali: la fiducia eccessiva nei sistemi AI, la diffusione di disinformazione e la difficoltà di attribuire responsabilità. In prospettiva, sarà necessario integrare queste tecniche con regolamentazione, audit indipendenti e modelli progettati per l’incertezza esplicita.
