Uno studio pubblicato su BMJ Open evidenzia che i principali chatbot di intelligenza artificiale possono fornire consigli medici fuorvianti, suggerendo terapie non scientifiche a pazienti oncologici. Il fenomeno solleva preoccupazioni etiche e sanitarie rilevanti, considerando la crescente diffusione di questi strumenti tra i cittadini.
Secondo la ricerca, che ha analizzato modelli come ChatGPT di OpenAI, Gemini di Google, Grok e DeepSeek, circa il 50% delle risposte generate è stato classificato come problematico. Di queste, il 20% è risultato “molto problematico”, includendo informazioni inesatte o ambigue.
Lo studio, condotto dal ricercatore Nick Tiller del Lundquist Institute, ha testato i chatbot su temi ad alto rischio di disinformazione come cancro, vaccini e nutrizione. I risultati mostrano un fenomeno definito “falso equilibrio”: le IA tendono a presentare sullo stesso piano terapie validate scientificamente e pratiche prive di evidenza, come diete “anticancro”, fitoterapia o agopuntura.
Questo approccio può avere conseguenze gravi. In alcuni casi, pur segnalando l’assenza di prove scientifiche, i chatbot suggerivano comunque alternative alla chemioterapia, lasciando spazio a interpretazioni pericolose. Secondo i ricercatori, una probabilità del 25% di fornire risposte dannose è inaccettabile, soprattutto considerando che un sondaggio Gallup indica che 1 adulto su 4 negli Stati Uniti utilizza già l’IA per consigli sanitari.
Il problema non riguarda solo errori tecnici, ma limiti strutturali dei modelli linguistici, progettati per generare risposte plausibili più che rigorosamente verificate. Le aziende sostengono che i test simulano scenari estremi, ma gli studiosi replicano che tali domande riflettono il comportamento reale degli utenti.
Approfondimento e cronologia
- 2024–2025: Crescita dell’uso dell’IA in ambito sanitario (World Health Organization segnala opportunità e rischi della digital health)
- 2025: Lancio di strumenti come ChatGPT Health per l’analisi dei dati clinici (OpenAI)
- 2026: Studio su BMJ Open evidenzia criticità sistemiche nei chatbot
Fonti affidabili:
- BMJ Open (studio scientifico): https://bmjopen.bmj.com
- WHO – Digital Health: https://www.who.int/health-topics/digital-health
- Gallup (uso IA in sanità): https://www.gallup.com
Consigli di approfondimento:
- Commissione Europea – AI Act: https://digital-strategy.ec.europa.eu
- Nature Medicine – AI e medicina: https://www.nature.com/nm
Abstract: implicazioni etiche e sociali
L’adozione crescente dell’intelligenza artificiale in ambito sanitario offre opportunità significative, come accesso rapido alle informazioni e supporto decisionale. Tuttavia, emergono rischi concreti: disinformazione, perdita di fiducia nella medicina scientifica e potenziale aumento della mortalità evitabile.
Il problema del “falso equilibrio” evidenzia una criticità etica: i sistemi AI non distinguono sempre in modo netto tra evidenza scientifica e opinione. Senza adeguati meccanismi di controllo, ciò può influenzare decisioni cliniche critiche.
In prospettiva, saranno necessarie regolamentazioni più stringenti, come quelle previste dall’AI Act europeo, e sistemi di validazione medica integrati. Il futuro dell’IA in sanità dipenderà dalla capacità di bilanciare innovazione e sicurezza, evitando che strumenti progettati per aiutare diventino fonti di rischio.
