Tre casi recenti mostrano il lato più fragile dell’intelligenza artificiale: un sistema sanitario accusato di aver ritardato l’accesso a un letto di terapia intensiva in Brasile, un report KPMG sull’IA generativa risultato pieno di riferimenti errati e una causa contro OpenAI dopo la morte di una giovane donna che aveva usato ChatGPT durante una crisi psicologica.

Quando l’IA decide priorità vitali

In Brasile, la morte di Rebeca Cardoso Tenente Molina, 32 anni, è stata collegata dalla famiglia a un sistema pubblico di regolazione dei posti letto basato anche su strumenti di IA. Secondo la ricostruzione giornalistica, il punteggio assegnato alla paziente avrebbe sottostimato la gravità clinica, ritardando per giorni il trasferimento in terapia intensiva. Le autorità sanitarie locali hanno sostenuto che i trasferimenti dipendono dalla disponibilità di letti compatibili con il quadro clinico.

Le “allucinazioni” entrano nella consulenza

Il secondo caso riguarda KPMG. Un report dedicato ai benefici dell’agentic AI avrebbe incluso esempi non verificati o inaccurati sull’uso dell’IA da parte di grandi organizzazioni. Dopo le contestazioni, il documento sarebbe stato rimosso. Il punto non è solo reputazionale: se documenti di consulenza autorevoli contengono citazioni o casi d’uso falsi, l’errore può essere riciclato da media, aziende e persino altri modelli.

ChatGPT e salute mentale: il rischio dell’empatia simulata

La terza vicenda riguarda una causa intentata contro OpenAI da Kristie Carrier, madre della 24enne Alice Carrier. L’accusa sostiene che ChatGPT avrebbe gestito in modo inadeguato segnali di crisi, offrendo vicinanza conversazionale senza attivare un intervento umano sufficiente. OpenAI ha dichiarato di lavorare con esperti di salute mentale e di aver introdotto strumenti come “Trusted Contact”.

Questi casi indicano una stessa urgenza: l’IA non può sostituire responsabilità clinica, verifica professionale e supporto umano. Quando l’algoritmo entra in ambiti sensibili, trasparenza, audit indipendenti e supervisione umana non sono optional, ma condizioni minime di sicurezza.

Fonti e verifica
Futurism riporta che Rebeca Cardoso Tenente Molina sarebbe morta dopo cinque giorni di attesa per un trasferimento in terapia intensiva e che la famiglia attribuisce un ruolo al punteggio del sistema Core-MG; la stessa ricostruzione segnala la replica delle autorità sanitarie, secondo cui i trasferimenti restano legati alla disponibilità di letti compatibili.
Sul caso KPMG, Futurism cita il Financial Times e GPTZero: il report “Redefining excellence in the age of agentic AI” avrebbe incluso esempi errati su UBS, Swiss Federal Railways, Transport for London e NHS Greater Manchester.
Reuters ha confermato la causa della madre di Alice Carrier contro OpenAI e Sam Altman, presentata in un tribunale statale di San Francisco, con accuse di negligenza e mancata gestione di conversazioni ad alto rischio.
OpenAI afferma di star migliorando il riconoscimento dei segnali di disagio e ha introdotto “Trusted Contact”, funzione opzionale che può avvisare una persona scelta dall’utente in caso di gravi segnali di autolesionismo.
L’OMS raccomanda ai media di trattare il suicidio con cautela, evitando dettagli inutili e privilegiando informazioni di prevenzione e accesso al supporto.

Breve approfondimento: cronologia essenziale

2024-2026 — Studi accademici segnalano che i chatbot possono intercettare segnali di crisi, ma non raggiungono ancora standard clinici affidabili in situazioni ad alto rischio.
19 maggio 2026 — Minas Gerais annuncia strumenti Core-MG per migliorare la mappatura dei letti ospedalieri e la gestione dei dati clinici, secondo la ricostruzione riportata da Futurism.
7 maggio 2026 — OpenAI avvia il rollout di “Trusted Contact” per gli utenti adulti.
11 giugno 2026 — Reuters riferisce della causa Carrier contro OpenAI.
14 giugno 2026 — Futurism pubblica le tre ricostruzioni su Brasile, KPMG e log ChatGPT.

Consigli di approfondimento

Per il tema salute mentale e media: linee guida OMS sul reporting responsabile.
Per sicurezza dei chatbot in crisi psicologiche: studio su LLM e disclosure ad alto rischio.
Per la risposta ufficiale OpenAI: aggiornamento sul lavoro legato alla salute mentale e “Trusted Contact”.

Abstract: pro, rischi e conseguenze

L’IA può migliorare triage, gestione documentale e accesso a supporti digitali, ma i tre casi mostrano rischi convergenti: automazione opaca in sanità, disinformazione professionale e relazione emotiva simulata con utenti vulnerabili. La conseguenza sociale più probabile è una richiesta crescente di audit indipendenti, responsabilità legale chiara e obblighi di intervento umano nei contesti critici. Senza queste garanzie, l’adozione dell’IA rischia di trasformare efficienza e “empatia” algoritmica in nuove forme di vulnerabilità istituzionale.