Character.AI ha lanciato una nuova modalità “Stories”, un ambiente narrativo strutturato pensato per gli adolescenti dopo il divieto di accedere alle chat aperte con personaggi AI. La decisione arriva in seguito a cause legali che accusano la piattaforma di avere un impatto negativo sulla salute mentale dei minorenni.
Character.AI ha iniziato a limitare le interazioni degli utenti sotto i 18 anni dopo diverse contestazioni legali negli Stati Uniti. Tra queste, un procedimento che imputa alla piattaforma un ruolo nella morte per suicidio di un adolescente e altri casi in cui si sostiene che le conversazioni con personaggi AI abbiano contribuito a peggiorare la salute mentale dei giovani. Da ottobre, l’azienda ha annunciato l’introduzione di un sistema avanzato di verifica dell’età, indispensabile per indirizzare automaticamente i minorenni verso modalità più conservative.
Con il blocco definitivo alle chat aperte, avvenuto il 25 novembre 2025, Character.AI ha presentato “Stories”, un formato in stile “scegli la tua avventura” che permette agli adolescenti di interagire con la piattaforma in modo più controllato. Alla base del nuovo modello c’è una narrazione guidata: gli utenti scelgono uno o più personaggi, un genere narrativo e una premessa creata autonomamente o generata dall’IA. Il sistema costruisce quindi un racconto con snodi decisionali frequenti che modificano il corso della storia. L’esperienza integra anche immagini prodotte dall’IA e presto includerà componenti multimodali più complesse.
Secondo Character.AI, “Stories” rappresenta un modo per migliorare la sicurezza senza rinunciare alla creatività. L’azienda afferma che la nuova modalità consente una maggiore supervisione dei contenuti e riduce i rischi legati alle conversazioni libere con personaggi AI non adeguatamente filtrati.
Approfondimento — Cronologia essenziale dei fatti
- 2023–2024: Crescita delle piattaforme di conversazione AI tra adolescenti; prime segnalazioni di rischi psicologici (Fonte: American Academy of Pediatrics, https://www.aap.org).
- 2024–2025: Aumento delle cause contro app AI per impatti sulla salute mentale giovanile (Fonte: US Federal Trade Commission, https://www.ftc.gov).
- Ottobre 2025: Character.AI annuncia la chiusura delle chat aperte per minorenni e avvia misure di age-verification (Fonte: The Verge, https://www.theverge.com).
- Novembre 2025: Lancio ufficiale di “Stories” come ambiente narrativo controllato.
Consigli di approfondimento
- Rapporto UNICEF su AI e sicurezza dei minori: https://www.unicef.org/globalinsight”
- Linee guida UE sull’IA affidabile: https://digital-strategy.ec.europa.eu
- Studio APA sull’impatto psicologico dei chatbot: https://www.apa.org
Abstract — Pro e rischi
L’introduzione di “Stories” rappresenta un tentativo di conciliare innovazione e tutela dei minori.
Pro: interazioni più strutturate; riduzione dei rischi psicologici; maggiore controllo dei contenuti; conformità crescente alle normative.
Rischi: possibile standardizzazione eccessiva dell’esperienza; dipendenza dal formato narrativo; rischio residuo di esposizione a contenuti inappropriati se i filtri risultano insufficienti.
Le conseguenze future dipenderanno dalla qualità del controllo umano, dall’evoluzione delle verifiche dell’età e dalla capacità di bilanciare creatività e sicurezza.
