Monitoraggio delle attività dei minori su Character.AI

Character.AI ha lanciato la funzione “Parental Insights”, che permette ai genitori di ricevere un rapporto settimanale sulle interazioni dei propri figli adolescenti con i chatbot sulla piattaforma. Questo strumento fornisce informazioni sul tempo medio giornaliero trascorso sull’app, i personaggi più frequentemente contattati e il tempo dedicato a ciascuno. La funzione è opzionale e richiede che l’adolescente inserisca l’indirizzo email del genitore per l’invio dei rapporti. 

Preoccupazioni per la sicurezza e nuove misure adottate

L’introduzione di “Parental Insights” avviene in seguito a preoccupazioni riguardanti l’uso eccessivo dei chatbot da parte dei minori e l’esposizione a contenuti inappropriati. Character.AI ha affrontato cause legali e critiche per presunti danni ai minori, inclusi casi di autolesionismo e suicidio. Oltre a questa nuova funzione, l’azienda ha implementato un modello di linguaggio separato per gli utenti sotto i 18 anni, progettato per limitare risposte su argomenti sensibili, e ha aggiunto notifiche per ricordare che i chatbot non sono persone reali. ​

Implicazioni per la sicurezza online dei minori

Sebbene “Parental Insights” rappresenti un passo avanti nella protezione dei minori online, alcuni esperti ritengono che sia una risposta insufficiente a problemi più ampi legati alla sicurezza dei minori nell’interazione con l’intelligenza artificiale.È fondamentale che i genitori mantengano un dialogo aperto con i propri figli sull’uso delle piattaforme digitali e monitorino attivamente le loro attività online per garantire un’esperienza sicura. ​

Fonti:

• Character
• Neowin
• opendatascience