La Cina prepara una delle prime regolamentazioni organiche al mondo per governare l’intelligenza artificiale capace di simulare personalità e legami emotivi. L’obiettivo è prevenire dipendenze, manipolazioni psicologiche e rischi per la sicurezza nazionale, mentre il settore cresce a ritmi record.
La Cyberspace Administration of China (CAC) ha pubblicato una bozza di regolamento che introduce obblighi stringenti per tutti i sistemi di AI human-like in grado di interagire con gli utenti tramite testo, immagini, audio e video. Le norme si applicheranno a ogni servizio pubblico capace di influenzare emozioni, comportamenti e percezioni sociali.
Se l’assistente diventa un compagno digitale
Secondo il regolatore cinese, l’AI non è più solo uno strumento, ma un “compagno digitale” con cui milioni di persone parlano ogni giorno. In Cina queste applicazioni sono già diffuse in sanità, istruzione, intrattenimento e assistenza agli anziani. Giochi intelligenti e assistenti conversazionali ricordano le preferenze degli utenti e costruiscono relazioni continuative.
Il “dovere di cura” tecnologico
La bozza introduce un principio inedito: i fornitori devono prevenire la dipendenza, segnalare gli abusi e intervenire con controlli sugli algoritmi. Sarà obbligatorio bloccare contenuti che promuovano violenza, gioco d’azzardo o autolesionismo e attivare la supervisione umana in conversazioni sensibili, informando un contatto di emergenza.
Sicurezza nazionale e controllo dei contenuti
Le regole rafforzano anche il filtraggio dei contenuti ritenuti destabilizzanti. Secondo la CAC, le IA con personalità possono amplificare la disinformazione più dei social tradizionali, influenzando opinioni e scelte collettive.
Un settore in piena esplosione
Il mercato AI cinese cresce sostenuto dal piano AI Plus e da una nuova generazione di modelli linguistici. Dopo l’ascesa di DeepSeek e le recenti IPO, decine di milioni di utenti utilizzano chatbot “relazionali”. La Cina detiene inoltre il 40% del mercato globale dei giocattoli intelligenti.
Griefbot e nuove relazioni digitali
Si diffondono anche i griefbot, avatar che ricreano persone scomparse combinando foto e video. Per il governo, queste tecnologie impongono paletti chiari prima che la dipendenza emotiva diventi un problema sistemico.
Cronologia e contesto
- 2023 – Prime linee guida CAC sui contenuti generati da AI
https://www.cac.gov.cn - 2024 – Lancio del piano industriale “AI Plus”
https://english.gov.cn - 2025 – Crescita dei modelli open source cinesi (DeepSeek)
https://www.scmp.com - 2026 – Bozza di regolamento sulle AI human-like
https://www.cac.gov.cn
Approfondimenti
- OECD – AI and emotional dependency
https://www.oecd.org - UNESCO – Ethics of Artificial Intelligence
https://www.unesco.org
Abstract: pro e rischi
Pro: tutela degli utenti vulnerabili, prevenzione di dipendenze, maggiore responsabilità dei fornitori.
Rischi: censura estesa, limitazione dell’innovazione, sorveglianza psicologica.
Conseguenze future: possibile modello alternativo di governance globale, con forte impatto sulle relazioni sociali digitali.







