Il programma “Wolf News”, che promuove il Partito Comunista Cinese, è stato scoperto cha utilizza speaker falsi.
In due video condivisi dalla società di ricerca Graphika e dal New York Times, i due “anchor” sembrano essere sincronizzati con voci che non corrispondono alla loro immagine.
I loro movimenti della testa sembrano robotici e i loro capelli lisci sono innaturalmente attaccati alla testa.
Inoltre, la didascalia è piena di errori grammaticali.
Infatti Graphika, un’azienda che monitora le attività di gruppi di influenza online, ha osservato un’operazione di influenza pro-cinese chiamata Spamouflage che promuoveva contenuti che includevano video di persone fittizie create con tecniche di intelligenza artificiale (scarica pdf “Deepfake It Till You Make It“).
Questo è stato il primo caso in cui l’azienda ha visto un’operazione statale che promuoveva video di persone fittizie generate con intelligenza artificiale.
Questi video erano stati probabilmente prodotti da una piattaforma commerciale Synthesia per la creazione di video con intelligenza artificiale del Regno Unito.
Graphika ritiene che l’utilizzo di prodotti AI disponibili commercialmente permetterà ai gruppi di influenza di creare contenuti ingannevoli di alta qualità a maggiore scala e velocità.
Questo rappresenta un problema reale per la sicurezza nazionale, poiché può essere utilizzato per incitare alla violenza, creare prove false o rapimenti falsi.
Si ricorda il primo conduttore di notizie AI al mondo in Cina di 4 anni fa.
Il 11 dicembre 2022, la Cyberspace Administration of China (CAC), il Ministero dell’Industria e della Tecnologia dell’Informazione (MIIT) e il Ministero della Pubblica Sicurezza (MPS) hanno emanato congiuntamente le Disposizioni sull’amministrazione della sintesi profonda delle informazioni basate su Internet Servizi (le Disposizioni di Deep Synthesis).
Una serie di nuove misure che disciplinano la tecnologia e i servizi di sintesi profonda (o “deepfake”): testo, immagini, audio, video, scene virtuali o altre informazioni prodotte utilizzando modelli generativi. Queste misure entreranno in vigore il 10 gennaio 2023 “国家互联网信息办公室等三部门发布《互联网信息服务深度合成管理规定》– L’Ufficio statale per le informazioni su Internet e altri tre dipartimenti hanno emanato il “Regolamento sull’amministrazione della sintesi profonda dei servizi di informazione su Internet””
