Il sistema di moderazione dei contenuti generati con intelligenza artificiale di Meta è considerato insufficiente. L’Oversight Board, organo indipendente di supervisione dell’azienda, chiede nuove regole e un’etichettatura più rigorosa dei deepfake su Facebook, Instagram e Threads, soprattutto in contesti sensibili come i conflitti armati.
Meta e deepfake: l’Oversight Board chiede nuove regole
Il sistema di rilevamento dei deepfake di Meta non è abbastanza robusto per contrastare la diffusione della disinformazione online. È questa la conclusione del Meta Oversight Board, organismo indipendente che supervisiona le politiche di moderazione dei contenuti della società guidata da Mark Zuckerberg.
La critica arriva dopo l’analisi di un video manipolato con intelligenza artificiale che mostrava falsi danni a edifici in Israele e che era stato condiviso sui social di Meta nel 2025. Secondo il Consiglio, l’episodio dimostra come gli strumenti attuali non siano adeguati a gestire la rapidità con cui contenuti sintetici possono diffondersi online.
Il problema diventa ancora più rilevante nei contesti geopolitici sensibili. L’Oversight Board ha sottolineato che durante conflitti militari – come le recenti tensioni in Medio Oriente – l’accesso a informazioni accurate è fondamentale per la sicurezza pubblica.
Secondo il rapporto, il sistema attuale di Meta si basa eccessivamente su due fattori:
- l’autodichiarazione da parte degli utenti sull’uso dell’IA
- la revisione manuale dei contenuti segnalati
Questo approccio non è ritenuto adeguato in un ecosistema digitale in cui i contenuti generati artificialmente possono diventare virali in pochi minuti e attraversare rapidamente più piattaforme, spesso nascendo su servizi come TikTok prima di diffondersi su Facebook, Instagram o X.
Etichettatura IA e standard C2PA
Tra le raccomandazioni del Consiglio c’è l’introduzione di sistemi di etichettatura più avanzati per i contenuti generati dall’IA, tra cui l’adozione di standard tecnici come C2PA (Coalition for Content Provenance and Authenticity). Questo sistema consente di tracciare l’origine dei contenuti digitali e verificare se immagini o video siano stati modificati tramite intelligenza artificiale.
L’Oversight Board suggerisce inoltre di creare una policy specifica dedicata ai contenuti generati dall’IA, separata dalle attuali regole sulla disinformazione.
L’obiettivo è rendere più trasparente l’ecosistema informativo dei social network, riducendo il rischio che deepfake e contenuti sintetici possano influenzare opinione pubblica, elezioni o conflitti.
Approfondimento – Cronologia della moderazione dei deepfake
- 2020 – Facebook introduce la prima policy contro i deepfake manipolativi che alterano il discorso di figure pubbliche.
Fonte: Meta Transparency Center
https://transparency.meta.com - 2023 – Lancio della Coalition for Content Provenance and Authenticity (C2PA) per tracciare l’origine dei contenuti digitali.
Fonte: C2PA
https://c2pa.org - 2024 – L’Unione Europea include i deepfake tra i rischi regolati dall’AI Act.
Fonte: Commissione Europea
https://digital-strategy.ec.europa.eu - 2026 – L’Oversight Board chiede a Meta sistemi di etichettatura più robusti per contenuti generati con IA.
Fonte: The Verge
https://www.theverge.com
Consigli di approfondimento
- UE AI Act e disinformazione digitale
https://digital-strategy.ec.europa.eu/en/policies/european-ai-act - C2PA e tracciabilità dei contenuti digitali
https://c2pa.org - Meta Oversight Board – decisioni e raccomandazioni
https://www.oversightboard.com
Abstract: opportunità e rischi sociali
La diffusione di strumenti di generazione automatica di immagini e video sta trasformando l’ecosistema informativo globale. Da un lato, tecnologie come l’etichettatura crittografica e gli standard di provenienza dei contenuti possono rafforzare la trasparenza digitale. Dall’altro, la crescita dei deepfake pone seri rischi per la sicurezza informativa, la fiducia nelle istituzioni e la stabilità democratica.
Se piattaforme globali come Meta non rafforzeranno i sistemi di rilevamento e tracciabilità dei contenuti sintetici, il rischio è un aumento della manipolazione informativa su scala globale. Le future iterazioni normative e tecnologiche – dall’AI Act europeo agli standard internazionali di autenticazione dei media – saranno quindi decisive per bilanciare innovazione, libertà di espressione e tutela dello spazio pubblico digitale.
