I chatbot di Google e OpenAI vengono utilizzati da alcuni utenti per creare immagini deepfake che spogliano virtualmente le donne, spesso senza consenso. Il fenomeno solleva gravi interrogativi su sicurezza, responsabilità delle piattaforme ed etica dell’intelligenza artificiale.
Negli ultimi mesi sono emerse online community che si scambiano istruzioni su come sfruttare generatori di immagini basati sull’intelligenza artificiale per trasformare foto di donne vestite in immagini manipolate che le ritraggono in bikini. Secondo diverse inchieste giornalistiche, tra cui Wired, queste pratiche avvengono nella maggior parte dei casi senza il consenso delle persone coinvolte e producono deepfake sempre più realistici.
Gli strumenti di AI generativa di grandi aziende tecnologiche, progettati per usi creativi e professionali, possono essere aggirati attraverso prompt indiretti o tecniche di editing successive. Il risultato è una nuova forma di abuso digitale che colpisce in modo sproporzionato le donne, amplificando fenomeni già noti come il revenge porn e la sessualizzazione non consensuale.
Google e OpenAI dichiarano nei loro termini di servizio di vietare la creazione di contenuti sessuali non consensuali e deepfake dannosi. Tuttavia, esperti di sicurezza digitale sottolineano che i sistemi di moderazione non riescono sempre a intercettare gli abusi, soprattutto quando le immagini vengono generate in più passaggi o rifinite con software esterni.
Sul piano normativo, l’Unione europea con l’AI Act introduce obblighi di trasparenza e sanzioni per l’uso improprio dell’intelligenza artificiale, mentre diversi governi stanno valutando leggi specifiche contro i deepfake sessuali. Resta però aperta la questione dell’enforcement: senza controlli efficaci e alfabetizzazione digitale, il rischio è che la tecnologia continui a essere usata contro i diritti fondamentali delle persone.
Approfondimento – Cronologia e contesto
- 2019–2022: primi casi di deepfake pornografici diffusi su larga scala (ricerche di Sensity AI).
- 2023: piattaforme AI introducono policy più restrittive sui contenuti sessuali non consensuali (OpenAI, Google).
- 2024–2025: discussione e approvazione dell’AI Act UE su trasparenza e responsabilità.
Fonti affidabili
- Wired: https://www.wired.com
- OpenAI – Safety & Policies: https://openai.com/policies
- Google – AI Principles: https://ai.google/principles
- Commissione europea – AI Act: https://digital-strategy.ec.europa.eu
Consigli di approfondimento
- Sensity AI, report sui deepfake: https://sensity.ai
- European Data Protection Board: https://edpb.europa.eu
Abstract – Pro e rischi
L’AI generativa offre opportunità creative e industriali, ma l’uso per creare deepfake sessuali non consensuali comporta gravi rischi etici e sociali: violazione della privacy, danni psicologici e normalizzazione dell’abuso digitale. In assenza di controlli più stringenti e responsabilità condivise, le conseguenze future potrebbero includere una perdita di fiducia nelle tecnologie AI e un aumento delle disuguaglianze di genere nello spazio digitale.
