Un test virale solleva dubbi etici sull’uso dell’IA nel riconoscimento visivo: l’UE valuta nuove restrizioni.
Un esperimento pubblicato su Reddit ha mostrato come un modello di intelligenza artificiale, presumibilmente ChatGPT con capacità multimodali, sia stato in grado di identificare la posizione esatta di una fotografia senza l’uso di metadati. Analizzando elementi come l’architettura, la vegetazione e i cartelli stradali, l’IA ha dedotto correttamente il paese, la città e perfino la via dello scatto.
Il caso, divenuto virale, ha attirato l’attenzione della comunità internazionale. “È l’equivalente digitale di un detective con memoria enciclopedica”, ha dichiarato Ben Hawthorne, esperto di sicurezza e intelligenza artificiale. Se da un lato simili capacità possono aiutare nel contrasto alla disinformazione e al fact-checking, dall’altro aprono interrogativi su sorveglianza invisibile e violazioni della privacy.
OpenAI, l’azienda sviluppatrice del modello coinvolto, non ha commentato direttamente l’episodio. Nei suoi termini d’uso, tuttavia, è previsto che i contenuti caricati possano essere analizzati per migliorare i sistemi, nel rispetto della normativa sulla protezione dei dati.
Alla luce di questi sviluppi, i legislatori europei stanno valutando l’introduzione di nuove regole attraverso l’AI Act, con particolare attenzione ai sistemi di riconoscimento visivo. Il confine tra innovazione e controllo sociale, oggi più che mai, appare sottile.
Approfondimento cronologico e fonti
• AI Act – regolamento europeo sull’IA (Commissione UE)
• Termini d’uso OpenAI
• Dichiarazioni esperti su The Verge (2024)
• Studio su geolocalizzazione tramite IA – Nature (2023)
Consigli di approfondimento
• “L’IA che riconosce luoghi e volti” – MIT Technology Review
• “Geolocalizzazione automatica e rischi per i diritti digitali” – Electronic Frontier Foundation
• “AI e riconoscimento visuale: una guida etica” – Mozilla Foundation
Abstract – Pro e rischi etici e sociali
Pro: Potenziale per identificare fake news e contenuti manipolati; strumenti utili per giornalismo investigativo e ricerca.
Rischi: Invasione della privacy, sorveglianza non autorizzata, esposizione involontaria online. Conseguenze future potrebbero includere sfiducia verso la condivisione di immagini e maggiore pressione per regolamentazioni più stringenti
