Il regolamento europeo sull’intelligenza artificiale è ancora in fase di approvazione e molti punti dell’AI Act sono ancora irrisolti. Wired ha intervistato Brando Benifei, correlatore dell’AI Act per l’Europarlamento, e Patrick Breyer, europarlamentare del Partito pirata tedesco, per identificare i 10 punti più controversi che saranno al centro dei negoziati del trilogo tra Parlamento, Consiglio e Commissione europei che dovranno trovare una mediazione.
Uno dei punti più discussi riguarda il riconoscimento facciale in tempo reale. La Commissione propone il divieto di questo tipo di sorveglianza nelle aree pubbliche, ma il Consiglio europeo ha aggiunto la “sicurezza nazionale” tra le eccezioni per il suo utilizzo. Inoltre, ci sono preoccupazioni per il rischio di sorveglianza di massa biometrica permanente e l’assenza di prove che dimostrino il suo contributo alla sicurezza.
Un altro punto riguarda l’analisi delle emozioni, che non è vietata dall’AI Act ma considerata tecnologia “a rischio”. Mentre Benifei sostiene che dovrebbe essere vietata, i conservatori e i liberali di destra sono contrari al divieto, ritenendo che possa essere utile per la sicurezza.
Tra le tecnologie di analisi biometrica delle emozioni considerate a rischio ma non vietate ci sono anche le “macchine della verità” come i poligrafi e il sistema Iborder, che analizza i micro-movimenti delle persone per identificare comportamenti pericolosi nella folla.
Altri punti controversi riguardano il social scoring e la disinformazione, che potrebbero essere influenzati dall’uso dell’intelligenza artificiale, e il rischio di sostenere regimi che utilizzano l’AI per la repressione e di fermare un gran numero di innocenti, soprattutto tra migranti e minoranze.
Nonostante anni di negoziati, ci sono ancora diverse questioni su cui Parlamento, Consiglio e Commissione europei devono trovare un’intesa entro il 2023, quando è prevista l’approvazione del regolamento dell’Unione europea sull’intelligenza artificiale.
________________
“I 10 punti ancora irrisolti del regolamento europeo sull’intelligenza artificiale“
- Riconoscimento facciale in tempo reale
- Analisi delle emozioni
- Poligrafi e macchine della verità
- Verifica di impatto sui diritti fondamentali
- Il social scoring
- Punteggio sociale “di fatto”
- Repressione di una società libera e diversa
- Rischio disinformazione con Chat GPT
- Rischio di sostenere regimi che usano l’Ai per la repressione
- Rischio di fermare un gran numero di innocenti (soprattutto tra migranti e minoranze)
