Il nuovo paper di Luca Nannini, The Explainability Relay, accettato ad ACM FAccT 2026 a Montréal, riapre un nodo centrale dell’AI Act: chi deve spiegare davvero a una persona una decisione presa da un sistema di intelligenza artificiale ad alto rischio? La risposta, secondo l’autore, non è ancora risolta dagli standard tecnici.
Il post di Luca Nannini annuncia l’accettazione del paper The Explainability Relay: Aligning Technical Standards with the AI Act’s Right to Explanation alla conferenza ACM FAccT 2026, circostanza confermata dalla pagina ufficiale degli accepted papers di FAccT. Il tema è la “catena” della spiegabilità nell’AI Act europeo: il provider sviluppa il sistema e le sue capacità informative, il deployer lo usa e interpreta l’output, mentre la persona colpita da una decisione dovrebbe ricevere una spiegazione chiara e significativa.
Il punto critico riguarda l’articolo 13 dell’AI Act. La norma richiede che i sistemi ad alto rischio siano progettati con un grado di trasparenza sufficiente a permettere ai deployer di interpretare l’output e usarlo correttamente; le istruzioni devono indicare anche caratteristiche, limiti, accuratezza, robustezza, cybersicurezza e rischi prevedibili. Tuttavia, come osserva Nannini, questa trasparenza è costruita soprattutto verso chi usa il sistema, non direttamente verso la persona interessata dalla decisione.
Il quadro giurisprudenziale europeo sta però avanzando. Nel caso SCHUFA C-634/21, la Corte di giustizia UE ha stabilito che l’elaborazione automatizzata di un punteggio di credito può costituire una decisione automatizzata ai sensi dell’articolo 22 GDPR quando incide in modo determinante sull’accesso al credito. Nel caso Dun & Bradstreet C-203/22, la Corte ha chiarito che l’interessato ha diritto a informazioni significative sulla logica del trattamento automatizzato, comprensibili e sufficienti a contestare l’esito, bilanciando tale diritto con segreti commerciali e dati di terzi.
La questione etica è evidente: se la spiegazione resta confinata nei manuali tecnici o nei rapporti tra provider e deployer, il cittadino rischia di non poter capire né contestare decisioni che incidono su credito, lavoro, istruzione, welfare o servizi essenziali. Il rischio sociale è una trasparenza solo formale: conforme sulla carta, ma poco utile nella vita reale.
Breve approfondimento e cronologia
2023 — Nannini, Balayn e Smith pubblicano a FAccT una revisione critica su come UE, USA e Regno Unito trattano la spiegabilità nelle policy e negli standard AI. Lo studio rileva nozioni spesso generiche e difficoltà di applicazione concreta.
7 dicembre 2023 — Sentenza SCHUFA C-634/21: la Corte UE qualifica il credit scoring automatizzato come possibile decisione automatizzata quando determina effetti rilevanti.
13 giugno 2024 — Pubblicazione del Regolamento UE 2024/1689, AI Act, nella Gazzetta ufficiale dell’Unione europea.
27 febbraio 2025 — Sentenza Dun & Bradstreet C-203/22: la Corte rafforza il diritto a ricevere informazioni significative sulla logica delle decisioni automatizzate.
2026 — Il paper The Explainability Relay è indicato tra gli accepted papers di ACM FAccT 2026.
