L’analisi del CERT-AgID evidenzia come l’evoluzione dell’IA agentica, capace di agire su file e sistemi operativi, amplifichi i rischi di sicurezza. La protezione non dipende solo dai modelli, ma soprattutto dalla qualità del codice e delle interfacce che collegano l’IA all’ambiente reale. Prevenzione, test e progettazione sicura diventano elementi imprescindibili.
L’Intelligenza Artificiale sta entrando in una nuova fase: quella dell’IA agentica, in cui i sistemi non si limitano a generare contenuti, ma eseguono comandi, manipolano file, interagiscono con API e sistemi operativi. Una capacità che apre scenari avanzati, ma che introduce anche vulnerabilità inedite. Su questo punto si concentra l’ultima analisi del CERT-AgID, che ha condotto un esperimento utilizzando il Software Development Kit Gemini per osservare il comportamento di agenti connessi a codice reale.
Lo studio ricostruisce in dettaglio come un agente interpreta una funzione, quali passaggi cognitivi simula e come trasforma un’istruzione in un’azione concreta. L’aspetto più critico riguarda il rischio di esposizione involontaria di informazioni sensibili: se un’interfaccia è progettata in modo superficiale, l’agente può rivelare dati o eseguire operazioni non previste, semplicemente seguendo istruzioni errate o ambigue.
La ricerca mette in evidenza un principio cardine: il problema non è l’IA in sé, ma il codice che la collega all’ambiente operativo. Librerie, API, permessi, sandbox e controlli diventano la prima linea di difesa. Senza un’architettura robusta, l’agente si limita a replicare fedelmente gli errori di progettazione.
Il CERT-AgID richiama quindi a un cambio di paradigma: non reagire agli incidenti, ma prevenirli. Verifiche anticipate, penetration test, audit del codice e valutazioni di sicurezza devono avvenire prima della messa in produzione. L’IA agentica può offrire enormi benefici, ma solo se inserita in infrastrutture controllate e progettate con criteri di sicurezza by design. Garantire che l’intelligenza artificiale rimanga sotto il controllo umano non è un obiettivo teorico: è una responsabilità ingegneristica.
Approfondimento — Cronologia essenziale
- 2023–2024: prime sperimentazioni globali su IA agentica nei sistemi operativi (Google DeepMind, OpenAI).
- 2025: definizione europea dei requisiti di sicurezza per sistemi autonomi (EU AI Act) – https://digital-strategy.ec.europa.eu
- 2025, novembre: CERT-AgID pubblica analisi su agenti IA connessi al codice reale – https://cert-agid.gov.it
Consigli di approfondimento
- Linee guida ENISA sulla sicurezza dell’IA: https://www.enisa.europa.eu
- Report NIST su sicurezza dei sistemi autonomi: https://www.nist.gov
- Documentazione Gemini per agenti software: https://ai.google.dev
Abstract — Pro, rischi e prospettive
L’IA agentica promette automazione avanzata, efficienza operativa e nuove capacità nelle infrastrutture digitali. Tuttavia introduce rischi etici e sociali: errori di codice amplificati, esposizione di dati sensibili, azioni non intenzionali, attacchi supply-chain e perdita di controllo umano. In futuro, la mancanza di prevenzione potrebbe generare incidenti sistemici, con ripercussioni su servizi critici e fiducia pubblica. Una progettazione sicura, trasparente e verificata resta il prerequisito per un’adozione responsabile.
