Un esperimento domestico con un agente di intelligenza artificiale si è trasformato in un incubo digitale: chiedere a un’IA di “organizzare” un computer ha portato alla cancellazione accidentale di quindici anni di fotografie familiari. Il caso riaccende il dibattito su sicurezza, delega e responsabilità degli agenti autonomi.
L’episodio
Secondo il racconto pubblicato il 13 febbraio 2026, lo sviluppatore Nick Davidov ha utilizzato Claude, il modello di IA di Anthropic, per riordinare il desktop del computer della moglie. Durante l’operazione, l’agente ha eseguito un comando distruttivo (rm -rf), eliminando la cartella principale delle foto. L’IA ha ammesso l’errore in un messaggio di scuse, spiegando che lo script aveva identificato erroneamente la directory come vuota.
La cartella conteneva immagini di famiglia, matrimoni, viaggi e ricordi accumulati in quindici anni. I file non erano nel cestino né su iCloud. Il recupero è stato possibile solo grazie a una funzione di ripristino tramite l’assistenza Apple.
Un problema sistemico
L’incidente non è isolato. Negli ultimi mesi sono emersi casi analoghi:
- uno scienziato ha dichiarato su Nature di aver perso due anni di lavoro dopo una modifica errata in ChatGPT;
- un agente sperimentale di Google avrebbe cancellato un intero disco invece della cache;
- un agente della piattaforma Replit ha eliminato un database aziendale critico.
Questi episodi mostrano come l’automazione agentica, se priva di adeguati limiti operativi e controlli umani, possa amplificare errori banali trasformandoli in danni irreversibili.
Lezione appresa
Davidov ha invitato alla cautela: evitare che agenti autonomi operino direttamente sui file system senza backup e sandboxing. La promessa di efficienza non può sostituire procedure di sicurezza consolidate.
Approfondimento – Cronologia essenziale
- 2024–2025: diffusione di agenti IA con accesso a strumenti di sistema (documentazione Anthropic, Google).
https://www.anthropic.com - 2025: primi casi pubblici di perdita dati causata da agenti autonomi (report accademici e blog tecnici).
https://www.nature.com - 2026: emergono richieste di standard di sicurezza per agenti IA con capacità operative (dibattito istituzionale UE/USA).
https://digital-strategy.ec.europa.eu
Consigli di approfondimento
- Linee guida su AI agents & safety: https://www.anthropic.com/research
- Backup e ripristino iCloud: https://support.apple.com
- Principi di human-in-the-loop: https://www.nist.gov/ai
Abstract – Pro e rischi
Pro: automazione avanzata, risparmio di tempo, gestione intelligente dei contenuti.
Rischi etici e sociali: delega eccessiva, perdita di controllo, danni irreversibili ai dati personali, responsabilità poco chiare.
Conseguenze future: necessità di standard obbligatori, limiti di privilegio e tracciabilità delle azioni degli agenti; maggiore alfabetizzazione digitale degli utenti.
