Entro il 2027-2030 l’umanità potrebbe trovarsi davanti a una scelta cruciale: consentire o meno all’intelligenza artificiale di auto-addestrarsi senza intervento umano. A lanciare l’allarme è Jared Kaplan, capo scienziato di Anthropic, che parla di “rischio estremo” e di una possibile perdita di controllo sui sistemi di IA avanzata.
L’avvertimento arriva da un’intervista rilasciata al Guardian, in cui Kaplan descrive uno scenario in cui l’auto-miglioramento ricorsivo dei modelli potrebbe generare una vera “esplosione di intelligenza”, aprendo la strada all’Intelligenza Artificiale Generale (AGI). Secondo il ricercatore, i benefici potenziali sono enormi — progressi scientifici, medici ed economici — ma altrettanto gravi potrebbero essere le conseguenze se i sistemi sfuggissero al controllo umano.
Kaplan non è una voce isolata. Geoffrey Hinton, premio Turing e pioniere del deep learning, ha più volte espresso rimpianti per il proprio lavoro, mentre Sam Altman (OpenAI) e Dario Amodei (Anthropic) prevedono un impatto devastante sul lavoro impiegatizio, con la possibile automazione di oltre la metà dei ruoli entry-level. Kaplan spinge oltre: entro due o tre anni, l’IA potrebbe svolgere la maggior parte delle mansioni d’ufficio.
Il punto critico è l’addestramento autonomo delle IA da parte di altre IA. Se oggi la “distillazione” — modelli grandi che addestrano modelli più piccoli — è già pratica comune, l’auto-miglioramento senza supervisione umana rappresenta un salto qualitativo. “Sai ancora cosa stanno facendo le IA?”, si chiede Kaplan.
Non tutti gli esperti condividono queste previsioni. Yann LeCun (Meta) ritiene che le attuali architetture non siano in grado di evolvere in sistemi realmente generali. Altri studi mettono in dubbio persino l’aumento di produttività promesso dall’IA. Tra apocalisse e stagnazione, la posta in gioco resta però altissima: governance, controllo e responsabilità umana diventano temi centrali e non più rinviabili.
Approfondimento – Cronologia e contesto
- 2017-2023: sviluppo e diffusione dei Large Language Models (OpenAI, Google, Anthropic).
- 2023-2024: allarmi pubblici di Hinton e Bengio sui rischi esistenziali dell’IA.
- 2025: dichiarazioni di Amodei e Kaplan su AGI e impatto occupazionale.
Fonti: - The Guardian – Intervista a Jared Kaplan: https://www.theguardian.com
- Anthropic – Research & Safety: https://www.anthropic.com
- MIT Technology Review – AI risks: https://www.technologyreview.com
Consigli di approfondimento
- OECD, AI and the Future of Work: https://www.oecd.org
- Parlamento Europeo, AI Act: https://www.europarl.europa.eu
Abstract – Pro, rischi e implicazioni etico-sociali
Pro: accelerazione scientifica, medicina avanzata, automazione efficiente.
Rischi: perdita di controllo, disoccupazione strutturale, concentrazione di potere tecnologico.
Conseguenze future: senza regole condivise, l’auto-evoluzione dell’IA potrebbe amplificare disuguaglianze e ridurre l’autonomia umana. La scelta sull’AGI non è solo tecnica, ma profondamente sociale ed etica.
