Link al documento: https://www.anthropic.com/institute/recursive-self-improvement
Tipo di documento: analisi / research report dell’Anthropic Institute.
L’Anthropic Institute avverte che l’intelligenza artificiale sta già accelerando lo sviluppo di nuovi sistemi AI. Il nodo non è solo produttivo: riguarda controllo umano, sicurezza, lavoro e governance globale.
L’intelligenza artificiale potrebbe avvicinarsi a una fase in cui contribuisce in modo decisivo alla costruzione delle proprie versioni future. È il tema del nuovo documento dell’Anthropic Institute, “When AI builds itself”, dedicato all’auto-miglioramento ricorsivo: uno scenario in cui un sistema AI diventa capace di progettare e sviluppare autonomamente il proprio successore.
Anthropic precisa che questo punto non è stato ancora raggiunto e non è inevitabile. Tuttavia, i dati interni indicano un’accelerazione netta. A maggio 2026, oltre l’80% del codice integrato nella codebase di Anthropic sarebbe stato scritto da Claude; nel secondo trimestre 2026, un ingegnere medio avrebbe unito otto volte più codice al giorno rispetto al 2024. Il documento segnala anche limiti metodologici: le righe di codice misurano quantità, non qualità, e l’aumento di produttività può essere sovrastimato.
Il tema è rilevante perché l’AI non si limita più a suggerire frammenti di codice: secondo Anthropic, gli agenti possono eseguire codice, correggere errori, delegare attività ad altri agenti e contribuire a cicli sperimentali più lunghi. METR, organizzazione che misura le capacità operative dei modelli, aveva già indicato una crescita esponenziale degli orizzonti temporali delle attività completabili dai sistemi AI.
Sul piano etico, il punto critico resta la supervisione. Se i modelli diventassero capaci di costruire successori più potenti, la revisione umana rischierebbe di trasformarsi nel collo di bottiglia. Per questo Anthropic richiama la necessità di meccanismi verificabili di rallentamento o pausa coordinata tra laboratori frontier AI. In Europa, gli obblighi per i fornitori di modelli AI generali sotto l’AI Act sono già entrati in applicazione dal 2 agosto 2025, rendendo centrale il confronto tra innovazione, sicurezza e responsabilità pubblica.
Breve approfondimento e cronologia
2021-2023 – Anthropic sviluppa le prime versioni di Claude con processi ancora guidati prevalentemente da esseri umani.
2025 – Claude Code entra in anteprima di ricerca e segna il passaggio dagli assistenti testuali agli agenti di codifica.
2026 – Anthropic dichiara che Claude scrive oltre l’80% del codice integrato nella propria codebase.
2 agosto 2025 – Nell’Unione europea entrano in applicazione gli obblighi per i fornitori di modelli AI general-purpose previsti dall’AI Act.
Fonti per approfondire: Anthropic Institute; METR; Commissione europea – AI Act e linee guida GPAI.
Abstract: benefici, rischi e conseguenze sociali
L’auto-miglioramento ricorsivo potrebbe accelerare scienza, medicina, cybersecurity e produttività. I rischi riguardano perdita di controllo, opacità dei processi decisionali, concentrazione del potere tecnologico, sorveglianza automatizzata e riduzione del ruolo umano nei lavori cognitivi. La conseguenza futura più delicata potrebbe essere una società in cui il ritmo dell’innovazione tecnica supera quello delle istituzioni democratiche, della regolazione e della fiducia sociale.
