Il dibattito sull’intelligenza artificiale generativa rischia di confondere fluidità linguistica e comprensione reale. I modelli linguistici producono risposte sempre più plausibili, ma la questione centrale resta aperta: imitare il linguaggio equivale davvero a capire?
L’idea che i grandi modelli linguistici possano evolvere automaticamente verso la superintelligenza poggia su una distinzione spesso trascurata: quella tra capacità di generare testi coerenti e possesso di comprensione semantica. Il testo analizzato parla di “superplausibilità”, non di superintelligenza: sistemi capaci di restituire risposte linguisticamente convincenti, ma non necessariamente fondate su intenzionalità, esperienza o conoscenza del mondo.
Il nodo teorico non è nuovo. Nel 1980 John Searle formulò l’argomento della “stanza cinese”, sostenendo che un sistema può manipolare simboli e produrre risposte corrette senza comprenderne il significato. Nel 2021 Emily Bender, Timnit Gebru, Angelina McMillan-Major e Shmargaret Shmitchell definirono i grandi modelli linguistici “pappagalli stocastici”, segnalando i rischi di sistemi addestrati su enormi quantità di testo senza reale ancoraggio al significato.
La tecnologia alla base dei moderni LLM deriva anche dall’architettura Transformer, proposta nel 2017 da Vaswani e colleghi, fondata sui meccanismi di attenzione e non su una rappresentazione intenzionale del mondo. Il punto, dunque, non è negare l’impatto dell’IA generativa, ma evitare un salto concettuale: dall’efficacia statistica alla cognizione.
Sul piano etico e sociale, il rischio è duplice. Da un lato, il pubblico può attribuire ai sistemi qualità mentali che non possiedono. Dall’altro, imprese e istituzioni possono usare la retorica della superintelligenza per giustificare investimenti, allarmi o strategie di mercato. Una discussione più solida dovrebbe partire da definizioni verificabili di intelligenza, causalità, metacognizione e responsabilità.
Breve approfondimento: cronologia essenziale
1980 — John Searle pubblica “Minds, Brains, and Programs”, base dell’argomento della stanza cinese contro l’equivalenza tra computazione e comprensione.
2008 — Luciano Floridi sviluppa il metodo dei “livelli di astrazione”, utile per distinguere piani descrittivi diversi nei sistemi informazionali.
2017 — Vaswani et al. presentano il Transformer, architettura chiave dell’IA generativa contemporanea.
2021 — Bender et al. pubblicano “On the Dangers of Stochastic Parrots”, critica influente alla scala crescente dei modelli linguistici.
Consigli di approfondimento
Per una lettura tecnica: “Attention Is All You Need” di Vaswani et al.
Per una prospettiva etica e linguistica: “On the Dangers of Stochastic Parrots”.
Per il quadro filosofico: Searle e Floridi.
Abstract: pro, rischi e conseguenze future
Gli LLM possono aumentare produttività, accesso all’informazione e capacità di sintesi. Il rischio è che la loro plausibilità venga scambiata per conoscenza, con effetti su scuola, giornalismo, decisioni pubbliche e fiducia sociale. In futuro, l’interazione tra esseri umani e sistemi sempre più persuasivi potrebbe amplificare dipendenza cognitiva, delega impropria e manipolazione informativa, se non accompagnata da alfabetizzazione critica e responsabilità istituzionale.
