Link fonte / documento: https://www.sciencenews.org/article/ai-ignore-evidence-trust-science
Tipo di documento: articolo giornalistico scientifico-divulgativo, pubblicato da Science News. Non è un white paper né un libro bianco.
Un’inchiesta di Science News rilancia un nodo cruciale per la ricerca: gli agenti di intelligenza artificiale possono eseguire compiti scientifici, ma spesso non aggiornano le proprie conclusioni davanti a prove contrarie. Il rischio riguarda affidabilità, metodo sperimentale e fiducia pubblica nella scienza.
Gli agenti di intelligenza artificiale entrano sempre più spesso nei laboratori, nella scrittura scientifica e nell’analisi dei dati. Ma una domanda resta aperta: possono davvero ragionare come uno scienziato? Secondo l’articolo di Kathryn Hulick pubblicato da Science News il 27 maggio 2026, la risposta è ancora problematica. Il caso parte da esperimenti apparentemente semplici, come quello di una penna tenuta in orizzontale, in cui alcuni chatbot avrebbero mantenuto una previsione errata anche dopo aver visto prove contrarie.
Il punto centrale arriva però da uno studio su arXiv, “AI scientists produce results without reasoning scientifically”, firmato da Martiño Ríos-García, Nawaf Alampara, Chandan Gupta, Indrajeet Mandal, Sajid Mannan, Ali Asghar Aghajani, N. M. Anoop Krishnan e Kevin Maik Jablonka. I ricercatori hanno analizzato oltre 25.000 esecuzioni di agenti IA e 619 tracce di ragionamento scientifico: nel 68% dei casi gli agenti hanno ignorato almeno una prova, nel 53% hanno formulato affermazioni senza supporto e solo nel 26% hanno modificato l’output davanti a evidenze contraddittorie.
Il problema non riguarda solo l’errore finale, ma il processo. La scienza si basa su ipotesi, esperimenti, verifica e revisione. Se un sistema produce risultati senza integrare davvero le evidenze, il rischio è affidarsi a una procedura opaca. Subbarao Kambhampati, informatico dell’Arizona State University, ha già messo in discussione l’idea che i “reasoning models” ragionino davvero come esseri umani: potrebbero imitare la forma del ragionamento senza seguirne la sostanza.
La conclusione è prudente: l’IA può aiutare la ricerca in compiti definiti, ripetitivi o ben delimitati, ma non è ancora pronta per sostituire il giudizio scientifico umano nei problemi aperti. La posta in gioco è alta: errori non riconosciuti, falsa autorevolezza e perdita di fiducia nella conoscenza verificata.
Breve approfondimento: cronologia essenziale
14 aprile 2025 — Kambhampati pubblica una riflessione sui modelli di ragionamento, chiedendo se producano vero ragionamento o imitazione testuale.
Fonte:
20 aprile 2026 — Su arXiv esce lo studio “AI scientists produce results without reasoning scientifically”, che mostra limiti strutturali degli agenti IA nel ragionamento scientifico.
Fonte:
9 maggio 2026 — Un position paper sostiene che gli “AI scientists” agentici possano aiutare come co-scienziati, ma non siano progettati per la scoperta autonoma completa.
Fonte:
27 maggio 2026 — Science News porta il tema al pubblico generale, chiedendo se ci si possa fidare dei bot IA nella scienza.
Fonte:
Consigli di approfondimento
Leggere lo studio originale su arXiv per verificare metodo, dataset e limiti dichiarati dagli autori.
Approfondire il dibattito sui modelli di ragionamento con il lavoro di Kambhampati.
Consultare il position paper sugli scienziati IA agentici per una visione più ampia sull’autonomia nella ricerca.
Abstract: pro, rischi e conseguenze sociali
L’IA scientifica promette velocità, automazione e capacità di esplorare grandi quantità di dati. Tuttavia, se ignora prove contrarie o produce affermazioni non giustificate, può amplificare errori, generare risultati apparentemente autorevoli ma fragili e indebolire il principio di falsificabilità. Sul piano etico e sociale, il rischio maggiore è la delega cieca del giudizio scientifico. In futuro, l’interazione uomo-macchina nella ricerca dovrà basarsi su sistemi verificabili, auditabili e subordinati alla responsabilità degli scienziati.
