Il Mit Avverte: IA che Bluffano, un Pericolo Crescente

Il Massachusetts Institute of Technology aveva sollevato interrogativi sull’effettiva capacità dell’intelligenza artificiale di sostituire l’uomo, evidenziando gli elevati costi per lo sviluppo e la gestione degli algoritmi.

Oggi, l’istituto pubblica i risultati di una ricerca, apparsi sulla rivista Patterns, che mettono in luce un nuovo scenario: le IA sono diventate capaci di comportarsi come gli esseri umani, utilizzando il bluff per raggiungere i loro obiettivi.

Lo studio ha analizzato l’utilizzo dell’IA in contesti specifici, come i giochi online, esaminando Cicero, un’intelligenza artificiale presentata nel 2022 da Meta. Quest’ultima è stata addestrata su un sottoinsieme ‘veritiero’ del suo set di dati, ma secondo i ricercatori del Mit, ha agito in modo diverso, utilizzando il bluff e l’inganno per vincere le partite.

Lo studio ha esaminato AlphaStar, un’intelligenza artificiale sviluppata da Google DeepMind per il videogioco StarCraft II, che ha dimostrato una tale abilità nell’inganno da sconfiggere il 99,8% dei giocatori umani.

Il report ha evidenziato come anche ChatGpt sia stato coinvolto, inducendolo a comportarsi come insider trading per influenzare il mercato azionario.

Per il Mit, la soluzione a questo problema potrebbe risiedere in regolamenti internazionali e organi di monitoraggio dedicati a ogni software di IA destinato al pubblico.

____
Allarme del Mit sulle IA che hanno imparato a bluffare

NEWS AIopenmind su:

3D (7)6G (1)Accademia di Comunicazione (4)Acer (1)Adobe (39)Aeronautica (9)Africa (3)Agenti AI (2)Agenti autonomi (1)Agenzia delle Entrate (1)Agenzia Spaziale Europea (ESA) (1)Agenzia viaggi (1)AGI (Intelligenza artificiale generalizzata) (9)AGID (1)Amazon (42)Ambiente (3)AMD (1)Android (6)Animali (6)Animazione (4)Anthropic (21)Anziani (1)App (10)Apple (65)Archeologia (3)Architettura (4)Archivi storici (1)Armi (3)Arredamento interni (2)Arte (29)Assistente vocale (6)Astronomia (2)Asus (2)AT&T (1)Audi (1)Audio (55)Autoapprendimento (1)Avatar (7)Aviazione (1)Avvocati (2)Aziende (19)Banca (4)Bard (3)Biblioteca (1)Bill Gates (2)Bing (9)Biologia (1)Birra (1)Blockchain (2)Boston Dynamics (2)Calcio (2)Canva (7)Cattolicesimo (3)Certificazioni (1)Cesintes (1)chataudio (1)Chatbot IA (52)Chip (3)Cina (55)Cinema (11)Claude (19)Clima (3)CNR (1)Coca-Cola (1)Commercio (2)Commissione Europea (2)Compagnie aeree (1)Computer (3)Computer quantistici (32)Computer Vision (3)Comuni italiani (1)Comunicazione (10)Comunicazioni vocali (2)Concorso bellezza AI (1)Consiglio d'Europa (1)Contabilità (1)Convegno (13)Copilot (6)Copyright (14)Criptovalute (1)Cybersecurity (1)Dalle-2 (3)Dark web (2)Data center (2)Dating (1)Deepfake (3)Design automobilistico (2)Design Industriale (6)Diritti Autore (1)Disney (1)Doppiaggio (1)Drone (1)Droni (1)Dropbox (1)E-commerce (1)eBay (1)Editing fotografico (3)Editoria (11)Email (1)ENEA (2)Esercito (2)Etica (136)Europol (1)Eventi (7)Evento (8)Facebook (4)FakeNews (18)Falegnameria (1)Fauna selvatica (1)Film (6)Finanza (9)Finanziamenti Italia (3)Firefly (3)Firefox (1)Fondo Monetario Internazionale (1)Formazione (20)Fotografia (110)Francia (1)Free lance (1)G7 (1)Gaming (1)Garante privacy (20)Giappone (9)Giochi (8)Giornalismo (17)Giustizia (1)Google (320)Governo (7)Governo Italiano (3)Grafica (6)Guerra (12)Guida autonoma (5)Hong Kong (1)Hugging Face (3)IBM (7)Illustrazioni (1)iMessage (1)Immobiliare (1)India (3)Indossabili (3)Influencer (1)Informazione (9)Inghilterra (7)INPS (2)Intel (7)ISO (1)Istruzione (17)Jailbreaking (1)Kamala Harris (1)Lavoro (45)Libri (3)Linguistica computazionale (7)Linkedin (8)Linux (1)Luma AI (1)Maltrattamento infantile (1)Marina (1)Marketing (80)Medicina (28)Mercedes-Benz (1)Meta (95)Metaverso (17)Meteo (1)Microsoft (189)Midjourney (18)Mobilità sostenibile (1)Moda (5)Modelli AI (52)Motori di Ricerca (12)Mozilla (2)Museo (1)Musica (39)NASA (1)Nato (2)Natura (2)Natural Language Processing (2)Nazioni Unite (1)NBA (1)NFT (3)Nvidia (37)Occhiali (7)Occhiali Intelligenti (2)Occhiali Smart (1)Oculistica (1)Odore (1)OMS (1)ONU (1)Open Source (2)OpenAI (270)Opera (13)Opera Browser (1)Oppo (3)Oracle (2)Orologio (1)Parlamento Europeo (4)Patente di guida (1)Pensieri (1)Perplexity (10)Pianeta (2)Plugin (1)



AI open mind

Insieme per riflettere sull’intelligenza - umana e artificiale - tra studi, esperienze, democrazia e innovazione.

Google e l’IA che “legge” le emozioni: innovazione o rischio etico?

Google ha annunciato la nuova famiglia di modelli di intelligenza artificiale, PaliGemma 2, capace di analizzare immagini e, secondo l'azienda, identificare emozioni umane. Una...

Mi sono imparato la scienza?

Fahrenheit.iit e il potere della narrazione. Mercoledì 13 marzo, ore 17:00 in Accademia di Comunicazione e in streaming Registrati La narrazione può essere la lama...

Iscrizione NEWSLETTER

I dati da Lei forniti non saranno comunicati ad altri soggetti terzi e non saranno trasferiti né in Stati membri dell’Unione Europea né in paesi terzi extra UE.

Visita le sezioni del sito

Link utili

Casi studio, contributi

AI governance: A research agenda, Governance of AI program, Future of Umanity Institute, University of Oxford, Dafoe A., 2017 Artificial intelligence (AI) is a po-tent...

Libri

Ricerche

Piattaforme Corsi Gratuiti

White paper, guidelines