Google DeepMind ha annunciato oggi l’introduzione del Frontier Safety Framework, un insieme di protocolli progettati per identificare e mitigare proattivamente i rischi futuri associati alle capacit\u00e0 avanzate dei modelli di intelligenza artificiale (AI). Questa iniziativa nasce dalla consapevolezza che, mentre la tecnologia AI continua a evolversi, emergono anche nuovi rischi che potrebbero comportare danni significativi.<\/p>\n\n\n\n
Il framework si concentra su rischi severi legati a capacit\u00e0 potenti a livello di modello, come un’agenzia eccezionale o capacit\u00e0 cibernetiche sofisticate. Questo approccio \u00e8 complementare alla ricerca sull’allineamento dei modelli AI ai valori umani e agli obiettivi societari, e integra le pratiche di responsabilit\u00e0 e sicurezza gi\u00e0 esistenti di Google.<\/p>\n\n\n\n
La struttura del framework \u00e8 articolata in tre componenti principali. Prima di tutto, identifica le capacit\u00e0 che un modello potrebbe avere e che potrebbero causare danni severi, definite come “Livelli di Capacit\u00e0 Critiche” (CCL). Successivamente, valuta periodicamente i modelli per rilevare quando raggiungono questi livelli critici tramite una serie di valutazioni di allerta precoce. Infine, applica un piano di mitigazione quando un modello supera queste valutazioni, bilanciando benefici e rischi e tenendo conto dei contesti di implementazione previsti.<\/p>\n\n\n\n
Il framework iniziale si concentra su quattro domini di rischio: autonomia, biosicurezza, cybersicurezza e ricerca e sviluppo nell’apprendimento automatico. Google DeepMind prevede che le capacit\u00e0 dei futuri modelli di fondazione possano comportare rischi gravi in questi ambiti. La mitigazione si adatta ai vari livelli di capacit\u00e0 critiche, bilanciando la protezione contro l’esfiltrazione dei modelli e la gestione delle capacit\u00e0 critiche, pur mantenendo l’innovazione e l’accessibilit\u00e0.<\/p>\n\n\n\n
Il Frontier Safety Framework \u00e8 un’iniziativa esplorativa e si prevede che evolver\u00e0 con il progredire della ricerca e la collaborazione con l’industria, il mondo accademico e il governo. Google DeepMind spera che questa iniziativa contribuir\u00e0 a stabilire standard e migliori pratiche per la valutazione della sicurezza delle future generazioni di modelli AI, rimanendo fedele ai principi di AI di Google, che promuovono benefici diffusi mitigando i rischi.<\/p>\n\n\n\n