OpenAI ha recentemente annunciato importanti aggiornamenti riguardanti la sicurezza e la governance dei suoi modelli di intelligenza artificiale. In particolare, il Comitato per la Sicurezza e la Sicurezza (SSC) diventerà un comitato di sorveglianza indipendente del Consiglio di Amministrazione, con l’obiettivo di supervisionare misure critiche per lo sviluppo e il rilascio dei modelli. Il comitato sarà presieduto da Zico Kolter, esperto di machine learning presso la Carnegie Mellon University.
Tra le principali aree d’intervento vi sono l’istituzione di una governance indipendente per la sicurezza, il potenziamento delle misure di sicurezza, e una maggiore trasparenza riguardo al lavoro svolto da OpenAI. Uno degli obiettivi del comitato è infatti quello di effettuare revisioni periodiche dei processi di sicurezza e fornire raccomandazioni al Consiglio per migliorare la gestione dei rischi associati ai modelli AI avanzati.
Un altro aspetto rilevante è la collaborazione con organizzazioni esterne, tra cui laboratori indipendenti e agenzie governative, per garantire standard di sicurezza sempre più elevati. OpenAI sta anche valutando la creazione di un centro di condivisione delle informazioni sulle minacce, con l’obiettivo di migliorare la resilienza del settore contro i rischi informatici.
Questi sforzi si inseriscono in un quadro più ampio che punta a unificare i criteri di sicurezza e a sviluppare nuovi modelli di governance, per assicurare che i futuri sviluppi della tecnologia siano gestiti con responsabilità e trasparenza.
