L’organizzazione no-profit OpenAI, Inc. lancia un programma per assegnare dieci sovvenzioni da 100.000 dollari per finanziare esperimenti volti a creare un processo democratico per decidere quali regole i sistemi di Intelligenza Artificiale dovrebbero seguire, nel rispetto dei limiti stabiliti dalla legge.
Responsabilità dell’IA
L’IA avrà impatti economici e sociali significativi e di vasta portata. La tecnologia plasmerà la vita delle persone, il modo in cui interagiamo l’uno con l’altro e come si evolverà la società nel suo complesso. Crediamo che le decisioni su come si comporta l’IA debbano essere plasmate da diverse prospettive che riflettano l’interesse pubblico.
Le leggi codificano valori e norme per regolare il comportamento. Oltre a un quadro legale, l’IA, come la società stessa, ha bisogno di linee guida più intricate e adattive per il suo comportamento. Ad esempio: in quali condizioni dovrebbero i sistemi di IA condannare o criticare personaggi pubblici, considerando le diverse opinioni dei vari gruppi su tali figure? Come dovrebbero essere rappresentate le opinioni in conflitto negli output dell’IA? L’IA dovrebbe riflettere per default la personalità di un individuo mediano nel mondo, del paese dell’utente, della sua demografia o qualcosa di completamente diverso? Nessun individuo, azienda o persino paese dovrebbe dettare queste decisioni.
L’IA generale deve beneficiare l’intera umanità e deve essere plasmata in modo da essere il più inclusiva possibile. Lanciamo questo programma di sovvenzioni per compiere un primo passo in questa direzione. Cerchiamo team provenienti da tutto il mondo per sviluppare proof-of-concepts per un processo democratico che possa rispondere alle domande su quali regole i sistemi di IA dovrebbero seguire. Vogliamo imparare da questi esperimenti e utilizzarli come base per un processo più globale e ambizioso in futuro. Sebbene questi esperimenti iniziali non siano (almeno per ora) vincolanti per le decisioni, speriamo che esplorino domande rilevanti per le decisioni e costruiscano nuovi strumenti democratici che possano informare in modo più diretto le decisioni future.
La governance dei sistemi più potenti, così come le decisioni relative alla loro implementazione, devono essere soggette a un forte controllo pubblico. Questa sovvenzione rappresenta un passo per stabilire processi democratici per supervisionare l’IA generale e, alla fine, la superintelligenza. Sarà fornita dall’organizzazione non-profit OpenAI e i risultati degli studi saranno liberamente accessibili.
Cosa intendiamo per “processo democratico”?
Con “processo democratico” intendiamo un processo in cui un gruppo ampiamente rappresentativo di personeA scambia opinioni, si impegna in discussioni deliberativeB e alla fine decide un risultato attraverso un processo decisionale trasparenti.
Processi Democratici per l’Intelligenza Artificiale
OpenAI, Inc., l’organizzazione non profit, lancia un programma per assegnare dieci sovvenzioni da 100.000 dollari per finanziare esperimenti finalizzati a stabilire un processo democratico per decidere quali regole gli AI dovrebbero seguire, all’interno dei limiti definiti dalla legge.
AI Responsabile L’Intelligenza Artificiale avrà impatti significativi ed estesi sull’economia e sulla società. La tecnologia plasma le vite delle persone, il modo in cui interagiamo l’uno con l’altro e come la società nel suo complesso si evolve. Crediamo che le decisioni su come si comporta l’IA debbano essere plasmate da diverse prospettive che riflettono l’interesse pubblico.
Le leggi codificano i valori e le norme per regolare il comportamento. Oltre a un quadro legale, l’IA, proprio come la società, ha bisogno di linee guida più intricate e adattive per il suo comportamento. Ad esempio: in quali condizioni gli AI dovrebbero condannare o criticare figure pubbliche, dati i diversi pareri tra i gruppi su tali figure? Come dovrebbero essere rappresentate le opinioni contestate nelle uscite degli AI? L’AI dovrebbe riflettere per default la persona media nel mondo, il paese dell’utente, la sua demografia o qualcosa di completamente diverso? Nessun individuo singolo, azienda o persino paese dovrebbe dettare queste decisioni.
L’AGI dovrebbe beneficiare tutta l’umanità e essere plasmata in modo il più inclusivo possibile. Lanciamo questo programma di sovvenzioni per fare un primo passo in questa direzione. Cerchiamo squadre provenienti da tutto il mondo per sviluppare proof-of-concepts per un processo democratico che possa rispondere alle domande su quali regole gli AI dovrebbero seguire. Vogliamo imparare da questi esperimenti e utilizzarli come base per un processo più globale e ambizioso in futuro. Sebbene questi esperimenti iniziali non siano (almeno per ora) intesi a essere vincolanti per le decisioni, speriamo che esplorino domande rilevanti per le decisioni e costruiscano nuovi strumenti democratici che possano informare direttamente le decisioni future.
La governance dei sistemi più potenti, così come le decisioni riguardanti la loro implementazione, devono essere sottoposte a un forte controllo pubblico. Questa sovvenzione rappresenta un passo per stabilire processi democratici per sorvegliare l’AGI e, alla fine, la superintelligenza. Sarà fornita dall’organizzazione non profit OpenAI e i risultati degli studi saranno liberamente accessibili.
Cosa intendiamo per “processo democratico”? Per “processo democratico” intendiamo un processo in cui un gruppo ampiamente rappresentativo di personeA scambia opinioni, partecipa a discussioni deliberativeB e alla fine decide un risultato attraverso un processo decisionale trasparenteC. Esistono molti modi in cui un tale processo potrebbe essere str
rutturato, ma è fondamentale che sia inclusivo, equo e rispetti i principi democratici di partecipazione, rappresentatività e responsabilità. Ci sono diversi elementi chiave che potrebbero essere inclusi in un processo democratico per l’Intelligenza Artificiale:
A. Diversità e inclusione: È essenziale che il processo coinvolga una vasta gamma di prospettive e interessi, assicurando la partecipazione di individui provenienti da diversi contesti sociali, culturali ed economici. Ciò garantisce che le decisioni siano informate da una pluralità di punti di vista e non siano influenzate in modo sproporzionato da un gruppo ristretto di attori.
B. Discussioni deliberative: Il processo dovrebbe consentire discussioni aperte e informate, in cui le persone possano esprimere le proprie opinioni, fornire argomentazioni, presentare evidenze e confrontare idee. Queste discussioni possono avvenire in vari contesti, come gruppi di lavoro, tavoli rotondi, consultazioni pubbliche o forum online, e dovrebbero essere guidate da principi di dialogo costruttivo e ascolto reciproco.
C. Processo decisionale trasparente: È fondamentale che il processo decisionale sia trasparente, in modo che le persone possano comprendere come vengono prese le decisioni e quali fattori vengono presi in considerazione. Ciò implica la divulgazione delle informazioni pertinenti, l’accesso ai dati e alle analisi utilizzate nel processo e la rendicontazione delle decisioni prese.
D. Responsabilità e rendicontazione: Il processo dovrebbe prevedere meccanismi per l’attribuzione di responsabilità e la rendicontazione delle decisioni prese. Ciò significa che coloro che partecipano al processo dovrebbero essere tenuti a rispondere delle decisioni prese e ad assumersi la responsabilità delle loro azioni. Inoltre, dovrebbe essere possibile richiedere una revisione e un riesame delle decisioni nel caso in cui si verifichino problemi o preoccupazioni.
E. Educazione e partecipazione informata: Per consentire una partecipazione significativa, è importante che le persone abbiano accesso alle informazioni necessarie e siano in grado di comprendere i complessi aspetti tecnici, etici e sociali legati all’Intelligenza Artificiale. L’educazione e la sensibilizzazione pubblica sono fondamentali per consentire una partecipazione informata e consapevole.
Questi sono solo alcuni dei principi e degli elementi che potrebbero essere inclusi in un processo democratico per l’Intelligenza Artificiale. È importante sottolineare che l’implementazione di un tale processo richiede un’attenta progettazione e un coinvolgimento di esperti, stakeholder e della società nel suo insieme. L’obiettivo finale è garantire che le decisioni sull’IA siano prese in modo responsabile, inclusivo e nel migliore interesse dell’umanità.
