Per un Manifesto di AI

Un’esplorazione a cura di Simonetta BLASI

Premessa
I seguenti contributi nascono dalla lettura di alcuni autori (segnalati tra parentesi per iniziale) tra cui: Shoshana Zuboff, Luciano Floridi, Giorgia Lupi, Fabio Pasqualetti, Matteo Loglio.

Un’esplorazione a cura di Simonetta BLASI, FERPI/Università Pontificia Salesiana – FSC

Ora noi siamo gli esseri più intelligenti sul pianeta, ma cosa succederà quando non lo saremo più? Come ci tratteranno gli esseri più intelligenti di noi? (M.L.)

“A partire dagli anni Cinquanta, l’informatica e le tecnologie digitali hanno iniziato a mutare la concezione di chi siamo. Sotto molti profili, abbiamo scoperto che non siamo entità isolate, quanto piuttosto agenti informazionali interconnessi, che condividono con altri agenti biologici e artefatti ingegneristici un ambiente globale, costituito in ultima istanza da informazioni, che ho chiamato infosfera. […] Il nostro comportamento libero si trova posto a confronto con la prevedibilità e la manipolabilità delle nostre scelte, nonché con lo sviluppo dell’autonomia artificiale. Le tecnologie digitali sembrano talora conoscere i nostri desideri meglio di noi stessi.” (L.F.)

Le tecnologie sono cresciute fino a diventare una forza economica alla guida della trasformazione della società globale in una civiltà dell’informazione.  (S.Z)

L’intelligenza artificiale nasce dalla tecnologia e permea la comunicazione.

Teniamo in mente che, da sempre, il potere è focalizzato sui sistemi di comunicazione (trasporti, reti, media, etc.) perché è da questi snodi che si può esercitare il controllo (delle persone, delle merci, delle informazioni etc.). C’è quindi da riflettere su quanto una tecnologia come AI, permeata dalla comunicazione, sia il cavallo di Troia di chi detiene il potere (e/o di chi ne ambisce). (F.P.)

L’alleanza tra la politica e queste forze economiche ha determinato la crescita di quelle che erano inizialmente giovani imprese in imperi della sorveglianza alimentati da sistemi globali di monitoraggio, analisi, personalizzazione e previsione dei comportamenti definiti come capitalismo della sorveglianza. (S.Z.)

Sulla spinta della necessità di accumulare profitti, i nuovi imperi hanno architettato un colpo di stato cognitivo, basato su una concentrazione senza precedenti di informazioni sul nostro conto e sul potere incontrollato che deriva da questo patrimonio di conoscenza. (S.Z.)

Nella civiltà dell’informazione tutto ruota intorno alla conoscenza, pertanto bisognerebbe porsi degli interrogativi sul modo in cui la conoscenza viene distribuita, sull’autorità che ne governa la distribuzione e sul potere che protegge quell’autorità. Quindi chi è che sa? Chi è che decide chi sa? Chi è che decide chi decide chi sa? I capitalisti della sorveglianza hanno in mano queste risposte, anche se non li abbiamo mai eletti a governarci. Ed è questa l’essenza del colpo di stato cognitivo (S.Z.).

Il golpe digitale si articola dunque in 4 fasi

  • l’appropriazione dei diritti cognitivi
  • la disuguaglianza cognitiva
  • il caos cognitivo
  • l’egemonia cognitiva che diventa istituzionale

Possiamo vivere in democrazia o nella società della sorveglianza, non in entrambi i posti contemporaneamente. (S. Z.)

Da dove ha origine questa accelerazione di concentrazione/controllo delle informazioni? Dall’11 Settembre 2001 che ha trasformato il dibattito a Washington, spostando l’attenzione dalla necessità di approvare leggi in difesa della privacy, all’ossessione per la raccolta totale delle informazioni. (S.Z.)

Nel 2013 il direttore della sezione tecnologica della CIA spiegava che la missione era ‘raccogliere tutto e conservarlo per sempre’ e riconosceva il ruolo delle grandi imprese – Google, Facebook, Youtube, Twitter oltre alle compagnie telefoniche – a renderla possibile.  Sta qui la radice di quel fenomeno di istituzionalizzazione della sorveglianza che, in vent’anni, ha concesso alle nuove multinazionali della rete il permesso di carpire l’esperienza umana e rappresentarla sotto forma di dati proprietari. (S.Z.)

Google è stata l’apripista delle lobby e nel 2018 quasi la metà dei senatori USA ha ricevuto contributi da Facebook, Google e Amazon che continuano a spendere cifre da record per influenzare la politica. (S.Z.)

Quando è scoppiato lo scandalo di Cambridge Analytica il mondo ha improvvisamente cominciato a capire che il business della propaganda politica è uno strumento con cui l’azienda dà a noleggio la propria gamma di strumenti per raggiungere utenti mirati, manipolarli e seminare il caos cognitivo, orientando tutta la macchina verso obiettivi politici più che commerciali. (S.Z.)

I dati non sono oggettivi e la loro raccolta non è neutra, bensì sono oggetti di selezione e interpretazione. (G. L.)

I dati non sono la realtà assoluta e non sono solo interessanti quando sono presi in grande quantità (big data). (G.L.)

Essere una fotografia della realtà non vuole dire essere la realtà, come sa bene ogni fotografo, si tratta di scegliere un particolare obiettivo e punto di vista.

Prima del Rinascimento Digitale c’è l’Umanesimo Integrale che è – e rimane – l’unica base da cui ripartire per costruire una rinascita. (G.L. e la sottoscritta)

L’intelligenza artificiale è una (relativamente) nuova tecnologia e ogni tecnologia che impone grandi cambiamenti nella diffusione della conoscenza finisce con il creare nuovi paradigmi nella società e nuovi privilegi per alcuni. Basta ricordare come l’invenzione della stampa di Gutemberg sia stata prerogativa di quanti sapessero leggere (sacerdoti, nobili istruiti, scribi). Oggi è la coalizione GAFA la grande casta (Google, Amazon, Facebook, Apple). (F.P. e la sottoscritta)

Dovremo sempre ricordare che la coscienza e conoscenza umana sono il risultato di una serie di relazioni complesse nel corso della vita tra l’individuo e l’ambiente ivi considerato come sistema di relazioni con il prossimo e con il contesto socioculturale nel quale si è immersi. (F.P.)

Le tecnologie ICT stanno mutando la natura vera e propria, e in tal senso il significato stesso della realtà, trasformandola in infosfera (sinonimo di realtà in quanto questa è trasformabile in informazione). (L.F.)

I vincitori scrivono la storia e scelgono anche il linguaggio (Barcellona citato da F.P.). E i linguaggi odierni ruotano attorno alla programmazione e all’interpretazione e diffusione selezionata dei big data che è in mano alla nuova oligarchia di forze politiche ed economiche sottese alla trasformazione della nostra società in civiltà dell’informazione (o conoscenza). (F.P. e la sottoscritta)

Uno studio pubblicato dal Reuters Institutes ha confermato che i politici e in generale le persone con una grande visibilità producevano il 20% della disinformazione nel loro campione, ma attiravano il 69% delle interazioni sui social network in quel campione. (S.Z.)

L’OMS già nel febbraio 2020 parlava di ‘infodemia’ cioè eccesso di informazioni non sempre accurate, mentre a marzo i ricercatori del centro oncologico MD Anderson dell’Università del Texas sostenevano che la disinformazione sul coronavirus si stava diffondendo a una velocità allarmante sui social network con gravi rischi  per la salute pubblica. Si potrebbe dire che ci siamo rivolti a Facebook (e ad altri social) per cercare informazioni, ma abbiamo trovato invece strategie letali di caos cognitivo a scopo di lucro. (S.Z.)

Siamo ancora agli albori della civiltà dell’informazione ma il mondo digitale deve vivere nella casa della democrazia; alcune importanti iniziative legislative e giudiziarie in corso negli USA e in Europa cominciano a dare segni di risveglio delle istituzioni che difendono la democrazia. Nel 2020 ad esempio una sottocommissione del congresso su antitrust e diritto commerciale e amministrativo ha pubblicato un’approfondita analisi delle violazioni dei giganti del web. E a ottobre il dipartimento di giustizia (assieme a 11 stati) ha avviato una causa federale contro Google per violazione delle norme antitrust e abuso del suo monopolio sulle ricerche online. (S.Z.)

La legge è l’unica forza in grado di ripristinare l’equilibrio dei poteri. E quando cambiano le condizioni di vita servono nuovi diritti. Abbiamo bisogno di una giurisprudenza che interrompa e metta fuori legge lo sfruttamento su scala sistematica dell’esperienza umana. La raccolta dei dati deve poter essere legata ai diritti fondamentali del cittadino e l’uso dei dati ai servizi pubblici, quelli che rispondono alle reali esigenze delle persone e delle comunità. Le pratiche commerciali che richiedono forme rapaci di raccolta dei dati vanno contrastate perché è solo revocando all’economia della sorveglianza commerciale la licenza di rubare (mettendone in discussione basi economiche e attività) che la democrazia potrà riprendere forza, evitando che il colpo di stato cognitivo annienti tutto (e tutti). (S.Z.)

 




AI open mind

Insieme per riflettere sull’intelligenza - umana e artificiale - tra studi, esperienze, democrazia e innovazione.