L’INTELLLIGENZA ARTIFICIALE E LA DITTATURA DELL’ALGORITMO. L’USO CHE SE NE FA FAVORISCE I NUOVI FASCISMI? SECONDO ALCUNI STUDIOSI SI’

domenica 30th, ottobre 2022 / 19:51
L’INTELLLIGENZA ARTIFICIALE E LA DITTATURA DELL’ALGORITMO. L’USO CHE SE NE FA FAVORISCE I NUOVI FASCISMI? SECONDO ALCUNI STUDIOSI SI’
0 Flares 0 Flares ×

CHIUSI – La cosiddetta Intelligenza Artificiale è la nuova frontiera dell’era informatica e della comunicazione digitale. Gli algoritmi che regolano tutto, che determinano scelte commerciali e sostituiscono l’uomo nella gestione di sistemi complessi. A Chiusi ha sede un’azienda che opera nell’informatica da decenni e adesso è un’azienda leader a livello nazionale proprio nel settore dell’Intelligenza Artificiale. Un vanto per la città, un’eccellenza dell’economia locale, una realtà che da local diventa global e proietta anche questo territorio dal grande passato, ma con un futuro incerto, verso orizzonti innovativi, al passo coi tempi. Fa piacere avere in loco realtà di questo genere.

Sull’Intelligenza Artificiale però non tutti la pensano allo stesso modo e non tutti pensano che sia una innovazione positiva. Anzi, al contrario c’è chi sostiene che l’I.A (A.I. in inglese) sia spesso “al servizio di progetti autoritari che accrescono le disuguaglianze e mettono a rischio la democrazia”. Chi lo dice è Dan Mc Quillan, che non è l’ultimo arrivato, ma un docente al Goldsmith College di Londra, in una conversazione con il giornalista italiano Fabio Chiusi riportata da L’Espresso del 17 ottobre scorso. Un articolo che abbiamo letto con curiosità e che ci ha fatto sobbalzare sulla sedia.

La conversazione  parte dal libro di Mc Quillan “Resisting Ai” (Bristol University Press), nel quale l’autore scrive che serve «un approccio antifascista all’intelligenza artificiale… Non perché l’Ia sia di per sé fascista, ma in quanto motore di dinamiche congruenti, e in modo strutturale, con politiche fasciste. Lungi dall’essere una mera tecnologia, l’Ia è infatti un “apparato” che somma tecnica, istituzioni e ideologia. E se ne comprendiamo le “operazioni di base”, e le situiamo nell’attuale momento storico, è impossibile ignorare che il cambiamento di paradigma sociale portato dall’Ia «non farà che amplificare politiche di austerity e sviluppi autoritari».

Secondo Mc Quillan che è stato anche Direttore delle comunicazioni digitali di Amnesty International, il problema non nasce, come in molti altri casi, dalle distorsioni degli algoritmi social. “Il legame tra fascismo (fascismi) e IA avviene prima, all’incrocio tra le crescenti richieste di efficienza e risparmi nella gestione della cosa pubblica e l’ideologia che fa dell’intelligenza artificiale la panacea, infallibile e oggettiva, di ogni male”. È il cosiddetto “soluzionismo”, spiega, ovvero la ricerca ossessiva dell’ottimizzazione (parola molto in voga) che riduce problemi sociali complessi – la pandemia, la questione energetica, l’emergenza climatica – a questioni tecnologiche, risolvibili tramite Intelligenza Artificiale. Tutto diventa appunto materia di “ottimizzazione” statistica. E, in fondo, questo è l’Ia secondo McQuillan: non “intelligenza”, ma elaborate soluzioni statistiche informate da una visione «astrattamente utilitarista» che finisce per nascondere, riprodurre e amplificare ingiustizie e storture sociali, automatizzandole.

Le stesse premesse di quei metodi statistici a base dell’IA, scrive Mc Quillan, “si sono accompagnate storicamente a progetti discriminatori, congruenti con i desideri di reazione e mantenimento di uno status quo imbevuto di razzismo e supremazia bianca del ceto dominante. Così, applicando le più avanzate forme di apprendimento automatico a ogni cosa, le persone diventano numeri da gestire come variabili in una lunga equazione contenente i loro diritti sociali, la loro affidabilità creditizia, il rischio che le espressioni del loro volto celino intenzioni criminali, ecc. (…)”

Tutto ciò finisce per colpire di più chi ha già di meno, gli emarginati, le minoranze. “Perché l’IA non si limita a “rappresentare” il mondo, ma “produce” un nuovo ordine materiale e sociale. “E il nuovo ordine algoritmico è in realtà una nuova forma di “apartheid”, solo più inesorabile, fredda, disumana” dice ancora Mc Quillan.

Noi, imbevuti del pregiudizio che la macchina sia neutrale, pensiamo siano discriminazioni innocue, astratte e imparziali; anzi, crediamo lo siano necessariamente più di quelle umane. E invece McQuillan ribadisce che “l’Ia è inseparabile dal contesto storico e materiale in cui viene utilizzata. E se il contesto parla di un ritorno dell’estremismo di destra e dei nazionalismi sulla scena internazionale, ecco il potenziale dell’Ia dispiegarsi al servizio di progetti estremisti e nazionalisti”. E qui fa degli esempi: “Quel migrante mente o dice la verità, quando sostiene di scappare da un paese in guerra? Un progetto finanziato dall’Unione Europea voleva fosse una macchina “intelligente” a stabilirlo. Ma lo stesso si può dire del riconoscimento facciale usato dalle forze di polizia (sbaglia in modo sproporzionato con le persone di colore degli strumenti di polizia predittiva (si concentrano proprio nelle aree più povere, dove certi reati vengono commessi da certe categorie di persone)”.

Che fare, allora? McQuillan si dice “abolizionista”, cioè se fosse per lui la abolirebbe l’IA. Ma poi precisa: “il nodo non è abolire l’IA tutta, ma mettere in discussione le fondamenta ideologiche e pratiche che ne informano l’attuale configurazione”.

E siccome al momento l’IA è “riduzionista, individualista, razzista, pronta a servire qualunque progetto autoritario”, il docente britannico propone una rivoluzione in cui le parole d’ordine diventano “solidarietà”, “mutualità”, “relazione”; un approccio antifascista, e  insieme femminista e anti-colonialista. Bisogna insomma chiedersi – dice – «quale sia il ruolo della computazione avanzata» in una società democratica contemporanea. E riposizionarla.

Ci sono anche applicazioni dell’Intelligenza Artificiale come per esempio nel campo della ricerca e scoperta scientifica, che risentono meno dei problemi fin qui esposti… Quindi non tutta è da buttare. Però non bisogna lasciarsi fregare, questo in sintesi l’assunto dello studioso inglese.

Dopo “Il capitalismo della sorveglianza”, il libro di Shoshana Zubof , business analyst di Harvard, la quale sostiene che Big Tech sia determinata a mercificare, controllare e cooptare ogni esperienza umana per trasformarla in dato comportamentale grezzo da utilizzare per accrescere ancora di più i propri profitti e il proprio potere e che il capitalismo si stia organizzando attraverso sistemi che consentono di monitorare, analizzare e modificare costantemente il comportamento umano per il profitto dei giganti della tecnologia, anche la riflessione di McQuillan sull’Intelligenza Artificiale e l’uso che ne viene fatto squarcia il velo di ipocrisia che circonda la società globalizzata e soprattutto, come il libro della Zubof (una vera e propria “Bibbia” sulla società attuale imperniata sui social e sulla connessione in rete) mette in discussione i dogmi e le ubriacature di un liberismo che ha poco di liberale e molto di cui diffidare e avere paura. Anche Goebbels cominciò col teorizzare certe cose…

m.l. 

 

 

 

 

 

 

 

0 Flares Twitter 0 Facebook 0 Google+ 0 Email -- LinkedIn 0 Pin It Share 0 0 Flares ×
Mail YouTube