L’Intelligenza Artificiale come ideologia

Nel pezzo conclusivo di questa serie di articoli del mese a tema Cyber (aprile 2021), affrontiamo da una prospettiva filosofica e sociopolitica il problema dell’Intelligenza Artificiale da un particolare punto di vista: quello dell’ideologia.

Un mondo di Intelligenze Artificiali

Chi scrive questo articolo non ha intenzione di ripercorrere gli aspetti di superficie – e ormai popolarmente ben noti – dell’idea e della pratica dell’Intelligenza Artificiale (IA). Abbiamo letto nei libri, appreso dai giornali, scoperto nei film e imparato sui social che, negli ultimi anni del XXI secolo, un fantasma si è aggirato per il mondo globalizzato e cyber-connesso: quello di una razionalità tecnologica che non opera più secondo criteri di strumentalità e mero utilizzo, ma piuttosto “agisce”, imponendo imperativi di automazione, apprendimento macchinico, indipendenza dalle decisioni umane ed espansione dei modelli di statistica, computer science e teoria dell’informazione ai più svariati ambiti del mondo della vita – dall’arte, alla moda, all’invenzione scientifica, ai giochi da tavolo, agli scambi colloquiali.

Tutto questo va comunemente sotto il nome di “Intelligenza Artificiale”, e in questo articolo, cogliendo vari spunti da vari autori, cercheremo di mostrare come, nella presente realtà dei fatti, qualcosa come un’IA non esista e non dia segno di poter mai esistere. O meglio: se esiste, lo fa nel modo di concetti come quello di “nazione”, “tradizione” o “spirito”, non in quello di nozioni come “computer”, “stampa”, “ruota” o “chiavistello”. In altre parole: l’IA, più che un concetto utile a denotare un’effettiva pratica (tecnologica), è un’interessante e complessa idea dai molteplici aspetti (politico, culturale, economico, epistemologico, etc.), che, in quanto tale, serve e dà luogo a una particolare “ideologia” che di essa si serve per organizzare un discorso sulla razionalità del mondo sociale, sulle prospettive politiche per il futuro e su molti degli (verrebbe da dire: tutti gli) aspetti fondamentali della concezione moderna della società e dell’individuo.

Cominciamo distinguendo quelle che chi scrive ritiene essere tre dei modi fondamentali in cui intendere il concetto in questione: l’Intelligenza Artificiale come tecnologia, l’Intelligenza Artificiale come strumento di marketing e l’Intelligenza Artificiale come ideologia.

L’IA come marketing

Partiamo dal secondo. Riprendendo Meredith Whittaker, fondatrice del Google’s Open Research Group e co-fondatrice dell’AI Now Institute, possiamo affermare che negli ultimi dieci anni i colossi della Silicon Valley, in particolare le cosiddette Big Tech (Google, Apple, Facebook, Amazon, Microsoft), hanno fatto fortuna vendendo al mondo un prodotto che, a differenza degli altri nel catalogo delle stesse aziende, riusciva a suscitare un senso di iper-progresso tecnologico, un sentimento di partecipazione a una repentina accelerazione della carovana della storia, un timore reverenziale nei confronti di un prodotto che, raccontato come “Intelligenza Artificiale”, riusciva nell’intento di dare l’impressione di essere qualcosa di ben più grande ed importante di quanto effettivamente esso fosse.

E, si badi bene, qui non si tratta di scetticismo assoluto, ritrosia primitivista o luddismo di fronte alle strabilianti capacità delle nuove tecnologie computazionali. Piuttosto, si tratta di distinguere queste tecnologie dal loro spargimento mediatico, l’utilizzo dalla propaganda, i “fatti” dai “miti” (riprendendo le parole di Max Tegmark).

I “miti” in questione sono quelli di macchine in grado, a modo loro, di “pensare”, di “creare”, di distinguere autonomamente l’immagine di un gatto da quella di un pipistrello, di insegnare a ballare la macarena al ritratto della nonna e di compiere scoperte scientifiche al posto degli inebetiti scienziati umani. Si è parlato di “creatività computazionale”, “autonomia macchinica” o “coscienza artificiale”, ma senza che la realtà tecnologica fattuale permettesse di rintracciare questi fantasmi e queste assurdità. Questo è marketing perché un “programma di Intelligenza Artificiale” vende più di un semplice “software ad approccio bottom-up”, il mito di una macchina in grado di “pensare” a come risolvere un problema vende di più del semplice fatto di una tecnologia (relativamente semplice e funzionalmente limitata) strumentalmente capace di fornire certi output a certi input umani.

Qui il significato di “vendere” è molteplice: finanziamenti alla ricerca, consumismo di massa, strategie di governance statale, etc. L’idea di una macchina in grado di dipingere un Rembrandt, di comporre un sonetto o di sconfiggere un Gran Maestro di scacchi riesce a riempire il mercato di prodotti materiali e intellettuali percepiti come strabilianti ­– che per di più, spesse volte, in ragione della loro supposta “autonomia”, sono in grado di deresponsabilizzare i loro produttori per i loro malfunzionamenti o violazioni. Possiamo già vedere dunque come sia immediato il passaggio dall’idea di Intelligenza Artificiale come “marketing” a quella di Intelligenza Artificiale come “ideologia”.

L’Intelligenza Artificiale come ideologia

Facciamo un breve excursus nel passato. Nel 1968, il grande filosofo e sociologo Jürgen Habermas pubblicò un saggio dal titolo Tecnica e scienza come ideologia. Riarticolando le posizioni di Marcuse sulle tecniche e le scienze moderne come vettori di una “razionalizzazione” della società improntata a un “dominio” invisibile e sistemico degli individui, Habermas indaga sulle dinamiche di formazione di una “coscienza tecnocratica” nel mondo politico occidentale. In opposizione alla decisione democratica, basata sulla discussione e sul comune accordo, ma anche alla forza normativa della legge, ai legami convenzionali e a ogni altra forma di socialità politica “comunicativa”; la tecnocrazia afferma la superiorità di una ristretta cerchia di “esperti” nella capacità di prendere decisioni per il bene comune, applicando strategie e algoritmi impersonali in grado di distribuire equamente risorse e diritti, senza fare affidamento sul fastidioso intervento dell’opinione pubblica, della volontà generale, delle scelte di comunità o delle necessità popolari e private.

Ciò che conta, secondo l’ideologia tecnocratica – un’ideologia che si costituisce su un valore dogmatico e quasi-religioso attribuito a un generale (e spesso falso e deviante) concetto di “scienza” – è l’organizzazione sistemica, impersonale e funzionale del mondo della vita, che non tenga conto delle volontà e delle rivendicazioni di individui e comunità. L’esperto, il tecnocrate, il “migliore”, pur se propriamente ignorante in materia di scienza politica (saper scegliere e comunicare, ispirarsi, combattere, abnegarsi, interpretare, etc.), sarebbe così in grado di governare il Paese come fosse una macchina, un problema matematico o uno know-how industriale.

Torniamo al presente. Jaron Lanier e Glen Weyl, in un articolo per «Wired», mostrano come l’Intelligenza Artificiale riesca ad assumere i tratti di una vera e propria ideologia, quella che noi diremmo essere l’evoluzione della tecnocrazia habermasiana. La computazione è la vera tecnologia, mentre l’IA è solamente un “modo di pensare”, di per sé (ma solo in principio) né buono né cattivo, che può tanto minacciare l’umanità quanto fornirle metodi migliori per concepire e indirizzare le scelte tecnologiche. Sorveglianza e controllo (come ad oggi, per fini politici o di profitto, accade) oppure espansione della conoscenza e iperconnessione solidale (come magari, in un futuro molto diverso dal presente, dobbiamo far accadere). A oggi abbiamo delle meravigliose tecnologie di computazione che, lungi dal costruirsi e dall’operare autonomamente, non fanno che riprodurre automaticamente modelli umani e nutrirsi di dati anch’essi generati da esseri umani (dati prevalentemente estratti e sfruttati illecitamente e senza consenso/compenso, ma qualche volta oggetto del lavoro retribuito e riconosciuto di centinaia di persone). Ciò indica che la responsabilità dell’utilizzo che si fa di queste tecnologie risiede tutt’altro che al di là della volontà e delle capacità di produttori e distributori umani. La responsabilità e il modus operandi dei modelli computazionali è umana, e non c’è nessun mito di autonomia macchinica che tenga.

Da ciò segue che il concetto di “IA” è ideologico:

L’Intelligenza Artificiale è meglio compresa come un’ideologia politica e sociale, piuttosto che come una cesta di algoritmi. Il fulcro dell’ideologia è che un insieme di tecnologie, sviluppate da una ristretta élite tecnologica, può e dovrebbe diventare autonoma da – e in fine rimpiazzare, piuttosto che completare – non solo alcuni individui umani, ma molta dell’umanità. Dato che ogni sostituzione del genere è un miraggio, questa ideologia ha forti risonanze con altre ideologie storiche, come la tecnocrazia e le forme di socialismo a pianificazione centralizzata.

Se l’”IA” è più che marketing, allora dovrebbe essere meglio compresa come una di un numero di filosofie in competizione che possono dirigere il nostro pensare a proposito della natura e dell’uso della computazione.

L’IA come tecnologia?

Che ne resta, dunque, dell’IA “come tecnologia”? Dire “nulla” non sembrerebbe del tutto onesto e appropriato. Ci sono svariate tecnologie, alcune delle quali già novecentesche e solo recentemente comprese nel più puro potenziale, che vanno sotto i nomi (anch’essi, sicuramente, non privi di iperbole) di “machine learning”, “deep learning”, “face recognition”, e ci sono poi i fenomeni evidenti dei “Big Data”, della centralità del “data mining”, fino ad arrivare al “brain imaging”, alle nanotecnologie, alle tecnologie spaziali, agli algoritmi logistici, etc.

Tutto ciò è un “fatto”. Ciò che è “mito”, di contrasto, è la retorica di guru, pseudo-divulgatori e CEO che vogliono far passare la tecnica (ripeto: strabiliante) per “intelligenza”, l’efficienza per “creatività”, la strumentalità per “agency”. Se poi, un giorno – e diamo sicuramente tutte le ragioni del caso sia a scettici che a entusiasti ­– si potrà parlare di Singolarità Tecnologica e di Intelligenza Artificiale in un modo che preservi l’essenza, la rigorosità e la profondità di concetti come “intelligenza” e “creatività”, allora, quel giorno, si potrà parlare di “IA come tecnologia”.

Cosa resta da pensare, invece, nel nostro contemporaneo? Non mancano di certo gli articoli, i manifesti, gli interventi e le invettive che, sotto ogni forma di medium, propongono un gran numero di “sfide” da affrontare nell’epoca dell’automazione computazionale e delle grandi quantità di dati. Emergono poi, non secondariamente, come ricordato appena qui sopra, questioni epistemologiche e filosofiche più propriamente definitorie rispetto ai fenomeni in questione e all’utilizzo di certe parole.

Ciò che tuttavia sembra assumere più di ogni altra questione dei tratti di urgenza estrema, non procrastinabile, è la questione sulle policy, sulle leggi e sulle limitazioni riguardanti lo sviluppo industriale e di mercato di certe tecnologie utilizzate a fini di profitto. Fin ora, se di Intelligenza Artificiale vogliamo parlare, non c’è stato uno sviluppo dell’IA che non sia stato completamente assorbito in una rete di profitti miliardari, interessi lobbistici e strategie militari. L’IA che conosciamo è profondamente inglobata nel presente sistema socio-economico, con tutte le sue contraddizioni e ingiustizie, e nelle manifestazioni più varie di politica nazionale e globale, che spesso implicano sperequazioni e guerre. Essa è stata utile a servire certe strategie di controllo e sfruttamento che, grazie soprattutto all’elusività di certe tecnologie, sono passate troppo spesso, disastrosamente, inosservate. Basta leggere uno dei grandi libri del nostro tempo, Il capitalismo della sorveglianza di Shoshana Zuboff, per scoprire storia, dati, documenti e riflessioni su queste cyber-ingiustizie.

La questione “politica”, insomma, riguardante l’utilizzo che viene fatto dei nostri dati, le minacce alla democrazia à la Cambridge Analytica e moltissime altre questioni, sembra avere un particolare elemento di urgenza. Ricordiamo dunque che sull’IA abbiamo più domande che certezze, più fatti che principi mitologici, e che più grande e impressionante è il concetto, più grande e spaventosa può essere la minaccia.