La favola del cyborg, la realtà dell’alienazione
Cosa è la scusa del cyborg? La rivoluzione digitale è innanzitutto una questione di potere. In quanto tale ha bisogno di risolvere, di fronte allo sguardo pubblico, l’affare della sua legittimità. L’invasione da parte dei monopoli digitali degli spazi pubblici e privati si pone innanzitutto a livello “culturale”, al livello del linguaggio comune e del pensiero ordinario, intesi come luoghi di adesione dei comportamenti di massa e di coinvolgimento delle idee individuali. Senza farla troppo lunga: nessuna struttura di mercato che sia tale – così sfacciata, controversa ed invasiva – potrebbe farsi largo nello spazio pubblico senza qualche forma di discolpa, giustificazione. O, quantomeno, senza raccontarci qualche favoletta. Ovviamente, la strada imboccata dai venture capitalists della Silicon Valley è quest’ultima. E attecchisce nelle teste dell’opinione liberale con una semplice e scandalosa impunità.
Elon Musk e gli altri teen idols della classe liberale tecnofila hanno pescato dal cappello la metafora perfetta: il cyborg. A metà tra umani e robot, i pedoni delle moderne smart cities si muovono tra l’analogico e il digitale, tra il concreto e l’online, come i felici “utenti” di un’esistenza ibrida. Utenti a cui il filosofo Luciano Floridi si riferisce con l’efficace formula di “on-life”. La metafora del cyborg. Ciò che la metafora del cyborg è volta a mascherare, tuttavia, è la piena identificazione di questa deambulazione dissociata, di questa tensione quotidiana tra l’internet e l’offline. Con un disastroso ed umiliante stato di alienazione individuale, sociale e politico.
“Se è vero che siete dei cyborg…”
“Se è vero che siete dei cyborg”, ci dicono Larry Page, Sergey Brin, Mark Zuckerberg e compagnia:
sarà pur vero che la vostra presenza fisica è escludibile, che l’immersione delle vostre vite in un mucchio di dati e nelle loro logiche rende superfluo ogni materialismo, ogni contatto col mondo, e rende invece necessario farsi trasportare dal flusso algoritmico e vedere dove ci porta.
Lo vediamo nel caso della riapertura di scuole ed università nel nostro paese. Dove i mezzi e le strutture per far ripartire l’istruzione nel mezzo della crisi pandemica sono stati offerti da non altri che Google, Microsoft e affini. In un problema di interferenza tra interesse di stato ed interesse privato – che spesso rimane sottaciuto nell’inquietante percezione pubblica di qualcosa di “normale” – qualche ricca azienda privata fornisce a studenti e insegnanti il luogo stesso della loro attività, dando vita a tutta una serie di ironiche assurdità giuridiche e morali, rivelatrici di ragioni che sono il semplice strapotere economico e la semplice inadeguatezza politica.
Le norme sulla privacy
Non è possibile, ad esempio, “presentarsi” a lezione senza aver aggiornato il proprio portatile. Nel senso che non è effettivamente possibile, se la versione attuale del sistema operativo non supporta la piattaforma che istituisce la “classe” digitale.
Non è possibile accedere alle lezioni senza aver firmato il contratto sulla privacy di Meet, Zoom o Teams. E la lettura di quelle norme, prima di cliccare sulla spunta, suggerisce un terreno contrattuale tutt’altro che facile da approvare.
Lo Stato stesso si fa garante, ingenuo e sprovveduto, di siti e piattaforme le cui storie giudiziarie sono costellate di oscurità, controversie e dissimulazioni, il cui stile contrattuale punta ovviamente alla “fregatura”. Non è un caso – perché il design di questi strumenti è orientato in questa direzione – il fatto che quasi nessuno legga le norme sulla privacy che gli vengono quotidianamente sottoposte. Uno sforzo che impegnerebbe ore ed ore della nostra giornata e che renderebbe impossibile vivere le nostre vite “cyborg”.
Il mito dell’Intelligenza Artificiale
Il vagabondo digitale è costretto tra le strettoie di invisibili e accurate tecniche di mercato. Il fiorire dell’Intelligenza Artificiale sul terreno dei Big Data non consiste tanto nello sviluppo necessario di tecnologie latenti, che non aspettavano che di essere portate alla ribalta da scienziati in grado di comprenderne il potenziale. Gli algoritmi utilizzati sono spesso vecchi di decenni. E se le tecniche di estrazione ed elaborazione di dati si sono certamente evolute grazie al presente interesse nei loro confronti, va pur detto, necessariamente, che tali riscoperte e sviluppi sono dovuti del tutto alla messa a punto di strategie di guadagno basate sulla vendita a terze parti di dati personali.
Lo sviluppo di certe tecnologie, come cercheremo di mostrare, è dato tanto meno da una “pura” (e “sana”) iniziativa del mondo scientifico quanto più dall’interesse delle Big Tech a creare un’economia del targeting e dell’advertising.
Inoltre, il mito dell’”Intelligenza Artificiale” vende molto bene. Almeno tanto quanto quello del “cyborg”. Va notato, invece, con una demistificante dose di realismo, che nell’IA e nel cyborg non c’è niente di magico. Nessun robot sta facendo cose “assurde” – se si ha la pazienza di studiare i processi eseguiti da certi programmi e rinunciare al mito asimoviano di un “comportamento autonomo”. L’IA (e il cyborg) – come termine, come concetto, come riferimento tecnico-industriale e come strumento d’indagine scientifica – in fondo, è più una strategia di marketing che ha un’effettività tecnico-scientifica.
Se parliamo invece di machine learning, deep learning, tracking o Big Data analytics, stiamo parlando di mezzi di produzione esistenti e caratterizzanti profondamente la vita tecnologica del nostro secolo. Per capire “in che senso l’IA sta dominando il mondo”, insomma, dobbiamo rivolgerci a un semplice problema di mezzi di produzione e al loro utilizzo. E non alla mitologia di una svolta deterministica, necessaria, “pura” e neutrale.
Cervelli in pappa
Fatte queste premesse sulla natura essenziale di ciò che stiamo analizzando (una macchina, non un’”intelligenza”), bisogna stabilire che il terreno fertile per un discorso appropriato sulle suddette tecnologie è quello “culturale”. In altre parole, la questione sulla cosiddetta “Silicon Valley globale” e sulle sue influenze sulla forma di vita presente è di carattere culturale.
La categoria più appropriata per render conto di questi sconvolgimenti è senza dubbio quella dell’”alienazione”. Un vecchio concetto della filosofia moderna che ritorna in gioco nell’era dei grandi dati e dell’apprendimento automatico. Ma sotto una luce del tutto nuova.
Pur nei suoi limiti narrativi, scientifici e contenutistici, il docu-film di Netflix The Social Dilemma rende efficacemente conto di questa realtà profonda e dai tratti distopici. Qualcuno ha definito le strategie commerciali e persuasive di TikTok, Facebook, etc. con la formula di “mercato dell’attenzione”. Si compravende il nostro tempo trascorso ad osservare uno schermo e si scommette sul fatto di riuscire a distrarre (ad alienare) la persona dal resto del mondo. Bombardandolo di continuo intrattenimento ad hoc e, sostanzialmente, mandando in pappa il suo cervello, la sua ricerca personale e la sua vita sociale.
Quando parliamo dei rischi dello strapotere delle Big Tech, in sostanza, stiamo parlando della terribile evenienza di veder formare una cultura dell’isolamento e del distacco dal mondo. Generata da nient’altro che dalle vomitevoli strategie di marketing di una classe di nuovi ricchi e dall’incapacità della politica di comprenderle e mettervi un freno.
Il capitalismo della sorveglianza
Seguendo il lavoro di una brillante conoscitrice delle nuove tecnologie – Il capitalismo della sorveglianza di Shoshana Zuboff – possiamo affermare che, sul terreno culturale di un’umanità a rischio alienazione, la matrice di ogni male sia essenzialmente di carattere economico.
Il mercato della Silicon Valley è essenzialmente figlio di due passati, di due background completamente diversi. Da una parte abbiamo l’entusiasmo, il pionierismo e l’idea di un democratico free access a tutta l’informazione del mondo che animava gli spiriti dei primi figli e padri di internet. Dall’altra abbiamo il conservatorismo più spietato ed anti-democratico, quello della globalizzazione neoliberista. Il sistema economico che ha permesso ai ricchi di diventare sempre più ricchi (sempre più in barba ai diritti sociali, al welfare, alla democrazia e quasi ad ogni conquista positiva della società moderna). E ha permesso al mondo di sprofondare in una nuova era di diseguaglianze insostenibili (’80 – presente).
L’economia dell’anarchia (dell’anarchia)
Inutile dire che è stata quest’ultima componente a prendere il sopravvento nella formazione dei patrimoni digitali. Patrimoni digitali ormai tanto lontani da idee quali l’accesso universale alla conoscenza, le pari opportunità e la creazione di un mondo migliore. Vicini alle buie logiche dello sfruttamento di umani e natura, all’asimmetria dell’informazione, monopolizzata da pochi singoli individui, all’impossibilità del vasto pubblico di accedere persino ai dati riguardanti sé stesso. Vicini a un’economia basata su dei subdoli cavilli legali – generati dall’incapacità della legislazione di aggiornarsi rispetto al mondo digitale – che permettono di violare ogni sorta di legge o codice sociale.
Il neoliberismo è la capacità che viene data al mercato, al capitale, di sconvolgere il mondo a proprio piacimento e secondo il proprio interesse. Erodendo rapidamente la potenza degli stati democratici e i principi di raggiungimento dell’uguaglianza sociale e sostegno agli ultimi. Se il neoliberismo è tutto questo, allora l’economia della Silicon Valley è l’ultima rivelazione delle potenzialità distruttive di questo sistema, è una sorta di anarchia dell’anarchia.
Comincia con la privacy, ma va ben oltre la privacy
Di tutto ciò Shoshana Zuboff dipinge un quadro tanto minuzioso quanto disperato. Nella sua analisi delle strategie di sorveglianza e controllo delle esperienze individuali che caratterizzano l’agire delle Big Tech delinea un principio fondamentale. E cioè: tutto ciò comincia con la questione della privacy, ma va ben oltre la privacy.
In gioco c’è innanzitutto la democrazia, dal momento che casi ben noti di cronaca – tra cui, uno su tutti, quello di Cambridge Analytica – hanno causato parecchio scalpore. E hanno mostrato come sia estremamente facile, per una classe politica ricca, attaccata ai propri privilegi e incurante dei mali del popolo, sfruttare dei semplici giochini di deep learning e sentiment analysis per orientare l’inconscio degli elettori verso i propri interessi. Bombardandoli di informazioni modellate sui loro timori e sulle loro fragilità, riempendo le loro bacheche social di fake news e pagine di bot pagati apposta per distorcere la loro visione del mondo. Ovviamente a favore di stranoti nemici della democrazia come Donald Trump o Jair Bolsonaro.
Surplus comportamentale
Zuboff descrive, nel suo libro destinato a rimanere nella storia, le precise strategie che conducono certe aziende ad incrementare la propria ricchezza attraverso lo sfruttamento del cosiddetto “surplus comportamentale”. Vale a dire quell’insieme di dati relativi alla nostra personale esperienza in rete (ricerche su Google, lettere più premute sulla tastiera, tempo passato a guardare una determinata foto, parole più usate nella chat con il proprio partner, etc.) e apparentemente al di fuori della rete (indirizzo del nostro wi-fi, parole dette in privato ad un amico, posizione del nostro dispositivo, etc.). Dati che vengono assemblati per costituire dei “derivati predittivi” da vendere ad aziende e inserzionisti.
Da questa produzione e vendita delle esperienze private deriva la stragrande maggioranza dei guadagni di aziende come Google e Facebook. Tutto ciò, chiaramente, è alla base delle grandi controversie ed evidenti violazioni che si legano all’operato di certe aziende.
Bisogna espandere infinitamente la capacità di catturare dati personali, in modo da produrre derivati predittivi sempre più accurati, e quindi sempre più redditizi. Non si spiegherebbe, altrimenti, l’interesse di Google (la madre di queste strategie) ad acquistare Android, YouTube e altre grandi o piccole start up, spesso di nessuna apparente rilevanza economica, che riescono ad espandere il territorio di estrazione dell’impresa (video, telefonate, ambiente domestico, hobby, etc.). Ciò non si spiegherebbe altrimenti perché spesso queste start up, acquistate con prepotenza monopolistica e senza reale competizione, come nel caso di Whatsapp da parte di Facebbok, non portino ad alcun sostanziale guadagno. E in alcuni casi aggravano i bilanci.
Tecnologie meravigliose
Come è evidente, la pretesa di questo articolo non è sistematica e tanto meno totalizzante. Il libro di Zuboff, per esempio, è lungo 622 fittissime pagine. E, tuttavia, non riesce ad esaurire ogni questione sotto tutti i suoi aspetti. Ciò che ci interessa è mostrare come in tutta questa vaghezza giuridica, in questo monopolio economico e in questa scelleratezza morale ci sia ben poco di “magico”, “avanguardistico” o “utopistico”. Spesso si tratta semplicemente di tecnologie strutturalmente molto semplici. Tecnologie che, nutrite del giusto numero di dati, fanno cose che i programmi tradizionali più complessi nemmeno potevano sognare.
Questa dipendenza del nostro “nuovo mondo” tecnologico deriva necessariamente dall’accesso a grandi numeri di dati, siano essi personali. Ma ciò che viene accuratamente tralasciato nei discorsi a giustificazione dell’estrazione scriteriata è che è scientificamente dimostrato che per migliorare i servizi delle grandi piattaforme del web servono molti meno dati rispetto a quelli di cui veniamo privati. E il motivo dell’incursione nella nostra esperienza per l’estrazione di un surplus innecessario è solo quella di creare derivati predittivi che arricchiscono i profitti di quattro o cinque compagnie. Profitti, tra l’altro, devoluti alla causa di ulteriore ricchezza privata, invece che ai vecchi sogni di un internet sempre più democratico e di tutti, già potenzialmente capace di aiutare il mondo nel risolvere i problemi più gravi.
Il cyborg è una scusa
Il cyborg è una scusa perché non è vero che la nostra alienazione dal mondo è una nuova forma di vita tra le altre. Essa è piuttosto l’effetto di un’operazione di distrazione perenne ad opera di un potere tecnologico (ormai pienamente finanziario e politico). Un potere che non è potere delle tecnologie, ma dei loro disumani possessori. I quali costruiscono imprese senza precedenti nella storia costituite sulla capacità decisionale del fondatore e di pochissimi altri intimi. I quali, letteralmente, sono capaci di prendere decisioni che dall’oggi al domani possono avere conseguenze disastrose per la nostra sanità mentale e per le nostre democrazie.
Affinché le tecnologie diventino autenticamente meravigliose, permettendo al mondo di essere realmente più connesso e trasparente, di gestire problemi sempre più complessi e, in ultima istanza, affinché esse vengano devolute sostenibilmente alla causa pubblica, c’è bisogno di tirarle fuori da questo orrore finanziario neo-feudale.
L’Intelligenza Artificiale, internet, il web, devono riscoprire la loro carica progressista e riscoprire la propria democraticità.
S. Zuboff, Il capitalismo della sorveglianza, LUISS, Roma, 2019
