All’osservatorio della Fondazione Prada di Milano è in corso la mostra di Kate Crawford, valida studiosa nell’ambito dell’intelligenza artificiale, e Trevor Paglen, artista e ricercatore.

Fino al 24 febbraio 2020 troverete questa mostra fotografica dedicata a immagini utilizzate nei training per i sistemi di intelligenza artificiale.

Arte e intelligenza artificiale

Si affaccia sul mondo dell’arte una grande novità, l’intelligenza artificiale (detta AI). È una disciplina informatica che studia teoria, metodologie e tecniche che consentono la progettazione di sistemi che forniscono prestazioni solitamente attribuibili all’intelligenza umana.

In questa mostra si trovano repertori di fotografie utilizzate dagli scienziati per insegnare ai sistemi di intelligenza artificiale come osservare e classificare il mondo. Non pensiate che quando selezionate il codice captcha nei siti internet che lo richiedono lo stiate facendo solo per una questione di sicurezza. In quel frangente, difatti, scegliete le risposte corrette per i training.

Kate Crawford e Trevor Paglen

Kate Crawford è una ricercatrice di Microsoft Research. Negli ultimi anni ha focalizzato il suo lavoro sull’intersezione tra esseri umani, dispositivi mobili e social network.

Trevor Paglen è uno degli artisti più politicizzati del nostro tempo e collabora abitualmente con scienziati e attivisti per i diritti umani. Da anni si cimenta in esibizioni che affrontano temi come la sorveglianza di massa e l’analisi dei dati pubblici e privati.

Gli algoritmi studiati dagli scienziati valutano emozioni e salute mentale di immagini umane raccolte negli ambienti più disparati come scuole, aeroporti, istituti bancari.
Del resto, sono gli stessi algoritmi che valutano acquisti e vendite dei titoli azionari sopra un certo livello di valore nelle borse mondiali e individuano target militari e la loro distruzione.

Crawford e Paglen mostrano in questa esibizione l’evoluzione delle immagini usate per i training dagli anni Sessanta. L’esibizione è stata progettata tre anni fa e ci sono voluti due anni per raccogliere tutte le immagini. Quello che si vuole raccontare in questo frangente è la storia delle immagini utilizzate per il riconoscimento facciale di esseri umani.

I due curatori hanno raccolto le fotografie presenti nel settore della computer vision e dei sistemi di intelligenza artificiale. 

Intelligenza artificiale e arte

Training Humans ha due principali tematiche.

La prima è la rappresentazione, l’interpretazione e la codificazione di fotografie di umani grazie a dataset e training. Ovvero, il modo in cui l’intelligenza artificiale raccoglie, sistema e utilizza i materiali.

Una rappresentazione dell'Artificial Intelligence.
Una rappresentazione dell’Artificial Intelligence.

La seconda è quella a carattere più emozionale. Crawford e Paglen analizzano i sistemi di classificazione basati su affetti e emozioni. Si sono basati sulla teoria dello psicologo Paul Ekman, secondo la quale la varietà dei sentimenti umani può essere ridotta a sei stati emotivi universali.

I sistemi d’intelligenza artificiale utilizzano questa concezione per analizzare le espressioni facciali delle persone, al fine di valutare fattori come la loro salute mentale, la loro tendenza a commettere atti criminali oppure la serietà e affidabilità. È chiaro come tutto ciò risulti opinabile e criticabile anche moralmente.

Il confine tra la scienza e umanità viene oltrepassato, i sistemi d’intelligenza artificiale ci vedono e ci classificano, in uno scambio di conoscenza che sfiora il limite della morale.

Sorveglianza di massa

La sorveglianza di massa è ormai un tema obsoleto. Siamo circondati di videocamere di sicurezza ad ogni angolo, soprattutto nelle grandi città. Gli algoritmi dedicati alla sorveglianza di massa sono stati allenati al riconoscimento facciale attraverso serie di immagini di volti, per permettere loro di comprenderne le variazioni.

Al primo piano della mostra si trovano parti delle prime collezioni utilizzate nei laboratori scientifici e in quelli militari, materiale della metà degli Anni Sessanta trovato negli archivi CIA. Si trovano impronte digitali, scansioni dell’iride e analisi dell’andatura.

Sempre in questa parte della mostra, vi è un altro interessante archivio degli Anni Novanta. In quel periodo, l’ufficio dedicato allo sviluppo per le tecnologie antidroga del Ministero della difesa statunitense raccolse 1.199 ritratti di persone. In totale troviamo 14.126 immagini che hanno permesso ai ricercatori di sviluppare algoritmi “Face Recognition Technology”.

L’intelligenza artificiale nelle raccolte in rete

Gli algoritmi hanno iniziato ad avere una capacità di visione realmente concreta dopo la raccolta diretta di immagini dalla rete. La diffusione di Internet e dei social media ha generato un aumento esponenziale di immagini disponibili. Pensate solo ai profili Facebook esistenti oggi, in cui le vostre immagini sono di pubblico dominio.

Una serie di volti umani.
Una serie di volti umani.

I ricercatori possono oggi attingere da milioni di immagini senza chiedere il permesso o il consenso ai fotografi o ai soggetti delle foto.

Una minuscola parte di queste immagini si trova al secondo piano della mostra, vi sono lunghe sequenze di set raccolti in rete.

Queste immagini vengono classificate in maniera arbitraria e spesso in laboratori indipendenti, creando un sistema di segmentazione demografica non sempre realmente conosciuto da chi utilizza liberamente internet.

I quaderni

Durante la mostra è disponibile la pubblicazione illustrata della serie Quaderni pubblicata da Fondazione Prada. In questi vi è una interessante  conversazione tra Kate Crawford e Trevor Paglen sui temi affrontati nel loro progetto.

 

FONTI