Filosofi al lavoro in officina. Può sembrare un accostamento bizzarro ma, ormai da diversi anni, le più avanzate aziende automobilistiche impiegano al fianco di team di ingegneri anche diversi filosofi con un compito preciso: aiutare a progettare le auto senza guidatore, che si sono dimostrate essere un vero e proprio rompicapo  tanto sul piano tecnico che su quello morale.

Questo settore innovativo nel campo dei trasporti, infatti, ha portato alla luce la necessità di risolvere diversi problemi logici e morali che sino ad oggi erano perlopiù rimasti all’interno delle aule universitarie e tra le pagine di moltissimi saggi teorici. Quando si tratta, infatti, di dover progettare a priori delle scelte che l’autoveicolo si troverà obbligato a fare, occorre studiare fino in fondo ogni possibile imprevisto, per garantire la sicurezza dei passeggeri e degli astanti. E chi meglio di filosofi e studiosi di etica possono cercare di stabilire quale possa risultare il male minore che il software intelligente dovrà scegliere in situazioni estreme?

I dilemmi morali che i filosofi si trovano a dover risolvere anticipatamente per poter insegnare all’auto come comportarsi in determinate situazioni sono sempre stati affrontati da milioni di guidatori, seppur inconsciamente e in pochi istanti. E proprio per questi motivi, le situazioni limite alla guida sono catalogate da noi come puri incidenti, disastri, momenti in cui ogni scelta presa ha una sua logica e quindi una sua giustificazione: non sarebbe più lo stesso se, invece, la scelta non fosse più una questione di riflesso istantaneo, bensì frutto di una razionale decisione a priori.

Il classico esempio di problema etico che si tenta di risolvere è il dilemma del passante, una rielaborazione che attualizza il noto problema del carrello ferroviario, così come formulato nel 1967 da Philippa Ruth Foot. Una situazione ipotetica prevede che l’auto senza conducente, trovandosi con un guasto ai freni, debba scegliere se continuare la sua corsa travolgendo dei passanti su un marciapiede oppure girare bruscamente per evitarli, rischiando di uccidere in questo caso i propri passeggeri. Le situazioni ipotizzabili sono molteplici, dall’evitare un bimbo che all’ultimo momento salta in strada piuttosto che altri possibili imprevisti. Che cosa dovrebbe fare l’automobile? Chi è giusto salvare? E voi comprereste un’auto che ha già deciso quale vita è più sacrificabile?

L’intelligenza artificiale dovrà in pochi secondi decidere quale decisione prendere e per questo diversi filosofi si stanno confrontando per trovare la risposta migliore a queste terribili domande. Tra i professori che sono al lavoro in questo campo troviamo ad esempio Nicholas Evans, docente di filosofia alla Mass Lowell University, che, assieme ad un team di ingegneri che si occupino della fattibilità delle sue idee, sta cercando di stabilire una modalità per poter tradurre in sequenze numeriche intricate scelte morali. C’è chi propone di assegnare ad ogni vita lo stesso valore, lasciando decidere alla macchina quindi di salvarne il maggior numero possibile sacrificando le altre. Chi invece sostiene che debba essere tutelata innanzitutto la salute del guidatore del mezzo e dei passeggeri. Entrambe le vie sono dolorose e lasciano la porta aperta al dubbio. Naturalmente la questione non è solo un affare di numeri. Se pure una vita valesse una vita, come distinguere un bambino da un anziano? E due uomini adulti valgono la vita di una giovane adolescente? Certo la strada per poter risolvere queste dilemmi è lastricata di difficoltà e paradossi, e il lavoro che aspetta Evans non si presenta per nulla facile.

Le situazioni ipotetiche che vengono sollevate sono innumerevoli. Il lavoro dei filosofi, infatti, non consiste solamente nel cercare difficili soluzioni eticamente accettabili ai problemi fin qui proposti, ma anche nello sviscerare dinamiche e situazioni che potrebbero essere date per banali o inutili. Forse più che concentrarsi sui veicoli occorrerebbe focalizzare l’attenzione sulle strade e sui marciapiedi, ripensando del tutto la mobilità? Oppure è auspicabile uno studio preventivo sui possibili cattivi utilizzi che verrebbero fatti delle nuove auto intelligenti? Altro che pensatori dell’astratto, i filosofi devono rispondere a fatti molto concreti.

Un ulteriore aspetto è studiato dal professor Patrick Lin dell’Università di San Luis Obispo: se anche riuscissimo a far prendere una decisione eticamente accettata alle auto, nuove questioni sarebbero pronte a lambire le nostre menti. Chi si assume la responsabilità per le scelte del veicolo? Si può “guidare” (o meglio essere guidati) in stato di ebbrezza? O ancora, come possiamo essere certi che, conoscendo come si comporterà il veicolo in una determinata situazione, nessuno tenti di adoperare a proprio vantaggio (ad esempio tentando di uccidere il conducente semplicemente parandosi davanti all’auto)  commettendo quindi reati che oggi ancora non esistono? Certo è che tentare di risolvere anche queste ipotesi diventa veramente un’impresa titanica e, forse, inutile. Infatti, come tutte le innovazioni tecnologiche hanno dimostrato, è de facto impossibile prevedere con esattezza quale sarà l’impatto fattuale delle nuove tecnologie nel mondo, soprattutto a lungo termine. Quando fu scoperta l’elettricità pochi potevano immaginare le lavatrici, ancora meno Internet, sicuramente nessuno le auto senza conducente. Il lavoro di questi pensatori può, però, farci porre le giuste domande per non trovarci un domani spiazzati davanti a ciò che ci attende.

Al Massachusetts Institute of Technology i ricercatori hanno provato a lasciare l’onere della scelta a noi, i futuri consumatori. Tramite il sito moralmachine.net è possibile rispondere ad una serie di semplici quanto angoscianti quesiti che costringono a scegliere, di volta in volta, chi sacrificare, senza che una decisione sia necessariamente giusta o sbagliata. Alla fine del test viene presentato il proprio posizionamento rispetto alla media dei partecipanti al test. È interessante notare che, in questo come in altri sondaggi, la scelta propenda spesso per salvare il maggior numero di persone possibili, sacrificando di conseguenza i passeggeri del veicolo. Eppure, chi di noi comprerebbe un’auto progettata per sacrificare i propri passeggeri in situazioni di estremo pericolo?