IMG_2347Questo è il capitolo introduttivo del libretto “Anche i robot voglio essere felici” scritto da me e in edicola domani (giovedì 6) con Il Giornale a 2,50 euro più il prezzo del quotidiano. Accorrete numerosi…

Joshua Green, neuroscienziato di stanza ad Harvard, fece uno studio sulle capacità di decisione del cervello umano ponendo ad alcune persone un quesito riguardante la corsa impazzita di un tram sui binari di una strada in discesa. Nel primo caso la situazione era la seguente:

Siete l’autista di un tram fuori controllo, i freni sono rotti, siete a tutta velocità davanti a un bivio. Se non fate nulla il tram resterà sulla strada davanti a voi e travolgerà 5 addetti alla manutenzione che stanno lavorando e che moriranno tutti. Se sterzerete a destra finirete su un binario dove l’addetto presente è solo uno, anche lui destinato a morte certa. Cosa farete?

Il secondo caso invece era simile ma con una variabile in più:

Siete su un cavalcavia sopra i binari del tram, dove un mezzo sta scendendo all’impazzata e senza freni. Senza alcun intervento finirà per travolgere e uccidere i 5 operai al lavoro. Con voi c’è un uomo grande e grosso che sta osservando la scena sporgendosi dalla balaustra del cavalcavia: spingendolo giù siete certi che la sua mole sarà in grado di fermare il tram, ma anche che morirà pur salvando la vita agli operai. Che fate?

I due quesiti, seppur assurdi, partono da uno stesso finale: la possibilità di salvare 5 vite con la certezza di perderne una, ed in teoria il risultato del test avrebbe dovuto essere quantomeno simile. Come riporta il libro Come decidiamo di Jonah Leher, ovviamente non fu così: nel primo caso il 95 per cento delle persone rispose a Green che avrebbe deviato il tram utilizzando il calcolo favorevole di probabilità. Nel secondo caso praticamente nessuno decise che fosse meglio uccidere un uomo per salvarne cinque, nonostante le stesse premesse della vicenda. Green ovviamente si aspettava queste risposte: il cervello umano non è solo un insieme di impulsi elettrici, ma una continua lotta tra ragione e sentimento, dove anche la morale impone di deviare il pensiero logico. Uccidere direttamente una persona è sbagliato, anche per salvarne cinque. Deviare un mezzo è solo un’operazione indiretta: è il tram che uccide l’uomo, è un uomo che ne salva cinque. Almeno nella nostra testa.
Lo stesso test, nella forma se non nella sostanza, è in mano ai sei piloti che Apple sta utilizzando per testare il suo sistema di guida autonoma da impiantare nelle auto del prossimo futuro. Nel manuale consegnato ai tecnici che devono osservare le reazioni della macchina agli imprevisti, ce n’è uno che ricorda quello del tram. E che può essere riassunto così:

L’auto a guida autonoma sta percorrendo una strada stretta, in prossimità dell’incrocio un gruppo di persone improvvisamente attraversa la strada sulle strisce pedonali. A questo punto frenare in tempo è impossibile, il “cervello” dell’automobile dopo un veloce calcolo capisce di avere solo due possibilità: travolgere le persone sulle strisce o virare a sinistra verso un muro portando a morte certa il passeggero a bordo. Quel passeggero per la cui sicurezza primaria è nato il concetto di guida autonoma. Che farà la macchina?

A questa domanda non c’è ancora risposta, i test sono in corso. Cosa deciderà, appunto, la macchina? Qui non c’è lotta tra logica e morale, in un’intelligenza artificiale c’è solo calcolo. Eppure: può un robot avere una coscienza, e soprattutto una crisi di coscienza? L’esito del test deciderà il futuro delle prossime generazioni. Anche quello dell’economia, della politica e di tutto ciò che siamo. Della nostra vita.

Tag: , , , ,