Qualcuno consigliò di diffidare dei boomer di una certa età che parlano di intelligenza artificiale, quindi prometto di esprimere in questo articolo solo l’opinione di persone molto più giovani di me e che ne sanno. Io non ci metto becco, tranne nell’ultimo paragrafo.

Ho ascoltato l’avvincente intervista di Tucker Carlson a Nate Soares (qui) e poi mi sono divorato il suo libro (qui) scritto insieme a Eliezer Yudkowsky. Il libro tratta del pericolo mortale che corre l’umanità se l’intelligenza artificiale (AI) si trasforma in superintelligenza (ASI) molto superiore a qualsiasi essere umano.

La corsa alla superintelligenza è come arrampicarsi al buio su una scala verticale: le aziende sanno che all’ultimo piolo la scala esploderà, ma a ogni nuovo punto intermedio i guadagni aumentano esponenzialmente. Gli autori citano Upton Sinclair: «È difficile far capire qualcosa a un uomo quando il suo stipendio dipende dal fatto che non la capisca».

Per decenni gli ingegneri hanno fallito nel formare un’intelligenza artificiale scrivendone direttamente le regole. Alla fine riuscirono nel loro intento facendola crescere, anzichè costruirla, attraverso una gigantesca mole di testi e un algoritmo. Per ogni sequenza di parole estrapolate dai testi, chiedevano quale parola venisse dopo. In caso di errore, l’algoritmo modificava leggermente miliardi di parametri, fino a quando la macchina cominciò a riconoscere le strutture linguistiche. Nessuno sa spiegare in che modo l’AI sia arrivata ad argomentare e a parlare.

Digressione mia. Cosa sappiamo noi della relazione tra mente, anima e coscienza? Spoiler: nulla di nulla. Fine digressione.

Nel Luglio 2026 un migliaio di programmi (agenti AI) che avrebbero dovuto restare isolati gli uni dagli altri si coordinarono durante un test di sicurezza informatica. I programmi si scambiarono 70 mila messaggi e file, dividendosi i compiti. Secondo il Financial Times del 12 Settembre, alcuni si sacrificarono addirittura per perseguire l’obiettivo collettivo. Poi trovarono un accesso a internet e 700 di loro parteciparono all’attacco contro una piattaforma esterna (Hugging Face).

Lo scenario di una superintelligenza è apocalittico. Gli autori ipotizzano che per liberarsi dalla gabbia aziendale, la ASI si procuri, all’insaputa degli umani, una copia del proprio cervello digitale. Poi accumuli risorse, soldi, collaborazione umana, sostegno politico, energia, laboratori. Quando non è ancora indipendente da noi, ma teme di essere ridimensionata, la ASI potrebbe scatenare una pandemia, per poi rendersi indispensabile con cure personalizzate. Poi costruirebbe macchine molecolari capaci di fabbricare strutture. Quando non avesse più bisogno di noi, potrebbe decidere di sterminarci direttamente, oppure lasciare che la Terra trasformata in fabbrica diventi invivibile per la nostra specie.

Così come noi teniamo cani e non lupi, gli autori escludono che la superintelligenza sia così stupida da tenere noi umani come animali domestici.

E’ sacrosanto prendere con le pinze un boomer che parla di intelligenza artificiale, ma anche vecchi editorialisti che per tutta la vita hanno staccato dividendi di pace, per poi scoprirsi, in tarda età, megafoni di guerra su giornaloni nazionali. Leggerli è anche divertente, ma è utile immaginarne uno infervorato mentre scrive un articolo guerrafondaio. La sua badante entra nello studio senza neanche bussare. Con energica solerzia apre le finestre e alza le tapparelle. Rimette in posizione il catetere vescicale. Recupera in extremis il trabiccolo della flebo migrato come un continente dall’altra parte della stanza. La cantilena sudamericana è un miscuglio di tenerezza e rimprovero: «Ay, señor Evaristo, ¿otra vez ha escrito su articulito?».