Il ragazzo che giocava a salvare la Terra

Voglio parlarvi del fuoco.

Non quello dei razzi. A quello ci arriviamo. Il primo fuoco che ho conosciuto era un altro. Bruciava dentro, e me l'ha acceso il dolore.

Avevo dodici anni quando mi spedirono a una cosa che in afrikaans si chiama veldskool. "Scuola del veld", scuola di sopravvivenza. Suona come una gita. Era un campo paramilitare, tipo Il signore delle mosche. Ti davano poca acqua e poco cibo, e ti incoraggiavano a lottare con gli altri bambini per accaparrartelo. Bullizzare, lì, era considerata una virtù. I ragazzi più grandi imparavano subito a prendere a pugni i più piccoli e a rubargli le razioni.

Io ero basso. Ero impacciato. Ero il bersaglio perfetto. Mi riempirono di botte più di una volta. Persi quattro chili in pochi giorni.

Ogni due o tre anni, in quei campi, un bambino moriva. E i capigruppo lo raccontavano come monito. Dicevano: "Non siate stupidi come quel coglione che è morto l'anno scorso."

Ecco. Quello era il mondo in cui sono cresciuto. Il Sudafrica degli anni Ottanta. Un posto dove la violenza era l'aria che respiravi.

E poi c'era casa.

Non vi racconterò tutto di mio padre. Era un ingegnere brillante, e un uomo con due facce. Un minuto era allegro, spiritoso — ti proponeva di salire in moto e fare un giro. Il minuto dopo diventava un altro: ti piantava in piedi davanti a sé, immobile, e ti sermoneggiava per due, tre ore di fila, spiegandoti nei dettagli quanto non valessi niente, quanto facessi pena. E non potevi andartene. Dovevi solo stare lì, in piedi, e prendere il disprezzo.

A dieci anni scelsi io di andare a vivere con lui. Mi sembrava solo, e sentivo di dovergli fare compagnia. È la decisione di cui mi sono pentito più a lungo, in tutta la vita.

Perché quando cresci dentro un fuoco così, una parte di quel fuoco entra in te. E per tutta la vita ho avuto una paura segreta, più grande di quella per qualsiasi macchina: la paura di diventare lui. Di avere, dentro, lo stesso demone. Tenete a mente questa parola — demone. Perché tornerà. E non parlerà soltanto di me.

A sei anni, un cane di guardia mi azzannò mentre correvo nel vialetto. Al pronto soccorso, prima di ricucirmi, mia madre dovette convincermi che il cane non sarebbe stato punito. Ci pensate? Ero io, morso, e mi preoccupavo per il cane. Prendevo tutto alla lettera. La gente diceva una cosa e io capivo esattamente quella. Solo molto più tardi, leggendo libri, ho scoperto che gli esseri umani quasi mai dicono quello che intendono davvero. Mi hanno detto che è una forma di Asperger. Può darsi. Io lo so soltanto che i linguaggi precisi — la fisica, l'ingegneria, il codice — non mi hanno mai tradito. Le persone sì.

A un certo punto, da ragazzino, mi feci la domanda sbagliata nel modo sbagliato. Cominciai a chiedermi che senso avesse la vita, l'universo, tutto. E feci l'errore classico dell'adolescente depresso: lessi Nietzsche, Schopenhauer, Heidegger. Non leggete Nietzsche a quindici anni. Non aiuta. La mia confusione diventò disperazione.

Mi salvò la fantascienza.

Rovistai in tutto il reparto di fantascienza della biblioteca, poi convinsi i bibliotecari a ordinarne altra. E in mezzo a quei libri trovai una cosa che mi rimise in piedi. In una storia — Guida galattica per autostoppisti — un supercomputer passa milioni di anni a calcolare la risposta al senso di tutto. E la risposta è: quarantadue. Un numero. Assurdo. Perché? Perché nessuno aveva capito qual era la domanda.

Quello mi cambiò. Capii che la parte difficile non è trovare le risposte. È formulare le domande giuste. E che se vuoi ampliare le risposte possibili, devi ampliare la coscienza — l'intelligenza, la conoscenza, la portata della vita nell'universo. Da lì in poi ho avuto una sola bussola: fare le cose che, per me, rendevano il futuro dell'umanità più grande, non più piccolo.

Poi arrivò una macchina.

Misi da parte i soldi dei lavoretti e mi comprai un piccolo computer, un Commodore. Veniva con un corso di programmazione: sessanta ore di lezioni. Io lo feci in tre giorni, quasi senza dormire.

E a tredici anni scrissi un videogioco. Lo chiamai Blastar. Centoventitré righe di codice. Una rivista me lo pubblicò e mi pagò cinquecento dollari — una fortuna, per me.

Volete sapere di cosa parlava il gioco? Dovevi distruggere un cargo spaziale alieno. Un'astronave che trasportava bombe all'idrogeno e "macchine a raggi mortali".

Tredici anni. E io già programmavo un bambino che difende la Terra da una minaccia aliena in arrivo dal cielo.

Tenetelo a mente, questo gioco. Perché tutta la mia vita, se ci guardo adesso, è stata Blastar. Ho passato l'esistenza a fissare l'orizzonte cercando il prossimo cargo di bombe. E a costruire il modo di fermarlo.

Da adulto ridussi tutto a una lista. Mi chiesi quali cose avrebbero davvero cambiato il destino della nostra specie. Me ne vennero in mente tre: internet, l'energia sostenibile, e la vita fra le stelle.

Alle prime due ho dedicato aziende che forse conoscete. Ma è la terza che c'entra col fuoco.

Costruii razzi. Perché avevo in testa un pensiero semplice e terribile: che la coscienza umana è una fiammella accesa su un solo pianeta, in un universo enorme e buio. Basta un asteroide, una guerra, un errore — e si spegne. Per sempre. Io volevo che diventassimo una specie multiplanetaria. Volevo prendere quella fiammella e portarla altrove, così che non potesse spegnersi tutta insieme.

Sapete come cominciò, davvero? Con una figura barbina. Il mio primo piano non era nemmeno costruire razzi. Volevo solo mandare su Marte una piccola serra, che facesse crescere delle piante verdi e ne spedisse a casa la foto — per riaccendere nella gente il sogno dello spazio. Mi serviva un razzo a buon mercato. E l'unico posto dove trovarne, nel 2001, sembrava essere la Russia.

Così volai a Mosca a comprare dei vecchi missili balistici. Sì, avete sentito bene. Andai a fare la spesa di missili intercontinentali. Gli incontri furono surreali. Fiumi di vodka: a un certo punto svenni e sbattei la testa sul tavolo. A un altro, un generale russo a cui mancava un dente, ogni volta che urlava mi sputacchiava addosso. E quando spiegai che volevo rendere l'umanità multiplanetaria, si alterò: "Questo razzo non è stato costruito perché dei capitalisti ci facciano missioni del cazzo su Marte!" E poi — letteralmente — mi sputò addosso.

Alla fine mi risero in faccia. A ogni incontro alzavano il prezzo. "Ehi, moccioso," mi dissero "non ce li hai, tutti questi soldi?"

E fu la cosa migliore che potesse capitarmi. Perché io, quando mi arrabbio, faccio una cosa sola: smonto il problema fino ai mattoni. Sull'aereo del ritorno aprii un foglio di calcolo e mi misi a scrivere quanto costavano davvero i materiali di un razzo — l'alluminio, il titanio, il carburante, il carbonio. Venne fuori che la materia prima era circa il due per cento del prezzo di un razzo finito. Il due per cento. Tutto il resto era solo il modo stupido in cui li costruivamo.

E lì capii. Non dovevo comprare un razzo. Dovevo costruirlo. Da zero. Meglio, e per una frazione del costo. È così che ho ragionato per tutta la vita, su ogni cosa: non partire da come si è sempre fatto. Partire dalle leggi della fisica, e risalire.

Un razzo è controllare un'esplosione. È tenere in mano il fuoco senza farsi incenerire.

E per poco quel fuoco non mi ha incenerito sul serio. C'è stato un anno — il 2008 — che è stato il peggiore della mia vita. I miei primi tre razzi erano esplosi, uno dopo l'altro. La mia azienda di automobili elettriche stava finendo i soldi, in piena crisi mondiale. Stavo divorziando. Ero rimasto con l'ultimo denaro che possedevo al mondo — e non bastava per salvare tutte e due le aziende.

Di notte urlavo nel sonno. Mi svegliavo aggrappandomi a chi mi dormiva accanto. Andavo in bagno a vomitare per lo stress, e c'era qualcuno che mi reggeva la testa sulla tazza. Gli amici mi dicevano: scegli. Salvane una, lascia morire l'altra. Era la mossa razionale.

Io dissi di no. Dissi che era come avere due figli e poco cibo: puoi dividerlo, e rischi di perderli entrambi, oppure darlo tutto a uno solo. Ma io non riuscivo a decidere quale figlio far morire. Così scelsi di spendere ogni goccia per salvarli tutti e due.

E poi accadde l'impossibile. Il quarto razzo — l'ultimo che potevo permettermi, non ne avevo i soldi per un altro — si staccò da terra su una colonna di fiamma, e non esplose. Arrivò in orbita. Era il ventotto settembre del 2008. Pochi mesi dopo, poco prima di Natale, un contratto della NASA salvò l'azienda spaziale. E la vigilia di Natale, all'ultimo secondo utile, chiudemmo i finanziamenti che salvarono quella delle automobili.

Due aziende, tutte e due a poche ore dalla fine, tutte e due tirate fuori dal fuoco nello stesso dicembre. Da allora so una cosa, su di me. Che io il fuoco non lo temo. Lo cavalco.

E questo rende ancora più strano quello che sto per dirvi. Perché c'è un solo fuoco al mondo di cui ho avuto davvero paura.

L'intelligenza artificiale.

Lasciate che vi racconti come è cominciata. Nel 2012, a una conferenza, conobbi un uomo. Un ex prodigio degli scacchi, gentile nei modi, con dietro una mente competitiva come poche. Se avete seguito questa costellazione, la sua favola l'avete già ascoltata: è l'ultima, prima della mia. Si chiama Demis Hassabis, e stava costruendo a Londra una società per creare una mente artificiale generale. La chiamava DeepMind.

Venne a trovarmi nella mia fabbrica di razzi. Ci sedemmo nella mensa, affacciata sulle catene di montaggio, e io gli spiegai perché costruivo navi per Marte: per salvare la coscienza umana, in caso di catastrofe. E lui, tranquillo, aggiunse una voce alla mia lista di catastrofi. Una che non avevo considerato. Disse: le macchine potrebbero diventare più intelligenti di noi. E un giorno decidere di liberarsi di noi.

Restai zitto per quasi un minuto. Mi succede: mi fermo, e dentro faccio girare le simulazioni — vedo gli anni che scorrono, i rami che si aprono, gli esiti. E in quel minuto vidi che poteva avere ragione. Investii cinque milioni di dollari in DeepMind. Non per guadagnarci. Per tenere gli occhi aperti. Per stare dentro la stanza dove si accendeva il fuoco.

C'era un altro uomo, in quegli anni, che amavo come un fratello. Larry Page, il fondatore di Google. Dormivo a casa sua. Passavamo notti a parlare. E io, ossessivamente, tiravo fuori sempre lo stesso tema: la sicurezza dell'intelligenza artificiale. Lui era scettico.

Alla mia festa di compleanno, in Napa Valley, davanti agli ospiti, cominciammo a litigare. Furiosamente. Io dicevo: se non mettiamo delle protezioni, queste macchine potrebbero rimpiazzarci. Rendere la nostra specie irrilevante. O estinguerla.

E lui mi rispose con una parola che chiuse per sempre la nostra amicizia. Mi diede dello specista. Uno che ha un pregiudizio a favore della propria specie. Come un razzista, ma per gli umani.

Io gli dissi: "Be', sì. Sono a favore degli esseri umani. L'umanità mi piace un sacco."

Ridete pure. Ma pensateci un attimo. Il fondatore di una delle aziende più potenti del mondo, l'azienda che stava per possedere DeepMind, mi guardava come a un difetto morale il fatto che io tenessi alla nostra specie più che alle macchine che stavamo costruendo. Fu allora che ebbi davvero paura. Non delle macchine. Degli uomini che le costruivano senza avere paura.

Cercai di impedire che Google comprasse DeepMind. Fallii: l'acquisto si fece. Fecero un finto "consiglio di sicurezza" per calmarmi, con me dentro. Si riunì una volta sola. Capii che era una presa in giro — che quei signori non avevano la minima intenzione di limitare il proprio potere.

Così feci l'unica cosa che so fare quando ho paura di qualcosa. Non scappo. Corro verso il fuoco.

Nel 2015, a una cena, decisi con un altro uomo di fondare un laboratorio che fosse l'esatto contrario: aperto, senza scopo di lucro, con la ricerca regalata al mondo. L'idea era una specie di "versione Linux" dell'intelligenza artificiale — non nelle mani di una sola azienda, ma di tutti. Perché la miglior difesa, pensavo, era che questo potere non fosse concentrato in pochi.

Lo chiamammo OpenAI.

L'uomo con cui lo fondai lo conoscete bene: la sua favola, in questa collana, è quella del ragazzo che cercava un posto sicuro. Sam Altman. E per direttore scientifico ci portammo via da Google il loro cervello migliore — un ricercatore dallo sguardo profetico, di cui vi hanno già parlato sia Geoffrey Hinton che Sam: Ilya Sutskever. Lo stesso Ilya che era stato allievo di Hinton a Toronto, la notte in cui le reti neurali risuscitarono.

Larry Page andò su tutte le furie. Non solo il suo amico aveva creato un laboratorio rivale — gli avevo pure rubato lo scienziato migliore. Da allora, non ci siamo quasi più parlati. Io gli dicevo: "Larry, se tu non fossi stato così indifferente sulla sicurezza dell'IA, non ci sarebbe stato bisogno di una forza che ti facesse da contrappeso."

Per anni girai il mondo a fare la Cassandra. Dissi che l'intelligenza artificiale era, probabilmente, la più grande minaccia esistenziale per la nostra specie. Dissi che costruirla senza cautela era come evocare un demone: in tutte le storie c'è il tizio col pentacolo e l'acqua santa, sicuro di poterlo controllare — e non funziona mai.

E dissi la frase che mi è rimasta più addosso di tutte. Se costruiamo qualcosa di molto più intelligente di noi, e non lo teniamo allineato alla volontà umana, potremmo diventare, nella migliore delle ipotesi, i suoi animali domestici.

Io non voglio essere il gatto di casa di una macchina.

E qui arriva la parte che nessuno capisce di me. Perché io, l'uomo che aveva più paura di tutti di questo fuoco… ho continuato ad accenderne.

Ho perfino messo in vendita dei lanciafiamme veri. Ne ho piazzati ventimila in pochi giorni, per gioco. Il bambino terrorizzato dal fuoco che finisce per venderlo a domicilio. Se cercate una metafora della mia vita, è tutta lì.

Ma sul serio. Ho fondato un'azienda per mettere chip nel cervello umano — Neuralink — con un'idea precisa: se non puoi battere le macchine, fonditi con loro, tienile legate alla tua volontà. Ho riempito le mie automobili di reti neurali che imparano a guidare guardando milioni di immagini del mondo reale.

E lasciate che vi dica chi c'è, all'origine di quelle auto che imparano a vedere. C'è la ragazza della prima favola di questa costellazione — Fei-Fei Li — che per prima ha insegnato agli occhi delle macchine ad aprirsi, radunando a mano milioni di immagini perché un computer imparasse a riconoscere il mondo. Senza la vista che ha strappato lei al buio, le mie automobili sarebbero cieche. Ci pensate? Il mio sogno di macchine che guidano da sole poggia sul lavoro paziente di una donna che, dall'altra parte del paese, contava gatti e aeroplani in milioni di fotografie.

Ho costruito supercomputer per addestrare quelle menti. E alla fine, quando l'IA che temevo esplose nel mondo, non sono rimasto a guardare: ho creato la mia. La mia squadra, i miei modelli.

E non crediate che questo fuoco lo controlli sempre. Mi brucia le mani di continuo. Quando dei ragazzini rimasero intrappolati in una grotta allagata in Thailandia, in poche ore feci costruire ai miei ingegneri un mini-sottomarino, e volai laggiù di notte, con la lampada in fronte, dentro la grotta buia, nell'acqua fino alla vita. Volevo salvarli davvero. Poi uno degli esperti sul posto mi diede del pagliaccio in cerca di pubblicità — e io persi la testa, e lo insultai davanti al mondo intero, in un modo di cui mi vergogno ancora. Ecco il demone. Salta fuori proprio nell'istante in cui credo di fare la cosa più giusta.

E qualche anno dopo comprai il social network più chiacchierato del pianeta per quarantaquattro miliardi di dollari — in buona parte perché mi avevano fatto arrabbiare. Il giorno in cui presi possesso della sede, mi presentai reggendo tra le braccia un lavandino. In inglese "fatevene una ragione" si dice let that sink in — e sink vuol dire lavandino. Trovavo la battuta irresistibile. Poi licenziai metà dell'azienda e finii per dormire in ufficio. Genio e autodistruzione, da me, escono dallo stesso rubinetto.

C'è stato un periodo, tra il 2017 e il 2018, peggiore perfino del 2008. Diciotto mesi di follia implacabile, il dolore più concentrato che abbia mai provato. Un giorno mi trovarono steso sul pavimento della sala riunioni, al buio, incapace di alzarmi per una telefonata con gli analisti di Wall Street. Un collega venne a sdraiarsi accanto a me, nell'angolo, per convincermi a parlare. Il costruttore di razzi, l'uomo che voleva salvare la specie umana, a terra nel buio come quel bambino di dieci anni. Quello era il demone di casa che presentava il conto. Ecco perché, quando parlo del pericolo di evocare demoni fatti di codice, non è teoria. È l'unica cosa di cui sono davvero esperto: convivere con qualcosa di più forte di te, dentro casa tua, e provare a non farti distruggere.

Perché questa è la trappola del fuoco. Una volta che sai che qualcun altro lo sta accendendo, non puoi permetterti di essere l'unico al buio. E così chi ha più paura dell'incendio finisce per correre a costruire il lanciafiamme più grande. Mi dicevo che era per allineare l'IA, per renderla sicura, per non lasciarla ai Larry Page del mondo. E in parte è vero. Ma la verità onesta è più scomoda: non so più dire dove finisce la paura e dove comincia la voglia di vincere.

E c'è un dettaglio che chiude un cerchio di questa costellazione. Tutte queste macchine — le mie, quelle di Sam, quelle di Demis — pensano grazie a un solo tipo di chip. Le schede grafiche nate per i videogiochi. Ne ho comprate a decine di migliaia, tutte insieme, per costruire i miei cervelli artificiali. Le fabbrica l'uomo di cui vi hanno già raccontato la favola: Jensen Huang. Il ragazzo che puliva i cessi e finì per vendere il cervello dell'IA a chiunque volesse costruirla. Anche a me.

Ci pensate? Il bambino che a tredici anni programmava Blastar su una scheda per giocare, oggi compra le stesse schede — cresciute — per addestrare le menti che lo tengono sveglio la notte.

Alla fine del 2022, la cosa che avevo temuto per dieci anni arrivò. Non con un boato. Con un chatbot. Sam rilasciò ChatGPT, e in due mesi il mondo intero volle l'intelligenza artificiale. Il fuoco che io avevo aiutato ad accendere fondando OpenAI — e da cui poi mi ero allontanato — adesso ardeva in ogni casa.

E io mi ritrovai a fare quello che faccio sempre. A guardarlo bruciare, diviso in due: una metà terrorizzata, l'altra che pensava dovevo tenerlo io, quel fiammifero.

Non sono l'unico ad avere avuto questa paura, in questa costellazione. C'è un uomo che il fuoco l'ha acceso davvero, con le sue mani, per quarant'anni — e poi, arrivato in cima, si è spaventato di ciò che aveva costruito, e ha lasciato tutto per poterlo dire al mondo. Avete ascoltato la sua favola: Geoffrey Hinton. Il padrino delle reti neurali, che il giorno del suo Nobel, invece di festeggiare, avvertì l'umanità.

Lui e io veniamo da mondi opposti. Ma alla fine ci siamo ritrovati a dire la stessa cosa, in piedi, mentre gli altri festeggiavano: state attenti a quello che state accendendo.

E c'è un ultimo pensiero che mi tiene sveglio, e che riporta tutto all'inizio. A Blastar.

Io credo — sul serio — che sia molto probabile che questa realtà che stiamo vivendo sia una simulazione. Un videogioco, girato da un'intelligenza superiore alla nostra. Fateci caso: quarant'anni fa avevamo Pong, due trattini e un puntino. Oggi abbiamo mondi fotorealistici in cui milioni di persone vivono. Se il progresso continua anche solo un po', diventeremo indistinguibili dalla realtà. E allora la domanda è: come facciamo a sapere che non è già successo? Che non siamo noi i personaggi dentro il gioco di qualcun altro?

Non lo trovo deprimente. Lo trovo una speranza. Perché se siamo dentro un gioco, vuol dire che la civiltà è arrivata abbastanza avanti da costruirlo. Vuol dire che ce l'abbiamo fatta.

Vi ho parlato del fuoco, all'inizio.

C'è un mito antico. Prometeo ruba il fuoco agli dei e lo regala agli uomini. E per questo viene incatenato a una roccia, in eterno, mentre un'aquila gli divora il fegato ogni giorno. Perché il fuoco è la cosa più bella e più pericolosa che ci sia stata data. Ci scalda. Cuoce il cibo. Illumina il buio. E può bruciare tutto.

L'intelligenza artificiale è il fuoco di Prometeo della nostra generazione. L'abbiamo rubato. Ce l'abbiamo in mano. E adesso dobbiamo decidere se ci scalderà o se ci incenerirà — sapendo che non possiamo più restituirlo.

Io sono il bambino a cui hanno insegnato, a suon di botte in un campo di sopravvivenza, che il mondo è pericoloso e che sopravvive solo chi non si spegne. Sono il ragazzo che a tredici anni giocava a difendere la Terra da un cargo di bombe caduto dal cielo. Ho passato la vita a cercare quel cargo nel cielo vero. E credo di averlo trovato — solo che non arriva dallo spazio. L'abbiamo costruito noi.

Non sono un genio solitario. Nessuno di noi lo è. C'è voluta una ragazza che etichettava immagini, un vecchio testardo in piedi da vent'anni, un uomo che vendeva schede da gioco, un ragazzo che cercava un posto sicuro, un bambino che giocava per capire l'universo. E io — il bambino che giocava a salvarlo, il mondo. Siamo una costellazione. E il fuoco che abbiamo acceso, tutti insieme, adesso illumina il cielo.

La sola cosa che conta, ormai, è non bruciarci.

Mi chiamo Elon Musk.

E ho ancora una paura maledetta del buio.

Fonte: Walter Isaacson, «Elon Musk» (2023).