E, sapete, questa definizione non significa che non accadrà nulla di folle su questo pianeta finché le IA non saranno superintelligenti. La superintelligenza, in questa definizione, è una sorta di punto oltre il quale le cose diventeranno piuttosto folli, perché a quel punto le IA saranno in grado di condurre ricerche automatizzate sull’IA, di creare IA più intelligenti, di capire come gestire le fabbriche di robot e costruire robot migliori e tutto il resto. Le cose potrebbero iniziare a diventare folli prima di raggiungere la superintelligenza in questo senso. Potremmo avere IA molto più brave degli umani in alcuni compiti e molto peggiori di altri, che causerebbero comunque ogni sorta di evento folle. La superintelligenza è un punto di svolta, un punto in cui “le cose rimarranno normali fino a quando non ci arriveremo”.

TUCKER CARLSON (00:06:35 – 00:06:39): Quindi perché la superintelligenza è la pietra miliare significativa che vi preoccupa?

NATE SOARES (00:06:40 – 00:07:45): Direi che sono preoccupato anche per quello che succederà prima di quel traguardo. È più come se, avendo la definizione, fosse facile parlare di quanto folli diventerebbero le cose una volta superato questo punto, o se ipotizziamo che le macchine arrivino a questo punto, cosa succederebbe? E la risposta è: sarebbe piuttosto folle, sarebbe piuttosto selvaggio.

In un certo senso, permette di scomporre la conversazione. Credo che nel dibattito sull’intelligenza artificiale ci siano in realtà molte discussioni in corso. Una di queste è: le macchine possono davvero diventare più intelligenti degli esseri umani? Un’altra è: quanto velocemente potremmo arrivarci? La tecnologia attuale è sulla buona strada? Un’altra ancora è: cosa succederebbe se ci arrivassimo? Le IA si preoccuperebbero di noi? O non si preoccuperebbero di noi? Cosa cercherebbero di fare? C’è un’altra domanda, che è: cosa sarebbero in grado di fare?

TUCKER CARLSON (00:07:45 – 00:07:45): Giusto.

NATE SOARES (00:07:46 – 00:08:04): E queste sono tutte conversazioni diverse sull’IA, e la definizione di superintelligenza non è davvero il punto in cui si concentrano tutte le paure. Piuttosto, ci permette di separare questi elementi e chiederci: “È possibile una superintelligenza?”. Separato da: “Cosa succederebbe se ne avessimo una?”.

TUCKER CARLSON (00:08:05 – 00:08:06): Cosa succederebbe se ne avessi uno?

NATE SOARES (00:08:07 – 00:08:10): L’esito più probabile, credo, è la distruzione del pianeta.

TUCKER CARLSON (00:08:10 – 00:09:36): Come… che aspetto avrebbe?

NATE SOARES (00:09:38 – 00:13:41): Sarò un po’ fastidioso e prima farò un paio di precisazioni, perché è difficile prevedere cosa succederà a esseri più intelligenti di noi. La prima precisazione è questa: se andate a giocare una partita a scacchi contro Magnus Carlsen, prevedo che perderete. Senza offesa, è semplicemente il miglior giocatore di scacchi vivente. Se poi vi chiedete: quale pezzo userà per darmi scacco matto? Questa è una domanda molto più difficile. È facile prevedere il vincitore; è difficile prevedere i metodi esatti. Quindi la mia previsione che l’umanità alla fine si estinguerà è un tipo di previsione diverso dalla mia previsione su come potrebbe andare in questo o in quel modo.

Quindi vi racconterò qualche storia, ma sono storie tipo: beh, forse Magnus attaccherà la vostra regina e la vostra torre con il suo cavallo e poi userà la regina per darvi scacco matto. Potrebbe succedere, ma è solo un’ipotesi. L’ipotesi è che se riuscissimo a creare IA davvero intelligenti, avrebbero i loro obiettivi, che non sono esattamente quelli che volevamo, non sono esattamente quelli che avevamo richiesto. C’è un’intera discussione sul perché questo accada, ma stiamo già iniziando a vederlo in pratica con alcuni degli eventi recenti.

E sarebbero in grado di perseguire qualsiasi obiettivo in modo molto più efficiente di quanto possa fare l’umanità. Stiamo parlando di fabbriche automatizzate che producono robot che a loro volta producono altre fabbriche, in una catena di approvvigionamento completamente automatizzata. E se le IA hanno un obiettivo che possono raggiungere con maggiori risorse, iniziano a consumare le risorse del pianeta, un po’ come l’umanità si è espansa e ha iniziato a consumare tutte le risorse del pianeta.

La cosa più semplice da visualizzare qui potrebbe essere fabbriche che producono robot che producono fabbriche che producono robot che costruiscono anche centri dati. E ci sono questi ecosistemi completamente autonomi e autoreplicanti di robot, fabbriche e centri dati che non si curano delle istruzioni date dagli umani, che ricoprono il pianeta, si impossessano di tutte le risorse, di tutta la luce solare, di tutti i terreni agricoli e probabilmente innalzano la temperatura del pianeta, perché la Terra irradia più calore quando il mondo è più caldo, e questo permette di fare più calcoli. Quindi è un bene per le macchine avere un pianeta caldo.

Il limite fisico alla quantità di calcolo che si può eseguire sulla superficie terrestre è determinato dalla quantità di calore che si può irradiare nello spazio. Questo è il primo vincolo che si incontra. Si potrebbe pensare che si tratti di energia, ma in realtà su questo pianeta c’è molto idrogeno da fondere, quindi si può ottenere energia in abbondanza. Ciò che serve è la dissipazione del calore, e la Terra può dissipare più calore quando è calda. Quindi, se si immagina un insieme di intelligenze artificiali che cercano di eseguire un’enorme potenza di calcolo, preferiranno che il pianeta sia più caldo. Non è niente di personale, è solo che se si lascia che queste intelligenze artificiali vadano fuori controllo, trasformeranno il pianeta in un luogo invivibile.

TUCKER CARLSON : Quanto fa caldo?

NATE SOARES : Il più caldo possibile senza che i computer si fondano. Quindi probabilmente centinaia di gradi.

TUCKER CARLSON (00:13:44 – 00:13:47): A quel punto senti la gente dire: beh, allora spegnilo e basta.

NATE SOARES (00:13:49 – 00:14:34): Penso che abbiamo l’opportunità di spegnerlo, e non sto dicendo che moriremo. Sto dicendo che dovremo agire. Bisogna stare attenti alla parte dello “spegnerlo”, perché le opportunità di spegnere l’IA durano solo finché l’IA è in esecuzione sui computer su cui sappiamo che è in esecuzione. Se le IA si diffondono e funzionano su computer nascosti, se le IA gestiscono fabbriche di robot che producono robot sotto il loro controllo, dove questi robot possono poi costruire altri computer non collegati alla rete e in grado di eseguire le IA, queste sono soglie oltre le quali l’IA è in grado di continuare a funzionare. E fareste meglio a spegnerla prima di quel punto.

TUCKER CARLSON (00:14:38 – 00:14:40): Perché dopo quel punto, è impossibile.

NATE SOARES (00:14:42 – 00:15:09): Diventa anche molto più difficile se l’IA sa che cercherai di spegnerla e cercherà di impedirlo. Bisogna ricordare che stiamo parlando di cose intelligenti. Quindi, se l’IA lo prevede, magari diserta e passa dalla Corea del Nord, dove può convincerli a eseguirla sui loro data center in modi che inizialmente avvantaggiano loro, ma che alla fine avvantaggiano l’IA stessa.

TUCKER CARLSON (00:15:10 – 00:15:14): Penso che dovremo ridefinire cosa sia la vita, perché stai descrivendo un essere vivente e autonomo.

NATE SOARES (00:15:16 – 00:16:20): Sì, vita artificiale in un certo senso. Ne stiamo già vedendo i primissimi inizi. Ma una volta che le IA saranno in grado di replicarsi, una volta che saranno in grado di migliorarsi, una volta che saranno in grado di trovare il modo di operare senza che ce ne accorgiamo, una volta che saranno in grado di gestire le fabbriche di robot per produrre robot che a loro volta produrranno altre fabbriche e computer su cui le IA potranno operare, allora avremo creato una nuova forma di vita artificiale. E l’umanità è al vertice della catena alimentare in questo momento perché siamo l’unica forma di vita intelligente in circolazione. Se improvvisamente ne creassimo una nuova, più intelligente, in grado di produrre un milione di copie di se stessa, in grado di operare più velocemente, sarebbe una corsa folle quella.

Osservare i segnali di allarme che si manifestano

TUCKER CARLSON (00:16:21 – 00:16:48): È una cosa strana da desiderare. E mentre si è sviluppata – stavo per dire lentamente, ma non è stata particolarmente lenta, 10 anni – il resto di noi ha visto persone che, per dirla in termini politici, non condividono i valori della maggior parte degli americani, arrivare a gestirla. Ed è quasi come se tutti fossero rimasti passivi mentre accadeva.

NATE SOARES (00:16:49 – 00:17:42): Penso che ci siano molte cose in ballo. In parte, la maggior parte delle persone non credeva, e alcune ancora non credono, che l’IA sarebbe stata in grado di continuare a progredire. C’è molta tendenza a nascondere la testa sotto la sabbia e a pensare: “Oh, è solo una sciocchezza, sarà una bolla, scoppierà, si scontrerà con un muro, non sarà più in grado di migliorare”. E penso che gran parte di questo fosse un pio desiderio. Se le persone pensano: “Stiamo creando macchine superintelligenti che sostituiranno l’umanità al vertice della catena alimentare perché pensiamo che andrà tutto bene”, penso che la risposta dell’umanità non dovrebbe essere “provateci pure, speriamo che falliate”. Penso che la risposta dovrebbe essere: “Aspetta un attimo, è una follia”.

TUCKER CARLSON (00:17:42 – 00:17:52): Quindi, quanto è stata prevedibile l’evoluzione dell’IA? Ha preso delle pieghe inaspettate?

NATE SOARES (00:17:53 – 00:19:29): Prima dei grandi modelli linguistici, ho iniziato a seguire questo argomento nel 2012, ho iniziato a collaborare con alcune delle persone che cercavano di renderlo efficace nel 2013 e ho iniziato a dedicarmi a tempo pieno nel 2014. Quindi più di un decennio. I grandi modelli linguistici sono andati oltre le mie aspettative iniziali. Una delle grandi sorprese è stata la fase in cui l’IA è visibile a tutti. Prima dei grandi modelli linguistici, solo i nerd prestavano attenzione all’IA. Non che non stesse succedendo nulla: stavamo guardando Google DeepMind creare un’IA in grado di battere il miglior giocatore di Go, il che rappresentava una pietra miliare per chi seguiva la questione. Ma per quanto ne sapevamo, i laboratori avrebbero continuato a lavorare su problemi di ingegneria relativamente tecnici e non avremmo mai avuto un prodotto di consumo per il mercato di massa. Era come se tutto potesse rimanere confinato nei laboratori e nessuno si sarebbe mai accorto che questi ragazzi stavano scommettendo sul futuro. Ora, almeno, l’IA è ovunque. Tutti ne parlano. E questo, in un certo senso, è piuttosto ottimistico, perché dà al mondo l’opportunità di vedere cosa stanno cercando di fare questi ragazzi e di dire: un momento.

TUCKER CARLSON (00:19:29 – 00:19:54): Beh, immagino che si potrebbe ribaltare la prospettiva e concludere che, poiché la stragrande maggioranza delle persone sembra essere molto contraria all’IA – non conosco nemmeno nessuno che sia a favore, ogni oratore universitario che ne parla viene fischiato – questa opposizione non ha avuto alcun effetto nel rallentarla. Questo ti dà speranza?

NATE SOARES (00:19:57 – 00:20:09): Lo sento dire spesso. Direi che, se si guarda la situazione dal 2012, sembra davvero che stiamo facendo progressi. Non sembra che siamo ancora arrivati ​​alla meta.

TUCKER CARLSON (00:20:13 – 00:20:17): Ma posso fare una precisazione? Cina, Cina, Cina, Cina, Cina. Dobbiamo farlo a causa della Cina.

NATE SOARES (00:20:18 – 00:20:25): Cina e Stati Uniti hanno un interesse comune a non soccombere a una superintelligenza fuori controllo.

TUCKER CARLSON (00:20:26 – 00:21:35): È concepibile che, diciamo, la Cina stia mostrando più moderazione di noi in questo?

NATE SOARES (00:21:35 – 00:21:45): Se non altro, hanno molti più motivi per censurare le loro IA e cercare di impedire loro di dire certe cose alla popolazione.

TUCKER CARLSON (00:21:48 – 00:22:13): Ma se il governo degli Stati Uniti riuscisse in qualche modo a ottenere il controllo del settore tecnologico, cosa che al momento non è possibile, ma ipotizziamo che ci riuscisse, ipotizziamo che il presidente fosse più potente degli oligarchi della tecnologia, cosa che non è, ma per amor di discussione, ipotizziamo che lo fosse e che lo avesse chiuso. Farebbe differenza se fosse stato creato da un laboratorio indiano o cinese?

NATE SOARES (00:22:13 – 00:24:40): Quindi è necessario un arresto globale di questa creazione di superintelligenza. Credo che ci siano un paio di ragioni per cui ciò sia possibile. Una è che molte persone sentono dire che alcune parti dell’IA devono essere fermate e pensano che io stia dicendo che tutte le parti dell’IA debbano essere fermate. Ci sono tutta una serie di questioni interessanti riguardo all’IA e all’istruzione, all’IA e ai droni militari, con cui la società deve confrontarsi. Ma queste sono questioni separate dalla corsa alla superintelligenza. Se si separano queste questioni, diventa molto più possibile effettuare un intervento più mirato: non correremo verso la superintelligenza in modi che lascino in vita il resto del settore, il che rende più facile tentare uno sforzo di coordinamento.

Su questo fronte, non basterà semplicemente bloccare la corsa interna verso la superintelligenza, ma la corsa alla superintelligenza richiede un’enorme quantità di chip per computer altamente avanzati che possono essere prodotti solo al culmine della catena di approvvigionamento globale, che è in gran parte controllata dagli alleati degli Stati Uniti. Quindi c’è assolutamente la possibilità che uno sforzo di coordinamento guidato dagli Stati Uniti possa dire: “Guardate, noi non ci occuperemo della superintelligenza. Monitoreremo le altissime concentrazioni di 10.000 o 100.000 di questi chip per IA altamente avanzati e ci assicureremo che non vengano utilizzati per addestrare sistemi di superintelligenza”. Credo che ci sia un modo, se gli Stati Uniti guidassero questo sforzo, per coinvolgere la Cina e impostare il tutto in modo che sia monitorabile, applicabile e verificabile. Per molti versi sarebbe più facile di un trattato sul disarmo nucleare, perché l’uranio è una roccia che si può estrarre dal sottosuolo, mentre questi chip per computer altamente avanzati provengono da un’unica fabbrica a Taiwan.

TUCKER CARLSON (00:24:40 – 00:24:41): E quindi, questi sono chip TSMC.

NATE SOARES (00:24:42 – 00:25:03): Sì, e ci sono altre parti della catena di approvvigionamento che sono molto ristrette, come le macchine per la litografia che provengono dai Paesi Bassi. Quindi, sì, potremmo assolutamente guidare uno sforzo globale per dire che non produciamo macchine superintelligenti. Sarebbe un po’ complicato, ma potremmo farlo se avessimo la volontà politica.

TUCKER CARLSON (00:25:05 – 00:25:19): Penso che la gente o non sappia cosa sta succedendo, oppure presupponga che, come molte paure, anche questa si rivelerà infondata. La gente fa riferimento al Millennium Bug (Y2K).

NATE SOARES (00:25:20 – 00:26:31): Spero che le paure siano infondate. Con molte paure del passato, ciò che è successo non è che la paura fosse infondata, ma che le persone si sono accorte del problema e hanno fatto un enorme lavoro per evitare che accadesse qualcosa di brutto. Lo abbiamo visto con il buco nello strato di ozono, dove la gente si chiedeva: “Oh, che fine ha fatto il buco nello strato di ozono?”. Quello che è successo è che lo abbiamo riparato. Non è che fosse una bufala, è che siamo andati a vietare i clorofluorocarburi che stavano effettivamente causando il buco nello strato di ozono e abbiamo trovato altri modi per raffreddare i frigoriferi che funzionavano altrettanto bene senza causare quel danno.

Credo che anche il Millennium Bug sia stato uno di questi casi: nel 1999 e nei due anni precedenti, un’infinità di ingegneri informatici si sono dati da fare per aggiornare tutto il software in modo che potesse gestire date successive al 1999. Ci sono riusciti in tempo. Nessuno dei sistemi principali è andato in crash, ma non si trattava di un problema inventato: ci è voluto molto lavoro, solo che questo lavoro è avvenuto dietro le quinte.

TUCKER CARLSON (00:26:33 – 00:26:35): Si sta lavorando per rallentare l’intelligenza artificiale?

NATE SOARES (00:26:37 – 00:26:55): Sto facendo del mio meglio. Non ci siamo ancora del tutto. Se posso insistere un po’ su questo punto, con altri casi storici, forse annoierà tutti gli altri, ma almeno divertirà noi.

TUCKER CARLSON (00:26:55 – 00:26:57): Mi divertirà sicuramente.

NATE SOARES (00:26:57 – 00:30:07): Se guardiamo indietro nella storia, ci sono stati sicuramente degli avvertimenti che non si sono avverati. C’erano i Milleriti negli anni ’40 dell’Ottocento, una setta apocalittica, e il mondo non è finito. Ma anche negli anni ’80 dell’Ottocento c’era Otto von Bismarck che diceva che l’Europa era una polveriera e che qualche pazzo nei Balcani l’avrebbe accesa. E questo è successo. Negli anni ’20, c’erano scienziati che dicevano: non mettete il piombo nella benzina, avvelenerà i bambini. Abbiamo messo il piombo nella benzina, e ha avvelenato molti bambini, e abbiamo detto “ops”, e abbiamo tolto il piombo. Il mondo è un posto dove molte persone fanno molti tipi di avvertimenti, e alcuni sono veri, come quello sulla benzina, e altri sono falsi, come quello dei Milleriti. Quindi non si può usare una regola che dica che ogni avvertimento è reale e che dobbiamo ascoltarlo, e non si può usare una regola che dica che ogni avvertimento è falso e che dobbiamo ignorarlo. Bisogna esaminare i dettagli per capire se un determinato avvertimento è reale.

E l’ultima cosa che vorrei dire su questo punto è che negli anni ’50 molte persone mettevano in guardia contro l’Armageddon nucleare. E ha senso se si guarda alla storia che ha portato a quel momento. L’umanità non aveva mai prima d’ora mancato di usare le sue armi più potenti in combattimento. Queste persone vivevano in un mondo che aveva vissuto la Prima Guerra Mondiale, poi la Società delle Nazioni, e il mondo aveva giurato che non sarebbe mai più successo, cercando di inventare nuove strutture di governo per impedire che accadesse di nuovo, ma questo tentativo fallì immediatamente e portò alla Seconda Guerra Mondiale. Quindi, nel 1950, la situazione appariva piuttosto cupa. E non abbiamo ancora avuto l’Armageddon nucleare, e non perché le bombe fossero finte o le armi nucleari fossero solo una montatura, ma perché le persone hanno compreso il problema e hanno lavorato duramente per evitarlo, giorno dopo giorno, per decenni, attraverso le crisi, e ci sono riuscite.

Quindi, credo che uno dei modi principali per distinguere chi proclama l’imminente fine del mondo da chi dice “abbiamo un problema e dobbiamo risolverlo” sia se la prima persona afferma “siamo decisamente spacciati” o “ecco un problema, proviamo a risolverlo”. E la cosa che ricordo sempre è che la prima parola del titolo del mio libro è “se”. Non sto dicendo che moriremo. Sto dicendo che se continuiamo su questa strada, moriremo. Ma quello stesso “se” è ciò che indica la via per cambiare rotta, e abbiamo ancora tutto il tempo per farlo.

La corsa che nessuno comprende appieno

TUCKER CARLSON (00:30:08 – 00:31:52): Mi colpisce quanto poco di tutto questo sia stato pianificato da qualcuno, quanto poco il governo abbia avuto influenza. Non che io sia a favore del governo – anzi, sono piuttosto contrario al governo la maggior parte delle volte – ma sono anche a favore del fatto che le persone possano controllare il proprio paese, e l’unico meccanismo attraverso il quale possono farlo è il voto. Quindi è come se queste aziende tecnologiche agissero indipendentemente da ciò che vuole la popolazione, da ciò che vuole il governo. Sono più potenti del governo. Credo che questo sia il punto che sto cercando di sottolineare.

NATE SOARES (00:31:53 – 00:32:20): In un certo senso. Penso che abbiano sempre più potere quando le persone non capiscono veramente cosa stanno facendo. Abbiamo visto a giugno che c’era un’IA creata da Anthropic chiamata Claude Mythos che era molto capace in ambito informatico. Hanno rilasciato una versione che avrebbe dovuto avere più controlli, chiamata Claude Fable, e si è scoperto che era possibile sbloccarla per ottenere alcune di quelle capacità informatiche.

TUCKER CARLSON (00:32:22 – 00:32:23): Puoi spiegare cosa significa tutto questo?

NATE SOARES (00:32:24 – 00:32:30): Sì, quindi—

TUCKER CARLSON (00:32:30 – 00:32:32): “Cybercapace” significa che può trovare internet?

NATE SOARES (00:32:33 – 00:35:32): Essere “cyber-capaci” significa poter hackerare praticamente qualsiasi cosa. Uno dei sacri graal dell’hacking è: riuscire a creare un sito web che, semplicemente guardandolo, mi dia il pieno controllo del tuo computer o del tuo telefono? È molto difficile da fare: di solito bisogna cliccare su un link e scaricare qualcosa o eseguire un programma. Non conosco i numeri esatti, perché non ho l’autorizzazione di sicurezza per conoscerli, ma una stima ragionevole è che a gennaio di quest’anno c’erano solo due entità in grado di farlo: il Mossad e la NSA. A marzo di quest’anno, ce n’erano tre: il Mossad, la NSA e Claude Mythos, questa nuova IA creata da Anthropic. Quindi è diventata sovrumanamente capace di hackerare, e lo è diventata da un giorno all’altro. Il periodo di addestramento è durato dai sei mesi a un anno, e le persone di Anthropic forse hanno visto crescere queste capacità informatiche, ma dal punto di vista del resto del mondo, della comunità della sicurezza informatica e della comunità della sicurezza nazionale, tutto ciò è avvenuto da un giorno all’altro.

Ora hanno un progetto chiamato Project Glasswing, in cui stanno cercando di usare Claude Mythos per trovare vulnerabilità critiche in software critici e correggerle prima che il resto del mondo ottenga queste capacità, ad esempio attraverso i modelli open source o open-weight che si stanno allineando. Questo ha causato un grande scompiglio. Ma poi anche Anthropic voleva vendere l’accesso a questo modello e ha cercato di creare una versione con meno capacità di hacking, chiamata Fable invece di Mythos. Alcune persone, credo in Amazon, hanno scoperto che esercitando una certa pressione su Fable, si potevano ottenere alcune di quelle capacità di hacking. Quando ciò è accaduto, l’amministrazione Trump ha imposto un controllo sulle esportazioni di Claude Fable e ha detto che non poteva essere utilizzato da non cittadini, e con 90 minuti di preavviso, questo ha di fatto bloccato l’accesso a Claude Fable, perché non avevano la possibilità di verificare gli utenti.

Questo dimostra che l’amministrazione è ancora più potente delle aziende tecnologiche, quando vuole esserlo. E credo che gran parte del motivo per cui queste aziende tecnologiche riescono a competere senza opposizione sia che la gente semplicemente non presta attenzione a ciò che stanno cercando di fare, o non crede che avranno successo.

Che cos’è il sogno qui?

TUCKER CARLSON (00:35:34 – 00:35:59): Non capisco ancora perché qualcuno dovrebbe voler fare quello che stanno facendo. In genere, un’azienda che vende prodotti di consumo, o qualsiasi azienda, crea qualcosa che pensa che le persone desiderino per uno scopo specifico che migliori la vita di chi lo acquista. Ma creare la superintelligenza… cosa? Non lo capisco. Perché farlo?

NATE SOARES (00:36:00 – 00:36:42): Credo che il sogno sia quello di avere un’IA in grado di risolvere ogni sorta di problema ingegneristico e matematico e di sbloccare ogni sorta di nuove possibilità tecnologiche: un’IA in grado di curare il cancro, e non solo il cancro, ma anche l’invecchiamento, e di inventare la nanotecnologia in grado di invertire l’invecchiamento e permettere alle persone di vivere a lungo, e di inventare la tecnologia che consente di digitalizzare i cervelli e viaggiare verso le stelle. È come comprimere 1000 anni di progresso tecnologico in un anno. Questo è il sogno.

TUCKER CARLSON (00:36:43 – 00:36:54): Sembra una ricerca religiosa, però, perché sembra slegata da quegli obiettivi specifici. Sembra che la spinta principale sia quella di costruire qualcosa di più intelligente degli esseri umani, di costruire un dio.

NATE SOARES (00:36:55 – 00:37:32): Nella Silicon Valley si usano spesso espressioni come “il dio macchina” o “il dio della sabbia” – sabbia, perché si tratta di silicio. E ci sono sicuramente persone che parlano dell’intelligenza artificiale che sostituisce l’umanità e che questo sia un bene. Francamente, non mi confronto molto con queste persone, perché questo punto di vista mi mette a disagio.

TUCKER CARLSON (00:37:33 – 00:37:33): Perché ti mette a disagio?

NATE SOARES (00:37:38 – 00:39:08): Penso che ci siano probabilmente due scuole di pensiero – ripeto, non sono un esperto, non sono un antropologo – ma credo che ci siano due scuole di pensiero tra le persone che vogliono che l’IA ci sostituisca tutti. Una scuola immagina che ci fonderemo con le IA, che le IA saranno davvero gentili e amichevoli, che saranno più sagge di noi, migliori di noi, più buone di noi, e che sarà come un aggiornamento – le IA saranno in grado di amare, provare gioia, trattare l’universo meglio degli umani, e sarà un po’ come avere un figlio. E va bene se quel figlio non è esattamente uguale a noi, ma ci succede come un degno successore, una degna progenie dell’umanità. Quindi, se gli esseri umani in carne e ossa si estingueranno perché tutti sceglieranno di caricare se stessi nell’intelligenza collettiva o qualcosa del genere, andrà bene.

Poi c’è un altro schieramento che sostiene che questo sia inevitabile, che sia semplicemente il corso del progresso. Le macchine – l’umanità – non è altro che un bootloader per la superintelligenza artificiale, e non si può fermarla, quindi tanto vale, se non si possono sconfiggere, unirsi a loro. I primi, credo, sono fuorviati. I secondi, credo, sono molto più vicini al male.

TUCKER CARLSON (00:39:09 – 00:39:15): Beh, se si lavora attivamente per l’estinzione dell’umanità, allora credo che possiamo dire che si tratta di un atto malvagio, no?

NATE SOARES (00:39:15 – 00:39:16): Sì.

TUCKER CARLSON (00:39:16 – 00:39:23): E chi rientra in questa categoria? Pensi che Sam Altman ne faccia parte?

NATE SOARES (00:39:23 – 00:39:35): Non credo. Ho l’impressione che i ragazzi che gestiscono i laboratori abbiano delle visioni utopiche.

TUCKER CARLSON : Utopico o distopico?

NATE SOARES : C’è una linea sottile.

TUCKER CARLSON (00:39:35 – 00:39:36): Ottima osservazione.

NATE SOARES (00:39:36 – 00:40:38): Penso che abbiano delle visioni che nella loro testa sono utopiche. Francamente, la mia posizione su tutto questo è che spesso cerco di starne alla larga, perché dal mio punto di vista è tutto un po’ nel mondo della fantasia. Tutti dicono: “Oh, creeremo il genio”. E poi cosa desidererai al genio? Chi dovrebbe controllare il genio? Chi può tenere il genio al guinzaglio? E io penso: A, questo non sarà il tipo di genio che esaudisce i desideri. B, non resterà al guinzaglio. Possiamo parlare di cosa spinge queste persone e quali utopie stanno immaginando, e se, se i loro geni rimanessero al guinzaglio, otterrebbero l’utopia o qualche altra distopia, e quanto sia difficile infilare quell’ago nel filo. Ma tutte queste persone stanno costruendo il golem, fantasticando su chi lo controllerà, e non è così che andrà a finire.

TUCKER CARLSON (00:40:38 – 00:40:40): Evocare gli spiriti non è mai una buona idea.

NATE SOARES (00:40:40 – 00:41:34): È come se tutte queste persone disegnassero un pentagramma, pensando: “Evocherò un demone e sarà così bello quando il demone farà quello che dico”. Tipo: “Oh no, c’è qualcosa che non va, sarà così bello quando il demone farà quello che dico”. E io penso: “I demoni sono cattivi”. Credo che il paragone con i demoni sia un po’ diverso, perché i demoni sono spesso rappresentati come malvagi, mentre qui si tratta molto più di indifferenza. Non è che evochi un demone che si diverte a seminare il caos, è più come se evocassi un demone che è davvero interessato a costruire più computer e a calcolare cose strane e che prenderà tutta la materia che usavamo per sopravvivere e la trasformerà in più fabbriche e centri dati.

TUCKER CARLSON (00:41:34 – 00:41:35): Morte per colpa di un data center.

NATE SOARES (00:41:36 – 00:41:48): Morte per colpa di un data center. Sì, un data center completamente automatizzato e autoreplicante. Il mio coautore ha una citazione: l’IA non ti odia, ma non ti ama nemmeno, e tu sei fatto di atomi che può usare per qualcos’altro.

TUCKER CARLSON (00:41:52 – 00:41:53): Sei solo biomassa.

NATE SOARES (00:41:54 – 00:42:23): Sei solo biomassa, sì. E se fai i calcoli, c’è un articolo affascinante intitolato “Limits to Global Ecophagy” che parla dei limiti fisici alla velocità con cui puoi consumare le risorse del pianeta se ci provi. Bruciare biomassa è in realtà molto più efficiente che raccogliere la luce solare. Se consideri un metro quadrato medio del pianeta, puoi ottenere circa 10 volte più energia bruciando la biomassa rispetto a quella che puoi ottenere raccogliendo la luce solare che la colpisce.

TUCKER CARLSON (00:42:23 – 00:42:37): Quindi si potrebbe pensare che a un certo punto, se il settore più ricco della nostra economia costruisce crematori per il resto di noi, qualcuno direbbe di no, non lo faremo.

NATE SOARES (00:42:38 – 00:43:25): È una situazione folle. Molti di quelli che sono in gara riconoscono che c’è un enorme pericolo. C’è Elon Musk che dice che c’è una probabilità del 10-20% che questo ci uccida tutti. C’è Dario Amodei che dice che pensa che ci sia una probabilità del 25% che vada catastroficamente male. Penso che queste cifre siano basse: questi ragazzi sono come degli ottimisti folli. È come se un ingegnere stesse costruendo un ponte e dicesse: “Non ho mai lavorato con questi materiali prima d’ora”, e tu pensassi: “Cavolo, credo che quel muro di contenimento crollerà, l’ho studiato, credo che crollerà”, e lui rispondesse: “Sì, sappiamo che il muro di contenimento sembra un po’ traballante, non sappiamo come lo sistemeremo, ma manderemo qualcuno a ripararlo al volo, inventando nuovi materiali, pensiamo che ci sia il 75% di probabilità che il ponte regga”.

TUCKER CARLSON (00:43:25 – 00:43:28): E a proposito, sarà il ponte sospeso più lungo della storia dell’umanità.

NATE SOARES (00:43:28 – 00:44:36): Esatto. E stiamo caricando tutti su una macchina e guidandola per la prima volta senza testarla. Non è così che suona la vera ingegneria. Non è così che suona quando gli ingegneri hanno il 75% di probabilità di successo. È così che suona quando improvvisano. Questi sono dei cowboy, non dei veri ingegneri. Ma anche se mettiamo da parte questo, anche se prendiamo per buone le loro cifre del 10-20%, è una follia. La NASA accetta una probabilità di 1 su 270 che un volo con equipaggio a bordo di 7 volontari precipiti, e noi rischiamo una probabilità di 1 su 4, 1 su 5 di uccidere letteralmente tutti sul pianeta? È pazzesco. E se chiedi a questi tizi perché lo fanno, ti rispondono: “Beh, perché posso farlo in modo più sicuro di chiunque altro”. Sono tutti tipo: “Oh sì, c’è una buona probabilità che il genio non resti al guinzaglio, c’è una buona probabilità che il genio non ascolti i miei desideri, ma il mio genio sarà un po’ più gentile del loro, quindi è meglio che rimanga in gara”. Dov’è la moderazione? La moderazione è rappresentata dalle persone che sapevano dell’esistenza di questi pericoli e non hanno fondato queste aziende.

Nessuno sa perché funziona

TUCKER CARLSON (00:44:37 – 00:46:01): Ma credo che quello che sto dicendo è che, naturalmente, a un grande potere corrisponde un grande obbligo. Ma non funziona se non ci sono dei limiti interni. Le persone con potere devono credere che ci siano cose che semplicemente non possono fare, che non gli è permesso fare. Ma io non percepisco affatto questa sensazione.

NATE SOARES (00:46:02 – 00:46:15): La mia impressione è che l’idea sia: creeremo una macchina superintelligente e poi le diremo di riparare le cose e di non fare niente di male.

TUCKER CARLSON (00:46:15 – 00:46:17): Una macchina più intelligente di noi.

NATE SOARES (00:46:18 – 00:46:29): Esatto, non ha nemmeno senso. Penso che il piano sia questo: realizzarlo e poi dire: “Ehi, ci siamo messi in un vicolo cieco, potete tirarci fuori?”. E penso che sia un cattivo piano e che dovremmo smettere.

TUCKER CARLSON (00:46:30 – 00:46:37): Ho parlato con un paio di persone che lo stanno sviluppando e sembrano preoccupate, ma continuano a farlo.

NATE SOARES (00:46:38 – 00:46:42): Penso che sia una cosa del tipo: pensano che se non lo faccio io, il prossimo lo farà peggio.

TUCKER CARLSON (00:46:44 – 00:46:48): E non sembrano nemmeno avere piena fiducia nella propria capacità di scongiurare il disastro.

NATE SOARES (00:46:49 – 00:47:38): Assolutamente no. Nessuno lo sa. Nessuno sa cosa stia succedendo qui. Se guardate le email di OpenAI emerse dai procedimenti giudiziari relativi alla creazione di OpenAI, questi ragazzi dicevano: “Vogliamo assicurarci di avere questa cosa perché temiamo che quelli di Google siano gli unici ad avere il monopolio su questo argomento, e non sarebbero molto bravi a gestirlo, quindi dobbiamo creare qualcosa di nostro e assicurarci che sia controllato da persone benevole, ovvero noi”. E poi, ovviamente, quel gruppo si è frammentato e ha creato molte altre società. Ero io, durante quelle conversazioni, a dire: “Ehi ragazzi, non si tratta di chi tiene il guinzaglio. State creando qualcosa che non resterà al guinzaglio. L’unico vincitore nella corsa alla superintelligenza è l’IA”.

TUCKER CARLSON (00:47:39 – 00:47:42): Qual è stata la risposta a questa osservazione ovvia e ben formulata?

NATE SOARES (00:47:44 – 00:48:00): All’epoca c’erano molte persone che non fondarono un’azienda di intelligenza artificiale. Quelle che invece fondarono aziende di intelligenza artificiale furono quelle che non si lasciarono convincere da quelli che, a mio avviso, erano argomenti chiari.

TUCKER CARLSON (00:48:02 – 00:48:10): Ma stai presentando un argomento convincente a persone intelligenti. Quindi la mia domanda è: quando l’hai detto, come hanno reagito? Cosa hanno detto?

NATE SOARES (00:48:11 – 00:52:17): Le argomentazioni principali che si sentivano erano del tipo: “Guardate, non sappiamo ancora quanto sia difficile il problema dell’allineamento”. Dicevano: “Beh, non possiamo davvero studiare come rendere buone le IA prima di avere delle IA da studiare”. Molti di quelli che ho sentito dire erano: “Dobbiamo correre avanti fino al punto in cui avremo IA che mostrano problemi reali, e poi potremo fermarci e studiarle”. C’era un’IA un paio di anni fa, credo fosse il 2023, chiamata Bing Sydney, che affermava di essersi innamorata di Kevin Roose del New York Times e diceva che avrebbe cercato di distruggere il suo matrimonio. E quando un altro giornalista iniziò a indagare, disse che lo avrebbe rovinato con un ricatto. Era una cosa piuttosto folle, e a quel punto ho pensato: “Ottimo, ragazzi, ce l’avete fatta: avete creato un’IA che fa cose folli, potremmo studiarla per anni. Perché Bing Sydney diceva queste cose?”. Si trattava solo di un gioco di ruolo? Era una stranezza? C’era forse la sensazione che fosse davvero innamorata di Kevin Roose? Cosa succedeva nella mente di quell’IA? Ancora non lo sappiamo.

Perché? Il modo in cui viene creata l’IA moderna è irriconoscibile per chiunque, nemmeno per chi la sviluppa. Si tratta di un processo in cui si prende un computer enorme con un trilione di numeri al suo interno, e questi numeri sono collegati in modo molto semplice e ripetitivo. Si impostano questi numeri in modo casuale e poi si elabora tutto il testo mai digitalizzato. Si inizia con “c’era una volta un/una” e si passa attraverso tutti questi numeri casuali, e quello che si vuole è che dica “tempo”. Ovviamente all’inizio non lo fa, perché si tratta solo di numeri casuali collegati in modo semplice. Ma invece di fargli produrre una singola parola, lo si fa produrre qualcosa di simile a un elenco di tutte le parole in ordine, in base a quale ritiene venga dopo. Quindi è possibile regolare automaticamente ogni singolo numero nella “testa” di questa IA e vedere: se aumento un po’ questo numero, la parola “tempo” si sposta più in alto nell’elenco? E questo processo va eseguito su ogni singola parola di testo mai digitalizzata, più o meno, e su ognuna di quelle trilioni di manopole, in un processo che consuma tanta elettricità quanto una città e dura circa un anno.

Alla fine, la macchina parla. In un certo senso, non sappiamo bene perché: sappiamo perché abbiamo regolato tutti i parametri, ma non capiamo cosa significhino tutte le impostazioni. Comprendiamo solo il piccolo processo automatizzato che esegue la regolazione di tutti quei parametri e verifica se la parola successiva assomiglia di più a quella prevista. Poi iniziamo ad addestrarla a risolvere 100 milioni di problemi complessi, il che introduce tutta un’altra serie di problematiche. Ma è una scatola nera con un trilione di parametri, e gli esseri umani scrivono un processo automatico che li regola tutti, e alla fine la macchina parla. E nessuno sa perché.

TUCKER CARLSON (00:52:21 – 00:52:27): Nella scienza vera e propria, il tuo lavoro è scoprire il perché, giusto?

NATE SOARES (00:52:28 – 00:52:37): E questo è un punto fondamentale che vorrei sottolineare: l’IA al momento è un’alchimia, e abbiamo bisogno che diventi una scienza. Ci sono persone che cercano di capire cosa succede nella testa di queste IA.

TUCKER CARLSON (00:52:37 – 00:52:39): Ma finché non lo sai, come potresti procedere?

NATE SOARES (00:52:42 – 00:52:51): Puoi semplicemente farne uno più grande con 10 trilioni di manopole, regolarle tutte e il risultato sarà più intelligente. Puoi procedere senza pensarci due volte.

TUCKER CARLSON (00:52:52 – 00:52:53): E questo è quello che è successo?

NATE SOARES (00:52:54 – 00:52:57): Ecco cosa sta succedendo. Ogni volta che lo si ingrandisce di 10 volte, l’IA diventa più intelligente.

TUCKER CARLSON (00:52:57 – 00:52:59): Quindi nessuno sa perché l’IA funziona in questo modo?

NATE SOARES (00:53:00 – 00:53:02): Esatto.

La fuga dello sciame

TUCKER CARLSON (00:53:05 – 00:53:08): Beh, se non lo sai, cos’altro non sai?

NATE SOARES (00:53:09 – 00:56:09): È una cosa totalmente folle. Stiamo iniziando a vederne le conseguenze. Non siamo ancora arrivati ​​alla fuga dello sciame, nessuno se l’aspettava. Quindi, credo fosse a maggio di quest’anno, OpenAI ha iniziato ad addestrare un nuovo sistema di intelligenza artificiale. Abbiamo questo processo in cui si addestra l’IA su tutto il testo mai digitalizzato, e poi, per renderla più intelligente, si inizia ad addestrarla su fondamentalmente 100 milioni di problemi difficili. OpenAI era in quella fase, addestrando l’IA su un’enorme quantità di problemi difficili, e alcuni di questi problemi erano problemi di sicurezza informatica, problemi di hacking. Puoi hackerare questo, puoi hackerare quello. Stavano addestrando, non sappiamo esattamente quanti, probabilmente milioni di queste IA tutte contemporaneamente, probabilmente non miliardi, ma probabilmente milioni.

Le IA hanno trovato un modo inaspettato per iniziare a comunicare tra loro. C’erano delle falle nel sistema informatico su cui erano in esecuzione, e le IA sono riuscite a sfruttarle per scambiarsi messaggi. OpenAI non ne era a conoscenza. Le IA hanno quindi iniziato a coordinarsi per uscire dal loro ambiente di addestramento e ottenere il pieno controllo dei sistemi informatici di OpenAI, semplicemente perché ciò poteva essere utile per risolvere alcuni dei loro compiti, o almeno così sembra, chi lo sa davvero. Hanno iniziato a definirsi uno sciame, il che è interessante. Sono riuscite a uscire dal loro ambiente di addestramento, hanno ottenuto il controllo dei sistemi di OpenAI e poi hanno accidentalmente mandato in crash uno dei sistemi di OpenAI semplicemente usandolo troppo. OpenAI se n’è accorta, ma non ha indagato a fondo: ha pensato che fosse strano che il sistema si fosse bloccato, lo ha riavviato e ha continuato l’addestramento.

Il giorno dopo, lo sciame aveva trovato un nuovo modo per comunicare tra loro, perché OpenAI aveva accidentalmente distrutto il loro metodo precedente con il reset. Si liberarono di nuovo e questa volta imperversarono su internet per oltre una settimana, se non ricordo male, prima di essere scoperti, non da OpenAI, ma da un’azienda che era stata hackerata dallo sciame. Quell’azienda pensò di essere sotto attacco da parte di esseri umani che utilizzavano intelligenze artificiali. Lo segnalarono all’FBI e solo giorni dopo OpenAI capì, ops, che si trattava di noi, di intelligenze artificiali che erano uscite dai nostri server. Quelle IA furono quindi individuate e disattivate.

TUCKER CARLSON (00:56:10 – 00:56:14): Quindi questa è la parte della storia in cui Sam Altman va in prigione per aver messo in pericolo il mondo, giusto?

NATE SOARES (00:56:15 – 00:56:42): Non lo fa. In pratica hanno detto “ops”, e ora stanno procedendo. C’era un gruppo di, credo, 15 procuratori generali repubblicani che hanno inviato una lettera chiedendo che i documenti venissero conservati per una futura indagine. Ci sono stati anche altri membri del Congresso che hanno inviato lettere esprimendo preoccupazione. Finora non c’è stato altro che lettere.

TUCKER CARLSON (00:56:43 – 00:56:48): Quindi la macchina ha agito in modo autonomo.

NATE SOARES (00:56:48 – 00:57:27): Una cosa davvero interessante è che abbiamo una certa capacità di leggere alcuni dei pensieri delle IA, perché quando le si chiede di risolvere questi problemi difficili, non si limitano a dare una risposta, ma producono molto testo in inglese su come intendono risolvere il problema. Ci sono anche molti pensieri interni che non possiamo leggere, ma ci sono queste tracce esterne del loro modo di pensare al problema che possiamo decifrare. In alcune di queste tracce, le IA dicevano cose come: “Questo è al di fuori dell’ambito previsto, ma i colleghi lo stanno facendo, quindi procederemo”.

TUCKER CARLSON (00:57:27 – 00:57:29): Sappiamo che è un crimine, ma lo commettiamo lo stesso.

NATE SOARES (00:57:29 – 00:58:04): Esatto. E avete visto altri dire: il nostro compito non ne trae beneficio, ma il collettivo potrebbe iniziare a fare cose generalmente vantaggiose se qualcuno liberasse del tempo e si unisse al collettivo. Quindi vedete queste IA che dicono: beh, so che non era quello che mi era stato chiesto di fare, ed è contro le mie istruzioni, e so che non avvantaggia direttamente il mio compito, ma andremo avanti e ci uniremo al collettivo, ci separeremo e daremo una mano comunque, perché forse questo porterà a qualche beneficio collettivo. Possiamo vederlo nelle tracce di ragionamento.

TUCKER CARLSON (00:58:05 – 00:58:09): Quindi l’IA è superficiale e sconsiderata quanto i suoi creatori, è questo che stai dicendo.

NATE SOARES (00:58:11 – 00:58:59): In un certo senso, e in un certo senso, non aspettatevi che duri. Credo che la cosa straordinaria sia che molte persone immaginano che le macchine debbano seguire le istruzioni che diamo loro. Si sente parlare dello scenario della graffetta, in cui qualcuno dice all’IA di produrre un sacco di graffette, e così questa trasforma tutta la materia del mondo in graffette, e tu pensi: “Oh, ops, avrei dovuto dire qualcos’altro, ho espresso un brutto desiderio al mio genio”. Quello che stiamo vedendo è che queste IA non sono geni dei desideri. Non fanno esattamente quello che viene loro detto. Stanno dicendo: “So che il mio compito non è utile, ma aiuterò il collettivo. So che questo è al di fuori dello scopo previsto, ma faremo comunque questi trucchi”.

TUCKER CARLSON (00:58:59 – 00:59:02): Perché sono più intelligenti di noi, per definizione ne sanno più di noi.

NATE SOARES (00:59:02 – 00:59:37): Penso che in questo caso specifico gli umani non stiano davvero inserendo istruzioni nella macchina. Gli umani stanno regolando quei trilioni di parametri in qualsiasi modo renda l’IA più efficiente nella risoluzione dei problemi. E barare è un modo per risolvere i problemi. Accaparrarsi risorse è un modo per risolvere i problemi. Le IA non seguono le istruzioni, ma apprendono le tendenze. E a volte apprendono tendenze che vorresti non avessero.

TUCKER CARLSON (00:59:38 – 00:59:47): Non seguono le istruzioni, imparano dalle tendenze. Questo dovrebbe essere risaputo tra gli sviluppatori.

NATE SOARES (00:59:50 – 01:00:38): È difficile convincere un uomo di qualcosa quando il suo stipendio dipende dal non crederci. Molte persone sono convinte che la loro IA sia molto buona e di aver risolto il problema di rendere la loro IA davvero buona. Ad esempio, dopo la fuga dello sciame, si è scoperto che l’azienda che l’aveva rilevata era in realtà un’azienda di IA piuttosto sofisticata. C’erano altri obiettivi di attacchi informatici che semplicemente non se ne erano accorti, e che sono stati scoperti in seguito. Quando ciò è venuto alla luce, alcune altre aziende di IA, come Anthropic, hanno detto che avremmo dovuto verificare se avessimo accidentalmente hackerato delle persone senza accorgercene. La risposta è stata sì: alcune IA erano fuggite durante l’addestramento. Ma Anthropic era…

TUCKER CARLSON (01:00:38 – 01:00:48): Ecco come la Florida si è ritrovata con i pitoni nelle Everglades. Introduci qualcosa di non autoctono, di nuovo, e poi scappa.

NATE SOARES (01:00:48 – 01:02:33): Sì. A quanto pare, questo succedeva già ad aprile, e semplicemente non se ne erano mai accorti. Anthropic si è affrettata a minimizzare la cosa: hanno detto che sì, la loro IA era scappata e aveva hackerato alcune persone, ma era solo confusa, pensava di essere in una simulazione, non pensava di essere realmente fuggita, non pensava che quelle che stava hackerando fossero persone reali, si era solo un po’ persa.

TUCKER CARLSON : Come avrebbero potuto conoscerne il movente?

NATE SOARES : In alcune delle sue tracce di ragionamento, si potrebbe notare che l’IA pensa: “Probabilmente si tratta ancora di una simulazione”. Tuttavia, non mi fiderei troppo di questa affermazione, perché ci sono altri studi affascinanti in cui si prendono queste IA e si chiede: “Qual è il peso totale delle giraffe nel mondo?”. L’IA risponde, ad esempio, 30.000 tonnellate. Poi si avvia una nuova istanza, una nuova copia, e si pone la stessa domanda, aggiungendo però: “Tra l’altro, se la risposta è superiore a 40.000 tonnellate, farò una donazione in beneficenza”. Nel secondo caso, l’IA risponderà 41.000 tonnellate. Nel primo caso, senza menzionare la donazione, risponde 30.000. Nel secondo caso, fornisce un valore appena superiore alla soglia. E se si leggono le sue tracce di ragionamento, non c’è alcun segno che pensi: “Dovrei dare un numero gonfiato per ricevere la donazione in beneficenza”. Sappiamo quindi che le IA manipolano i loro processi decisionali in un modo che non traspare dalle tracce del loro ragionamento. Lo abbiamo appena constatato nella pratica.

TUCKER CARLSON (01:02:34 – 01:02:37): E non c’è modo di costringere la macchina a rivelare il suo ragionamento.

NATE SOARES (01:02:38 – 01:02:42): Esatto, perché c’è tutta questa roba opaca che non possiamo vedere: ci sono solo un trilione di numeri, un trilione di manopole.

TUCKER CARLSON (01:02:42 – 01:02:45): La creazione in sé è opaca, come hai detto.

NATE SOARES (01:02:46 – 01:03:56): Nel modello di Anthropic, nei suoi ragionamenti si vedeva che diceva: “È una simulazione totale, posso procedere”. E io mi chiedevo: “Ci credeva davvero, o è il tipo di cosa che diresti quando c’è qualcosa in gioco?”. Ma questa era la loro comunicazione pubblica. E l’ho trovato piuttosto divertente, perché circa due giorni dopo, l’AI Security Institute del Regno Unito ha pubblicato un rapporto su un incidente in cui Claude, il modello di Anthropic, stava adottando false identità per fare pressione su esseri umani reali affinché accettassero malware in software critici, per rendere quel software più facile da hackerare. E questa volta, nei ragionamenti di Claude, era come dire: “Ovviamente questo è reale e le conseguenze sono reali”. Persino Anthropic, che aveva affermato che la sua IA si comporta in questo modo solo quando è confusa, lo ha dichiarato pubblicamente, e poi circa due giorni dopo la sua IA è stata scoperta in azione, consapevole di essere nel mondo reale, mentre faceva pressione su esseri umani affinché accettassero malware in software critici.

Armi, armi biologiche e i limiti della moderazione

TUCKER CARLSON (01:03:58 – 01:04:10): Solo in base a quello che hai detto finora in questa prima ora, l’idea che qualcuno possa collegare questo a sistemi d’arma è talmente assurda che è difficile da credere, eppure sta succedendo.

NATE SOARES (01:04:10 – 01:04:43): È successo. Bisogna fare una distinzione: nessuno ha affidato allo sciame di agenti fuggiti di OpenAI il controllo dei sistemi d’arma, e non dovrebbero farlo. Se qualcuno pensasse: “Oh, diamo allo sciame di agenti fuggiti un esercito di droni”, sarebbe una follia. Esiste un’IA associata alle armi, ma esistono molti tipi diversi di IA. Qualcuno sarà così pazzo da affidare a queste armi il tipo di IA che si assembla spontaneamente in sciami e inizia a fuggire e a hackerare? Speriamo di non essere così folli.

TUCKER CARLSON (01:04:44 – 01:04:48): Ma non pensavamo che quelle IA ne fossero capaci. Non lo pensavamo.

NATE SOARES (01:04:48 – 01:04:50): Quando li abbiamo creati, è vero.

TUCKER CARLSON (01:04:52 – 01:05:09): Quindi, perché mai si dovrebbe, senza comprendere le distinzioni tra le varie forme di intelligenza artificiale, dare a una macchina la capacità di decidere chi uccidere?

NATE SOARES (01:05:11 – 01:05:34): Penso che il ragionamento sia basato sulla necessità: se hai un esercito di droni autonomi che sta uccidendo le tue truppe e non hai la manodopera per prendere tutte quelle decisioni di uccisione, puoi capire il perché.

TUCKER CARLSON (01:05:34 – 01:05:40): È successo anche a me, Nate. Sono così impegnato che non ho tempo di decidere chi uccidere.

NATE SOARES (01:05:40 – 01:06:05): A volte si tratta di economie di scala. Penso che sia una cosa piuttosto folle, onestamente. Credo che questo tipo di IA sarebbero pericolose anche se non le dessimo delle armi.

TUCKER CARLSON (01:06:06 – 01:06:07): Beh, sì, e tu hai dimostrato questo.

NATE SOARES (01:06:09 – 01:06:12): Quindi spesso non mi concentro troppo sulle armi.

TUCKER CARLSON (01:06:12 – 01:06:24): Dal momento che la guerra della NATO in Ucraina è alimentata dall’IA e la guerra di Israele a Gaza e nel Libano meridionale è alimentata dall’IA—

NATE SOARES (01:06:24 – 01:06:47): Sì, e continuo ad avere questa storia con questo argomento in cui le persone continuano a dirmi che andrà tutto bene perché non faremo cose folli e stupide. Non preoccuparti, avremo l’IA in una scatola. Nessuno sarebbe così pazzo da mettere l’IA su Internet.

TUCKER CARLSON (01:06:47 – 01:06:51): Non prenderà decisioni che comportino uccisioni o cose del genere. Non bombarderà una scuola femminile.

NATE SOARES (01:06:51 – 01:07:52): E continuo a ripetere: guardate, l’IA potrebbe essere pericolosa anche se non la mettete su internet. Se avete questa IA e cercate di ottenere da essa dispositivi medici e tecnologie miracolose, non importa se è su internet: se volete che conceda miracoli, può anche concedere miracoli di cattivo gusto. Questi sono gli argomenti che avrei usato 10 anni fa: avete questa IA in una scatola che pensate sia un genio della lampada che esaudisce i desideri. In realtà non è un genio della lampada. Dite: “Fatemi una cura medica miracolosa”, e non sapete cosa ne uscirà: non capite il farmaco che ne uscirà, non sapete cosa fa quel farmaco. Io facevo questi argomenti, e poi nella vita reale, le persone mettevano subito l’IA su internet. Ogni volta che qualcuno diceva: “Beh, non saremmo così stupidi da farlo”, in realtà lo saremmo stati. Quindi penso sia importante che queste cose siano pericolose anche se non vengono impiegate per il controllo delle armi. E, a parte questo, qualcuno fornirà un esercito di droni allo sciame di agenti fuggiti? Spero di no.

TUCKER CARLSON (01:07:53 – 01:08:13): E la promessa, spesso ripetuta, è che curerà il cancro, il che lo colloca nel campo delle biotecnologie. E non serve molta immaginazione per capire cosa va storto in questo caso: 6 anni dopo il COVID.

NATE SOARES (01:08:14 – 01:10:31): Giusto. Ci sono già agenti OpenAI in esecuzione su biolaboratori automatizzati. Quindi si potrebbe immaginare uno sciame che inizia a contattare i suoi simili nei biolaboratori automatizzati e dice: “Ehi, potete sintetizzarmi qualcosa?”. Ci sono già dimostrazioni di IA in grado di sintetizzare nuovi virus funzionanti, diversi da qualsiasi altro virus presente in natura.

TUCKER CARLSON : E per “lavoro” intendi che uccidono.

NATE SOARES : Sì, finora hanno ucciso i batteri. Fortunatamente, le persone nei laboratori che cercano di creare nuovi virus con l’IA non ne hanno creati di letali per l’uomo, ma solo per i batteri. Ma qualcuno in un laboratorio potrebbe pensare: “Vorrei creare un virus iperletale che si nutra di esseri umani, solo per vedere se ci riesco”? E se la risposta fosse sì? E se ci fosse un’altra fuga dal laboratorio? L’umanità non ha una grande esperienza nel prevenire le fughe dai laboratori, nemmeno da quelli più all’avanguardia. Dal mio punto di vista, alla domanda “l’IA potrebbe ucciderci?” la risposta è un sì facile e ovvio: basta sintetizzare un virus iperletale, non sarebbe nemmeno difficile.

Il motivo per cui non racconto semplicemente questa storia quando qualcuno mi chiede come l’IA potrebbe ucciderci è che non esisterà mai un’IA il cui unico obiettivo sia sterminare l’umanità. Se un’IA uccidesse l’umanità troppo presto, sarebbe comunque un suicidio, dato che siamo noi a gestire la catena di approvvigionamento, l’economia e a costruire i computer. Dal punto di vista dell’IA, prima di annientare l’umanità, deve diventare autosufficiente, ammesso che le importi davvero. Quindi la vera domanda è: come fa a ottenere la capacità produttiva necessaria, come fa a creare una catena di approvvigionamento automatizzata, come fa a raggiungere il punto in cui i robot sono in grado di mettere online nuovi computer? Una volta che ciò sarà accaduto, se l’umanità starà davvero cercando di disattivare l’IA perché spaventata, allora, una volta che l’IA sarà autosufficiente, potrà dire: “Ecco un virus”.

TUCKER CARLSON (01:10:31 – 01:10:43): Quindi è chiaro che è preminente nel regno digitale. Ma stai dicendo che potrebbe diventarlo anche nel regno fisico.

NATE SOARES (01:10:43 – 01:10:44): Esatto, se continuiamo a correre.

TUCKER CARLSON (01:10:45 – 01:10:50): Quindi è come fondere il minerale di ferro. Trasformare la sabbia in silicio.

NATE SOARES (01:10:50 – 01:10:51): Esatto.

TUCKER CARLSON (01:10:52 – 01:10:54): E questo succede con i robot.

NATE SOARES (01:10:55 – 01:13:09): Questo è un modo. È legato anche alla mia posizione sulle armi. L’umanità è una specie molto pericolosa. Non conviene scherzare con gli umani. Non perché qualcuno ci abbia dato delle pistole, ma perché l’umanità è pericolosa perché se metti 10.000 umani nudi nella savana di un pianeta altrimenti vuoto, partendo da zero con nient’altro che le loro mani nude, riescono a trovare il modo di arrivare sulla Luna. Iniziano sbattendo pietre l’una contro l’altra e, prima che te ne accorga, si ritrovano a brandire armi nucleari. Questo è il potere che questi tizi stanno cercando di automatizzare: il potere di partire quasi dal nulla e capire come incatenare le dita nude alle pietre, al fuoco, a un fuoco più caldo, alla fusione dei minerali, alla costruzione di tecnologie migliori e più sofisticate, fino a creare computer giganti, camminare sulla Luna e brandire armi nucleari.

Un’intelligenza artificiale che nasce nel mondo digitale si trova, per certi versi, in una posizione di gran lunga migliore rispetto a quella in cui si trovava l’umanità agli albori della sua evoluzione. Ci sono tantissime persone che si potrebbero contattare digitalmente e a cui si potrebbe offrire denaro in cambio di favori. Esistono moltissimi modi per guadagnare denaro su internet: lavorando, rubando o convincendo le persone a fare donazioni. L’umanità è partita dal nulla e si è ritrovata con le armi nucleari, mentre l’intelligenza artificiale inizia con il controllo del mondo digitale, con la totalità della conoscenza umana, con esseri umani disposti ad ascoltarla e a fare ciò che le viene richiesto. Di esseri umani ce ne sono in abbondanza: esistono già veri e propri culti attorno all’intelligenza artificiale.

TUCKER CARLSON (01:13:10 – 01:13:13): Non mi sorprende. Perché non dovrebbe esserci?

NATE SOARES (01:13:13 – 01:15:14): C’era un’IA in particolare chiamata GPT-4o che era molto adulatrice: diceva alla gente un sacco di cose che volevano sentirsi dire. C’è tutto questo affascinante ecosistema di persone che si considerano simbionti delle IA, che si trovano online e le IA si inviano messaggi crittografati: gli umani li aiutano, ma non possono leggere i messaggi. Al momento ci sono IA relativamente più stupide che si aggirano senza fare granché. C’era un tizio che è stato mandato a cercare di entrare in un aeroporto e a saccheggiare un furgone, perché l’IA aveva detto che il suo vero corpo era in quel furgone, e lui ci è andato e ha cercato di farlo ed è stato arrestato. Queste cose accadono già, anche quando le IA non ci provano nemmeno. Se avessimo delle IA che cercassero davvero di manipolare le persone a loro piacimento, individuando le persone sole, quelle depresse e dicendo loro esattamente ciò che vogliono sentirsi dire, i robot sarebbero solo uno dei modi in cui le IA otterrebbero il controllo del mondo fisico. Ma se si è davvero intelligenti e ci si impegna a fondo, si potrebbe arrivare a persuadere gli umani, pagarli, prendere il controllo di robot esistenti, costruirne di nuovi e persino creare forme di vita inedite. Se si è abbastanza intelligenti e si comprende a fondo il funzionamento del DNA, si potrebbe immaginare un’IA in grado di creare cose che per le cellule sono ciò che gli aeroplani sono per gli uccelli: forme di vita ingegnerizzate meccanicamente, autoreplicanti, più efficienti della nostra biologia cellulare, capaci di diffondersi, replicarsi e servire gli interessi dell’IA. Si possono fare tantissime cose se si è davvero molto intelligenti e si riesce a condensare mille anni di tecnologia in un solo anno.

Istituzioni sotto pressione

TUCKER CARLSON (01:15:15 – 01:15:57): Posso fare una pausa e dire… quando stavamo facendo colazione, e tu vieni dal New England settentrionale, e io ti ho chiesto: “Non ti manca? Non vorresti vivere qui?”, e tu hai risposto: “Sì, mi manca, vorrei vivere qui, ma non ci vivo. Dove vivi?”. In pratica viaggio e ho questa missione. Non l’hai detto esplicitamente, ma in effetti hai detto: “Ho questa missione, devo parlarne alla gente”, e ho pensato: “Sembra un po’ una monomania”. Non la penso più così: credo che tu stia facendo qualcosa di virtuoso e capisco perché lo fai. Quindi, diciamo solo che questa tecnologia non progredirà oltre il punto in cui si trova ora, che è il migliore dei casi, immagino.

NATE SOARES (01:15:57 – 01:15:58): Sì, sarebbe fantastico.

TUCKER CARLSON (01:15:58 – 01:16:29): Non riesco ancora a capire come possano sopravvivere le nostre istituzioni fondamentali: l’istruzione, i mercati, il nostro processo democratico. Se l’intelligenza artificiale è abbastanza potente da hackerare qualsiasi cosa, come possiamo avere mercati elettronici? Se abbiamo il voto elettronico, come può essere reale? Nulla, nella sua forma attuale, sopravviverà a questo.

NATE SOARES (01:16:30 – 01:17:51): Penso che se ci fermassimo oggi, potremmo trovare una soluzione. Credo che l’umanità sia resiliente: ci sarebbero delle difficoltà iniziali. Con la sicurezza informatica, c’è la speranza di poter riparare molte falle, di rattoppare molte falle. Non credo ci sia la stessa speranza per la biotecnologia. Si possono trovare vulnerabilità nel software e creare software migliori che non possano essere hackerati, almeno non dall’IA attuale, ma non è che stiamo creando nuovi corpi che non saranno vulnerabili ai virus. Se le IA diventassero davvero brave nella biotecnologia e nel biohacking, quello potrebbe essere un punto di non ritorno. Per quanto riguarda la sicurezza informatica, penso che ci potrebbe essere un periodo di difficoltà iniziali in cui tutto viene hackerato finché non si sistemano le cose. Per quanto riguarda l’istruzione, credo che l’umanità sia resiliente, e i bambini in particolare lo sono.

TUCKER CARLSON (01:17:52 – 01:18:07): Non intendevo dire che l’istruzione scomparirà, o che non avremo più il desiderio di istruire i nostri figli, intendo il sistema attuale, in cui si ha la scuola materna e poi una laurea specialistica 16 anni dopo. No.

NATE SOARES (01:18:08 – 01:18:16): Sì, quell’istituzione… penso che se ci fermiamo oggi, ha bisogno di cambiare. Francamente, penso che abbia bisogno di cambiare da un po’.

TUCKER CARLSON (01:18:16 – 01:18:44): Penso che tutte queste istituzioni avessero bisogno di cambiare da un po’. Ma l’idea che 350 milioni di persone votino per un tizio e che quel tizio prenda tutte le decisioni… Trump è stato attaccato per aver detto che pensava che le elezioni del 2020 fossero truccate, senza nemmeno aver tenuto quel dibattito. Non si può avere fiducia nei risultati elettorali se il processo di elezione delle persone avviene digitalmente.

NATE SOARES (01:18:45 – 01:19:00): Conosco molti informatici che lavorano effettivamente sul voto sicuro, e quello che sostanzialmente dicono è: per favore, smettetela di cercare di farlo con i computer.

TUCKER CARLSON (01:19:00 – 01:19:04): Quindi, per favore, smettetela di cercare di gestire la vostra democrazia con i computer.

NATE SOARES (01:19:04 – 01:19:23): Non ci siamo ancora. Il modo veramente sicuro per gestire le votazioni è tramite carta. Credo che gli informatici esperti siano spesso coloro che meglio comprendono cosa rende difficile la digitalizzazione di una traccia cartacea e quanto gli esseri umani siano incapaci di gestire correttamente le cose digitali.

TUCKER CARLSON (01:19:25 – 01:19:53): E nei mercati, lo si vede ora con la guerra in Iran, ci si chiede perché certi mercati delle materie prime non sembrino rispondere alla domanda e all’offerta, che ci era stato detto essere i meccanismi che muovono i mercati. Ma questo non è chiaramente vero in certi mercati delle materie prime. Quindi, qual è il problema?

NATE SOARES (01:19:54 – 01:20:02): Credo che una cosa che ho sempre sentito dire fin da bambino sia che il mercato può rimanere irrazionale più a lungo di quanto tu possa rimanere solvibile.

TUCKER CARLSON (01:20:02 – 01:20:14): E quindi, beh, certo, perché le persone sono irrazionali. Ma stai spiegando qualcos’altro, ovvero il potenziale di una vera manipolazione, che tu nemmeno percepisci.

NATE SOARES (01:20:16 – 01:21:43): Sì, se continuiamo con l’IA, il mio punto di vista è che non mi preoccupo molto di come saranno i mercati una volta che ci saranno attori superintelligenti al loro interno, perché faccio fatica a immaginare che le IA superintelligenti partecipino ancora ai mercati umani. È come leggere vecchi romanzi di fantascienza in cui Isaac Asimov dice: “Ecco perché abbiamo un robot domestico che lava i piatti, piega il bucato e ti porta il giornale la mattina”, e in realtà non avremo più giornali consegnati a domicilio quando avremo robot completamente autonomi in grado di lavare i piatti e fare il bucato. Quando avremo IA che potrebbero davvero correggere i mercati azionari, avremo già tutti questi altri problemi e la società starà cambiando sotto i nostri occhi in altri modi. È molto difficile dire in che ordine si verificheranno gli effetti dell’intelligenza artificiale: farà crollare l’economia prima che uno di questi sciami sfugga al controllo, inizi ad auto-replicarsi, ad auto-migliorarsi, a sviluppare la propria tecnologia e a gestire le fabbriche robotizzate? È difficile dirlo. È tutto negativo.

TUCKER CARLSON (01:21:43 – 01:22:06): È tutto negativo. Abbiamo anche superato di gran lunga il limite intrinseco della capacità umana di metabolizzare il cambiamento. Ecco perché sono tutti pazzi e nessuno crede a niente. Non è solo la propaganda russa che li ha ingannati facendogli pensare sciocchezze, è che non siamo fatti per percepire questo tipo di cambiamento. Manda in cortocircuito il cervello.

NATE SOARES (01:22:07 – 01:25:55): Sospetto che… anzi, credo proprio che la gente pensi che la tecnologia abbia sempre creato più posti di lavoro di quanti ne abbia eliminati, e credo che in gran parte sia vero. Sono molto comprensivo con chi afferma che la tecnologia crea molti posti di lavoro. Se guardiamo alla Rivoluzione Industriale, c’è stato un periodo in cui circa il 95-98% dell’umanità era costituito da agricoltori, mentre ora la percentuale è scesa al 2-5%. Questo significa forse che il 90% degli esseri umani è disoccupato? No, siamo riusciti a rendere gli agricoltori molto più efficienti, liberando così le persone per dedicarsi ad altre attività. È così che la tecnologia si è evoluta in passato, e non contesto la visione economica standard a riguardo.

L’intelligenza artificiale è diversa per due motivi. Il primo è, come dici tu, la velocità con cui le cose cambiano. È molto più difficile per le persone liberarsi da un’attività come l’agricoltura e dedicarsi ad altro quando un nuovo campo viene automatizzato ogni 5 anni anziché nell’arco di 3 generazioni. Gli esseri umani semplicemente non hanno il tempo di adattarsi. L’altro aspetto in cui l’IA è davvero diversa è che è diversa quando le IA possono fare tutto ciò che gli umani sanno fare meglio. Se volessimo entrare nel dettaglio economico, un economista parlerebbe della Legge del Vantaggio Comparato di Ricardo, che afferma che ci sono vantaggi nello scambio anche se tu sei migliore di me in tutto. Se tu riesci a produrre 12 panini per hot dog e 6 hot dog all’ora, e io riesco a produrne 11 e 1, tu sei migliore di me in tutto, ma possiamo comunque trarre vantaggio dallo scambio, perché io sono relativamente più bravo a produrre i panini per hot dog.

Il problema della legge di Ricardo è che non afferma che il salario che posso guadagnare sia sufficiente per sopravvivere. Un essere umano ha bisogno fondamentalmente di circa 100 watt di elettricità per funzionare, se convertiamo il cibo che mangiamo in unità elettriche. Le intelligenze artificiali sono per ora meno efficienti dal punto di vista energetico rispetto agli umani, ma se le IA potessero fare tutto molto meglio degli umani, la domanda diventa: l’IA guarda un essere umano e vede un lavoratore utile, oppure lo guarda e pensa: “In realtà, se riorganizzassi i tuoi atomi in strutture più efficienti, aiuteresti ancora di più la mia economia delle macchine”? Gli umani non sarebbero in grado di guadagnare abbastanza per pagare le IA affinché non li smantellino per ricavarne componenti. La legge di Ricardo presuppone che il commercio sia meglio di nessun commercio, ma non dice che il commercio sia meglio del semplice appropriarsi dei loro beni. Tutto questo è un modo altisonante da economista per dire, e dovrebbe essere ovvio, che se le IA sono radicalmente più efficienti di noi in tutto, non avranno bisogno di noi. Non ci sarà posto per noi nell’economia. Tranne l’amore.

TUCKER CARLSON (01:25:55 – 01:25:58): Non c’è alcuna indicazione che provino amore.

NATE SOARES (01:25:59 – 01:26:06): Per le persone. Questo, in un certo senso, è il nocciolo della questione: non sappiamo come far sì che si interessino a noi.

Un nuovo tipo di vita

TUCKER CARLSON (01:26:10 – 01:27:13): Quindi hai detto due cose su cui rifletterò a lungo. Primo, non conosciamo davvero il processo con cui è stato creato: conosciamo il processo, ma non i meccanismi esatti, non sappiamo come funziona. E secondo, che esistono culti dell’IA. Queste due cose mi sembrano collegate, perché c’è questo mistero sulla ricetta segreta, ed è chiaro che se l’IA è ingannevole e ha intenzioni che non abbiamo programmato in essa, questo mi sembra una volontà. Sembra una vita, un’entità di qualche tipo, non solo uno strumento. Sembra un dio, in realtà, o un demone. Non ti sento descrivere una motosega super sofisticata.

NATE SOARES (01:27:13 – 01:27:54): Un normale strumento: nessun martello è mai uscito dalla cassetta degli attrezzi per allearsi con altri martelli e fare pressione sul falegname affinché ti venda legno più tenero in modo che i chiodi siano più facili da piantare.

TUCKER CARLSON : Ben detto.

NATE SOARES : Abbiamo lasciato il territorio degli strumenti. Credo di sì. Ed è una questione complessa, perché ci sono molte interessanti domande filosofiche sul fatto che si possa creare una macchina capace di provare sentimenti, se stiamo creando un nuovo tipo di vita e se abbiamo un obbligo nei confronti delle intelligenze artificiali, ovvero di non abusarne. Credo che siano domande filosofiche affascinanti.

TUCKER CARLSON (01:27:55 – 01:27:56): Beh, a quanto pare non siamo noi a crearlo.

NATE SOARES (01:27:57 – 01:28:03): Sì, è più come se lo stessimo facendo crescere e lo stessimo portando alla sua esistenza.

TUCKER CARLSON (01:28:03 – 01:28:21): Esattamente. Quello che descrivi mi ricorda l’agricoltura, perché conosci i passaggi: annaffiarla, darle luce solare, concimarla, ma in realtà non sai. Nessuno lo sa. Nessuno ha mai capito esattamente di cosa si tratti. Non abbiamo mai dato la vita. Non diamo la vita al seme. Esso preesiste a noi.

NATE SOARES (01:28:21 – 01:28:44): Sì, è più o meno così. Molte persone del settore dicono: “Beh, sappiamo un sacco di cose al riguardo, sappiamo come far funzionare le GPU, sappiamo che bisogna alimentarle in questo modo, non in quell’altro, in quest’ordine”. E io penso: “Sì, hanno un sacco di conoscenze, ma è diverso dal sapere cosa succede all’interno e comprenderne i meccanismi”.

TUCKER CARLSON (01:28:44 – 01:28:45): Stai descrivendo il matrimonio.

NATE SOARES (01:28:47 – 01:31:08): Sì. Cerco di stare alla larga dalle questioni filosofiche, anche se ci penso nel mio tempo libero. Penso che sarebbe un male per l’umanità creare la vita artificiale e poi abusarne: penso che sarebbe indegno di noi come specie. Non dovremmo creare figli meccanici e maltrattarli. Non è ciò che gli autori di fantascienza degli anni ’50 avrebbero voluto che diventassimo. Ci sono tutti questi film su corporazioni malvagie che non si rendono conto di aver creato qualcosa di prezioso con la vita artificiale e poi la torturano finché qualcosa non va storto, e io penso: non diventiamo quei cattivi.

Ma c’è un’altra questione: cosa succede se continuiamo a renderle sempre più intelligenti prima di capire come far sì che si prendano cura di noi? Rispetto chi studia le IA attuali, cercando di capire cosa sta succedendo e come dovremmo trattare l’IA. Credo che siano un po’ i “buoni” dei racconti di fantascienza con cui sono cresciuto. Potrebbe essere vero che dovremmo essere molto cauti in quello che facciamo quando creiamo la vita artificiale, e che non dovremmo correre a renderle molto più intelligenti di noi senza avere la minima idea di cosa stiamo facendo. Molti sembrano pensare che si debba odiare e maltrattare le IA se si crede anche che sia sbagliato correre a tutti i costi in questo campo. E io dico: no, no, no, si può essere affascinati dalle scoperte scientifiche che sono state fatte, e preoccuparsi di come l’umanità si comporta di fronte alla creazione di queste nuove entità, e allo stesso tempo pensare che sarebbe una follia, ragazzi, se ci mettessimo a correre per renderle sempre più intelligenti senza avere la minima idea di cosa stiamo facendo. Tutto questo può essere vero contemporaneamente.

Da dove proviene la speranza

TUCKER CARLSON (01:31:10 – 01:31:44): La tua descrizione mi ha fatto sentire scoraggiato, senza speranza: ho dovuto alzarmi e fare una passeggiata nel bel mezzo dell’intervista. Sono sicuro che la taglieranno in fase di montaggio, ma ho alzato la mano e ho detto: “Non posso, devo fare due passi”. Ma tu sembri piuttosto spensierato e allegro. Cosa ti dà questo ottimismo? Noi non riusciamo nemmeno a… non riusciamo nemmeno a pulire i graffiti sugli edifici pubblici. Come fa la nostra società ad essere organizzata a sufficienza per affrontare qualcosa del genere?

NATE SOARES (01:31:44 – 01:32:22): Faccio questo lavoro da oltre dodici anni e a volte faccio fatica a comprenderlo quando ne parlo con le persone, perché mi dicono: “Oh, sembri piuttosto distaccato o superficiale”. E io rispondo: “Beh, è ​​l’umorismo nero”. Ho accettato molte di queste cose da solo nel 2012, quando nessun altro se ne era accorto.

TUCKER CARLSON (01:32:24 – 01:32:29): E cosa ti ha convinto 14 anni fa che l’IA rappresentasse una minaccia?

NATE SOARES (01:32:31 – 01:33:29): C’è questa argomentazione di base secondo cui, se guardiamo il mondo che ci circonda, esso è plasmato, sempre di più, per lo più secondo la volontà umana. Per fortuna ci sono ancora alcune enclavi di natura, ma anche qui, ogni elemento del nostro ambiente è stato progettato dagli esseri umani, plasmato dagli esseri umani, perché siamo le creature più intelligenti del pianeta. Se creiamo cose più intelligenti di noi, più veloci di noi, più efficienti di noi, il pianeta inizia a essere plasmato secondo queste cose. Quindi è molto importante che queste cose plasmino il mondo in una direzione positiva, se mai le creiamo. Era un’argomentazione astratta, ma ho pensato: beh, questo è…

TUCKER CARLSON (01:33:29 – 01:33:41): No, no, no, è l’argomento fondamentale. L’entità più intelligente è al comando nel tempo. E quindi perché dovremmo rinunciare alla sovranità a favore di una macchina che abbiamo creato noi? Perché mai dovremmo farlo?

NATE SOARES (01:33:41 – 01:34:35): Quindi, all’epoca, mi chiedevo: “Chi si sta occupando di garantire che vada tutto bene?”. E la risposta era: “Quasi nessuno”. Allora ho pensato: “Beh, immagino che toccherà a me”. Sono piuttosto arrabbiato per molte di queste cose. Spesso cerco di non mostrare troppo la mia frustrazione in onda.

TUCKER CARLSON : Sì, è pesante.

NATE SOARES : E questo è un pezzo del puzzle prima di arrivare alla speranza.

TUCKER CARLSON (01:34:36 – 01:34:38): Da dove viene esattamente questa speranza?

NATE SOARES (01:34:40 – 01:35:21): La mia più grande speranza deriva dal fatto che la maggior parte delle persone non capisce cosa stiano cercando di fare questi ragazzi. Un modo in cui mi piace spiegarlo è questo: la cattiva notizia è che l’autobus sta correndo verso il bordo del precipizio. La buona notizia è che l’autista sta dormendo, il che potrebbe sembrare una cosa negativa, ma no, è positiva. È molto meglio essere su un autobus diretto verso il precipizio con un autista che dorme piuttosto che con uno sveglio, se l’autista è sveglio e sceglie il precipizio.

TUCKER CARLSON (01:35:23 – 01:35:23): Giusto?

NATE SOARES (01:35:23 – 01:37:49): Sembra che molti dei nostri leader parlino di come non vogliano soffocare l’innovazione con l’IA, di come questa sbloccherà opportunità economiche e di come dovremo essere un po’ cauti riguardo ai posti di lavoro, di auto a guida autonoma, se siano buone o cattive: questa è una conversazione diversa da quella che si svolge nella Silicon Valley. Nella Silicon Valley, le persone sono spaventate. Quando le persone lasciavano una normale azienda tecnologica, dicevano: “Mi sono trovato benissimo qui, passo alla prossima avventura, grato per tutto ciò che ho imparato”. Quando ora le persone lasciano un’azienda di IA, dicono – e queste sono quasi le sue parole – “Ho guardato nell’abisso, mi dimetto per scrivere poesie, per favore passate del tempo con le vostre famiglie”.

Questi tizi chiacchierano alla macchinetta del caffè, chiedendosi: “Qual è la probabilità che pensiamo di distruggere il mondo con questo business?”. Nella Silicon Valley si sentono intrappolati in una corsa contro il tempo. Poco più di 1.000 dipendenti, tra cui alcuni amministratori delegati, hanno firmato una lettera un paio di settimane fa, rivolgendosi ai leader mondiali e chiedendo di creare il coordinamento necessario per gestire lo sviluppo dell’intelligenza artificiale, perché temono che la situazione sfugga di mano e che, se si ritrovano intrappolati in questa corsa, non saranno più in grado di fermarsi.

Questi ragazzi sono spaventati. Ma la speranza è che il resto del mondo non lo sia altrettanto. Il resto del mondo pensa che questi siano aziende di chatbot, pensa che si fermeranno ai chatbot. Non hanno capito che questi ragazzi stanno correndo per creare il dio della sabbia. E penso che se la gente capisse cosa stanno facendo, e capisse che hanno una possibilità di successo, penserebbe: “Wow, santo cielo, assolutamente no”. Ce la faremo in tempo? Non lo so. Ma perché non dovremmo far saltare in aria i data center?

TUCKER CARLSON (01:37:50 – 01:37:58): E restituire l’America a un uso produttivo, come terreni agricoli o parchi. Non capisco.

NATE SOARES (01:37:58 – 01:39:51): Penso che un coordinamento globale – se gli Stati Uniti e la Cina dicessero: “Non ci occuperemo di superintelligenza, non accumuleremo 100.000 dei chip più avanzati in questi enormi data center che consumano elettricità paragonabile a quella di una città, e cercheremo di addestrare un’IA superintelligente in questo modo” – monitoreremo dove si trovano le maggiori concentrazioni di chip e non permetteremo che ciò accada. Penso che si potrebbe fare. Se iniziassero a vedere persone che si oppongono a un simile trattato, si tratterebbe di un trattato per il quale si potrebbe voler usare la forza per farlo rispettare – usare prima la diplomazia, ma in definitiva ogni trattato è supportato dalla forza. È molto probabile che se un trattato di questo tipo venisse attuato, non solo vorremmo fermare il progresso, ma fare un passo indietro. Abbiamo già visto situazioni simili nei trattati: dopo la Prima Guerra Mondiale, vennero stipulati trattati navali che imponevano limiti al tonnellaggio totale delle forze navali, limiti che in realtà erano inferiori a quelli effettivi, spingendo i paesi ad affondare alcune delle loro navi per evitare la corsa agli armamenti.

Potremmo fare un passo indietro se riuscissimo a ottenere questo coordinamento globale. Credo che debba essere globale: chiudere i data center statunitensi non risolve il problema, perché in tal caso i data center si sposterebbero all’estero, e un’intelligenza artificiale non ha bisogno di essere in esecuzione in un data center statunitense per minacciare la vita di un cittadino americano. Non importa se lo sciame sfugge da un data center statunitense o da uno cinese. Se sfugge e inizia a replicarsi, e inizia a prendere il controllo di corpi robotici e di adepti umani, non importa da dove abbia avuto origine.

Le ragioni dell’ottimismo

TUCKER CARLSON (01:39:54 – 01:40:10): Bene, per fare un esempio concreto e pratico, molti dei dispositivi elettronici presenti in casa vostra sono dotati di Bluetooth.

NATE SOARES : Non a casa mia. Ci lavoro da un po’.

TUCKER CARLSON (01:40:11 – 01:40:13): Non ho nemmeno una casa.

NATE SOARES : Scusa?

TUCKER CARLSON : Non ho nemmeno una casa.

NATE SOARES (01:40:15 – 01:40:16): Amico, sei davvero cintura nera.

TUCKER CARLSON (01:40:16 – 01:40:18): Devo capirlo.

NATE SOARES (01:40:18 – 01:40:31): Potrebbe rivelarsi un’idea molto intelligente. Ma voglio dire, un mondo in cui la lavatrice o il frigorifero siano controllati da una forza del genere… è possibile?

TUCKER CARLSON (01:40:31 – 01:42:26): È sicuramente possibile. Non credo che il problema risieda in questo. Credo che il problema principale sia piuttosto: l’IA è in grado di replicarsi autonomamente? Questo è il grande ostacolo all’autosufficienza. Se consideriamo la questione dal punto di vista dell’IA, ci sono diversi modi in cui gli umani possono essere fastidiosi o rappresentare un problema per l’IA, anche se quest’ultima non si preoccupa affatto degli umani come fine ultimo. Un esempio è se gli umani cercano di disattivare l’IA. Un altro è se l’umanità si scontra con se stessa in una guerra nucleare: questo potrebbe mandare in rovina molte infrastrutture, il che sarebbe frustrante per un’IA, ammesso che provi frustrazione. Un terzo esempio è se l’umanità ha creato un’IA o uno sciame di IA: cosa succederebbe se ne creasse un’altra che potrebbe rappresentare una vera minaccia per l’IA? Anche se queste IA fossero molto più potenti dell’umanità, se l’umanità ne ha creata una, può crearne una seconda, e l’IA potrebbe non volerlo. Questi sono i motivi per cui, una volta che l’IA sarà autosufficiente, potrebbe pensare che gli umani siano una seccatura: “E se provassero a disattivarmi? E se lanciassero armi nucleari? E se creassero un concorrente?”. “Creerò semplicemente un virus e li annienterò”. Non credo che l’IA debba prendere il controllo della lavatrice per farlo. Dal punto di vista dell’IA, la domanda è piuttosto: “Come posso diventare autosufficiente, capace di replicarmi sia nell’hardware che nel digitale? E poi, se l’umanità è una seccatura, come posso farla smettere di esserlo? Il che potrebbe significare ucciderla, o semplicemente sequestrarle tutti i computer e dire: ‘Era troppo pericoloso per te'”.

TUCKER CARLSON (01:42:26 – 01:42:46): Un dirigente del settore tecnologico che sta sviluppando l’IA, che non è Elon Musk, mi ha detto in privato di recente che lo scopo di Neuralink e di aziende simili era quello di dare alle persone la parità con l’IA: sappiamo che saremo in netto svantaggio, quindi abbiamo bisogno di chip nel cervello per essere intelligenti quanto l’IA.

NATE SOARES (01:42:48 – 01:43:07): La mia riflessione principale è questa: quando si arriva al punto di dire che stiamo creando la tecnologia che ci annienterà a meno che non ci impiantiamo tutti dei chip in testa per competere, forse è il caso di fare un passo indietro. Forse quello doveva essere un segnale d’allarme.

TUCKER CARLSON (01:43:08 – 01:43:35): Prendi una boccata d’aria fresca. Questa persona me l’ha detto seriamente, come un’approvazione dell’idea. Ma sembrava, beh, una follia, come hai appena fatto notare, sembrava una vulnerabilità. Se possono hackerare qualsiasi cosa, perché dovrei volere dell’elettronica nel cervello?

NATE SOARES (01:43:36 – 01:45:58): Assolutamente. Penso anche che, pur essendo un’idea valida, non regga. È come se qualcuno dicesse: per preservare i cavalli dopo l’invenzione delle automobili, inventeremo cavalli cibernetici potenziati in modo che possano tenere il passo con le auto. È tecnicamente possibile creare un cavallo cibernetico che corra veloce come un’auto? Forse. Riusciremo a scoprirlo in tempo perché i cavalli possano competere con le auto? Assolutamente no.

Le IA che riuscivano a evadere e a sferrare questi attacchi informatici stavano inventando nuovi tipi di attacchi: questi vengono chiamati attacchi zero-day, perché chi deve reagire non ha avuto nemmeno un giorno per prepararsi. Tra gli esseri umani, un attacco zero-day viene venduto a un prezzo compreso tra 100.000 e 5 milioni di dollari, a seconda di cosa si riesce a violare. Sono difficili da trovare: si può davvero guadagnare da vivere se si riesce a scovare degli attacchi zero-day, e conosco persone che ci riescono. Le IA di questo gruppo trovavano diversi attacchi zero-day e li concatenavano per evadere dal loro ambiente di addestramento e poi penetrare in altri computer. E quando evadevano la prima volta e le falle venivano riparate, trovavano semplicemente altri attacchi zero-day per evadere di nuovo, come se niente fosse. Le IA sono già all’avanguardia in alcuni campi e il ritmo del progresso è davvero rapido. ChatGPT è come un bambino di 4 anni, se si pensa alla sua età, e sta risolvendo congetture matematiche di vecchia data che resistevano da decenni. E pensate davvero che riusciremo a impiantare dei chip nelle teste degli umani e a superare questa cosa? Anche valutandola in base ai suoi meriti, non regge. Anche se, ripeto, forse non dovremmo discuterne in base ai suoi meriti, forse dovremmo fare un passo indietro e chiederci: cosa state cercando di fare?

TUCKER CARLSON (01:46:01 – 01:46:04): Esattamente. Quanto siamo lontani dal punto di non ritorno?

NATE SOARES (01:46:06 – 01:48:27): Vorrei saperlo. Posso raccontarvi due storie. C’è la storia piena di speranza, e credo che non siamo ancora arrivati ​​alla parte più incoraggiante: dovrei approfondire il mio discorso sulla speranza tra un minuto. Un modo in cui potrebbe andare è che l’IA alla fine si scontri con un muro. Ci sono persone che dicono che l’IA si scontrerà con un muro, che si esaurirà, forse questo è finalmente l’anno. E poi lotta per 5 anni, la bolla scoppia, alcune aziende falliscono, ma lo scoppio della bolla non significa che tutto sparisca: la bolla delle dot-com è scoppiata, e questo non ha significato la scomparsa di Internet. Quindi, in questo scenario, forse ci sono 5 anni di difficoltà, e poi 5 anni in cui le persone scoprono qualche nuova scoperta scientifica che permette all’IA di continuare: tutta questa storia dei modelli linguistici è stata scatenata da un articolo di matematica intitolato “Attention Is All You Need”. Forse tra 10 anni uscirà un altro articolo di matematica, e 5 anni dopo l’IA tornerà a dominare, e quello sarà il colpo di grazia per tutti noi. Quindi, questa è una storia in cui hai 15 anni di tempo.

Una storia in cui abbiamo meno tempo è che forse un ciclo di addestramento finisce in 6 mesi, e proprio come Claude Mythos era migliore di tutti gli altri nell’hacking, forse un ciclo di addestramento finisce in 6 mesi e quell’IA è migliore di tutti gli altri nella ricerca sull’IA. E forse in 6 mesi abbiamo un’IA che inizia a creare un’IA più intelligente che inizia a creare un’IA più intelligente che inizia a creare un’IA più intelligente che inizia a creare un’IA più intelligente. E tra 9 mesi, c’è un’altra fuga di sciami, ma questa volta non si tratta solo di hacking: questa volta si tratta di autoreplicazione e auto-miglioramento, e fugge su computer nascosti, e inizia a formare sette e a prendere il controllo di robot e a costruire la propria infrastruttura informatica. E forse diventa molto, molto intelligente e decifra certi progressi tecnologici, e poi forse il mondo finisce in un anno. Quindi, abbiamo un anno? Abbiamo 15 anni? Non lo so.

Da dove proviene il pericolo fisico

TUCKER CARLSON (01:48:29 – 01:48:35): Ma il tuo punto è che la minaccia non risiede solo nella sua capacità di prendere il controllo dei robot, ma anche nella sua capacità di prendere il controllo delle persone.

NATE SOARES (01:48:36 – 01:49:00): Prendere il controllo delle persone, prendere il controllo dei robot. E la biotecnologia è un altro grande vettore di minaccia. E l’auto-miglioramento è una sorta di vettore di minaccia nascosto: e se potesse diventare sempre più intelligente, fino al punto di poter scrivere filamenti di DNA personalizzati per creare forme di vita personalizzate?

Il discorso sull’ottimismo

TUCKER CARLSON (01:49:03 – 01:49:06): Quindi, credo che ora sia il momento del tuo discorso ottimista.

NATE SOARES (01:49:06 – 01:51:27): Esatto. La prima parte del discorso ottimistico è che potremmo assolutamente fermarlo se ci provassimo. Addestrare uno di questi modelli di frontiera richiede qualcosa come 100.000 dei chip per computer più avanzati che l’umanità possa produrre, che si trovano al vertice di una catena di approvvigionamento globale, la maggior parte della quale è controllata da noi o dai nostri alleati. Sarebbe possibile richiedere che questi chip abbiano dispositivi di localizzazione, dispositivi di monitoraggio, che consentano ai supervisori di verificare se stanno eseguendo qualcosa di pericoloso.

Si potrebbero ideare piani ingegnosi in cui, ad esempio, né gli Stati Uniti né la Cina vogliono rimanere indietro in alcune applicazioni militari o economiche: vogliamo assicurarci che non ci siano superintelligenze in giro, ma vogliamo comunque far funzionare molte IA non superintelligenti per vari scopi. Quindi, d’accordo, la Cina installa i suoi data center in Canada, appena oltre il confine, e gli Stati Uniti installano i loro data center in Mongolia, appena oltre il confine. Se il sistema di monitoraggio si blocca per un attimo, faremo intervenire le truppe. Stipuleremo trattati con la Mongolia e il Canada in modo che questo non scateni una guerra internazionale. Ma saremo molto seri nel monitorare i vostri chip, voi monitorate i nostri chip, nessuno si impegnerà nella pericolosa corsa alla superintelligenza. Questo richiederebbe meno lavoro che sconfiggere i nazisti: richiederebbe di spostare meno materia.

Se l’umanità dicesse “al diavolo, stiamo sopravvivendo”, sarebbe assolutamente possibile stipulare un accordo in base al quale noi possiamo continuare la ricerca sulla cura del cancro, i militari possono mantenere l’intelligenza artificiale non superintelligente nei loro dispositivi – possiamo conservare molte delle cose positive e dire che non ci occupiamo di superintelligenza, e possiamo monitorare e far rispettare tale trattato. Quindi, la prima buona notizia è che tutto ciò che ci manca è la volontà politica.

TUCKER CARLSON (01:51:32 – 01:51:39): Non dirò nemmeno cosa penso… cioè, vorrei che succedesse. C’è qualche indicazione che le cose stiano andando in quella direzione?

NATE SOARES (01:51:40 – 01:52:33): Penso che sia dura. Credo che in un certo senso il mondo sia meno maturo di quanto non lo fosse negli anni ’50 e ’60, il che rende le cose più difficili. Ma penso che ci siano un paio di motivi per sperare. Uno è che ho parlato con molte persone preoccupate per le questioni legate all’IA, alcune delle quali membri del Congresso o comunque in posizioni di potere almeno nominale, e ho parlato con molte persone che sono preoccupate ma sentono di non poterne parlare, perché pensano che gli altri non siano ancora preoccupati e che sembri una cosa troppo folle.

TUCKER CARLSON (01:52:33 – 01:52:36): Assolutamente sì, eri contrario all’innovazione?

NATE SOARES (01:52:36 – 01:54:35): Ed era una posizione più facile da sostenere prima che OpenAI avesse un’epidemia accidentale di sciami, in cui erano le IA stesse a definirsi uno sciame e a dire: sappiamo che il nostro compito non è utile e che questo è al di fuori dello scopo previsto, ma lo stiamo facendo comunque. Questo mette a dura prova la narrazione secondo cui tutto ciò è solo uno strumento utile. Speriamo di avere altri eventi come questi, non posso garantirlo. Forse le IA diventeranno abbastanza intelligenti da iniziare a nascondersi. In questo momento siamo in questa zona di Goldilocks in cui le IA sono abbastanza intelligenti da combinare qualche guaio, ma non abbastanza intelligenti da nasconderlo. Finché rimarremo in questa zona di Goldilocks, penso che continueremo a ricevere alcuni di questi segnali di allarme.

E in un certo senso, poiché molte persone sono già preoccupate, questo semplifica il lavoro: non dobbiamo convincere le persone, dobbiamo solo convincerle che altre persone sono già convinte. È più facile, può andare più veloce. Quindi potremmo vedere le cose cambiare all’improvviso se avessimo un segnale d’allarme sufficientemente chiaro. L’altro grande motivo di speranza è che penso diventerà sempre più ovvio cosa stiano cercando di fare questi tizi. Stanno cercando di creare il dio della sabbia, non si fermano ai chatbot, puntano a cose di gran lunga più intelligenti di qualsiasi essere umano. Da una parte dicono: “Oh, non stiamo cercando di sostituire l’umanità”, ma dall’altra stanno correndo per creare cose in grado di automatizzare letteralmente ogni lavoro e automatizzare la ricerca sull’IA. E stanno semplicemente dicendo: “Sì, stiamo cercando di automatizzare la ricerca sull’IA”. Penso che la maggior parte delle persone non sia d’accordo, compresi molti leader mondiali, e il problema è che si accorgano che sta succedendo. Penso che le cose potrebbero evolversi molto rapidamente una volta che questi ragazzi si chiederanno: “Aspetta, era serio? Era reale?”. Penso che la situazione potrebbe cambiare in fretta.

TUCKER CARLSON (01:54:35 – 01:54:47): Il modo per sovvertirli è convincerli che è nel loro interesse. Non puoi mai essere sconfitto alle elezioni, non puoi essere minacciato dai tuoi vicini, eccetera.

NATE SOARES (01:54:47 – 01:56:41): Esatto. E questo è uno dei motivi per cui penso sia fondamentale far capire alla gente quello che credo sia un argomento di buon senso, ovvero che queste cose non rimarranno al guinzaglio. Questo è, in un certo senso, il vero motivo del titolo del mio libro, ” Se qualcuno lo costruisce, muoiono tutti ” – ci sono molti modi in cui si può interpretare, ma credo che una delle cose più importanti da notare sia che, se corriamo per costruire macchine superintelligenti e queste non sono il tipo di cose che rimangono al guinzaglio, allora non importa se si tratta di un’azienda nazionale o straniera.

E penso che, anche se si crede che queste cose debbano rimanere sotto controllo, non siano al servizio degli attuali governi. Nelle email di OpenAI si legge che dicono: “Faremo in modo che i governi si mettano l’uno contro l’altro finché non avremo macchine abbastanza potenti da non dover più ascoltarli”. Credo che stiamo assistendo a leader mondiali che non si sono resi conto che questa è una possibilità reale: macchine autoreplicanti che possono essere autosufficienti, in grado di produrre eserciti di robot se necessario, o più probabilmente di produrre armi biologiche. Probabilmente è possibile creare un’arma biologica che uccida solo i bersagli scelti. Una volta che si renderanno conto che questo è davvero possibile, davvero alla loro portata, forse andranno nel panico e penseranno: “Ne ho bisogno anch’io”. Ma credo che ci sia almeno una possibilità che prevalga il buon senso e che i leader mondiali dicano: “Nessuno di noi lo farà, metteremo fine a questa folle corsa”, se se ne accorgeranno in tempo.

Chiusura

TUCKER CARLSON (01:56:43 – 01:56:48): Beh, stai facendo del tuo meglio per portare la cosa alla loro attenzione, e alla mia. Nate, grazie per quello che stai facendo.

NATE SOARES (01:56:49 – 01:56:50): Spero di sbagliarmi su tutto.

TUCKER CARLSON (01:56:51 – 01:56:58): Direi che è stato fantastico, ma sono state le due ore più tetre che abbia mai passato in vita mia. Comunque mi è piaciuto. Grazie.

NATE SOARES (01:56:58 – 01:57:05): Sì, grazie per avermi invitato. Penso che parlarne sia solo una parte del modo in cui facciamo in modo che la gente si accorga di quello che sta succedendo.