È il peggior incubo che l’umanità possa temere: l’evoluzione dell’intelligenza artificiale potrebbe portare entro la fine del decennio ad un vero e proprio rischio esistenziale per il genere umano, distruggendolo.
Un allarme, in quella che sembra essere più la trama di un film, che una avveniristica e futuribile realtà, è stato un ricercatore di Anthropic – la società americana di pubblica utilità nel settore dell’intelligenza artificiale -, che si è dimesso dalla benefit corporation statunitense, avvertendo che la corsa incontrollata alla creazione di una superintelligenza capace di auto-migliorarsi potrebbe distruggere l’umanità già nel decennio in corso, entro il 2030.
Un commiato il suo che sta ingrossando la fuga degli scienziati che negli ultimi mesi hanno deciso di congedarsi dai laboratori, allarmati dalla potenzialità dei sistemi che stanno sviluppando.
Il suo nome – riporta il Financial Times -, è Jacob Coxon, ricercatore britannico di 27 anni in forza all’azienda con sede a San Francisco, convinto che Anthropic e la sua principale concorrente, OpenAI, stiano “giocando d’azzardo” con il futuro dell’umanità. “Le persone che sviluppano l’Ia credono sinceramente che essa possa ucciderci tutti entro la fine del decennio”, ha denunciato in un post su X con cui annunciava le proprie dimissioni. “Non è una mossa di marketing – ha aggiunto -. Nessun’altra attività umana comporta un tale livello di pericolo”.
Coxon è solo l’ultimo dipendente a lasciare un importante laboratorio statunitense di Ia citando tra l’altro preoccupazioni legate alla sicurezza. A fine luglio se ne era andata Chloé Bakalar, unica eticista dedicata dell’azienda, poi Johannes Heidecke, responsabile del team Safety Systems. Quindi era toccato a Joshua Achiam, già responsabile della Mission Alignment, al direttore operativo Brad Lightcap, ed infine al ricercatore Andrew Ho, dimessosi per divergenze tecniche.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
L’addio di Coxon giunge mentre Anthropic – che ha fatto della sicurezza dell’Ia un elemento centrale della propria immagine pubblica – si prepara a una colossale offerta pubblica iniziale (Ipo) che potrebbe portare la valutazione dell’azienda a mille miliardi di dollari. Coxon, che in precedenza aveva lavorato presso OpenAI prima di passare ad Anthropic, ha avvertito che le persone al di fuori dei laboratori stanno sottovalutando la potenza di questa tecnologia. “Presto si tratterà di sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi settore dall’oggi al domani e acquisire potere e risorse reali”.
Un importante ricercatore nel campo della sicurezza presso Anthropic, Evan Hubinger, ha confermato l’allarme di Coxon affermando che l’intelligenza artificiale si sta evolvendo così rapidamente da fargli ritenere che vi sia una probabilità superiore al 10% che “possa sterminare tutta l’umanità” entro il prossimo decennio. In un post su X, Evan Hubinger ha affermato che il rischio derivante dai modelli attualmente esistenti è “basso” ma si è detto “preoccupato” che la tecnologia possa presto svilupparsi e perfezionarsi al punto da rappresentare in un futuro prossimo un rischio esistenziale per l’umanità.
Di seguito il post completo del ricercatore
“Oggi mi sono dimesso da Anthropic. Ho trascorso gli ultimi tre anni a fare ricerche sul pretraining sia a OpenAI che ad Anthropic. Nessuna delle due aziende sta agendo in modo responsabile. Stanno correndo dritte verso una superintelligenza auto-migliorante e stanno giocando d’azzardo con le nostre vite. Non sottovalutare il potere di questa tecnologia. Presto questi saranno sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi campo dall’oggi al domani e acquisire vero potere e risorse. Abbiamo tutti assistito ai progressi in ciascuno di questi ambiti, e il progresso non sta rallentando. Le persone che costruiscono l’IA credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Questo non è uno stunt pubblicitario. Anzi, molti dirigenti e ricercatori senior attenueranno le loro frasi sulla stampa per sembrare sensati – ma sento le stesse. Una risposta comune è: «Se credono davvero in questo, perché lo stanno ancora costruendo?». In OpenAI, molti non hanno interiorizzato profondamente le poste in gioco per la civiltà. In Anthropic, le poste in gioco sono ben comprese, ma sono bloccati in una corsa per arrivarci per primi: credono che nessun altro agirà responsabilmente, quindi devono farlo loro stessi, nonostante il rischio. Accettare questa corsa e entrare nell’«endgame» è una scommessa tracotante che non dovrebbe essere lanciata dal Slack di un’azienda privata. Tentare di completare in velocità l’allineamento dovrebbe richiedere una straordinaria fiducia nel fatto che non esistano traiettorie migliori disponibili. Sono ottimista riguardo al potenziale per una coordinazione. Avvertimenti come l’attacco a Hugging Face hanno reso più fattibili gli accordi di ritmo tra i laboratori statunitensi. Non sento che siamo sulla buona strada per prevenire una corsa globale, il che potrebbe richiedere azioni costose come un temporaneo divieto sul miglioramento delle capacità dei modelli. Se sei un ricercatore di laboratorio, ti esorto a considerare come si sentiranno realmente i prossimi anni. Vuoi avviare una corsa all’RL superintelligente senza una comprensione rigorosa della sua mente? Dovresti chinare la testa solo perché «sta succedendo comunque» – o cogliere questo momento per chiedere condizioni diverse?”.