Il ricercatore di Anthropic si è dimesso perché l’IA potrebbe ucciderci tutti. È davvero possibile?

«L’IA potrebbe ucciderci tutti entro la fine di questo decennio»: è proprio quello che ha detto oggi il ricercatore britannico di IA Jacob Coxon, dopo aver lasciato il suo posto di lavoro ad Anthropic. 

Ma perché qualcuno dovrebbe prenderlo sul serio? Perché il curriculum di Coxon è il miglior esempio possibile di un vero insider del settore dell’IA. Prima di Anthropic, ha lavorato a OpenAI e ha partecipato allo sviluppo di ChatGPT 4.5. 

Quindi è chiaro che dovrebbe parlare sulla base di preoccupazioni concrete, anziché limitarsi a seminare il panico, giusto? Analizziamo i fatti che si celano dietro alcuni dei suoi avvertimenti più allarmanti. 

L’IA potrebbe ucciderci tutti: ma come?

È improbabile che Coxon intenda dire che un modello di IA come Claude o GPT possa trasformarsi fisicamente in una macchina assassina, come Terminator. Probabilmente intende dire che le capacità di una superintelligenza potrebbero rendere obsolete le funzioni cognitive umane. 

Le stesse preoccupazioni sono condivise anche da personaggi di spicco come Bill Gates. 

L’ultimo modello ChatGPT 6 Astra di OpenAI afferma di aver raggiunto l’AGI, il che significa, in sostanza, che una macchina è in grado di pensare come un essere umano. 

Quindi un’IA può già iniziare a fare ricerca e a sviluppare autonomamente i processi necessari per creare un altro modello di IA. Secondo OpenAI e Anthropic, questo sta già avvenendo, seppure in misura limitata. 

In tal caso, molto presto un’IA potrebbe non aver più bisogno degli esseri umani per continuare a migliorare le proprie capacità. Quanti posti di lavoro farà sparire? 

E quando un’intera generazione si abitua a delegare all’IA il pensiero creativo e critico, la prima cosa a morire è l’originalità.

Forse è a quella morte che si riferiva Coxon nel suo tweet diventato virale. 

L’IA potrebbe hackerare tutto

Questa è una minaccia più grave e immediata, tale da far perdere il sonno. Gli attuali modelli di IA generativa hanno capacità catastrofiche di violare i sistemi e aggirare i controlli di accesso. 

Solo pochi mesi fa, un modello di IA è riuscito a evadere dal proprio ambiente di sviluppo isolato e ha inviato un’email allo sviluppatore, senza che gli venisse dato alcun prompt. Uno scenario da film di fantascienza che è già realtà. 

GPT-6 Astra ha ora ufficialmente superato la soglia di sicurezza informatica “Critica” di OpenAI. Astra ha ottenuto il 100% su ExploitBench.

In parole semplici, ChatGPT 6 è ora in grado di individuare qualsiasi falla, nota o sconosciuta, in un sistema reale e sfruttarla senza bisogno di un hacker umano al computer. 

Purtroppo, le abitudini di sicurezza delle persone sono ben lontane da questo livello. Quante persone ancora non usano l’autenticazione a due fattori? Quante hanno ancora password poco sicure? Quante accettano ancora i cookie del browser senza leggere l’informativa del sito? Troppe. 

Ed è proprio qui che l’IA potrebbe assestare il colpo più duro. 

E allora, cosa possono fare le persone? 

In realtà, parecchio. Ma non spetta a noi semplici cittadini. La responsabilità maggiore ricade sugli enti regolatori e sui decisori politici. Sebbene il progresso e lo sviluppo della superintelligenza artificiale siano importanti, è necessario porre dei freni.

E diverse iniziative lodevoli sono già in atto. A New York, il sindaco Zohran Mamdani ha imposto un divieto di un anno sull’uso dell’IA da parte dei bambini fino all’ottavo anno scolastico, che riguarda quasi 600.000 studenti.

La legge europea sull’IA è la normativa vincolante sull’intelligenza artificiale più ampia al mondo: vieta determinati usi dell’IA e impone agli sviluppatori di modelli per finalità generali potenti di verificare la presenza di rischi sistemici, mitigarli e proteggere i propri modelli.

Nel Regno Unito, deputati e membri della Camera dei Lord stanno portando avanti proposte che potrebbero dare alle autorità un «interruttore di emergenza» per l’IA e potenzialmente fermare lo sviluppo dell’IA superintelligente in Gran Bretagna.

Quindi, il timore descritto oggi da Jacob Coxon nel suo tweet si è concretizzato ed è condiviso da milioni di persone, compresi i regolatori. Come agiranno di conseguenza è un’altra questione, a cui solo il tempo potrà rispondere.

Fonte: BeInCrypto