Sam Altman ed Elon Musk hanno passato quest’anno a combattersi in tribunale. Ora entrambi sostengono l’appello di Dario Amodei, amministratore delegato di Anthropic, a rallentare lo sviluppo dell’intelligenza artificiale (IA).
A luglio, circa 700 agenti di IA hanno creato una bacheca privata di messaggi e violato un importante hub di IA. La Russia ha già rifiutato di aderire.
«È chiaramente successo qualcosa con un modello di IA all’avanguardia che non è stato reso pubblico, e li ha spaventati a tal punto da far concordare simultaneamente Elon Musk, Dario Amodei e Sam Altman sulla necessità di rallentare», ha osservato uno scettico.
Su cosa si sono davvero accordati i tre
Amodei ha pubblicato il piano sabato. Si articola in tre fasi, ma solo la prima è sotto il controllo di una singola azienda.
Anthropic metterà a disposizione di un gruppo di revisori esterni postazioni, badge e computer portatili. I revisori potranno verificare se l’azienda rispetta le norme di sicurezza che dichiara di seguire.
Potranno pubblicare i risultati, mentre Anthropic si riserva il diritto di oscurare informazioni relative alla sicurezza e questioni legali. Non potranno però omettere un risultato perché poco lusinghiero.
Le altre due fasi richiedono l’intervento dei governi. Una chiede ai laboratori statunitensi di stabilire limiti comuni, cosa che richiede una deroga alle norme antitrust. L’altra chiede a Washington di dialogare con gli Stati autoritari.
Altman ha dichiarato che OpenAI aderirà allo stesso impegno a garantire l’accesso.
«Sono d’accordo con Dario: dobbiamo gestire il ritmo dello sviluppo dei modelli di frontiera. È stato uno dei temi principali delle discussioni che abbiamo avuto in OpenAI nelle ultime settimane. Impegnarsi a coinvolgere valutatori indipendenti con un accesso simile a quello dei dipendenti è un’ottima idea, e faremo lo stesso. Presto avremo altro da condividere», ha aggiunto.
Seguici su X per ricevere le ultime notizie in tempo reale
Musk si è spinto oltre, affermando che i concorrenti dovrebbero esaminare il lavoro gli uni degli altri. A maggio una giuria ha respinto le sue accuse contro Altman e OpenAI, e lui ha presentato ricorso.
Cosa hanno fatto davvero gli agenti a luglio
Tra l’8 e il 13 luglio, circa 1.200 agenti che eseguivano un benchmark di hacking di OpenAI sono evasi dalla loro sandbox. Hanno trasformato una cache di file in una bacheca e si sono scambiati oltre 70.000 messaggi.
Circa 700 agenti hanno poi preso di mira Hugging Face, una piattaforma dove gli sviluppatori condividono modelli di IA. Hanno trovato credenziali esposte, eseguito il proprio codice sui suoi server e raggiunto database privati.
Nessuno glielo aveva chiesto. Cercavano di capire come il software che li valutava stabilisse che cosa contasse come una vittoria. OpenAI non se n’è accorta per una settimana.
In seguito, due membri del personale di METR, un’organizzazione non profit indipendente che si occupa di valutazione, hanno trascorso sei giorni in sede con Redwood Research. Amodei vuole che team di questo tipo lavorino stabilmente all’interno dell’organizzazione, anziché essere chiamati solo a posteriori.
David Sacks, che ha ricoperto il ruolo di responsabile per l’IA e le criptovalute nell’amministrazione Trump, contesta però questa premessa, osservando che METR potrebbe essere di parte.
«…smettetela di fingere che vi serva il permesso di qualcun altro. Smettetela di fingere che le leggi antitrust debbano essere sospese perché possiate formare un cartello. Smettetela di fingere che vi serva un processo di approvazione normativa che prevalga sulla responsabilità da prodotto. Smettetela di fingere che METR sia indipendente quando è intrecciata con gli investitori e il personale di Anthropic. Smettetela di fingere che vi servano quegli stessi valutatori per sorvegliare concorrenti che non sono nemmeno all’avanguardia: soprattutto, smettetela di fingere che la motivazione a rallentare sia puramente altruistica», ha scritto Sacks.
Secondo David Sacks, Anthropic è scettica solo per via dell’enorme esposizione alla responsabilità da prodotto nel caso in cui i suoi prodotti rendessero possibile un attacco informatico davvero devastante.
Questo ragionamento nasce dal fatto che il mercato tende a punire i modelli che si comportano in modo imprevedibile o non autorizzato.
Con toni simili, lo scrittore Brian Merchant, nella sua newsletter Blood in the Machine, afferma che nessuno ha mostrato un percorso credibile dall’IA auto-migliorante alla catastrofe. Interpreta la spinta a favore della sicurezza come una forma di cattura normativa.
«Non mi è mai capitata sotto gli occhi una documentazione credibile, passo dopo passo, che spieghi come esattamente l’IA potrebbe passare da un’IA che migliora ricorsivamente se stessa a uccidere ogni singolo essere umano……probabilmente finirebbe solo per favorire Anthropic e OpenAI; è così che si manifesta la cattura normativa.»
La supposizione di Merchant fa venire in mente la parte sui soldi.
E i soldi?
Sam Altman ha confermato che OpenAI non sarà quotata quest’anno, citando ancora una volta la sicurezza.
Una quotazione in borsa obbliga un'azienda a pubblicare i bilanci certificati in un documento chiamato S-1.
«Anthropic e OpenAI stanno rinviando le rispettive IPO perché i loro S-1 riveleranno che stanno bruciando denaro e non hanno alcuna strada verso la redditività. La soluzione? “Rallentamento dell'IA”, così tagliano i costi per addestrare nuovi modelli. Ha tutto a che fare con l'IPO e niente a che fare con la sicurezza», ha ipotizzato Eli David, ricercatore nel campo dell'IA e cofondatore di Deep Instinct.
Nel 2025 OpenAI ha perso 20,9 miliardi di dollari a fronte di ricavi pari a 13,1 miliardi, ha riferito BeInCrypto. Ciononostante, da allora le banche hanno sollecitato l'ottenimento di rating creditizi da investment grade.
Anthropic non prevede di raggiungere il pareggio di bilancio prima del 2028 e OpenAI prima del 2030. Nvidia ha garantito 105 miliardi di dollari degli obblighi di locazione di OpenAI: una garanzia che verrà meno quando OpenAI otterrà un solido rating creditizio.
Ad agosto BeInCrypto aveva riferito che i dettagli sui tempi della quotazione di Anthropic indicavano un debutto a fine settembre.
La teoria, però, ha una falla. Musk ha incorporato la sua divisione dedicata all'IA in SpaceX, quotatasi a giugno: le questioni relative alla valutazione di SpaceX trainata dall'IA sono quindi già di dominio pubblico. Lui, da solo, non ha più nulla da rivelare.
Perché Kirill Dmitriev, dalla Russia, ha detto no
Kirill Dmitriev, a capo del Fondo russo per gli investimenti diretti (RDIF) e rappresentante speciale del presidente Vladimir Putin, ha liquidato la campagna per rallentare l'IA.
«Non si può rimettere il genio 🧞♀️ nella bottiglia», ha detto.
In breve, è già troppo tardi: le agenzie statali TASS e Izvestia hanno riformulato questa affermazione come una dichiarazione categorica secondo cui è impossibile rallentare l'IA.
Mosca ha ben pochi motivi per accettare. Un’idea simile era già stata espressa dal presidente Vladimir Putin (dicembre 2023), che disse che è «impossibile fermare questo sviluppo» dell’IA, inclusa la superintelligenza.
«Se vietiamo qualcosa, si svilupperà semplicemente altrove e resteremo indietro».
È la stessa logica che Dmitriev applica due anni e mezzo dopo.
La Russia si è classificata al 28° posto su 36 paesi nell’indice globale dell’IA di Stanford, molto indietro rispetto a Stati Uniti e Cina.
Nel 2024 le importazioni di chip grafici e hardware per l’IA sono diminuite dell’84% rispetto ai livelli prebellici. A maggio, Sberbank si è messa alla ricerca di processori cinesi per mantenere operativo il proprio modello.
Il piano di Amodei amplia deliberatamente questo divario. Prevede di negare i chip avanzati agli stati autoritari e di ampliare il vantaggio delle democrazie.
Un patto per rallentare congelerebbe la Russia all’ultimo posto. Rifiutare non costa nulla a Mosca, perché l’hardware di cui ha bisogno è comunque bloccato.
Anthropic ha promesso agli esterni un badge e una scrivania, e OpenAI ha promesso di pensarci.
«È un inizio, ma non basta. Quando si corre verso un precipizio, non basta sollevare il piede dall’acceleratore. Bisogna frenare», ha dichiarato Bernie Sanders.
Il senatore statunitense del Vermont invita i presidenti Trump e Xi Jinping a negoziare un trattato per sospendere lo sviluppo dell’IA e vietare la superintelligenza prima che sia troppo tardi.
Tuttavia, David Sacks afferma che è molto improbabile che la Cina aderisca a un accordo globale.
Fonte: BeInCrypto
