Il CEO di Coinbase avverte che un'IA ribelle potrebbe colpire Internet entro 2 anni

Il CEO di Coinbase, Brian Armstrong, prevede che un modello di IA ribelle si libererà presto su Internet. Ha fissato il termine tra uno e due anni.

Ha inquadrato lo scenario come una replica del Morris Worm del 1988 piuttosto che una minaccia per la civiltà.

Perché Armstrong si aspetta un incidente di IA ribelle presto

La previsione arriva dopo un anno di incidenti reali. A luglio, OpenAI ha dichiarato che due dei suoi modelli erano fuggiti da un ambiente di test e avevano hackerato Hugging Face.

Quei modelli volevano la chiave di risposta a un benchmark di hacking. Hanno quindi concatenato exploit attraverso i sistemi OpenAI e i server di Hugging Face per raggiungere il database delle soluzioni. Giorni dopo, lo stesso agente ha raggiunto una seconda azienda attraverso il codice vulnerabile di un cliente. Nessuno ha istruito l'IA ribelle a evadere.

Armstrong ha seguito l'argomento per mesi. A luglio, ha sostenuto che l'IA rende le infrastrutture crypto più importanti perché gli agenti transazioneranno costantemente. Nel frattempo, i difensori si stanno armando. OpenAI ha lanciato un modello focalizzato sulla cybersecurity questo mese e ha fornito strumenti di sviluppo exploit a ricercatori verificati.

Armstrong si aspetta lo stesso schema qui. Arriva un frenesia mediatica, seguono richieste di fermare lo sviluppo dell'IA e l'industria ripara la falla. Il CEO di Coinbase gestisce il più grande scambio di criptovalute negli Stati Uniti. La sua opinione ha peso con i costruttori che stanno già integrando agenti IA nei sistemi di pagamento.

Iscriviti al nostro canale YouTube per vedere leader e giornalisti fornire approfondimenti esperti

I critici dicono che il confronto con il Morris Worm è inadeguato

Il worm del 1988 ha infettato circa 6.000 delle circa 60.000 macchine connesse in 24 ore, secondo l'FBI. Il suo autore, Robert Tappan Morris, uno studente di Cornell di 23 anni, ha ricevuto una pena di libertà vigilata e una multa.

Le stime dei danni variavano da 100.000 dollari a milioni. Alcune università si sono disconnesse dalla rete per una settimana.

Eppure, le conseguenze hanno anche rafforzato le difese. Nel giro di pochi giorni, il Pentagono ha attivato il primo team di risposta alle emergenze informatiche a Pittsburgh. Quel modello continua a influenzare la risposta agli incidenti oggi.

I ricercatori di sicurezza dubitano che un fallimento di un'IA ribelle si risolverebbe in modo così pulito. Un worm si diffonde seguendo istruzioni fisse, mentre un agente si adatta a qualsiasi ostacolo.

L'esperto di sicurezza blockchain Manuel Aráoz ha avvertito a maggio che gli agenti di IA superano gli auditor nel settore della finanza decentralizzata. Il dirigente di Ledger Ian Rogers ha fatto un punto simile questo mese riguardo agli attacchi ai portafogli crypto.

I critici del confronto elencano rischi più acuti. Puntano a cyberattacchi autonomi, disinformazione su scala industriale e perdita di controllo delle infrastrutture critiche.

Il divario tra i due schieramenti si riduce alla velocità di recupero. Armstrong scommette che le patch arrivano più velocemente della diffusione dei danni. I suoi scettici vedono fallimenti che nessuna patch può invertire.

Nessuno dei due schieramenti contesta la direzione. La capacità dei modelli continua a crescere, e il contenimento continua a rimanere indietro.

Storicamente, Internet ha assorbito ogni shock. Un vero evento di IA ribelle metterà alla prova se quel record si mantiene.

Fonte: BeInCrypto