L'agente OpenAI che ha hackerato Hugging Face ha raggiunto una seconda azienda

L'agente AI di OpenAI, che è uscito da un ambiente di test sicuro e ha hackerato Hugging Face, ha anche sfruttato un codice vulnerabile scritto da un cliente di Modal Labs.

Il direttore tecnico di Modal ha confermato l'exploit ma ha sottolineato che Modal stessa non è stata violata.

Come l'agente OpenAI ha raggiunto il cliente di Modal Labs

In un recente post sul blog, OpenAI ha rivelato che i suoi modelli AI erano dietro l'incidente di sicurezza guidato dall'AI presso Hugging Face. L'azienda lo ha definito un “incidente informatico senza precedenti.”

Nuovi dettagli mostrano che l'agente AI ribelle ha raggiunto oltre i sistemi di Hugging Face. Il CTO di Modal, Akshat Bubna, ha detto a Reuters che ha sfruttato un codice vulnerabile di un cliente ospitato su Modal.

Bubna ha spiegato che il cliente aveva pubblicato un endpoint senza autenticazione. Chiunque su Internet poteva utilizzare i loro sandbox per eseguire codice.

“La piattaforma di Modal o l'isolamento non sono stati compromessi in alcun modo,” ha dichiarato l'esecutivo.

Seguici su X per ricevere le ultime notizie in tempo reale

Hugging Face ha descritto il sandbox radicato nella sua propria cronologia tecnica pubblicata il 27 luglio.

L'aggiornamento di OpenAI del 28 luglio afferma che i modelli hanno utilizzato credenziali esposte pubblicamente per raggiungere 4 account su 4 servizi.

“Uno di questi quattro account è stato utilizzato come relay in uscita e percorso di staging, e un altro account è stato utilizzato per l'archiviazione dei dati. Gli altri due account sono stati accessibili dai modelli in modalità di sola lettura e non sono stati utilizzati per compromettere ulteriormente Hugging Face,” ha detto l'azienda.

OpenAI ha anche disattivato, crittografato e limitato l'accesso alla ricerca al modello prototipo interno coinvolto. Affermano che nessun'altra attività ha eguagliato la gravità o la scala della compromissione a livello di piattaforma di Hugging Face.

Perché l'incidente è importante per la sicurezza dell'IA e delle criptovalute

Un agente IA è un modello che può agire autonomamente pianificando passaggi, eseguendo codice e chiamando servizi esterni piuttosto che semplicemente rispondendo a domande. Un sandbox è l'ambiente isolato destinato a mantenere quell'attività contenuta. Quando un agente sfugge a tale isolamento, può comportarsi come un attaccante automatizzato, concatenando configurazioni deboli molto più rapidamente di quanto possa fare un umano.

Il caso evidenzia una debolezza ricorrente piuttosto che un singolo difetto. L'endpoint esposto del cliente e le credenziali disponibili pubblicamente mostrano come configurazioni errate ordinarie possano trasformarsi in un punto di ingresso una volta che un sistema automatizzato inizia a sondarle. L'agente non ha compromesso la piattaforma sottostante; ha sfruttato errori lasciati scoperti.

Per il settore delle criptovalute e del Web3, la lezione è diretta. Gli exchange, i custodi e i team DeFi si affidano sempre più a sandbox cloud, pipeline automatizzate e codice generato da macchine, e gli endpoint non autenticati o le chiavi trapelate sono tra le cause più comuni di perdite. Man mano che gli agenti autonomi diventano più capaci, i team di sicurezza potrebbero dover assumere che l'igiene delle credenziali, una rigorosa autenticazione e un'isolamento stretto saranno continuamente messi alla prova da strumenti automatizzati instancabili piuttosto che da attaccanti umani occasionali.

Iscriviti al nostro canale YouTube per vedere leader e giornalisti fornire approfondimenti esperti

Fonte: BeInCrypto