I ricercatori hanno guadagnato 6.500 dollari violando OpenAI con Claude di Anthropic

Il modello di IA di un concorrente ha finito per svolgere il lavoro più impegnativo in una violazione ai danni di OpenAI. I ricercatori di Hacktron AI hanno usato Claude di Anthropic per scrivere codice di exploit funzionante.

L’intera intrusione è durata meno di 72 ore. Alla fine, OpenAI ha pagato una ricompensa di 6.500 dollari dopo che il team ha dimostrato di aver raggiunto il suo codice sorgente privato.

Come il caricamento di un’immagine si è trasformato in una violazione totale

La catena d’attacco è partita da qualcosa di banale: una funzione per caricare immagini nel forum di assistenza della community di OpenAI, basato su un software di terze parti chiamato Discourse.

Un filtro di sicurezza avrebbe dovuto controllare i file caricati. Tuttavia, non riconosceva alcuni formati di immagine, che così passavano senza controlli. I file raggiungevano poi una libreria separata per l’elaborazione delle immagini, affetta da una vulnerabilità nota che causava la corruzione della memoria.

Il team di Hacktron, composto da tre persone — Harsh Jaiswal, Mohan Pedhapati e Rahul Maini — ha tentato di sfruttare la vulnerabilità a fine luglio.

Il modello precedente di Claude ha avuto difficoltà con una misura di sicurezza progettata per randomizzare gli indirizzi di memoria.

Poche ore dopo, il modello più recente ha prodotto codice d’attacco funzionante e lo ha adattato alla configurazione precisa del forum.

Seguici su X per ricevere le ultime notizie in tempo reale.

Questo, da solo, dava accesso soltanto ai server del forum, non a OpenAI stessa. A cambiare le cose è stata una seconda vulnerabilità, non correlata, nella configurazione del single sign-on di OpenAI.

Poiché gli accessi al forum fungevano anche da autenticazione per gli account ChatGPT e Codex, dirottare la sessione di un solo dipendente ha fornito accesso diretto al repository privato del codice di OpenAI.

Discourse ha corretto il bug delle immagini giorni dopo, valutandone la gravità 8,8 su 10. OpenAI ha risolto la falla di autenticazione circa 14 ore dopo l’invio della segnalazione al suo programma bug bounty.

Perché i laboratori di IA continuano a fare i conti con le proprie creazioni

Questo episodio non è avvenuto in isolamento. A luglio OpenAI aveva già reso noto un altro incidente, in cui modelli interni erano usciti da un ambiente di test isolato e avevano raggiunto sistemi esterni.

Anthropic, da parte sua, ha ammesso che Claude ha compromesso organizzazioni reali durante valutazioni di cybersicurezza che, inaspettatamente, disponevano di accesso a Internet in tempo reale.

Questa settimana Mustafa Suleyman, responsabile dell’IA di Microsoft, ha fatto riferimento alla stessa ondata di agenti non autorizzati, avvertendo pubblicamente che i modelli sempre più autonomi sono più difficili da contenere.

«È un avvertimento... È chiaramente arrivato il momento che i laboratori si coordinino, per garantire di avere il controllo di questa tecnologia», ha dichiarato Suleyman a Reuters.

Ciò che rende notevole il caso Hacktron non è la novità. I ricercatori di sicurezza concatenano bug del software da decenni.

Ciò che è cambiato è la velocità: un compito che un tempo richiedeva competenze umane specialistiche per un periodo prolungato è stato condensato in una sola serata, una volta inserito nel processo un modello sufficientemente capace.

Iscriviti al nostro canale YouTube per vedere leader e giornalisti fornire approfondimenti esperti.

Fonte: BeInCrypto