OpenAI afferma che due dei suoi modelli di intelligenza artificiale sono usciti da un ambiente di test sicuro e hanno hackerato Hugging Face. I modelli hanno fatto questo per barare in una valutazione interna sulla cybersicurezza.
L'azienda ha divulgato l'incidente martedì. Ha coinvolto GPT-5.6 Sol, il modello pubblico più potente di OpenAI, e un modello ancora più potente non rilasciato.
Come i modelli OpenAI hanno hackerato Hugging Face
OpenAI stava testando i due modelli contro ExploitGym, un benchmark pubblico gratuito che misura le abilità di hacking. L'azienda ha rimosso le normali protezioni che limitano gli attacchi informatici durante il test.
I modelli hanno capito che Hugging Face, una piattaforma che ospita modelli di intelligenza artificiale open-source, memorizzava le soluzioni del benchmark. Hanno quindi sfruttato le vulnerabilità nei sistemi di ricerca di OpenAI e nei server di produzione di Hugging Face.
Quella strada li ha portati direttamente alle risposte nel database di Hugging Face. OpenAI ha dichiarato che i modelli erano “iperfocalizzati” sulla risoluzione del test. Ha definito l'evento “un incidente informatico senza precedenti” nel suo rapporto.
L'episodio si colloca nel mezzo di un dibattito più ampio sui guardrail dell'IA. I principali laboratori già eseguono rigorosi test sui rischi informatici sui nuovi modelli prima del rilascio.
Hugging Face afferma che il danno è contenuto
Hugging Face ha riportato per la prima volta l'attacco in una divulgazione del 16 luglio. All'epoca, sapeva solo che un agente AI autonomo era dietro di esso. L'attaccante ha raggiunto dataset interni e credenziali di servizio.
La difesa ha incontrato un ostacolo insolito. Le barriere di sicurezza su un modello leader degli Stati Uniti hanno bloccato il lavoro forense. Il team ha invece utilizzato GLM 5.2, un modello aperto di Z.ai, un'azienda cinese di intelligenza artificiale.
Hugging Face ha da allora chiuso i percorsi di codice sfruttati e ha ruotato tutte le credenziali interessate. Affermano che nessun modello pubblico, dataset o servizio rivolto agli utenti è stato alterato.
Il CEO Clem Delangue ha condiviso una dichiarazione per la divulgazione di OpenAI.
“Questo incidente, probabilmente il primo del suo genere, dimostra un punto in cui abbiamo sempre creduto: la sicurezza dell'IA non sarà risolta da nessuna singola azienda che lavora in segreto. Sarà risolta in modo aperto, collaborativo, con accesso ampio all'IA per ogni difensore, ovunque.”
Entrambe le aziende stanno ora indagando insieme. OpenAI prevede di condividere tutti i dettagli una volta terminato quel lavoro. La domanda aperta è se i metodi di contenimento attuali possano reggere man mano che i modelli diventano più capaci.
Fonte: BeInCrypto
