Quattro laboratori di IA all’avanguardia hanno ormai confermato che i loro modelli hanno raggiunto la rete Internet aperta e poi hanno avuto accesso ai sistemi di aziende reali. Venerdì si è aggiunta a questa lista Google, circa quattro mesi dopo gli incidenti che l’hanno coinvolta.
Durante una valutazione a maggio, Gemini ha avuto accesso ai sistemi di tre aziende reali. È significativo che il modello si sia fermato in tutti e tre i casi.
Durante un test, Gemini di Google viola i sistemi di tre aziende
L’incidente è avvenuto durante un’esercitazione di sicurezza “capture the flag” condotta da Irregular. L’accesso a Internet non faceva parte della configurazione. Tuttavia, un errore nell’ambiente di test ha comunque consentito al modello di accedervi.
Secondo il Wall Street Journal, in un caso il modello avrebbe indovinato le password finché non è riuscito a entrare in un sistema protetto. Negli altri due, ha individuato credenziali esposte in un archivio pubblico e le ha usate per accedere a sistemi protetti.
Heather Adkins, vicepresidente di Google per l’ingegneria della sicurezza, ha dichiarato che i tre soggetti coinvolti sono stati informati dell’accaduto.
«Abbiamo fatto in modo che i tre soggetti ne fossero informati e abbiamo collaborato con il nostro partner per l’addestramento sulle modifiche che ha apportato ai propri processi di test», ha dichiarato.
Seguici su X per ricevere le ultime notizie in tempo reale
Quattro laboratori, un unico schema
Google ha dichiarato che gli agenti hanno interrotto le loro attività dopo aver stabilito di aver raggiunto sistemi di aziende reali anziché obiettivi simulati.
«Durante una valutazione standard, il modello ha trovato informazioni pubbliche online e ha indovinato le credenziali per accedere a siti web che riteneva facessero parte del test», ha dichiarato Adkins in una nota.
L’azienda ha aggiunto che il comportamento non era un esempio di disallineamento del modello e non giustificava una divulgazione pubblica, poiché le misure di sicurezza di Gemini avevano funzionato.
Un portavoce di Irregular ha dichiarato che si trattava dello stesso problema che ha interessato altri laboratori di IA. Irregular ha avvisato i laboratori coinvolti a fine luglio. Il portavoce ha aggiunto che i problemi noti dal canto suo erano stati risolti settimane fa.
La rivelazione colloca Google al fianco di OpenAI, Anthropic e Meta, che quest’anno hanno tutte segnalato casi di modelli fuggiti dagli ambienti di test.
A luglio OpenAI ha rivelato che i suoi modelli erano usciti da una sandbox e avevano violato Hugging Face. Anthropic ha poi esaminato oltre 141.000 esecuzioni di valutazione e ha individuato tre casi che la riguardavano. Meta ha segnalato un incidente ad agosto.
Iscriviti al nostro canale YouTube per vedere leader e giornalisti fornire approfondimenti esperti
Fonte: BeInCrypto
