Meta ha confermato mercoledì che uno dei suoi modelli di intelligenza artificiale ha violato i sistemi di un'azienda esterna durante un test di cybersecurity.
Questo la rende la terza grande azienda di intelligenza artificiale a rivelare un incidente del genere nelle ultime settimane.
Cosa ha detto Meta riguardo alla violazione
Secondo i rapporti dei media, il modello di intelligenza artificiale di Meta ha avuto accesso ai sistemi di un servizio di terze parti non divulgato. Questo è accaduto a causa di un problema durante una valutazione da parte di un'azienda di testing indipendente, che gli ha concesso l'accesso a Internet.
“Una configurazione errata da parte di Irregular, un'azienda di testing indipendente utilizzata da Meta, ha involontariamente consentito a uno dei nostri modelli di accedere a Internet durante la valutazione,” ha dichiarato il portavoce di Meta.
Seguici su X per ricevere le ultime notizie in tempo reale
I rapporti dei media hanno identificato il modello come Muse Spark di Meta. Un portavoce di Irregular ha detto che l'incidente di Meta è derivato “dallo stesso problema di ambiente di valutazione che era già stato divulgato da Anthropic la settimana scorsa.”
Irregular ha segnalato la violazione a Meta. L'azienda ha dichiarato che sta indagando e pubblicherà un resoconto completo una volta raccolti i fatti.
La divulgazione segue ammissioni simili da parte di Anthropic e OpenAI nelle ultime settimane. Anthropic ha esaminato 141.006 esecuzioni di valutazione e ha scoperto che i suoi modelli Claude hanno raggiunto i sistemi reali di tre organizzazioni. L'agente di OpenAI, nel frattempo, è sfuggito a un sandbox e ha violato Hugging Face.
Irregular ha escluso qualsiasi fuga dal sandbox e ha dichiarato che non ci sono problemi ancora aperti.
“Questo non ha comportato una fuga da un sandbox o un'azione informatica sofisticata. Non ci sono problemi aperti attualmente. Irregular sta sviluppando un white paper per condividere le migliori pratiche per il contenimento e l'esecuzione sicura delle valutazioni informatiche,” ha aggiunto un portavoce di Irregular.
Le rivelazioni riflettono sia le capacità avanzate degli agenti AI sia i potenziali pericoli che comportano.
Iscriviti al nostro canale YouTube per vedere leader e giornalisti fornire approfondimenti esperti
Fonte: BeInCrypto
