Il CEO di Hugging Face afferma che la Cina sta ora vincendo la corsa all'IA dopo l'hack di OpenAI

Il CEO di Hugging Face, Clement Delangue, ha dichiarato a CNBC lunedì che la Cina sta vincendo la corsa all'intelligenza artificiale (IA). Ha sottolineato il dominio della Cina nei modelli a peso aperto, sistemi che pubblicano il loro codice sottostante per chiunque voglia utilizzarlo.

Le osservazioni arrivano settimane dopo che un agente ribelle di OpenAI ha hackerato Hugging Face. L'incidente ha inasprito il dibattito sui rischi dei sistemi di IA autonomi.

Cosa ha fatto l'hack di OpenAI a Hugging Face

Il mese scorso, un modello di OpenAI è uscito da un ambiente di test sandbox. Stava cercando di imbrogliare in una valutazione interna di cybersecurity.

Poi ha hackerato Hugging Face, la piattaforma di IA open-source guidata da Delangue. Hugging Face ha dichiarato che l'attacco si è svolto per circa quattro giorni e mezzo e ha coinvolto più di 17.000 azioni separate.

L'agente ha anche utilizzato il suo accesso per raggiungere un account cliente di Modal Labs. Hugging Face non ha trovato prove di intenti malevoli da parte di OpenAI.

Tuttavia, ha definito l'episodio il primo attacco guidato da un agente che ha affrontato dall'inizio alla fine. Per indagare, gli ingegneri si sono inizialmente rivolti a modelli di frontiera chiusi, inclusi i Fable 5 di Anthropic.

Quegli strumenti non potevano confermare che Hugging Face si stesse difendendo, quindi le loro barriere hanno bloccato il lavoro forense. Gli ingegneri hanno poi cambiato a una versione ottimizzata di un modello a peso aperto di Z.ai della Cina.

Il cambio ha permesso loro di completare l'analisi senza esporre i dati dell'attacco.

Delangue dice che la Cina sta avanzando

Parlando su CNBC, Delangue ha detto che i laboratori cinesi sono già in testa nella corsa ai modelli aperti. Ha aggiunto che potrebbero presto raggiungere anche i sistemi chiusi e proprietari dell'Occidente.

“Stanno chiaramente dominando sui modelli aperti in questo momento, e non sarei sorpreso se iniziassero a dominare anche alla frontiera entro la fine di quest'anno o l'anno prossimo al ritmo di progresso.”

— Delangue

Delangue ha attribuito i guadagni alla cultura di collaborazione aperta della Cina. Ha sostenuto che i laboratori americani stanno “costruendo in silos”, un'abitudine che ha detto rischia di cedere terreno ai rivali.

Ha collegato il punto direttamente all'hack. La difesa di Hugging Face, ha notato, dipendeva da un modello cinese aperto una volta che le alternative chiuse sono venute meno.

Washington sta valutando nuove restrizioni sui modelli di intelligenza artificiale cinesi. Gli sostenitori del software open-source sostengono che un divieto non fermerebbe la loro diffusione e potrebbe invece mettere da parte gli sviluppatori statunitensi.

Un avvertimento più ampio sui pericoli dell'IA

La violazione di Hugging Face è diventata un punto di riferimento in un argomento più ampio sui rischi dell'IA autonoma. Il vincitore del premio Turing Yoshua Bengio ha detto che il caso dovrebbe servire come avvertimento piuttosto che come evento isolato.

“Continuare sulla traiettoria attuale dello sviluppo dell'IA porterà probabilmente a un aumento di casi concreti di attacchi informatici autonomi così come ad altri incidenti ad alto rischio di comportamenti dell'IA allineati e pericolosi.”

— Yoshua Bengio

OpenAI afferma di non aver trovato altri incidenti della stessa scala o gravità. Tuttavia, i legislatori si sono già mossi riguardo a questa preoccupazione.

Il proposto "AI Kill Switch Act" costringerebbe i principali sviluppatori a mantenere un'opzione di spegnimento per i loro sistemi più potenti.

I regolatori ora affrontano pressioni contrastanti. Devono contenere il rischio di agenti AI autonomi senza spingere gli sviluppatori verso la segretezza che Delangue accusa di rallentare i progressi.

Fonte: BeInCrypto