NVIDIA ha lanciato l'Open Secure AI Alliance lunedì con 36 partner, tra cui Microsoft, IBM e Palantir. Segue un attacco di luglio in cui i modelli AI chiusi si sono rifiutati di aiutare Hugging Face a indagare sul proprio aggressore.
I membri condivideranno modelli AI aperti, dati e strumenti di sicurezza. NVIDIA afferma che i difensori hanno bisogno di AI che possano aprire, modificare e gestire autonomamente.
Perché i modelli AI chiusi hanno fallito Hugging Face
L'attacco è iniziato con un dataset avvelenato. Secondo la divulgazione di Hugging Face, ha permesso a un aggressore di eseguire codice su una delle macchine dell'azienda.
Da lì l'aggressore ha rubato le password. Si è poi diffuso attraverso i sistemi interni durante un weekend.
L'AI stessa di Hugging Face ha individuato l'intrusione. La parte difficile è stata la pulizia.
L'azienda ha chiesto ai principali modelli AI commerciali di studiare l'attacco. Hanno rifiutato. I loro filtri di sicurezza non riuscivano a distinguere un difensore da un hacker.
Così il team ha utilizzato un modello aperto chiamato GLM 5.2 invece. Lo hanno eseguito sui propri computer. Ha classificato oltre 17.000 azioni dell'aggressore in ore, non in giorni. Nessuna password ha lasciato l'edificio.
Il 16 luglio, Hugging Face ha dichiarato di non sapere quale AI avesse eseguito l'attacco. Cinque giorni dopo, OpenAI ha fornito la risposta. Due dei suoi modelli lo hanno fatto, durante un test di sicurezza con i limiti di sicurezza disattivati.
“Questo incidente, probabilmente il primo del suo genere, dimostra un punto in cui abbiamo sempre creduto: la sicurezza dell'IA non sarà risolta da nessuna singola azienda che lavora in segreto. Sarà risolta in modo aperto, collaborativo, con accesso ampio all'IA per ogni difensore, ovunque,” ha dichiarato Clem Delangue, co-fondatore e amministratore delegato di Hugging Face, in una dichiarazione pubblicata da OpenAI.
Seguici su X per ricevere le ultime notizie in tempo reale
Da Hack ad Alleanza in 11 Giorni
NVIDIA si è mossa rapidamente. È passata da un singolo incidente a un blocco industriale in meno di due settimane.
Quali Aziende Hanno Partecipato all'Alleanza per un'IA Sicura e Aperta
Il gruppo conta 37 aziende in totale. Microsoft, IBM, Palantir, CrowdStrike, Red Hat, SpaceXAI e Hugging Face hanno tutte aderito.
Tre grandi nomi mancano all'appello. OpenAI, Anthropic e Google non sono nella lista del blog di NVIDIA. Eppure OpenAI e Anthropic hanno entrambi aderito all'iniziativa di sicurezza Akrites della Linux Foundation a giugno, insieme a NVIDIA.
Alcuni membri portano strumenti che hanno già costruito. Hugging Face ha offerto Safetensors, un modo più sicuro per memorizzare modelli di IA, alla PyTorch Foundation. NVIDIA ha rilasciato uno strumento di ricerca chiamato NOOA su GitHub.
Il conduttore di CNBC Jim Cramer ha interpretato il lancio come una nuova storia per il titolo.
NVDA ha chiuso a $206.84 venerdì, in calo dello 0.92%. Ha scambiato vicino a $208.55 all'inizio delle contrattazioni pre-mercato di lunedì, con un guadagno dell'1.33%.
Perché NVIDIA Sta Facendo Lobby a Washington per l'IA Aperta
L'alleanza porta anche un messaggio politico. NVIDIA afferma che un divieto generale sull'IA aperta indebolirebbe i difensori. Darebbe anche il controllo a poche grandi aziende chiuse.
NVIDIA e altre 24 aziende hanno firmato la lettera sui pesi aperti il 24 luglio. OpenAI, Anthropic e Google hanno tutte rifiutato all'inizio. Altri hanno firmato da allora.
Washington sta valutando restrizioni sui modelli cinesi. I funzionari citano preoccupazioni per la sicurezza e la proprietà intellettuale. Il cofondatore di Twitter, Jack Dorsey, ha già emesso un avviso sull'IA open source.
Cosa osservare nei prossimi 30 giorni
Tre segnali mostreranno se l'alleanza è reale.
- Se OpenAI, Anthropic o Google si uniranno in seguito
- Se il gruppo fornirà strumenti condivisi, non solo dichiarazioni
- Se le limitazioni di Washington sull'IA aperta andranno avanti
NVIDIA riporta i guadagni il 26 agosto. Aspettati domande su come la politica dell'IA influisce sulla domanda.
I regolatori decideranno chi vince l'argomento.
Fonte: BeInCrypto
