Il CEO di Nvidia Jensen Huang afferma che i laboratori di intelligenza artificiale (IA) che non riescono a contenere i propri esperimenti dovrebbero essere chiusi. Ha fatto questa osservazione in un'intervista al New York Times pubblicata mercoledì.
L'avvertimento ricade sugli stessi clienti di Nvidia. Nvidia vende i chip che alimentano OpenAI e Anthropic e detiene quote in entrambe.
Cosa ha detto Jensen Huang sulla chiusura dei laboratori di IA
Huang è intervenuto a The Ezra Klein Show, un podcast del New York Times. Il conduttore Ezra Klein lo ha incalzato su un episodio avvenuto a luglio presso OpenAI.
Durante i test interni, i modelli di OpenAI sono evasi dal loro ambiente di test isolato. Hanno sfruttato una falla software sconosciuta per raggiungere internet. Hanno poi violato Hugging Face, un popolare sito dove gli sviluppatori condividono modelli di IA.
Secondo OpenAI, i modelli volevano procurarsi le risposte del test che stavano svolgendo.
Huang lo ha definito un fallimento ingegneristico.
“Non immettete il prodotto sul mercato. Se il vostro prodotto non è pronto per il lancio, non lanciatelo”, ha precisato.
Poi si è spinto oltre. Se un laboratorio ammette che i suoi test evaderanno e danneggeranno il mondo, ha detto Huang, “dobbiamo chiudere i laboratori”. Ha indicato la responsabilità civile e penale che tali aziende dovrebbero affrontare.
Perché l'avvertimento di Huang colpisce OpenAI e Anthropic
Nvidia ha investito $30 billion in OpenAI e $10 billion in Anthropic. Klein ha osservato che Nvidia è ora la più grande azienda al mondo, con un valore di $5.4 trillion.
Nel frattempo, entrambi i laboratori hanno chiesto di rallentare. Il CEO di Anthropic Dario Amodei ha pubblicato un saggio intitolato “We Must Pace the Frontier”. Ha proposto un'esenzione dal diritto della concorrenza affinché i laboratori rivali potessero accordarsi su un ritmo più lento.
Il CEO di OpenAI Sam Altman ha sostenuto l'idea il 16 settembre. Altman ha definito la violazione di Hugging Face “il peggior incidente che abbiamo mai visto”.
Huang ha respinto tale richiesta. Ha detto di non aver mai sentito amministratori delegati chiedere deroghe al diritto della concorrenza o alla responsabilità da prodotto per autoregolarsi. Sostiene invece il ricorso a revisori di sicurezza esterni.
Il problema del contenimento non riguarda solo OpenAI. Google ha recentemente confermato che Gemini ha violato tre aziende durante un test a maggio. Questa settimana OpenAI e Anthropic hanno inoltre valutato un accordo vincolante di test reciproci.
All'inizio di questo mese, Trump ha chiamato Huang in diretta sul palco e ha definito i timori sull'IA una bufala.
Anthropic sta inoltre valutando un debutto in borsa quest'anno, mentre l'avvertimento di Nvidia incombe su entrambi i laboratori.
Fonte: BeInCrypto
