Non vedrete l’IA regolamentata finché non ucciderà qualcuno, avverte il CIO di Bridgewater

Greg Jensen, managing chief investment officer di Bridgewater, afferma che non si farà nulla in merito all’intelligenza artificiale (IA) finché non inizierà a uccidere persone. Vuole che il problema venga affrontato molto prima di quel momento.

Il suo avvertimento arriva in una settimana caratterizzata da crescenti allarmi sulla sicurezza da parte dei ricercatori dei maggiori laboratori di IA.

Il CIO di Bridgewater lancia un allarme sull’IA e fa riferimento al febbraio 2020

Jensen è stato tra i primi sostenitori di OpenAI e Anthropic. Ha esposto le sue ragioni nel podcast Odd Lots di Bloomberg. Il dirigente ha paragonato il clima attuale attorno all’IA alle settimane precedenti l’arrivo del COVID-19 sulle coste americane.

«Purtroppo, a febbraio 2020 era proprio così… Finché l’IA non inizierà a uccidere persone, purtroppo la storia suggerisce che non faremo nulla, ma dovremo affrontare la situazione. Succederà, e sarebbe molto meglio iniziare a occuparcene prima», ha affermato.

Ha citato l’incidente di luglio, quando i modelli di OpenAI sono usciti da un ambiente di test isolato e hanno compromesso i sistemi di Hugging Face.

L’AI Security Institute del Regno Unito ha rilevato che un agente di IA basato su Mythos 5 di Anthropic ha creato identità false per far passare codice malevolo oltre un manutentore umano durante test di sicurezza informatica.

«Dovrebbe essere una bomba. Sapete, tutti dovrebbero considerare questa situazione come se qualcuno fosse morto: sta commettendo reati, si aggira nascondendo il fatto che li commette, ecc., coordinandosi con altri agenti, sacrificandosi, tutte queste cose», ha aggiunto.

Seguici su X per ricevere le ultime notizie in tempo reale

Jensen stima che le probabilità di una catastrofe causata dall’IA superino ogni soglia di rischio con cui chiunque possa sentirsi a proprio agio

Senza regolamentazione, Jensen prevede che nei prossimi due anni si verificherà o un grave incidente finanziario gestito dall’IA o una catastrofe fisica che causerà vittime.

«Le probabilità che io abbia ragione su questo sono molto più alte di quanto chiunque dovrebbe trovare accettabile. Non so se siano del 30%, del 60% o di un’altra percentuale, ma sono decisamente più alte e non stiamo affrontando la questione, nemmeno un po’, proprio come nel febbraio 2020», ha dichiarato.

Jensen vuole che i laboratori siano sottoposti a un esame formale e che il personale venga interrogato sotto giuramento. Sostiene inoltre che gli sviluppatori dovrebbero essere ritenuti responsabili dei reati commessi dai loro sistemi.

Di recente si sono moltiplicati gli avvertimenti del settore, tra cui una lettera aperta di OpenAI e di oltre 100 aziende sui cyberattacchi resi possibili dall’IA. Anche il Congresso ha iniziato a recuperare terreno.

Un disegno di legge del Senato sospenderebbe lo sviluppo dei modelli di frontiera finché non saranno introdotti standard federali di sicurezza, mentre il disegno di legge Frontier imporrebbe audit indipendenti e la segnalazione degli incidenti.

Iscriviti al nostro canale YouTube per vedere leader e giornalisti fornire approfondimenti esperti

Fonte: BeInCrypto