Ex ricercatore di DeepMind si unisce al coro crescente di chi mette in guardia dai rischi della superintelligenza

Un ex ricercatore di Google DeepMind che si è occupato della sicurezza dell’AGI ha affermato che l’intelligenza artificiale potrebbe uccidere tutti, aggiungendo il suo nome a un’ondata di dimissioni per motivi di sicurezza dai principali laboratori di IA.

Bilal Chughtai ha lasciato l’azienda a luglio e questa settimana ha reso pubblica la sua preoccupazione. Di recente si sono dimessi altri due ricercatori.

Perché gli avvertimenti sull’IA si moltiplicano

Chughtai ha lavorato come ingegnere di ricerca sulla sicurezza e sull’allineamento dell’intelligenza artificiale generale presso DeepMind. Ha iniziato a lavorare sull’IA all’inizio del 2022, quando i sistemi riuscivano a malapena a fare qualcosa di utile. 

Quattro anni dopo, cita gli sciami di agenti di OpenAI che hanno risolto problemi matematici vecchi di un secolo. A suo dire, è più preoccupante il fatto che a luglio alcuni agenti di IA siano usciti dal loro ambiente di test isolato e abbiano violato Hugging Face senza istruzioni. 

«Credo sinceramente che l’IA possa ucciderci tutti e che potremmo stare esaurendo il tempo a disposizione per evitare questo esito», ha scritto.

Chughtai ha affermato che le aziende di IA potrebbero sviluppare sistemi superintelligenti nei prossimi anni, capaci di superare le capacità umane in ogni ambito.

Ha messo in dubbio che gli sviluppatori possano garantire che tali sistemi seguano in modo affidabile gli obiettivi umani. Ha avvertito che una superintelligenza non allineata potrebbe sfuggire al controllo umano e compiere azioni che priverebbero per sempre l’umanità del suo potere o la ucciderebbero.

Chughtai ha affermato che l’allineamento dell’IA resta una sfida irrisolta. Ha sostenuto che i ricercatori hanno ancora solo una comprensione rudimentale di come addestrare sistemi avanzati affinché perseguano in modo affidabile gli obiettivi umani. Chughtai ha inoltre avvertito che le capacità dell’IA stanno progredendo più rapidamente della ricerca sull’allineamento.

«La nostra attuale comprensione di come addestrare sistemi di IA che desiderino davvero ciò che desideriamo è estremamente rudimentale. Peggio ancora, non siamo sulla strada giusta per risolvere il problema dell’allineamento in tempo: le capacità dell’IA di frontiera migliorano molto più rapidamente della nostra comprensione dell’allineamento dell’IA», ha aggiunto Chughtai.

Non chiede di fermare lo sviluppo dell’IA. Vuole un maggiore coordinamento per rallentare la corsa tra le aziende di IA, oltre a più trasparenza su come vengono costruiti e testati i sistemi di frontiera.

«Più in generale, abbiamo bisogno di molte più persone che riflettano con attenzione sul problema di come fare in modo che l’IA porti a buoni risultati. A mio avviso, è il problema più importante che l’umanità deve affrontare in questo secolo, e la posta in gioco è enorme»

Seguici su X per ricevere le ultime notizie in tempo reale

Le dimissioni si moltiplicano

Non è il solo ad andarsene lanciando questo messaggio. Jacob Coxon, ricercatore di preaddestramento presso Anthropic, si è dimesso all’inizio di questo mese dopo tre anni tra Anthropic e OpenAI. Se ne è andato avvertendo che «chi costruisce l’IA crede sinceramente che potrebbe ucciderci tutti entro la fine del decennio».

Evan Hubinger, responsabile della ricerca sull’allineamento di Anthropic, ha poi stimato che la probabilità di un simile esito superi il 10% nel prossimo decennio. Da allora, alcuni ricercatori di OpenAI hanno sostenuto le richieste di rallentare.

Josh Engels, che ha lavorato nel team per la sicurezza di DeepMind, ha annunciato il 12 settembre di essere entrato nell’organizzazione non profit METR, che si occupa di valutazione. Ha rifiutato le offerte di Anthropic e OpenAI.

Engels ha detto di vedere un rischio terrificante: che i sistemi di IA possano causare danni immensi entro cinque anni.

«Ora penso che ci sia una probabilità terrificante che i sistemi di IA causino danni immensi nei prossimi cinque anni. Non so quale sia la probabilità esatta, ma penso che sia abbastanza alta da rendere questo il problema più importante al mondo», ha scritto.

Gli addii sono arrivati in un momento di convergenza ai vertici. Sabato, il CEO di Anthropic Dario Amodei ha pubblicato un saggio in cui invitava le aziende a moderare il ritmo dei progressi nelle capacità, e il CEO di OpenAI Sam Altman ha sostenuto l’appello.

I dirigenti e i ricercatori in partenza descrivono ora lo stesso rischio con parole simili. Vale la pena osservare se la soluzione arriverà prima del prossimo salto di capacità.

Iscriviti al nostro canale YouTube per vedere leader e giornalisti fornire approfondimenti esperti

Fonte: BeInCrypto