I legislatori statunitensi hanno risposto alle dimissioni di un ricercatore di Anthropic rilanciando la richiesta di fermare lo sviluppo dell’intelligenza artificiale (IA) avanzata, con un disegno di legge al Senato che vieterebbe del tutto la superintelligenza.
Jacob Coxon si è dimesso il 9 settembre, affermando che Anthropic e OpenAI stanno entrambe scommettendo sulla vita delle persone.
Perché le dimissioni del ricercatore di Anthropic sono arrivate fino a Capitol Hill
Più di 20 legislatori hanno risposto al thread, perlopiù chiedendo nuove leggi sull’IA. Il senatore Bernie Sanders ha dichiarato che presenterà un disegno di legge per vietare la superintelligenza e sospendere lo sviluppo dell’IA.
BeInCrypto ha riferito che all’inizio di questo mese Sanders e il deputato Greg Casar hanno proposto il “Ban Artificial Superintelligence Act”. Il disegno di legge vieterebbe in modo permanente lo sviluppo e la diffusione di IA superintelligenti. Sospenderebbe inoltre lo sviluppo dell’IA avanzata fino a quando un’autorità di regolamentazione federale non avrà definito standard di sicurezza.
Nel frattempo, Casar ha definito la situazione un’emergenza e ha chiesto audizioni al Congresso. La deputata Lori Trahan ha richiamato l’attenzione dei legislatori sul suo FRONTIER Act, sostenuto da entrambi i partiti e presentato a luglio insieme al deputato Jay Obernolte.
“La legge FRONTIER stabilisce requisiti graduati in base alle dimensioni di uno sviluppatore di IA di frontiera, tra cui schede dei modelli, quadri di gestione dei rischi, audit indipendenti, segnalazione degli incidenti e valutazioni periodiche. Inoltre, istituisce uno standard nazionale uniforme in materia di trasparenza, audit e segnalazione dei rischi catastrofici, per evitare un mosaico di normative statali”, si legge nell’annuncio.
Il senatore Chris Van Hollen vuole misure di salvaguardia obbligatorie e colloqui urgenti con la Cina. Il deputato Ted Lieu ha esortato la dirigenza repubblicana a portare avanti la legge sull’interruttore di emergenza per l’IA che ha presentato quest’anno.
La deputata repubblicana Anna Paulina Luna ha rotto gli schemi di partito e chiesto una sessione speciale del Congresso sull’IA.
Seguici su X per ricevere le ultime notizie in tempo reale
Jacob Coxon afferma che i laboratori vogliono le regole
Nel frattempo, la pressione non è soltanto politica. Anche le aziende di IA si sono fatte promotrici di una regolamentazione. Coxon ha dichiarato alla CNN che i dirigenti che chiedono al Congresso di regolamentare il settore sono sinceri. Tuttavia, ha sostenuto che nessuno di loro si fida abbastanza dei concorrenti da rallentare per primo.
“Queste persone sono anche assolutamente sincere quando implorano di essere regolamentate… si trovano in una situazione in cui sono costrette a fare a gara per sviluppare una tecnologia letale”, ha detto.
In un post di settembre, Anthropic ha affermato separatamente che il settore trarrebbe beneficio da un meccanismo legale e verificabile per coordinare i ritmi di sviluppo.
Da dove ha origine il rischio di estinzione
Il ritmo conta solo per ciò che Coxon pensa accadrà in seguito. Ha spiegato che, se a un’IA viene affidato il compito di fare ricerca sull’IA, questa inizia a migliorare se stessa.
Ha citato martedì, quando, secondo quanto riferito, i sistemi di IA di OpenAI hanno risolto un problema del millennio in completa autonomia.
La parte spaventosa, ha detto, è applicare lo stesso metodo all’IA stessa. I modelli migliorano altri modelli senza alcun intervento umano: è ciò che Coxon definisce un’«esplosione di intelligenza».
«Al momento non c’è alcun rischio di estinzione. Il peggio che i modelli attuali possano fare è forse hackerare qualcosa e potenzialmente causare molti danni alle infrastrutture… non sono abbastanza intelligenti da superarci in astuzia a un livello tale da portare all’estinzione», ha detto.
Coxon ha però avvertito che la stessa volontà autonoma, unita a capacità molto superiori, potrebbe provocare danni estremi. Ha citato gli attacchi informatici alle infrastrutture critiche e la creazione di armi biologiche capaci di causare l’estinzione.
Iscriviti al nostro canale YouTube per vedere leader e giornalisti fornire approfondimenti esperti
Fonte: BeInCrypto
