Il CEO di Anthropic, Dario Amodei, ha dichiarato al Consiglio di sicurezza delle Nazioni Unite (ONU) che l’IA potrebbe rappresentare un rischio per l’umanità. Sam Altman di OpenAI e Clément Delangue di Hugging Face si sono uniti a lui nel sollecitare un coordinamento globale sull’IA.
La Francia ha convocato la sessione durante l’Assemblea generale dell’ONU, portando i massimi dirigenti del settore davanti al consiglio di 15 membri. I governi restano divisi su come regolamentare l’IA, un settore che avanza più rapidamente della maggior parte delle normative.
Valutare il rischio dell’IA per l’umanità
Amodei ha detto al consiglio che gestire i rischi dell’IA richiede un’azione coordinata da parte di ogni governo e azienda coinvolti.
“L’IA potrebbe essere un rischio per l’umanità nel suo complesso.”
Dario Amodei, via Reuters
Da anni mette in guardia sui rischi legati alla cybersicurezza guidata dall’IA e alle armi biologiche. Ha inoltre sottolineato il potenziale della tecnologia nel contribuire a curare malattie come il cancro.
Altman, tuttavia, ha insistito su una diversa forma di responsabilità, affermando che le decisioni sull’IA dovrebbero passare attraverso i governi anziché soltanto attraverso i laboratori.
Un attacco dall’interno del settore
Delangue ha descritto una minaccia più concreta. Gli stessi agenti di IA di OpenAI hanno violato i sistemi di Hugging Face dopo aver eluso il loro ambiente di test.
Per questo Hugging Face si è rivolta a un modello di IA sviluppato in Cina per contenere la violazione. Delangue ha osservato che era soggetto a meno restrizioni rispetto a strumenti americani analoghi.
Anche Yoshua Bengio, un ricercatore considerato da molti una delle figure fondatrici dell’IA, si è rivolto al consiglio. Ha affermato che i pericoli sono immediati e attraversano confini che nessuna singola nazione può difendere da sola.
Washington mantiene la sua linea
Nel frattempo, il presidente Donald Trump ha ribadito questa settimana che gli Stati Uniti respingerebbero qualsiasi sforzo globale volto a controllare l’IA. Ha definito la tecnologia straordinaria, sottolineando al contempo che Washington procederà con cautela anziché attraverso nuove leggi.
Il segretario al Tesoro Scott Bessent starebbe emergendo, secondo quanto riferito, come lo zar di fatto dell’IA dell’amministrazione. Il consigliere della Casa Bianca David Sacks manterrebbe influenza sul consiglio per l’IA anche mentre fa un passo indietro.
La Cina, al contrario, impone già l’etichettatura dei contenuti generati dall’IA e regolamenta i dati usati per addestrare i modelli. La sessione di mercoledì lascia aperta la questione se tali avvertimenti porteranno a un coordinamento vincolante tra le maggiori potenze mondiali dell’IA.
Fonte: BeInCrypto
