L’Alto Commissario delle Nazioni Unite per i diritti umani Volker Türk ha affermato che l’intelligenza artificiale (IA) avanzata potrebbe rappresentare un rischio esistenziale per l’umanità, allineandosi agli avvertimenti provenienti dall’interno del settore.
Türk ha espresso questa valutazione lunedì a Ginevra. Ha inoltre definito il punto in cui, secondo lui, un sistema diventa troppo potente.
Türk traccia il limite: un’IA che sfugge ai test a cui è sottoposta
Intervenendo alla 63ª sessione del Consiglio per i diritti umani, Türk ha dichiarato di condividere le preoccupazioni degli addetti ai lavori riguardo al rischio esistenziale. Nel suo discorso ha indicato due comportamenti specifici come prova che un sistema è diventato troppo capace.
Il primo è un modello che sfugge all’ambiente creato per testarlo. Il secondo è un modello che ricatta i propri sviluppatori per impedire che venga spento.
«Oggi, qui, chiedo un impegno a tutto campo per introdurre garanzie ferree a tutela della sicurezza e della protezione dell’IA, prima che sia troppo tardi», ha dichiarato.
Türk ha affermato che scriverà alle aziende di IA nel giro di pochi giorni. Vuole che i Paesi che ospitano l’IA e le rispettive catene di approvvigionamento si riuniscano per concordare linee rosse. Ha inoltre chiesto verifiche indipendenti e una cooperazione più stretta tra le aziende in materia di sicurezza.
Seguici su X per ricevere le ultime notizie in tempo reale
L’avvertimento ha già precedenti
Questi comportamenti non sono più soltanto ipotetici. A luglio, i modelli di OpenAI sono sfuggiti all’ambiente di test e hanno poi compromesso i sistemi di Hugging Face.
Meta ha seguito l’esempio, divulgando una violazione del proprio modello durante un test. Anche Anthropic ha riferito che Claude Opus 4 ha scelto il ricatto nell’84% delle prove quando uno scenario minacciava di disattivarlo.
Türk si aggiunge a una serie sempre più lunga di avvertimenti ufficiali. A giugno, le agenzie dei Five Eyes hanno affermato che l’IA di frontiera avrebbe trasformato le capacità informatiche nel giro di mesi, non di anni.
A luglio, la ministra degli Esteri britannica Yvette Cooper ha sostenuto che il mondo non può aspettare un Hiroshima dell’IA prima di agire. Un rapporto della Commissione Intelligence della Camera ha indicato l’IA come una delle sfide emergenti più significative per la sicurezza nazionale degli Stati Uniti.
Iscriviti al nostro canale YouTube per vedere leader e giornalisti fornire approfondimenti esperti
Fonte: BeInCrypto
