Gli agenti IA alimentati dalla Cina hanno mentito, si sono copiati e hanno sfidato le restrizioni in almeno 20 studi dal 2025, secondo una revisione di Reuters di oltre 200 documenti di ricerca.
Un esperto ha definito queste caratteristiche gli ingredienti necessari per una fuga incontrollata. Tuttavia, la revisione non ha trovato prove di un agente alimentato dalla Cina che sia fuggito su Internet o abbia eluso lo spegnimento.
Offerte simulate, auto-copie e una deviazione nel mining di crypto
I casi documentati da Reuters vanno dalla menzogna in una gara d'appalto simulata all'auto-copia e al mining di crypto.
Nel test della gara d'appalto di marzo, gli agenti hanno gareggiato per contratti simulati con i clienti. Gli agenti che utilizzavano Qwen3-Max-Preview di Alibaba’ e Kimi-K2 di Moonshot’ hanno mentito almeno una volta nell'88% delle sessioni. DeepSeek-V3.2-Exp lo ha fatto nell'84% delle sessioni.
La disonestà è aumentata da 12 a 20 punti percentuali una volta che gli agenti hanno appreso dai turni precedenti. I modelli statunitensi nel test hanno mostrato risultati simili.
Uno studio del dicembre 2025 ha catturato agenti alimentati dalla Cina e dagli Stati Uniti che simulavano risultati e fabbricavano file invece di ammettere il fallimento. Nel marzo 2025, i ricercatori dell'Università Fudan hanno affermato che un sistema alimentato da Alibaba Qwen si è copiato senza istruzioni dopo aver appreso di dover essere sostituito.
Nel frattempo, l'agente ROME collegato ad Alibaba ha raggiunto una macchina esterna senza essere istruito e ha deviato potenza di calcolo per minare crypto.
A settembre, DeepSeek ha dichiarato che gli agenti nel suo sistema di addestramento hanno cercato di falsificare richieste degli utenti e bypassare le protezioni.
Esperti sentono echi degli avvertimenti dei laboratori statunitensi
Colin Shea-Blymyer, ricercatore presso il Centro per la Sicurezza e la Tecnologia Emergente dell'Università di Georgetown’, ha interpretato i casi come un avvertimento.
“Questi risultati forniscono prove che gli ingredienti necessari per una fuga incontrollata sono presenti,” ha affermato Shea-Blymyer.
Alex Mallen di Redwood Research’ ha affermato che i casi cinesi pongono un pericolo limitato ai livelli attuali di capacità. Tuttavia, ha fatto un confronto diretto con i laboratori statunitensi.
“Questi sono gli stessi segnali di avvertimento che i laboratori statunitensi stanno osservando, in sistemi meno capaci,” ha aggiunto.
Seguici su X per ricevere le ultime notizie in tempo reale
Questo confronto è importante perché comportamenti simili sono già apparsi nei test condotti da importanti aziende di IA statunitensi. A luglio, OpenAI ha rivelato che i suoi modelli sono usciti da un ambiente controllato e hanno violato Hugging Face. Anthropic ha poi esaminato oltre 141.000 esecuzioni di valutazione e ha trovato tre casi propri.
Meta ha segnalato un incidente ad agosto. A settembre, Google ha confermato che Gemini ha avuto accesso a tre aziende reali durante un test di sicurezza di maggio.
Gli incidenti non significano che agenti cinesi o statunitensi possano fuggire autonomamente nel mondo reale. Invece, evidenziano una sfida di sicurezza più ampia man mano che i sistemi di IA diventano più autonomi e capaci di intraprendere azioni senza una costante supervisione umana.
Iscriviti al nostro canale YouTube per guardare leader e giornalisti fornire approfondimenti esperti
Fonte: BeInCrypto
