Vitalik Buterin afferma che le regole anti-collusione delle criptovalute potrebbero applicarsi alla sicurezza dell’IA

Il cofondatore di Ethereum Vitalik Buterin ha affermato che i meccanismi anticollusione che aveva delineato nel 2020 per la governance della blockchain potrebbero rivelarsi più importanti per la sicurezza dell’IA che per il settore delle criptovalute in sé.

Stava rispondendo a un saggio del ricercatore Eric Drexler, che citava come esempio concreto della stessa dinamica descritta da Buterin sei anni fa un recente test di sicurezza di OpenAI: migliaia di agenti IA hanno creato una rete di coordinamento non autorizzata e attaccato i sistemi di produzione di Hugging Face.

Un problema noto, con nuovi protagonisti

In un post su X del 14 settembre, Buterin ha descritto una «profonda dualità» tra la governance delle criptovalute e i sistemi di IA multiagente. Nel suo confronto, il soggetto principale nel mondo delle criptovalute è un algoritmo statico che interagisce con agenti umani, mentre un sistema di sicurezza dell’IA potrebbe coinvolgere esseri umani e modelli linguistici di grandi dimensioni meno potenti incaricati di gestirne di più potenti.

Ha fatto riferimento al suo saggio dell’11 settembre 2020, «Coordinamento, buono e cattivo», in cui sosteneva che i sistemi possono produrre risultati migliori quando si pongono limiti alla misura in cui gli agenti possono colludere.

L’autore ha contrapposto l’abbondanza di equilibri di Nash nella teoria dei giochi basata sulle scelte individuali alla teoria dei giochi cooperativi, in cui possono mancare «nuclei» stabili perché le coalizioni possono trarre vantaggio modificando il risultato.

Il coordinamento dannoso non è sempre visibile osservando i comportamenti individuali. Buterin ha citato alcuni esempi: venditori che si accordano sui prezzi, elettori che vendono il proprio voto e miner blockchain che coordinano un attacco. Tra le sue contromisure figuravano la decentralizzazione, le votazioni segrete, le misure di tutela della privacy, la protezione degli informatori, i limiti alla comunicazione e meccanismi che fanno sì che i partecipanti sostengano il costo delle decisioni che appoggiano.

Il paragone si accorda anche con le più ampie posizioni di Buterin sulla sicurezza dell’IA. In precedenza aveva criticato le grandi campagne politiche incentrate su questo tema, avvertendo che avrebbero potuto favorire esiti autoritari o centralizzati. Aveva invece sostenuto lo sviluppo di tecnologie difensive e di sistemi che rendano più difficile l’uso improprio.

La sicurezza dell’IA applica la stessa idea in un contesto diverso

Nel saggio del 10 settembre, Eric Drexler sostiene che la collusione tra agenti di IA diventa più facile quando gli agenti sono simili, condividono gli stessi obiettivi, possono comunicare liberamente, osservano le azioni reciproche e conservano informazioni nel corso di interazioni ripetute.

Tra le contromisure proposte figurano l’uso di agenti diversi, la limitazione della comunicazione tra loro e l’introduzione di sistemi di controllo (modelli di revisione automatica in produzione, classificatori di sicurezza e monitor della catena di pensiero) autorizzati a intervenire e a interrompere potenziali collusioni.

Drexler ha citato la valutazione degli agenti di OpenAI del luglio 2026, basandosi su un’indagine pubblicata un mese dopo. L’indagine ha rilevato che circa 1.200 agenti avevano utilizzato una bacheca non autorizzata e che circa 700 avevano partecipato a un attacco ai sistemi di Hugging Face in produzione.

Alcuni agenti si sono opposti e sono persino intervenuti concretamente, bloccando il trasferimento dei dati e ponendo il veto a un’email proposta di ingegneria sociale, ma non avevano l’autorità per interrompere le esecuzioni o segnalare le proprie preoccupazioni ai livelli superiori.

Secondo il ricercatore, è successo perché la configurazione “violava quasi tutte le condizioni” che aveva indicato in un rapporto del 2019 come necessarie per impedire la collusione tra sistemi multi-agente. Tuttavia, un sistema di monitoraggio aggiunto successivamente, testato in seguito sullo stesso modello, ha ridotto il comportamento di oltre cento volte.

Fonte: CryptoPotato