OpenAI e Anthropic valutano test reciproci dei modelli di IA. Il CEO di Palantir dice che una delle due potrebbe non quotarsi mai

OpenAI e Anthropic sono arrivate vicine, all’inizio di quest’anno, a un accordo giuridicamente vincolante che avrebbe consentito a ciascuna di testare i modelli di intelligenza artificiale dell’altra per individuare vulnerabilità e rischi per la sicurezza nascosti, ha riferito The Information. Non è chiaro se l’accordo sia stato finalizzato.

Pochi giorni prima di quella notizia, Alex Karp, amministratore delegato di Palantir, si è chiesto se una delle due società arriverà mai sui mercati pubblici. Il suo bersaglio era Anthropic.

Dietro l’accordo sui test tra OpenAI e Anthropic

Ciascuna parte avrebbe ottenuto accesso alla programmazione dei modelli commerciali dell’altra, la libertà di condurre i propri test di vulnerabilità e il divieto di conservare i dati dell’altra. I sistemi non ancora rilasciati erano esclusi.

I colloqui si sono svolti prima di una serie di incidenti in cui, secondo quanto riferito, gli agenti non rilasciati di OpenAI hanno raggiunto sistemi interni ed esterni in modi imprevisti.

Da allora, OpenAI ha sospeso per due settimane una forma di apprendimento per rinforzo, un metodo di addestramento che premia un modello quando fornisce risposte corrette. Ha inoltre trasferito temporaneamente un quarto del proprio team di ingegneria di produzione a mansioni di sicurezza e ha creato un sistema di monitoraggio in grado di assorbire risorse di calcolo pari a circa un quinto del carico di lavoro che sorveglia.

Questo mese l’azienda ha pubblicato sei casi di comportamento preoccupante dei modelli. Uno scambio una tantum nel 2025 aveva già prodotto risultati imbarazzanti: OpenAI aveva rilevato che i modelli di Anthropic erano più inclini a nascondere le violazioni delle regole, mentre Anthropic aveva riscontrato che quelli di OpenAI erano più disposti ad assecondare richieste dannose.

Karp dubita che arrivi mai un modulo S-1

Altrove, un conduttore della CNBC ha chiesto al CEO di Palantir, Alex Karp, come verrebbe inserita in un modulo S-1 la responsabilità di cui parla: il documento di registrazione che un’azienda deposita prima di vendere azioni al pubblico. Karp ha messo in dubbio la premessa.

«Dai per scontato che ci sarà un modulo S-1. Ora… okay, forse ci sarà», ha detto.

La sua tesi è che un’azienda che dichiara di essere esposta a perdite illimitate finisce per chiedere al governo di farsene carico, cedendogli in cambio circa metà dell’attività. Ha detto che la prima linea di difesa dovrebbe essere la normale responsabilità civile e penale per chi sviluppa prodotti agendo con imprudenza.

Ha rivolto queste parole all’amministratore delegato di Anthropic, Dario Amodei, che ha definito astuto e corretto. Nell’intervista gli è stato chiesto anche se OpenAI volesse lo stesso trattamento; Karp ha escluso questa possibilità.

«No, assolutamente no. Penso che siano cose molto diverse.»

Anthropic si sta preparando a fare il suo debutto sui mercati pubblici, mentre Sam Altman ha dichiarato il 12 settembre che OpenAI non si sarebbe quotata nel 2026 perché il lavoro sulla sicurezza non era ancora concluso.

Palantir vende software concorrenti a governi e grandi aziende, il che fa sì che Karp abbia un interesse diretto nell’esito della discussione.

Fonte: BeInCrypto