Claude AI ha creato qualcosa che Anthropic non ha mai progettato

Anthropic ha appena trovato qualcosa all'interno dei suoi modelli Claude che nessuno ha progettato o si aspettava. Una struttura interna chiamata “J-space” sembra funzionare come uno spazio cognitivo condiviso tra il modello.

La ricerca del 6 luglio segna un passo importante nella comprensione di ciò che accade realmente all'interno dei grandi modelli linguistici.

Cosa è realmente il J-Space all'interno di Claude

Il J-space è un'area interna dove Claude sembra raccogliere e condividere informazioni importanti all'interno del modello. Un modo semplice per pensarci è come una lavagna all'interno dell'IA.

Quando Claude risponde a una domanda, risolve un rompicapo o segue un'istruzione, dettagli chiave sembrano apparire in questo spazio condiviso affinché diverse parti del modello possano utilizzarli.

Anthropic ha trovato il J-space utilizzando uno strumento di ricerca chiamato “J-lens.” Lo strumento aiuta i ricercatori a ispezionare come le informazioni si muovono all'interno di Claude durante un compito. Ha mostrato che il J-space è emerso durante l'addestramento da solo. Anthropic non lo ha progettato direttamente.

Seguici su X per ricevere le ultime notizie in tempo reale.

L'idea è simile a una teoria in neuroscienze chiamata “global workspace.”

Negli esseri umani, questo descrive come il cervello rende disponibili informazioni importanti a diversi processi mentali contemporaneamente. Ad esempio, quando qualcuno sente una domanda, ricorda un fatto e decide come rispondere, quei pezzi di informazione devono unirsi.

Claude sembra fare qualcosa di simile. Anthropic ha scoperto che Claude può descrivere cosa c'è all'interno del suo J-space quando viene chiesto. Può anche regolare quei contenuti se istruito.

Più importante, quando i ricercatori hanno cambiato direttamente lo J-space, anche le risposte e le prestazioni di Claude sono cambiate.

Perché questo è importante per la sicurezza e l'interpretabilità dell'IA

La scoperta ha un peso reale per la sicurezza dell'IA. Se i ricercatori possono monitorare l'attività dello J-space, possono potenzialmente scoprire motivazioni nascoste dietro il comportamento di un modello. Di conseguenza, ottengono uno strumento più affilato per individuare quando qualcosa va storto.

Questo include il rilevamento degli attacchi. Monitorare lo J-space potrebbe rivelare quando un modello elabora un tentativo di iniezione di prompt progettato per dirottare i suoi output. Inoltre, anche una finestra parziale su questo strato di elaborazione “consapevole” segna un avanzamento significativo per il campo.

Tuttavia, l'ambito rimane limitato. La stragrande maggioranza dell'elaborazione delle informazioni di Claude avviene ancora interamente al di fuori dello J-space.

Tuttavia, Anthropic ha rilasciato un'implementazione open-source di J-lens e una demo di Neuronpedia, invitando la comunità di ricerca più ampia a testare i risultati.

Iscriviti al nostro canale YouTube per vedere leader e giornalisti fornire approfondimenti esperti.

Il lavoro si basa su un lungo percorso di ricerca. Anthropic ha pubblicato un rapporto sulla consapevolezza introspettiva emergente nell'ottobre 2025. Inoltre, ha lanciato iniziative per il benessere dei modelli nell'aprile 2025, esplorando costantemente cosa succede all'interno dei suoi sistemi.

Una avvertenza si distingue chiaramente. Anthropic è categorica nel dire che la ricerca non afferma che Claude sia consapevole o abbia un'esperienza soggettiva. Il documento utilizza la frase “informazioni consapevolmente accessibili”, prendendo in prestito il vocabolario senza fare il salto verso la vera coscienza.

Fonte: BeInCrypto