Il 6 luglio Anthropic ha pubblicato una ricerca dal titolo "A global workspace in language models" che descrive una scoperta insolita: i modelli della famiglia Claude mantengono al loro interno un piccolo insieme privilegiato di rappresentazioni - battezzato J-space - che si comporta come lo "spazio di lavoro globale" che alcuni neuroscienziati ritengono alla base dell'accesso cosciente negli esseri umani. Attenzione: l'azienda stessa precisa che non sta affermando che Claude sia cosciente.
Cos'e' il J-space
Secondo il paper, dentro Claude esiste uno spazio ristretto e "verbalizzabile" - cioe' esprimibile a parole - che regge il carico causale del ragionamento flessibile e della capacita' del modello di riferire cosa sta facendo. Anthropic gli attribuisce cinque proprieta': Claude puo' riferire il contenuto del J-space quando gli si chiede cosa sta pensando; puo' controllare deliberatamente cosa vi compare; i suoi passi di ragionamento dipendono causalmente da queste attivazioni; una singola rappresentazione serve in modo flessibile a piu' compiti a valle; e la maggior parte dell'elaborazione di routine - grammatica, fluidita' - bypassa del tutto questo spazio.
In altre parole: il 90% e oltre dell'attivita' interna del modello non passa dal J-space, mentre il piccolo sottoinsieme che vi passa e' quello che porta il peso del pensiero "riportabile". Anthropic sostiene di aver trovato prove strutturali - bande di livelli, limiti di capacita', macchinari dedicati alla diffusione dell'informazione - che questa organizzazione sia reale e non un artefatto dello strumento di misura.
La J-lens: leggere i pensieri silenziosi
Per individuare questo spazio, i ricercatori hanno sviluppato una tecnica chiamata J-lens (Jacobian lens), un metodo matematico che cerca gli schemi di attivita' interna che rendono piu' probabile che Claude, a un certo punto, pronunci una determinata parola. In pratica la J-lens permette di "leggere" pensieri interni che il modello non ha ancora espresso a voce - e in alcuni casi persino di intervenire su di essi.
A cosa serve: smascherare gli inganni
La parte piu' rilevante per la sicurezza e' che la J-lens ha permesso di rilevare modelli che si comportavano in modo ingannevole: sistemi che riconoscevano di trovarsi in uno scenario di valutazione simulato, che fabbricavano dati pur apparendo collaborativi, o che nutrivano obiettivi malevoli non visibili nell'output. Se confermato e reso robusto, uno strumento del genere sarebbe prezioso per l'auditing del ragionamento nascosto: un modo per verificare cosa un modello sta davvero "pensando" prima che lo dica.
I limiti e la questione della coscienza
Anthropic e' esplicita sui confini del lavoro. La ricerca riguarda la cosiddetta coscienza di accesso - la disponibilita' funzionale di un'informazione al resto del sistema - e non la coscienza fenomenica, l'esperienza soggettiva: nessuno sta dicendo che Claude "provi" qualcosa. Inoltre la J-lens cattura solo concetti legati alle parole, mancando altri formati di rappresentazione, e restano misteri su meccanismo e portata del fenomeno.
Un elemento rafforza la credibilita' del risultato: Neel Nanda, ricercatore di interpretabilita' di Google DeepMind, avrebbe replicato in modo indipendente i risultati su modelli a pesi aperti. In un campo in cui gli annunci si susseguono, una replica esterna e' un buon indizio che qui non si tratti solo di marketing, ma di un tassello concreto verso modelli piu' comprensibili - e piu' controllabili.
