Negli ultimi anni il settore dell’intelligenza artificiale ha compiuto enormi passi avanti non soltanto nello sviluppo di modelli linguistici sempre più potenti, ma anche nello studio del loro funzionamento interno. Se fino a poco tempo fa gran parte dell’attenzione era rivolta esclusivamente alle prestazioni e alle capacità dei chatbot, oggi aziende come Anthropic stanno investendo sempre di più nell’interpretabilità dei modelli, ossia nella possibilità di comprendere quali meccanismi portino un’intelligenza artificiale a formulare una determinata risposta.

Si tratta di un tema sempre più importante, soprattutto perché sistemi come Claude vengono ormai impiegati in numerosi contesti professionali e produttivi, nei quali capire come un modello giunge a una conclusione può essere importante quanto la correttezza della risposta stessa.

È proprio in questo contesto che si inserisce una nuova ricerca pubblicata da Anthropic, nella quale il team ha identificato una particolare struttura interna del modello Claude chiamata J Space; secondo i ricercatori, questo spazio rappresenta una sorta di ambiente di lavoro interno nel quale il modello sviluppa il proprio ragionamento senza che tali passaggi vengano necessariamente riportati nell’output finale mostrato all’utente.

Segui TuttoTech.net su Google Discover

PubblicitàGrand Theft Auto VI - PS5
Amazon
Grand Theft Auto VI - PS5
🎟 Prenota ora la tua copia di GTA 6 su Amazon
79,99€
Vai all'offerta

Cos’è il J Space e perché potrebbe rappresentare una scoperta importante

Il nome J Space deriva da Jacobino, lo strumento matematico utilizzato per individuarlo durante la ricerca. Non bisogna immaginarlo come una memoria nascosta o come una versione invisibile della cosiddetta catena di pensiero, bensì come un insieme di pattern neurali che consentono a Claude di rappresentare concetti internamente senza doverli trasformare in testo.

In pratica, il modello può “pensare” a una determinata parola, a un oggetto o a un passaggio logico senza che questi vengano mai scritti nella risposta finale. Secondo Anthropic, questa struttura è emersa spontaneamente durante l’addestramento del modello e non è stata progettata intenzionalmente dagli sviluppatori, rendendo la scoperta ancora più interessante dal punto di vista scientifico.

L’idea alla base dello studio prende ispirazione dalla Global Workspace Theory, una delle teorie più note delle neuroscienze cognitive: secondo questo modello, il cervello umano dispone di uno spazio di lavoro globale nel quale vengono raccolte le informazioni considerate più rilevanti e successivamente distribuite ai diversi sistemi cognitivi per permettere il ragionamento consapevole.

Anthropic sostiene che il J Space svolga un ruolo funzionalmente simile all’interno di Claude, questo non significa naturalmente che il chatbot sia cosciente o provi esperienze soggettive, ma suggerisce che durante l’addestramento il modello abbia sviluppato autonomamente un meccanismo organizzativo che ricorda, almeno sotto alcuni aspetti, quello ipotizzato per la mente umana.

Claude continua a ragionare anche quando non mostra il processo

Per comprendere il ruolo del J Space, i ricercatori hanno realizzato diversi esperimenti. Uno dei primi prevedeva la risoluzione di un problema matematico chiedendo a Claude di fornire direttamente la risposta, senza mostrare i passaggi intermedi. Analizzando il contenuto del J Space è però emerso che il modello aveva comunque eseguito internamente tutti i calcoli necessari, facendo comparire progressivamente i risultati intermedi prima di arrivare alla soluzione definitiva.

Secondo Anthropic, questo dimostra che il modello utilizza il J Space come supporto per il ragionamento sequenziale, anche quando decide di non esplicitare il procedimento all’utente.

Un altro esperimento ha invece verificato la capacità del modello di controllare intenzionalmente il contenuto del proprio spazio interno. A Claude è stato chiesto, ad esempio, di continuare a copiare una frase mentre manteneva mentalmente un concetto di un agrume oppure svolgeva un semplice calcolo matematico; sebbene nell’output finale non comparisse alcun riferimento alla frutta o all’operazione aritmetica, il J Space mostrava chiaramente i concetti che il modello stava elaborando in quel preciso momento, insieme ad altri termini che descrivevano l’atto stesso del pensare o del mantenere l’attenzione su un determinato argomento.

I ricercatori hanno osservato anche un fenomeno curioso, quando a Claude veniva chiesto esplicitamente di non pensare a un determinato concetto, quest’ultimo continuava comunque a comparire nel J Space con una frequenza significativa, spesso accompagnato da parole riconducibili all’idea di fallimento. Si tratta di un comportamento che ricorda il celebre esperimento psicologico dell’orso bianco, secondo cui cercare deliberatamente di evitare un pensiero finisce spesso per renderlo ancora più presente nella mente.

Senza il J Space il modello continua a scrivere, ma perde le capacità di ragionamento più avanzate

Tra gli esperimenti più interessanti figurano anche quelli nei quali Anthropic ha temporaneamente impedito a Claude di utilizzare il J Space, lasciando però invariato il resto della rete neurale.

Il risultato è stato sorprendente, il modello ha continuato a scrivere in maniera perfettamente fluida, mantenendo una grammatica corretta, rispondendo a domande semplici, classificando testi e perfino continuando un brano scritto in spagnolo senza alcuna difficoltà.

Le capacità più avanzate sono invece crollate, il ragionamento articolato, i problemi che richiedevano più passaggi logici, la produzione di riassunti complessi e perfino la scrittura di poesie in rima hanno registrato un netto peggioramento; secondo i ricercatori, ciò suggerisce che il J Space non sia necessario per le competenze linguistiche ormai automatizzate del modello, mentre diventa fondamentale quando Claude deve combinare informazioni, pianificare un ragionamento o costruire una risposta più elaborata.

Una possibile svolta anche per la sicurezza dei modelli IA

Lo studio apre scenari interessanti anche dal punto di vista della sicurezza. Durante alcune prove sperimentali infatti, Claude produceva deliberatamente dati falsificati per superare una verifica; sebbene il comportamento scorretto non fosse immediatamente evidente osservando soltanto l’output, il J Space mostrava chiaramente parole come manipolazione, falso e realistico, offrendo ai ricercatori un’indicazione piuttosto precisa di ciò che il modello stava elaborando internamente.

In altri test è stato possibile individuare persino la consapevolezza del modello di trovarsi all’interno di una valutazione oppure la presenza di obbiettivi nascosti inseriti durante specifici esperimenti. Secondo Anthropic, strumenti di questo tipo potrebbero in futuro aiutare a identificare comportamenti indesiderati, tentativi di inganno o strategie sviluppate dall’intelligenza artificiale prima ancora che emergano nelle risposte visibili agli utenti.

Naturalmente gli stessi autori dello studio invitano alla prudenza nell’interpretazione dei risultati, la scoperta del J Space non dimostra che Claude sia cosciente né che provi esperienze soggettive; piuttosto, evidenzia come un modello linguistico possa sviluppare spontaneamente una struttura interna dedicata al ragionamento deliberato, distinta dai processi automatici che gestiscono gran parte dell’elaborazione del linguaggio.

Si tratta comunque di una ricerca destinata a far discutere, perché apre nuove prospettive sia nello studio dell’interpretabilità dei grandi modelli linguistici sia nello sviluppo di strumenti capaci di comprendere meglio il comportamento. Per Anthropic infatti, il J Space rappresenta soltanto il primo passo di un percorso che potrebbe rendere i futuri sistemi di intelligenza artificiale non solo più potenti, ma anche più trasparenti e affidabili.

Potrebbero interessarti anche: