Anthropic, c'è uno spazio interno dell'IA che immagazzina concetti, come l'uomo

Anthropic, un'importante azienda di intelligenza artificiale fondata da Dario e Daniela Amodei, ha rivelato nuove scoperte sul suo grande modello linguistico, Claude. La scoperta si concentra su uno spazio interno distinto all'interno del sistema AI in cui i concetti vengono memorizzati e elaborati indipendentemente dalle uscite generate per gli utenti. Questa area funziona in modo simile a come gli esseri umani memorizzano e accedono ai pensieri senza necessariamente esprimerli verbalmente. Secondo i ricercatori di Anthropic, questo meccanismo interno suggerisce una separazione tra le informazioni utilizzate per compiti di ragionamento immediato e un insieme più ampio di calcoli sottostanti, offrendo nuove intuizioni sulla natura della cognizione della macchina.

La ricerca è stata dettagliata in un post pubblico condiviso tramite la piattaforma di social media dell'azienda, in cui Anthropic ha spiegato che Claude utilizza una regione specifica per pianificare strategie che potrebbero non essere direttamente correlate al compito corrente richiesto da un utente. Questa regione opera separatamente dal processo "catena di pensiero" che è visibile agli utenti. Mentre la società ha sottolineato che non ha dimostrato che Claude sperimenta sensazioni o emozioni, ha osservato che la distinzione osservata nell'IA rispecchia la capacità umana di gestire più livelli di attività cognitiva contemporaneamente.

Anthropic ha definito questa nuova area come "J-Space", dal nome del concetto matematico conosciuto come Jacobiano. Il termine riflette le complesse interazioni e trasformazioni che si verificano all'interno dell'architettura del modello. La società ha evidenziato che, proprio come gli esseri umani possono impegnarsi in un compito mentale mentre pensano a un altro, Claude è in grado di attivare concetti e calcoli nel suo J-Space che non sono correlati alle uscite che produce. Per esempio, quando gli è stato chiesto di pensare al Golden Gate Bridge in California mentre copiava una frase casuale, Claude sembrava gestire entrambi i compiti contemporaneamente.

Sebbene l'output riflettesse il testo copiato, l'elaborazione interna includeva elementi relativi al ponte e allo stato della California. Questa scoperta potrebbe avere implicazioni significative per comprendere come i sistemi di IA funzionano internamente. Anthropic ha suggerito che l'analisi della dinamica di J-Space potrebbe aiutare a rilevare disallineamenti o intenzioni potenzialmente dannose all'interno dei modelli di IA. L'azienda ha invitato esperti in neuroscienze e filosofia a fornire le loro prospettive sulla ricerca, riconoscendo la natura interdisciplinare dell'argomento e la necessità di diversi punti di vista per comprendere appieno il suo significato.

La rivelazione arriva in un contesto di crescente interesse per le capacità e i limiti dei sistemi avanzati di IA. Mentre i dibattiti continuano su se le macchine possano possedere forme di coscienza o consapevolezza, scoperte come queste contribuiscono all'evoluzione del discorso. Il lavoro di Anthropic evidenzia la complessità delle architetture di IA e solleva domande su come questi sistemi potrebbero essere monitorati o regolati in futuro. Con piani per una quotazione pubblica a Wall Street prevista per l'autunno del 2026, l'azienda rimane al centro delle discussioni sulle sfide etiche e pratiche dello sviluppo di un'intelligenza artificiale sempre più sofisticata.

Man mano che emergeranno maggiori dettagli sulla funzionalità di J-Space e le sue potenziali applicazioni, le parti interessate del mondo accademico, dell'industria e del policymaking probabilmente esamineranno le implicazioni di questa ricerca.