Anthropic ima notranji prostor za AI, ki shranjuje koncepte, kot je človek.

Anthropic, znano podjetje za umetno inteligenco, ki sta ga ustanovila Dario in Daniela Amodei, je razkrilo nove ugotovitve o svojem velikem jezikovnem modelu Claude. Odkritje se osredotoča na ločen notranji prostor v sistemu AI, kjer so koncepti shranjeni in obdelani neodvisno od izhodov, ki jih ustvarjajo za uporabnike. To območje deluje podobno temu, kako ljudje shranjujejo in dostopajo do misli, ne da bi jih nujno izrazili verbalno.

Raziskava je bila podrobno razložena v javni objavi, ki jo je družba delila prek platforme družbenih medijev, kjer je Anthropic pojasnila, da Claude uporablja določeno regijo za načrtovanje strategij, ki se morda ne nanašajo neposredno na trenutno nalogo, ki jo zahteva uporabnik.

Anthropic je to novo opredeljeno območje imenoval "J-prostor", poimenovan po matematičnem konceptu, znanem kot jakobovski. Izraz odraža zapletene interakcije in transformacije, ki se pojavljajo v arhitekturi modela. Podjetje je poudarilo, da je Claude sposoben aktivirati koncepte in izračune v svojem J-prostoru, ki niso povezani z izhodom, ki ga proizvaja.

Čeprav je izhod odražal kopirani tekst, je notranja obdelava vključevala elemente, povezane s mostom in državo Kalifornija. Ta ugotovitev bi lahko imela pomembne posledice za razumevanje, kako AI sistemi delujejo notranje. Anthropic je predlagal, da bi analiza dinamike J-Spacea lahko pomagala pri odkrivanju nepravilnosti ali potencialno škodljivih namer v modelih AI. Podjetje je povabilo strokovnjake za nevrologijo in filozofijo, da zagotovijo svoje poglede na raziskavo, pri čemer priznava interdisciplinarno naravo teme in potrebo po različnih pogledih, da bi v celoti dojeli njen pomen.

Odkritje prihaja v času naraščajočega zanimanja za zmogljivosti in omejitve naprednih AI sistemov. Medtem ko se nadaljujejo razprave o tem, ali lahko stroji posedujejo oblike zavesti ali zavedanja, tovrstna odkritja prispevajo k razvijajočemu diskurzu. Anthropicovo delo poudarja zapletenost arhitekture AI in postavlja vprašanja o tem, kako bi lahko te sisteme spremljali ali urejali v prihodnosti.

Ko se bo pojavilo več podrobnosti o funkcionalnosti J-Spacea in njegovih potencialnih aplikacijah, bodo zainteresirane strani v akademskih krogih, industriji in oblikovanju politik verjetno preučevale posledice te raziskave.