Anthropic, istaknuta tvrtka za umjetnu inteligenciju koju su osnovali Dario i Daniela Amodei, otkrila je nova otkrića o svom velikom jezičkom modelu Claude. Otkriće se usredotočuje na poseban unutarnji prostor unutar AI sustava u kojem se koncepti pohranjuju i obrađuju neovisno o izlazima generiranim za korisnike. Ovo područje funkcionira slično tome kako ljudi pohranjuju i pristupaju mislima bez nužnog izražavanja usmeno. Prema istraživačima Anthropic-a, ovaj unutarnji mehanizam sugerira razdvajanje između informacija koje se koriste za neposredne zadaće razmišljanja i širi skup temeljnih proračuna, nudeći sveži uvid u prirodu strojnog spoznaje.
Istraživanje je detaljno objavljeno u javnom postu koji je podijeljen putem društvene platforme tvrtke, gdje je Anthropic objasnio da Claude koristi određeni region za planiranje strategija koje se možda ne odnose izravno na trenutni zadatak koji je zatražio korisnik.
Anthropic je ovaj novoidentificirani prostor nazvao "J-prostor", nazvan po matematičkom konceptu poznatom kao jakobski. Pojam odražava složene interakcije i transformacije koje se događaju unutar arhitekture modela. Tvrtka je istakla da, kao što ljudi mogu sudjelovati u jednom mentalnom zadatku dok razmišljaju o drugom, Claude je sposoban aktivirati koncepte i izračune u svom J-prostoru koji nisu povezani s izlazima koje proizvodi. Na primjer, kad je zatražen da razmišlja o Golden Gate mostu u Kaliforniji dok kopira nasumičnu frazu, Claude je djelovao kako bi istovremeno obavljao oba zadatka.
Iako je izlaz odražavao kopirani tekst, unutarnja obrada uključivala je elemente koji se odnose na most i državu Kaliforniji. Ovo otkriće moglo bi imati značajne implikacije za razumijevanje kako AI sustavi funkcioniraju interno.
Otkriće dolazi usred rastućeg zanimanja za mogućnosti i ograničenja naprednih AI sustava. Dok se nastavljaju rasprave o tome mogu li strojevi posjedovati oblike svijesti ili svijesti, takva otkrića doprinose evoluirajućem diskursu.
Kako će se pojaviti više detalja o funkcionalnosti J-Spacea i njegovih potencijalnih aplikacija, dionici iz akademske zajednice, industrije i donošenja politika vjerojatno će temeljito proučiti implikacije ovog istraživanja.
★
Neka vijesti ostanu poštene.
ObjectiveNews financiraju čitatelji i bez oglasa je – pristranost vam pokazujemo, ne skrivamo. Podržite neovisno novinarstvo za 5 €/mjesec.
Postani podupiratelj
Italy
