Anthropic, vodeća tvrtka za umjetnu inteligenciju vrijedna gotovo 1 bilijun dolara, otkrila je revolucionarni uvid u unutrašnje funkcioniranje svojih velikih jezičnih modela (LLM). Otkriće uključuje novoidentificirani "J-prostor", konceptualno područje unutar ovih modela ispunjeno riječima koje se ne pojavljuju izravno u izlazima, ali se čini da utječu na procese razmišljanja. Ovo otkriće dolazi nakon što su istraživači u Anthropicu razvili novu metodu za ispitivanje njihovog modela, Claude, otkrivajući do sada nepoznate aspekte kako LLM obrade informacije interno.
Za razliku od mnogih drugih tvrtki za umjetnu inteligenciju, Anthropic je dao prednost području poznatom kao mehanička interpretabilnost, s ciljem dekodiranja zamršenih matematičkih struktura iza AI odluka. Prema višem uredniku Willa Douglasa Hevena, koji ima doktorat iz računalnih znanosti, ovo istraživanje usklađeno je s širim ciljem tvrtke da osigura bolju kontrolu nad LLM-ovima.
Ove riječi često služe kao markeri koji ukazuju na napredak u specifičnim zadacima ili kao prolazni trenuci prepoznavanja, kao što je identifikacija proteinske sekvence temeljene isključivo na sastavu slova.
Iako su u osnovi sastavljeni od matematičkih algoritama namijenjenih identifikaciji odnosa između riječi, velika razmjera i složenost suvremenih LLM-ova otežavaju njihovo dešifriranje.
Sposobnost ovih modela da prepoznaju i manipuliraju riječima unutar ovog skrivenog prostora ukazuje na razinu sofisticiranosti koja bi mogla informirati buduće razvoj sigurnosti i transparentnosti umjetne inteligencije.
Ovo istraživanje naglašava važnost razvoja alata i metodologija koji omogućuju veći pregled ponašanja umjetne inteligencije, posebice s obzirom na to da se ti sustavi sve više integrišu u kritične domene kao što su zdravstvo, financije i nacionalna sigurnost.
Rezultati ove istrage koja je u tijeku mogli bi pružiti vrijedne uvide u evoluciju tehnologija umjetne inteligencije i njihov potencijalni utjecaj na društvo.
★
Neka vijesti ostanu poštene.
ObjectiveNews financiraju čitatelji i bez oglasa je – pristranost vam pokazujemo, ne skrivamo. Podržite neovisno novinarstvo za 5 €/mjesec.
Postani podupiratelj
United States
