Top AI models have been trained

Le nekaj dni po javni predstavitvi svojih najnaprednejših modelov umetne inteligence je ameriško podjetje Anthropic čez noč ustavilo dostop do njih. Razlog ni bila tehnična napaka, temveč ukrep ameriške vlade, ki je zaradi varnostnih pomislekov odredila omejitev uporabe za tuje državljane.

Ameriško ministrstvo za trgovino je v petek uvedlo izvozne omejitve za modela claude fable 5 in mythos 5 , najnovejši generaciji sistemov umetne inteligence podjetja Anthropic, ker pa bi zagotavljanje dostopa le delu uporabnikov predstavljalo pravna in tehnična tveganja, je podjetje dostop začasno prekinilo za vse uporabnike.

»Posledica tega ukaza je, da moramo nenadoma onemogočiti fable 5 in mythos 5 za vse naše stranke, da zagotovimo skladnost s predpisi,« so zapisali v podjetju.

Po poročanju Financial Timesa je imel Anthropic za izvedbo ukrepa le 90 minut časa. Podjetje pred odločitvijo menda ni prejelo podrobnejše obrazložitve, zakaj so oblasti posegle prav proti njegovim modelom.

Novembra 2023, ko je upravni odbor OpenAI odstavil Sama Altmana, je Dario Amodei dobil ponudbo, da prevzame vodenje OpenAI in celo razmisli o združitvi OpenAI in Anthropica. Ponudbo je zavrnil. FOTO:Bhawika Chhabra/Reuters

Kaj je Anthropic?

Anthropic je družba z javno koristnim namenom (Public Benefit Corporation), ki sta jo leta 2021 ustanovila brat in sestra, Dario in Daniela Amodei , oba nekdanja vodilna sodelavca podjetja OpenAI.

Največja manjšinska vlagatelja sta Amazon in Google, ki sta se zavezala k naložbam v vrednosti več kot 25 oziroma več kot 40 milijard dolarjev. Kljub temu nobeno od podjetij nima glasovalnih pravic ali sedeža v upravnem odboru.

Podjetje je konec maja zaključilo novo investicijsko rundo v višini 65 milijard dolarjev, s čimer se je njegova vrednost povzpela na približno 965 milijard dolarjev. Gre za eno največjih financiranj v zgodovini tehnološkega sektorja. Kot so sporočili, bodo denar namenili nadaljnjemu razvoju modela Claude, raziskavam varnosti umetne inteligence, povečanju računske zmogljivosti ter širitvi produktov in partnerstev.

Anthropic je od februarja močno povečal poslovanje. Letni prihodki podjetja so po navedbah vodstva presegli 47 milijard dolarjev, model Claude pa uporablja vse več velikih podjetij za ključne poslovne procese. Med največjimi vlagatelji ostajajo Amazon, Google, Sequoia Capital, Blackstone in drugi veliki investicijski skladi.

Podjetje je hkrati sklenilo več sporazumov za zagotovitev ogromnih količin računske moči, potrebne za razvoj prihodnjih generacij umetne inteligence. Z Amazonom je dogovorjeno do pet gigavatov nove zmogljivosti podatkovnih centrov, dodatne kapacitete pa zagotavljajo tudi Google, Broadcom in Spacex. Anthropic poudarja, da je Claude trenutno edini vodilni model umetne inteligence, ki je na voljo na vseh treh največjih svetovnih oblačnih platformah.

Anthropic je sicer neodvisno upravljano podjetje.

Kaj je razlog za skrb?

V ozadju naj bi bilo opozorilo raziskovalcev Amazona, enega največjih vlagateljev v Anthropic. Ti so odkrili način za obhod zaščitnih mehanizmov modela oziroma tako imenovani jailbreak . Z njim bi bilo menda mogoče pridobivati informacije o programskih ranljivostih in varnostnih pomanjkljivostih.

Anthropic trdi, da problem ni specifičen za njegove modele. »Ugotovili smo, da lahko enake ranljivosti odkrijejo tudi drugi javno dostopni modeli, ne da bi bilo treba obiti njihove zaščitne mehanizme,« so zapisali. Podobno menijo tudi nekateri strokovnjaki za kibernetsko varnost.

Katie Moussouris iz podjetja Luta Security je za Financial Times ocenila, da je administracija »napačno presodila položaj«, saj primerljive sposobnosti izkazujejo tudi sistemi podjetja OpenAI.

Primer je toliko bolj nenavaden, ker je prav Anthropic v zadnjih letih veljal za najprevidnejšega med vodilnimi razvijalci umetne inteligence. Njegov ustanovitelj in izvršni direktor Dario Amodei je pogosto opozarjal na nevarnosti vse zmogljivejših modelov ter zagovarjal strožje varnostne standarde.

Anthropic vladi ne dovoli neomejene uporabe za vojaške namene

Podjetje je celo samo opozarjalo, da je fable 5 izjemno zmogljiv sistem. Pred javno objavo so model več mesecev testirali v omejenem krogu organizacij, ker naj bi bil sposoben odkrivati in izkoriščati ranljivosti v računalniških sistemih. V podjetju so ga opisali kot model, katerega zmogljivosti »presegajo vse, kar so doslej ponudili javnosti«.

Washington ni izklopil strežnikov ali omejil izvoza čipov, temveč dostop do same inteligence. FOTO: Dado Ruvic/Reuters

Prav zaradi teh sposobnosti ga je britanska strokovnjakinja za odgovorno umetno inteligenco Gina Neff označila za prelomnico na področju kibernetske varnosti. Po njenih besedah je britanski Inštitut za varnost umetne inteligence pri testiranjih ugotovil, da je model v 73 odstotkih primerov uspešno premagal zaščitne mehanizme preizkušenih sistemov. »Gre za kakovostni preskok v zmogljivostih na področju kibernetske varnosti,« je dejala za BBC .

Poleg varn…