U petak navečer, točno u 17:21 po vašingtonskom vremenu, dakle nakon zatvaranja burze kada novosti najmanje utječu na kotacije, američka tvrtka Anthropic ugasila je svoja dva najmoćnija modela umjetne inteligencije , Claude Fable 5 i Claude Mythos 5, i to za sve korisnike na svijetu. Razlog nije bio tehnički kvar ni poslovna odluka. Razlog je bio nalog vlade Sjedinjenih Američkih Država.
Da bismo razumjeli zašto je ovo presedan koji bi trebao zabrinuti svakoga tko razmišlja o tome tko će kontrolirati najmoćniju tehnologiju našega doba, valja krenuti od trenutka kada je model Mythos predstavljen javnosti.
Riječ je o tzv. modelima „Mythos-klase“, novom, najvišem stupnju u Anthropicovoj ljestvici sposobnosti, iznad dosadašnje „Opus-klase“. Oba potječu iz istoga osnovnog modela koji je tvrtka prvi put predstavila u travnju ove godine.
Ono što ih čini posebnima nije pisanje pjesmica ni sažimanje dokumenata, nego nešto mnogo ozbiljnije: izvanredna sposobnost čitanja tuđeg programskog koda i pronalaženja sigurnosnih propusta u njemu. Anthropic je tvrdio da Mythos pronalazi tisuće tzv. zero-day ranjivosti, rupa za koje proizvođač softvera još ne zna, u praktički svim velikim operativnim sustavima i web-preglednicima.
Ugašeni tri dana nakon predstavljanja
To je dvosjekli mač. Ista sposobnost koja brani kritičnu infrastrukturu može je i napasti. Upravo zbog toga Anthropic je Mythos držao pod ključem i dostupnim samo pomno odabranim partnerima u programu zvanom Project Glasswing, inicijativi u kojoj banke, operateri energetskih mreža te nacionalne sigurnosne agencije koriste model da bi proaktivno zakrpali vlastite sustave prije nego što to učine napadači.
Vrijedi spomenuti da pojedini neovisni istraživači osporavaju Anthropicove objave vezane uz sposobnosti Mythosa: jeftiniji modeli otvorenoga koda pokazali su sličnu sposobnost pronalaženja ranjivosti, a broj doista ozbiljnih utvrđenih propusta bio je daleko manji od onoga što je Anthropic sugerirao.
Anthropic je oba modela predstavio u utorak, dakle samo tri dana prije njihova gašenja. Fable 5 postao je javno dostupan zahvaljujući novim zaštitnim mehanizmima koji blokiraju odgovore u najrizičnijim područjima. Snažniji Mythos 5 ostao je ograničen na partnere iz programa Glasswing.
‘Mogući nacionalno-sigurnosni rizici’
Tvrtka je upravo bila krenula u veliko predstavljanje, a onda je u petak stigla odluka iz Washingtona. Ministar trgovine Howard Lutnick poslao je direktivu izravno Anthropicovu izvršnom direktoru Dariju Amodeiju . Prema Axiosu, povod je bila prijava neke druge tvrtke da je uspjela zaobići sigurnosne ograde Mythosa, što je pak „uzbunilo administraciju zbog mogućih nacionalno-sigurnosnih rizika“.
Anthropic tvrdi da je posrijedi nesporazum. U svome priopćenju objašnjava da Trumpova administracija nije dala nikakav konkretan dokaz, samo usmenu tvrdnju, te da je navodni „jailbreak“ zapravo vrlo uzak i široko neprimjenjiv. Sigurnosna provjera svodi se na nalog za čitanje programskog koda s ciljem pronalaska pogreške, zadatak koji kako kaže Anthropic, drugi javno dostupni modeli obavljaju bez ikakvog zaobilaženja zaštite.
Tvrtka je izrijekom navela OpenAI-jev GPT-5.5 kao model usporedive sposobnosti. Athropic je u pravu: povlačenje modela dostupnoga stotinama milijuna ljudi zbog jedne uske ranjivosti koja postoji i u drugim modelima ne može postati industrijski standard jer bi to zaustavilo lansiranje novih naprednih modela.
Trump zahtijeva dozvole za izvoz modela
Direktiva Trumpove administracije ne zabranjuje pristup modelu samo neprijateljskim ili nepoćudnim državama. Ona zahtijeva dozvolu za bilo kakav izvoz modela, zabranjuje pristup modelu bilo kojem stranom državljaninu, bez obzira nalazi li se izvan ili unutar Sjedinjenih Država, uključujući čak i same Anthropicove zaposlenike koji nisu američki građani.
Budući da Anthropic ne može u stvarnom vremenu provjeravati državljanstvo svakog korisnika, selektivna primjena bila je tehnički nemoguća. Kako odvojiti Amerikance od Nijemaca, Japanaca ili Hrvata nakon što su upisali upit i izabrali korištenje modela Fable 5? Kako i prije korištenja onemogućiti „strancima“ i sam odabir toga modela?
Anthropic je učinio jedino što je mogao da osigura usklađenost s ovom naredbom: ugasio je oba modela za cijeli planet. Tako je nalog uperen protiv stranaca u praksi pogodio sve, uključivši i same Amerikance.
Ograničava se izvoz naprednih tehnologija
Washington na ovaj ili onaj način ograničava izvoz naprednih tehnologija od kada one postoje. Zabrane izvoza najnaprednijih čipova u Kinu, ograničenja za Nvidijine grafičke procesore, kontrola prodaje litografske opreme, sve je to izvoz fizičkog dobra koje se može zaustaviti na granici. Ovo je nešto posve drugo. Prvi put jedna formalno i nominalno demokratska vlada ne ograničava izvoz predmeta, nego korištenje softvera, i to retroaktivno nakon što je proizvod već lansiran, tretirajući kod kao vojnu tehnologiju.
Sama zamisao toliko je nestvarno glupa i neprovediva…
Read the full article at Telegram.hr →
Croatia