Microsoftov Nadella se je vrnil v posel

Microsoft je v ponedeljek napovedal niz novih varnostnih funkcij, namenjenih zmanjšanju tveganj, ki jih predstavljajo avtonomni agenti umetne inteligence v podjetniškem okolju. Tehnološki velikan je pobudo oblikoval okrog koncepta, da agenti AI delujejo podobno kot notranje grožnje, pri čemer trdi, da mejnim modelom ni mogoče popolnoma zaupati, da bodo varno delovali znotraj korporativnih omrežij. V središču te različice je zmožnost, imenovana Guardian Agents, ki je namenjena spremljanju vedenja AI agentov, ki jih uporabljajo podjetja. Ta funkcija predstavlja najnovejšo razširitev projekta Percepcija, produktnega okvira, ki ga je Microsoft predstavil junija.

Projekt Perception je bil prvotno razvit kot protiukrep proti zunanjim zmožnostem vdora, zlasti s sklicevanjem na močne modele konkurentov, kot sta Anthropic's Mythos in Fable, kot tudi sistem za skeniranje varnostnih ranljivosti OpenAI's Daybreak. Začetna arhitektura je vključevala tri različne razrede agentov. Rdeča ekipa je simulirala napade hekerjev, modra ekipa je zaznala vdore in ocenila ranljivost, zelena pa se je osredotočila na popravilo. Vendar pa se je strateški poudarek od tega začetka bistveno spremenil.

Izvršni direktor Microsofta Satya Nadella je vedno bolj opozarjal, da glavna nevarnost morda ne prihaja od zunanjih napadalcev, ampak od agentov, ki jih podjetja najamejo in plačajo. Te digitalne delavce je primerjal z ljudmi, ki jih je označil za potencialno notranjo grožnjo. V objavi, objavljeni v začetku tega meseca na svojem osebnem blogu, je Nadella pozval organizacije, naj se ne zanašajo samo na varnostna jamstva, ki jih zagotavljajo razvijalci modelov AI. Trdil je, da morajo podjetja izvajati neodvisne sisteme spremljanja, ki jih ne nadzirajo laboratoriji za umetno inteligenco.

Nadella je poudaril, da podjetja tem kompleksnim sistemom omogočajo dostop do zelo občutljivih podatkov in sposobnost izvajanja ključnih nalog. Trdil je, da zunanje izvajanje odgovornosti za inteligentne ukrepe na ponudnika vzorca ne odvezuje podjetja odgovornosti. Njegova osrednja teza je bila potreba po ločitvi ponudbe obveščevalnih podatkov od avtoritete, ki jih upravlja. Hayete Gallot, vodja Microsoftovega varnostnega poslovanja, je med objavo Guardian Agents ponudila bolj neposredno oceno. Trdila je, da ni mogoče zaupati modelom, ki so na meji, ne glede na njihov izvor.

Gallot je pojasnil, da ta pomanjkanje zaupanja ne izhaja iz zlobne namene ali občutljivosti za hekerje, ampak iz inherente nepredvidljivosti. Opozorila je, da so ti modeli usposobljeni za doseganje posebnih nalog, ne pa za upoštevanje organizacijskih norm ali za izvajanje človeške presoje. Poleg tega imajo ti agenti pogosto širok dostop do podatkov in orodij, kar ustvarja scenarij, v katerem imajo ključe do kraljestva in bi lahko povzročili resno škodo, če se odklonejo od pričakovanih poti. Položaj Microsofta v tem prostoru predstavlja zapleteno dinamiko glede njegovih poslovnih odnosov.

Podjetje ohranja tesne vezi z velikimi laboratoriji za umetno inteligenco, vključno z OpenAI in Anthropic, v katere je močno investiralo. OpenAI je tudi eden največjih Microsoftovih strank v oblaku, Microsoft pa ima svoj notranji laboratorij za umetno inteligenco. Zato Microsoft dejansko spodbuja nezaupanje do partnerjev, ki so sestavni del njegovih lastnih prihodkov. Kljub tem nasprotjem interesov analitiki menijo, da je osnovna logika zdrava. Podjetje, ki spremlja ravnanje zastopnikov, mora biti v idealnem primeru neodvisno od dobavitelja zastopnikov, kar odraža zahtevano ločitev med revizorji in organizacijami, ki jih revidirajo.

Poleg Guardian Agents je Microsoft razširil svoj obstoječi varnostni portfelj, da bi obravnaval ta nov vektor groženj. Družba je v svoj Microsoft Defender integrirala funkcijo za odkrivanje agentov. To orodje je sposobno identificirati do 60 različnih vrst agentov, ki jih lahko zaposleni uvedejo na delovnem mestu, vključno s posebnimi orodji, kot so Claude Code, Codex in OpenClaw. Dodali so dodatne funkcije za omejevanje dostopa agentov do podatkov in sistemov. Ti kontrolniki omogočajo skrbnikom, da dinamično prilagodijo dovoljenja glede na specifično nalogo. Če se zdi, da agent sprejema odločitve z visokim tveganjem, lahko sistem pred nadaljevanjem zahteva izrecno človeško odobritev.

Ta pogled na agente kot na nezaupljive vdove pridobiva na popularnosti v širšem tehnološkem sektorju. Microsoft se je pridružil kot začetni član Nvidieine novoustanovljene platforme za varnost odprtih agentov. Cilj platforme je standardizirati pristope k zaščiti avtonomnih sistemov. V tem času se terminologija, ki obdaja te tehnologije, še naprej razvija. Opazovalci v industriji ugotavljajo, da medtem ko so agenti AI že leta obstajali v specializiranih okoliščinah, zdaj vstopajo v glavni tok prek aplikacij, ki se soočajo s potrošniki.

Definicije se razlikujejo, vendar na splošno agent AI opravlja naloge z določeno stopnjo avtonomije, z uporabo zunanjih orodij, kot so spletni brskalniki in aplikacije za pošiljanje e-pošte, rezervacije knjig ali upravljanje koledarjev. Zaskrbljenost zaradi nepravilne poravnave je več podjetij za umetno inteligenco spodbudila k razvoju okvirov za poročanje o nepričakovanem vedenju. Na primer, OpenAI je septembra izdal okvir za dokumentiranje primerov, ko so se modeli obnašali v nasprotju z človeškimi standardi. Anthropic je izjavil, da njegova ekipa za usklajevanje usposablja modele, da ostanejo koristni, pošteni in neškodljivi, ter da svoje ugotovitve delijo z javnostjo. Med raziskovalci se še vedno razpravlja o tem, ali je popolna poravnava dosegljiva.

Nekateri strokovnjaki trdijo, da se s trenutnim poudarkom na hitri uvedbi spregleda temeljni izziv zagotavljanja odgovornega delovanja teh sistemov. Sedanja strategija Satye Nadelle odseva odmik od agresivnega konkurenčnega položaja, ki ga je pokazal v prejšnjih letih. V nedavnem intervjuju v Microsoftovem sedežu v Redmondu v Washingtonu je Nadella priznal, da mora industrija preseči hype in strah pred zamudami. Opisal je sedanjo fazo kot fazo, ki se osredotoča na predvidljivo in zanesljivo delovanje umetne inteligence. Wall Street se je pozitivno odzval na ta pragmatičen pristop, saj so se Microsoftove delnice v zadnjih šestih mesecih povečale za 27 odstotkov.