Microsoftova Nadella se vratila u posao

Microsoft je u ponedjeljak najavio niz novih sigurnosnih značajki dizajniranih za ublažavanje rizika koje predstavljaju autonomni agenti umjetne inteligencije u poslovnom okruženju. Tehnološki gigant osmislio je inicijativu oko koncepta da agenti umjetne inteligencije funkcioniraju slično kao i prijetnje iznutra, tvrdeći da se graničnim modelima ne može u potpunosti vjerovati da će raditi sigurno unutar korporativnih mreža. U središtu ovog izdanja je mogućnost pod nazivom Guardian Agents, koja je namijenjena praćenju ponašanja AI agenata koje raspoređuju tvrtke. Ova značajka predstavlja najnovije proširenje Project Perception, Microsoftovog okvira proizvoda predstavljenog u lipnju.

Projekt Percepcija je izvorno razvijen kao protivmjera protiv vanjskih hakerskih mogućnosti, posebno pozivajući se na moćne modele konkurenata poput Anthropic®-a Mythos i Fable, kao i OpenAI®-ov Daybreak sustav za skeniranje sigurnosnih ranjivosti. Početna arhitektura uključivala je tri različite klase agenata. Crveni tim je simulirao hakerske napade, plavi tim je otkrio ove upade i procijenio posljedične ranjivosti, a zeleni tim se usredotočio na popravke. Međutim, strateški fokus se znatno promijenio od tog lansiranja.

Izvršni direktor Microsofta Satya Nadella sve više upozorava da primarna opasnost možda ne dolazi od vanjskih napadača, već od samih agenata koje su tvrtke unajmile i platile. Usporedio je ove digitalne radnike s nevaljalnim ljudskim zaposlenicima, kategorizirajući ih kao potencijalne prijetnje iznutra. U postu objavljenom ranije ovog mjeseca na svom osobnom blogu, Nadella je pozvao organizacije da prestanu oslanjati se isključivo na sigurnosna jamstva koja pružaju programeri modela umjetne inteligencije. On je tvrdio da tvrtke moraju implementirati neovisne sustave praćenja koje nisu pod kontrolom samih laboratorija za umjetnu inteligenciju.

Nadella je naglasio da poduzeća ovim složenim agentičkim sustavima daju pristup vrlo osjetljivim podacima i mogućnost izvršavanja aktivnosti od ključne važnosti. U tom je slučaju, kako je navedeno u uvodnoj izjavi 107, Komisija nije mogla utvrditi da je u skladu s člankom 107. stavkom 2. Njegova je glavna teza bila potreba da se odvoji snabdevanje obavještajnom informacijom od vlasti koja je upravlja. Hayete Gallot, voditeljica sigurnosnog poslovanja Microsofta, ponudila je izravniju procjenu tijekom najave Guardian Agents. Ona je tvrdila da se ne može vjerovati graničnim modelima, bez obzira na njihovo podrijetlo.

Gallot je objasnio da taj nedostatak povjerenja ne proizilazi iz zlonamjernosti ili podložnosti hakiranju, već iz inherentne nepredvidljivosti. Ona je napomenula da su ti modeli obučeni za postizanje određenih zadataka, a ne za pridržavanje organizacijskih normi ili ljudske prosudbe. Nadalje, tim agentima je često odobren širok pristup podacima i alatima, stvarajući scenarij u kojem posjeduju ključeve kraljevstva i mogu nanijeti ozbiljnu štetu ako odstupe od očekivanih puteva. Položaj Microsofta u ovom prostoru predstavlja složenu dinamiku u pogledu njegovih komercijalnih odnosa.

Tvrtka održava bliske veze s velikim laboratorijima za umjetnu inteligenciju, uključujući OpenAI i Anthropic, u koje je uložila velike ulaganja. OpenAI je također jedan od najvećih Microsoftovih kupaca u oblaku, a Microsoft upravlja vlastitim internim laboratorijem za umjetnu inteligenciju. Stoga Microsoft učinkovito potiče nepovjerenje prema partnerima koji su sastavni dio njegovih vlastitih tokova prihoda. Unatoč tim sukobima interesa, analitičari sugerišu da je osnovna logika zdrava. U idealnom slučaju, subjekt koji nadzire ponašanje agenata trebao bi biti neovisan o dobavljaču agenata, odražavajući potrebno razdvajanje revizorima i organizacijama koje provjeravaju.

Osim Guardian Agents, Microsoft je proširio svoj postojeći sigurnosni portfelj kako bi se pozabavio ovim novim vektorom prijetnje. Tvrtka je integrirala funkciju detekcije agensa u svoj Microsoft Defender proizvod. Ovaj alat može identificirati do 60 različitih vrsta agenata koje zaposlenici mogu uvesti na radno mjesto, uključujući posebne alate kao što su Claude Code, Codex i OpenClaw. Dodatne funkcije dodane su kako bi se ograničio pristup agenata podacima i sustavima. Ove kontrole omogućuju administratoru da dinamički prilagodi dozvole na temelju konkretnog zadatka. Ako se čini da agent donosi odluke visokog rizika, sustav može zahtijevati izričito ljudsko odobrenje prije nego što nastavi.

Ovaj pogled na agente kao nepouzdane insajdere dobiva na popularnosti u širem tehnološkom sektoru. Microsoft se pridružio kao inauguralni član Nvidieine novoosnovane Open Agent Safety platforme. Cilj platforme je standardizirati pristupe osiguranju autonomnih sustava. U međuvremenu, terminologija koja okružuje ove tehnologije nastavlja evoluirati. Posmatrači u industriji napominju da dok agenti umjetne inteligencije već godinama postoje u specijaliziranim kontekstima, sada ulaze u glavnu struju putem aplikacija usmjerenih na potrošače.

Definicije se razlikuju, ali općenito, agent umjetne inteligencije obavlja zadatke s određenim stupnjem autonomije, koristeći vanjske alate kao što su web preglednici i aplikacije za slanje e-pošte, rezervacije knjiga ili upravljanje kalendarima. Zabrinutost zbog neusklađenosti potaknula je nekoliko tvrtki za umjetnu inteligenciju da razviju okvire za izvješćivanje o neočekivanom ponašanju. Na primjer, OpenAI je u rujnu objavio okvir za dokumentiranje slučajeva u kojima su se modeli ponašali suprotno ljudskim standardima. Anthropic je izjavio da njegov tim za usklađivanje trenira modele da ostanu korisni, iskreni i bezopasni, dijeleći nalaze s javnošću. Još uvijek postoji značajna rasprava među istraživačima o tome je li savršeno poravnanje moguće.

Neki stručnjaci tvrde da se trenutni fokus na brzu implementaciju zanemaruje temeljni izazov osiguravanja da ti sustavi djeluju odgovorno. Sadašnja strategija Satya Nadella odražava pomak od agresivnog natjecateljskog stava koji je pokazivao u prethodnim godinama. Tijekom nedavnog intervjua u sjedištu Microsofta u Redmondu u Washingtonu, Nadella je priznao da industrija mora prevazići pretjerivanje i strah od propuštanja. On je opisao trenutnu fazu kao jednu usmjerenu na to da AI radi predvidljivo i pouzdano. Wall Street je pozitivno reagirao na ovaj pragmatični pristup, sa Microsoftovim dionicama koje su porasle 27 posto u posljednjih šest mjeseci.