AI je otvorio velike rupe u cyber sigurnosti

Umjetna inteligencija stvorila je velike ranjivosti u globalnoj cybersigurnosti, prema nedavnim nalazima. Istraživači upozoravaju da tehnologiju već iskorištavaju zlonamjerni akteri za provođenje visoko ciljanih napada, čime je sve teže razlikovati legitimne komunikacije od lažnih. Stručnjaci naglašavaju da je šteta već počela i da su značajna ulaganja u obrambene mjere sada od suštinske važnosti za ublažavanje rizika. Prijetnja se pojavila kada su cyberkriminalci počeli koristiti AI za analizu digitalnih fotografija koje se dijele na platformama društvenih medija.

Proučavanjem suptilnih vizualnih znakova, kao što su arhitektonski stilovi, prometni znakovi, uvjeti osvjetljenja, pa čak i raspored biljaka, algoritmi umjetne inteligencije mogu odrediti s visokom preciznošću geografsku lokaciju gdje je fotografija snimljena.

Pojedinci su bili pozvani da kliknu na vezu kako bi provjerili svoje bankovne podatke. Bez njihovog znanja, poruka je bila dio prevare osmišljene za izvlačenje osjetljivih financijskih informacija. Počinitelji su koristili umjetnu inteligenciju za analizu pozadine fotografije i utvrđivanje točne lokacije, dajući lažnoj poruci zrak autentičnosti.

U eksperimentima koji su uključivali više od 21.000 fotografija povezanih s putovanjima, modeli umjetne inteligencije pokazali su izvanrednu točnost, identificirajući 91% slika ispravno. Kada su zaposlenici tvrtke replicirali proces svojim osobnim fotografijama, otkrili su da su njihova putna odredišta lako identificirana, što je izazvalo zabrinutost zbog implikacija dijeljenja slika na internetu. Prema Vonny Gamot, šefu EMEA-e u McAfeeju, integracija umjetne inteligencije u operacije kibernetičkog kriminala znatno povećava vjerodostojnost prijevara.

Sposobnost umjetne inteligencije da prepozna poznate elemente u slikama, kao što su prepoznatljive znamenitosti, horizont i prodavnice, čini je osobito učinkovitim u identifikaciji lokacija. Međutim, točnost umjetne inteligencije opada kada slike sadrže manje različita okruženja, kao što su plaže ili hotelske sobe. Čak i tako, sustav često može odrediti zemlju u kojoj je slika snimljena, što je dovoljno za mnoge vrste kibernetičkih napada. Istraživači sugeriraju da pojedinci trebaju biti oprezni prilikom objavljivanja fotografija na mreži.

Uz to, korisnici bi trebali ostati oprezni prema hitnim zahtjevima za hitnom djelovanjem, jer su to uobičajene taktike koje prijevarači koriste kako bi izazvali preuranjene odgovore. Preporučljivo je izbjegavati klicanje na veze koje se pružaju u neželjenim porukama, a umjesto toga kontaktirati relevantne institucije izravno koristeći provjerene kontaktne informacije. U međuvremenu, napredak u AI-u također se istražuje u svrhe kibernetičke sigurnosti. ai je nedavno objavio da je njegov najnoviji model AI-a postigao razine učinkovitosti usporedive s Anthropicovim Mythosom 5 u testovima kibernetičke obrane. To ukazuje na to da, iako AI predstavlja značajne izazove, ona također ima potencijal za jačanje digitalne obrane od novih prijetnji.

Kako se i ofenzivne i odbrambene aplikacije umjetne inteligencije nastavljaju razvijati, utrka za osiguranje kiberprostora postaje sve kritičnija.