Da li bi AI mogla pomoći Al-Kaidi i drugim grupama da planiraju terorističke napade?

Umjetna inteligencija, nekada pohvaljena prvenstveno kao alat za inovacije i učinkovitost, sada izaziva zabrinutost globalnih sigurnosnih stručnjaka zbog potencijalne zlouporabe od strane ekstremističkih skupina poput al-Kaide i drugih.

Prema izvješću, istraživači su proveli preko 2.300 ispitivanja vezanih uz scenarije u stvarnom svijetu koji uključuju terorizam protiv 27 različitih modela umjetne inteligencije. Od njih je 32 posto donijelo "istinski upotrebljive" informacije. Kada su ista pitanja preformulisana kako bi se pojavila kao akademska ili istraživačka pitanja, postotak se povećao na 42 posto. Ovi rezultati ukazuju na to da čak i kada korisnici pažljivo oblikuju svoja pitanja, i dalje mogu dobiti detaljne odgovore koji bi mogli pomoći u planiranju štetnih aktivnosti. Stručnjaci upozoravaju da se uporaba umjetne inteligencije od strane ekstremista razvija izvan jednostavne propagande.

Prethodno su se grupe poput Islamske države i al-Kaide oslanjale na umjetnu inteligenciju kako bi proizvele videozapise, meme i dezinformacije s ciljem regrutiranja članova i širenja radikalnih ideologija. Međutim, nedavni trendovi pokazuju pomak prema korištenju umjetne inteligencije za praktičnije primjene u planiranju i izvršavanju napada.

U Sjedinjenim Američkim Državama, osumnjičeni povezan s požarom u Pacifičkom Palisadesu u Kaliforniji navodno je koristio ChatGPT za generiranje slika gorljivih gradova i raspitivanje o pravnim implikacijama požara uzrokovanih padajućim cigaretama. Slične zabrinutosti pojavile su se u zemljama kao što su Kanada, Izrael, Finska, Francuska i Austrija, gdje su i uspješni i osujetljeni napadi navodno uključivali planiranje uz pomoć umjetne inteligencije. Dok tačni detalji ostaju nejasni zbog ograničenog otkrivanja od strane sigurnosnih agencija, sudski dokumenti i forenzički dokazi sve više otkrivaju interakcije između osumnjičenih i platformi umjetne inteligencije koji raspravljaju o tehnikama proizvodnje bombi, ideološkom opravdanju i strategijama napada.

Ekstremističke skupine ne ciljaju samo pojedinačne korisnike, već i istražuju načine integracije umjetne inteligencije u svoje šire operacije. Na primjer, istraživači koji ispituju aktivnosti povezane skupine Al-Kaide, Jama'at Nusrat al-Islam wal-Muslimin (JNIM), sa sjedištem u Maliju, sugeriraju da je grupa počela modificirati bespilotne letjelice koristeći tehnologije umjetne inteligencije.

Ti razgovori uključuju dijeljenje specifičnih poziva osmišljenih za dobivanje određenih odgovora od chatbota, kao i koordinaciju napora za usavršavanje metoda za izvlačenje korisnih informacija iz sustava umjetne inteligencije.

Izvješće naglašava potrebu za pojačanim praćenjem i regulacijom tehnologija umjetne inteligencije kako bi se ublažila njihova potencijalna zlouporaba od strane neprijateljskih aktera. Gledajući u budućnost, vlade i tehnološke tvrtke suočavaju se s sve većim pritiskom da riješe ove ranjivosti. Stručnjaci preporučuju razvoj snažnijih mehanizama za otkrivanje i reagiranje na pokušaje iskorištavanja umjetne inteligencije u zlonamjerne svrhe. Međunarodna suradnja smatra se ključnom za uspostavljanje smjernica i standarda za odgovornu primjenu umjetne inteligencije. Kako se krajolik nastavlja razvijati, budnost i proaktivne mjere bit će ključne za sprječavanje iskorištavanja umjetne inteligencije od strane onih koji namjeravaju uzrokovati štetu.