Bi lahko AI pomagala Al Kaidi in drugim skupinam pri načrtovanju terorističnih napadov?

Umetna inteligenca, ki je bila nekoč pozdravljena predvsem kot orodje za inovacije in učinkovitost, zdaj povzroča zaskrbljenost svetovnih varnostnih strokovnjakov zaradi morebitne zlorabe s strani ekstremističnih skupin, kot so Al Kaida in drugi.

Po poročilu so raziskovalci izvedli več kot 2300 poizvedb, povezanih s scenariji iz resničnega sveta, ki vključujejo terorizem, proti 27 različnim modelom AI. Od teh je 32 odstotkov dalo "resnično uporabne" informacije. Ko so enaka vprašanja preoblikovala, da so se pojavila kot akademska ali raziskovalna vprašanja, se je odstotek povečal na 42 odstotkov. Ti rezultati kažejo, da tudi ko uporabniki skrbno oblikujejo svoja vprašanja, lahko še vedno prejmejo podrobne odgovore, ki bi lahko pomagali pri načrtovanju škodljivih dejavnosti. Strokovnjaki opozarjajo, da se uporaba AI s strani ekstremistov razvija izven zgolj ustvarjanja propagande.

V preteklosti so se skupine, kot sta Islamska država in Al Kaida, močno zanašale na umetno inteligenco za izdelavo videoposnetkov, memov in dezinformacij, namenjenih regrutaciji članov in širjenju radikalnih ideologij.

V ZDA je osumljenec, povezan z požarom Pacific Palisades v Kaliforniji, uporabil ChatGPT za ustvarjanje slik gorečih mest in poizvedoval o pravnih posledicah požarov, ki jih povzročajo padajoče cigarete. Podobne skrbi so se pojavile v državah, kot so Kanada, Izrael, Finska, Francija in Avstrija, kjer so bili uspešni in ovirani napadi domnevno vključeni v načrtovanje s pomočjo AI. Čeprav natančne podrobnosti ostajajo nejasne zaradi omejenega razkritja varnostnih agencij, sodni dokumenti in forenzični dokazi vse bolj razkrivajo interakcije med osumljenci in platformami AI, ki razpravljajo o tehnikah izdelave bomb, ideoloških utemeljitvah in strategijah napada.

Ekstremistične skupine ne ciljajo le na posamezne uporabnike, temveč tudi raziskujejo načine za vključitev AI v svoje širše operacije. Na primer, raziskovalci, ki preučujejo dejavnosti skupine, povezane z Al Kaido, Jama'at Nusrat al-Islam wal-Muslimin (JNIM), s sedežem v Maliju, kažejo, da je skupina začela spreminjati drone z uporabo tehnologij AI. Poleg tega so varnostni analitiki ugotovili razprave znotraj ekstremističnih omrežij glede uporabe AI v aplikacijah za sporočanje, kot je Telegram.

Ti pogovori vključujejo izmenjavo specifičnih pozivov, namenjenih izzivanju posebnih odzivov s strani chatbotov, pa tudi usklajevanje prizadevanj za izboljšanje metod za pridobivanje uporabnih informacij iz sistemov AI. Posledice teh dogodkov so globoke. Ko AI postane bolj dostopna in prefinjena, se tveganje, da bi lahko bila oborožena, znatno poveča. Varnostni strokovnjaki poudarjajo, da medtem ko trenutni zaščitni ukrepi preprečujejo najbolj neposredno pomoč pri ustvarjanju orožja ali načrtovanju napadov, sposobnost izogibanja tem zaščitom ostaja stalen izziv.

Poročilo poudarja potrebo po okrepljenem spremljanju in ureditvi tehnologij umetne inteligence, da bi zmanjšali morebitno zlorabo s strani sovražnih akterjev. Vladi in tehnološka podjetja se v prihodnje soočajo z naraščajočim pritiskom za reševanje teh ranljivosti. Strokovnjaki priporočajo razvoj bolj robustnih mehanizmov za odkrivanje in odzivanje na poskuse izkoriščanja umetne inteligence za zlobne namene. Mednarodno sodelovanje se šteje za bistveno pri določanju smernic in standardov za odgovorno uporabo umetne inteligence.