Mape puta za zaštitu od biološkog oružja umjetne inteligencije

Novi izvještaj RAND korporacije opisuje sveobuhvatnu strategiju za ublažavanje rizika od biološkog oružja zasnovanog na umjetnoj inteligenciji, naglašavajući hitnu potrebu za suradnjom među vladama, istraživačima, zdravstvenim radnicima i tehnološkim tvrtkama.

To uključuje i izolirane aktere i entitete koje sponzorira država. Izvješće sugeriše da, iako brza evolucija umjetne inteligencije predstavlja izazove, mnogi od najopasnijih pragova još nisu dostignuti. "Potrebno nam je slojeviti sustav međusobno ojačavajućih pristupa", rekao je Steph Guerra, glavni autor izvješća.

Međutim, ti isti resursi mogu biti iskorišteni od strane zlonamjernih aktera koji žele stvoriti biološko oružje. Guerra je napomenula da iako je većina podataka trenutno zaštićena zbog svoje komercijalne vrijednosti, alati otvorenog koda ostaju veći rizik. "Trenutno su podaci za biologiju slobodno dostupni i otvoreni jer je biologija... za otkriće i spašavanje života.

Jedan od predloženih rješenja uključuje stvaranje razreda sustava pristupa, omogućujući samo ovlaštenim istraživačima da se bave skupovima podataka visokog rizika. To bi pomoglo u održavanju ritma medicinskog napretka i smanjenju vjerojatnosti zlouporabe. Izvješće također naglašava važnost proaktivnih mehanizama otkrivanja. Pratkom praćenja uzoraka uporabe i identifikacije anomalija, vlasti bi mogle otkriti rane znakove potencijalne zlouporabe. Osim toga, izvješće naglašava nužnost međunarodne suradnje, s obzirom na transnacionalnu prirodu moderne znanosti i potencijal biološkog oružja za utjecaj na više regija.

Ranije ovog tjedna, Anthropic je objavio da je njegov AI model, Claude, uspješno dizajnirao proteinske vezivače protiv 14 različitih ciljeva, što je značajna prekretnica u razvoju lijekova. Iako je tvrtka priznala transformativni potencijal AI-a u biomedicinskim istraživanjima, također je upozorila na opasnosti povezane s nereguliranim pristupom takvim moćnim alatima. "Bez snažnih sigurnosnih mjera, mogli bi omogućiti lošim akterima da obavljaju opasna istraživanja, kao što je razvoj biološkog oružja", izjavila je tvrtka u blogu. Izvještaj dalje napominje da AI čini biološka istraživanja dostupnijom nego ikad prije.

Uz napredne algoritme i računalnu snagu, čak i pojedinci s ograničenom stručnošću mogu pridonijeti složenim znanstvenim zadacima. Ova demokratizacija istraživanja, međutim, izaziva ozbiljne sigurnosne implikacije.

Izazov leži u postizanju prave ravnoteže između otvorenosti i kontrole, osiguravajući da se prednosti umjetne inteligencije u medicini ostvare bez ugrožavanja globalne sigurnosti.