Načrt za zaščito pred biološkim orožjem na osnovi umetne inteligence

V novem poročilu korporacije RAND je opisana celovita strategija za zmanjšanje tveganj, ki jih predstavljajo biološka orožja, ki jih poganja AI, s poudarkom na nujni potrebi po sodelovanju med vladami, raziskovalci, zdravstvenimi delavci in tehnološkimi podjetji. V poročilu je opredeljenih devet ključnih ukrepov, katerih cilj je preprečiti zlorabo umetne inteligence v bioloških raziskavah, zlasti pri ustvarjanju in uporabi škodljivih patogenih organizmov. V poročilu, ki je bil objavljen ta teden, je poudarjena vse večja skrb, da tehnologije AI, kljub njihovemu potencialu za revolucijo medicine, prav tako širijo zbirko posameznikov in skupin, sposobnih za razvoj biološkega orožja.

To vključuje tako izolirane akterje kot tudi subjekte, ki jih sponzorira država. Poročilo kaže, da čeprav hiter razvoj umetne inteligence predstavlja izzive, številni najnevarnejši pragovi še niso doseženi. "Potrebujemo slojeviti sistem pristopov, ki se med seboj krepijo", je dejal Steph Guerra, vodilni avtor poročila. "Ena od osrednjih skrbi, ki jih je v poročilu izpostavil, je dostopnost bioloških podatkov in orodij". Veliko sedanjih raziskav na področju odkrivanja zdravil in genskega inženiringa temelji na platformah z odprtim virom in skupnih podatkovnih bazah, ki naj bi pospešile inovacije in izboljšale globalne zdravstvene rezultate.

Vendar pa bi lahko te vire izkoristili zlonamerni akterji, ki želijo ustvariti biološko orožje. Guerra je opozoril, da čeprav je večina podatkov trenutno zaščitena zaradi komercialne vrednosti, orodja z odprtim virom ostajajo večje tveganje. "Trenutno so podatki za biologijo prosto na voljo in odprti, ker je biologija ... za odkrivanje in reševanje življenj.

Ena od predlaganih rešitev vključuje ustvarjanje nizovnih sistemov dostopa, ki bi le pooblaščenim raziskovalcem omogočili, da se ukvarjajo z visoko tvegano zbirko podatkov. To bi pomagalo ohraniti tempo medicinskega napredka in hkrati zmanjšalo verjetnost zlorabe. Poročilo poudarja tudi pomen proaktivnih mehanizmov za odkrivanje. S spremljanjem vzorcev uporabe in prepoznavanjem anomalij bi oblasti lahko odkrile zgodnje znake morebitne zlorabe.

V začetku tega tedna je Anthropic napovedal, da je njegov AI model, Claude, uspešno zasnoval beljakovinske veziva proti 14 različnim ciljem, kar je pomemben mejnik v razvoju zdravil. Medtem ko je podjetje priznalo preobrazbo potencial AI v biomedicinskih raziskavah, je opozorilo tudi na nevarnosti, povezane z nereguliranim dostopom do tako močnih orodij. "Brez trdnih varnostnih ukrepov bi lahko slabi akterji izvedli nevarne raziskave, kot je razvoj biološkega orožja", je družba navedla v objavi na blogu.

Z naprednimi algoritmi in računalniško močjo lahko celo posamezniki z omejenim strokovnim znanjem prispevajo k kompleksnim znanstvenim nalogam.

Izziv leži v tem, da najdemo pravo ravnovesje med odprtostjo in nadzorom ter zagotovimo, da se koristi umetne inteligence v medicini uresničijo brez ogrožanja globalne varnosti.