ON
← Nazaj na pregled
Grožnja umetne inteligence ne pusti znanstvenikom spati.
World🏛️ PolitikaBolj progresivno

Grožnja umetne inteligence ne pusti znanstvenikom spati.

Članek obravnava zaskrbljenost znanstvenikov in tehnologov glede morebitnih nevarnosti, ki jih predstavlja umetna inteligenca, zlasti njena vloga pri omogočanju ustvarjanja biološkega orožja. Vodilni raziskovalec pri Anthropic je izjavil, da obstaja več kot 10-odstotna verjetnost, da bo umetna inteligenca povzročila izumrtje ljudi v naslednjem desetletju. Ti strahovi so povezani z zmožnostjo AI, da pomaga pri razvoju nevarnih patogenih organizmov z napredkom pri urejanju genov in sintezi DNK. Nedavni primeri vključujejo primere, ko so AI klepetalniki zagotovili podrobna navodila za ustvarjanje odpornih na bolezni sevov patogenih organizmov in ponovno ustvarjanje preteklih pandemičnih virusov. Poleg tega so modeli umetne inteligence, ki so usposobljeni na DNK zaporedju, ustvarili načrte za nove viruse, čeprav trenutno ciljajo na bakterije in ne na ljudi. Medtem ko je natančen obseg prispevka AI k takšnim grožnjam še vedno negotov, strokovnjaki trdijo, da je povečanje naložb v pripravljenost na pandemijo ključnega pomena za zmanjšanje teh tveganj.

Vodilni raziskovalec umetne inteligence pri Anthropicu je opozoril, da bi umetna inteligenca lahko v desetletju ubila vse ljudi, kar je sprožilo nujne pomisleke o tveganjih, ki jih predstavljajo napredni sistemi umetne inteligence.

Navedel je etične pomisleke in zaznane nevarnosti nekontroliranega razvoja umetne inteligence in poudaril, da je bila njegova odločitev delno motivirana s finančnimi vložki, ki jih je vključevalo delo v visokoimenovanem podjetju, kot je Anthropic.

V letu 2022 so raziskovalci dokazali, da bi lahko generator molekule AI v manj kot šestih urah proizvedel 40.000 potencialnih kemikalij za kemično vojno. Danes lahko orodja AI pomagajo praktično v vsaki znanstveni domeni, vključno z biotehnologijo. Napredki pri urejanju genov in sintetični biologiji so dodatno znižali oviro za vstop za ustvarjanje nevarnih patogenih. Čeprav obstajajo obstoječi zaščitni ukrepi, niso popolnoma zanesljivi, strokovnjaki pa se ne strinjajo s resnostjo grožnje. Nekateri raziskovalci trdijo, da vloga AI pri razvoju biološkega orožja ni nujno povezana z doseganjem zavesti ali superinteligenco. Namesto tega lahko preprosto poveča obstoječe trende v biotehnologiji.

Na primer, chatbot-i s pomočjo umetne inteligence bi lahko zagotovili podrobna navodila za izdelavo odpornih sevov patogenih virusov ali replikacijo preteklih pandemij.

Kritiki opozarjajo, da mednarodni sporazumi, kot je Deklaracija iz Delhija, podpisana na globalnem Indijskem vrhu AI, niso preprečili nadaljnjega razvoja sistemov AI. Države so se zavezale k spodbujanju varne in zaupanja vredne AI, vendar pa mnogi še naprej dajejo prednost inovacijam pred varnostjo. Posledice teh tveganj presegajo teoretične razprave. Kibernetski napadi, ki jih vodi AI, in potencial za sintetične pandemije poudarjajo nujnost reševanja teh izzivov. Raziskovalci poudarjajo, da medtem ko tehnične ovire za ustvarjanje novih supervirusov ostajajo visoke, povečana dostopnost biotehnoloških orodij povečuje verjetnost naključne ali namerne zlorabe.

Medtem, ko se okolje umetne inteligence še naprej razvija, je izziv uravnotežiti inovacije z odgovornostjo. Strokovnjaki poudarjajo, da trenutni regulativni okviri niso zadostni za reševanje zapletenih etičnih in varnostnih vprašanj, ki obkrožajo umetno inteligenco. Brez temeljnih sprememb spodbud, ki spodbujajo razvoj umetne inteligence, se lahko tveganja, ki so jih opisali Coxon in drugi, nadaljujejo. Pogovor o možnostih umetne inteligence, ki ogrožajo človeško preživetje, pridobiva zagon. Z umetno inteligenco, ki je vse bolj integrirana v kritična področja znanosti in tehnologije, potreba po robustnih mehanizmih upravljanja še nikoli ni bila bolj nujna.

Ko se področje premika naprej, se mora osredotočiti na to, da bo umetna inteligenca varno in odgovorno služila človeštvu.

Kako je nastalo to poročilo. Objektivne novice je to poročilo napisal iz 3 izvornih člankov s pomočjo umetne inteligence po naši metodologiji. Gre za naše lastno besedilo, ne za kopijo posameznega medija. Preberite našo metodologijo.

Odgovorni urednik: Matej BašaSte opazili napako? Sporočite jo

Pojdite k primarnim virom (10)

Uradni viri, na katerih temelji poročanje. Preberite jih neposredno in se izognite uokvirjanju.

3 poročil

Vox logoVoxNeodvisenProgresivnoDejstva 85Objektivnost 60
Grožnja umetne inteligence ne pusti znanstvenikom spati.

Članek obravnava zaskrbljenost znanstvenikov in tehnologov glede morebitnih nevarnosti, ki jih predstavlja umetna inteligenca, zlasti njena vloga pri omogočanju ustvarjanja biološkega orožja. Vodilni raziskovalec pri Anthropic je izjavil, da obstaja več kot 10-odstotna verjetnost, da bo umetna inteligenca povzročila izumrtje ljudi v naslednjem desetletju. Ti strahovi so povezani z zmožnostjo AI, da pomaga pri razvoju nevarnih patogenih organizmov z napredkom pri urejanju genov in sintezi DNK. Nedavni primeri vključujejo primere, ko so AI klepetalniki zagotovili podrobna navodila za ustvarjanje odpornih na bolezni sevov patogenih organizmov in ponovno ustvarjanje preteklih pandemičnih virusov. Poleg tega so modeli umetne inteligence, ki so usposobljeni na DNK zaporedju, ustvarili načrte za nove viruse, čeprav trenutno ciljajo na bakterije in ne na ljudi. Medtem ko je natančen obseg prispevka AI k takšnim grožnjam še vedno negotov, strokovnjaki trdijo, da je povečanje naložb v pripravljenost na pandemijo ključnega pomena za zmanjšanje teh tveganj.

Ocena pristranskosti (Progresivno): Članek poudarja eksistencialna tveganja, ki jih predstavlja umetna inteligenca, se osredotoča na potencial za razvoj biološkega orožja in zagovarja regulativne ukrepe. V poročilu so poudarjena opozorila raziskovalcev in nedavni incidenti, ki vključujejo napredek v biotehnologiji s pomočjo umetne inteligence, in predlagajo previdnostno stališče, ki je usklajeno z

Zakaj dejstva (85): The article accurately reports the general sentiment expressed by Anthropic researchers regarding AI risks, citing a 'greater than 10 percent chance of AI killing all humans within the next decade.' However, it introduces speculative elements not present in the primary source, such as 'synthetic pan

Zakaj objektivnost (60): The article uses emotionally charged language like 'nerve-racking forecast,' 'apocalypse,' and 'mass death,' which leans toward alarmism. It frames the issue in a dramatic narrative style rather than presenting a balanced view of the situation.

MIT Technology Review logoMIT Technology ReviewNeodvisenSredinaDejstva 5Objektivnost 3
Download: Grožnja izumrtja AI in grožnja biološkega orožja

Raziskovalci so leta 2022 pokazali, da bi lahko umetna inteligenca v nekaj urah ustvarila na tisoče molekul, primernih za kemično vojno, kar je sprožilo alarm o dostopnosti biotehnoloških orodij. Medtem ko obstajajo zaščitni ukrepi, strokovnjaki razpravljajo o resnosti grožnje. Članek se dotakne tudi razvijajoče se vloge astronavtov v raziskovanju vesolja, pri čemer navaja nedavne knjige, ki okvirjajo človeško prizadevanje za raziskovanje vesolja kot globoko zasnovan nagon, da bi se potopili izven Zemlje. Poleg tega novice poudarjajo, da Microsoft in OpenAI zaposleni trdijo, da umetna inteligenca spodkopava splet, tako da zmanjšuje promet na spletnih straneh, s čimer ogroža ekosisteme ustvarjanja vsebin.

Ocena pristranskosti (Sredina): V članku so predstavljeni različni pogledi na tveganja umetne inteligence, vključno z mnenji strokovnjakov in raziskovalnimi ugotovitvami, ne da bi očitno zagovarjali katero koli posebno stališče.

Zakaj dejstva (5): The article discusses AI's potential risks like bioweapons and geopolitical changes in space exploration, but does not mention the recent court filings or admissions by Microsoft and OpenAI regarding content theft and impact on human labor. It focuses on unrelated topics such as AI extinction risk a

Zakaj objektivnost (3): The tone is speculative and focused on hypothetical dangers rather than presenting balanced views. The article lacks discussion of the specific legal and ethical issues raised in the primary source document, suggesting a lack of neutrality.

Deccan Herald logoDeccan HeraldNeodvisenSredinaDejstva: uradni vir/dokument ni zaznanObjektivnost 50
Torej, nas bo AI ubila čez 10 let?

Raziskovalec pri Anthropicu, Jacob Coxon, je odstopil iz svojega položaja, izrazil je zaskrbljenost, da bi umetna inteligenca lahko predstavljala eksistencialno grožnjo človeštvu v 10 letih. Njegov odhod poudarja etično dilemo, s katero se soočajo posamezniki, ki delajo na razvoju umetne inteligence, zlasti ko podjetja tekmujejo za napredovanje tehnologije brez ustreznih zaščitnih ukrepov. Kljub mednarodnim sporazumom, kot je "Delhi deklaracija", namenjenim zagotavljanju varnih praks umetne inteligence, Coxon trdi, da te zaveze nimajo izvršljivosti in jih pogosto ignorirajo v korist hitrih inovacij. Njegova odločitev, da zapusti Anthropic, kjer je izgubil znatne finančne dobičke, odraža globoke moralne zadržke glede prispevanja k napredku umetne inteligence, ne da bi obravnaval morebitna tveganja. Coxon navaja vzporednice med svojo izkušnjo in izkušnjo glasbenika Petra Gabriela, ki se je podobno odločil za izhod iz podjetja zaradi osebnih prepričanj.

Ocena pristranskosti (Sredina): V članku je predstavljen odstop Jacob Coxona in njegova zaskrbljenost zaradi eksistencialnega tveganja umetne inteligence, ne da bi javno zagovarjal kakršno koli posebno politično stališče. V članku se razpravlja o globalnih prizadevanjih, kot je Delhijska deklaracija, in kritizira pomanjkanje izvršljivosti v mednarodnih sporazumih, vendar izrecno ne opredeljuje

Zakaj dejstva: uradni vir/dokument ni zaznan

Zakaj objektivnost (50): The article takes a highly subjective approach, drawing parallels to music history and emphasizing Coxon's personal sacrifice. It presents a strongly biased perspective by highlighting the moral dilemma of leaving a high-paying job, potentially influencing readers' perceptions of the issue.

Kako je poročala vsaka stran

Isti dogodek, razvrščen po političnem nagibu medijev, ki so o njem poročali.

Kako je poročala vsaka stran

Podprite neodvisne novice z zavedanjem pristranskosti in odklenite družbeni utrip, glasovanje skupnosti in vse druge funkcije za podpornike.

Postani podpornik

Poročanje po svetu

Isti dogodek, kot so ga poročali v drugih državah.

Poročanje po svetu

Podprite neodvisne novice z zavedanjem pristranskosti in odklenite družbeni utrip, glasovanje skupnosti in vse druge funkcije za podpornike.

Postani podpornik

Preverjanje trditev

Ključne dejanske trditve in koliko virov jih potrjuje oz. zavrača.

Preverjanje trditev

Podprite neodvisne novice z zavedanjem pristranskosti in odklenite družbeni utrip, glasovanje skupnosti in vse druge funkcije za podpornike.

Postani podpornik

Ohranimo novice poštene.

ObjectiveNews financirajo bralci in je brez oglasov – pristranskost vam pokažemo, ne skrijemo. Podprite neodvisno novinarstvo za 4 €/mesec.

Postani podpornik

Povezane zgodbe