ON
← Natrag na feed
Prijetnja umjetne inteligencije drži znanstvenike budnim noću
World🏛️ PolitikaBliže progresivnom

Prijetnja umjetne inteligencije drži znanstvenike budnim noću

U članku se raspravlja o zabrinutosti koju su znanstvenici i tehnolozi izrazili u vezi s potencijalnim opasnostima koje predstavlja umjetna inteligencija (AI), osobito njezina uloga u omogućavanju stvaranja biološkog oružja. Vodeći istraživač u Anthropicu izjavio je da postoji više od 10% šanse da bi AI mogla uzrokovati ljudsko izumiranje u sljedećem desetljeću. Ti su strahovi povezani s sposobnosti AI-e da pomogne u razvoju opasnih patogena kroz napredak u uređivanju gena i sintezi DNA-e. Nedavni primjeri uključuju slučajeve u kojima su AI chatboti pružili detaljne upute za stvaranje sojeva patogena otpornih na bolesti i ponovno stvaranje prošlih pandemijskih virusa. Osim toga, AI modeli obučeni na DNK sekvencama generirali su nacrt za nove viruse, iako su trenutno ciljali bakterije, a ne ljude. Iako je točan opseg doprinosa umjetne inteligencije takvim prijetnjama i dalje neizvjestan, stručnjaci tvrde da je povećano ulaganje u spremnost na pandemiju od ključne važnosti za ublažavanje tih rizika.

Vodeći istraživač umjetne inteligencije u Anthropicu upozorio je da bi umjetna inteligencija mogla ubiti sve ljude u roku od deset godina, što je izazvalo hitnu zabrinutost zbog rizika koje predstavljaju napredni AI sustavi. Njegova ostavka uslijedila je nakon javnog odobrenja od strane voditelja usklađivanja Anthropic-a, koji je procenio da je vjerojatnost da će AI izbrisati čovječanstvo u roku od deset godina preko 10%.

On je naveo etičke zabrinutosti i opasnosti od nekontroliranog razvoja umjetne inteligencije, napominjući da je njegova odluka djelomično motivirana financijskim ulogama koje su uključene u rad u visoko profilskoj tvrtki poput Anthropic. Njegove dionice, koje se vremenom ostvaruju, vrijede znatnu sumu, a on je odlučio otići prije nego što su u potpunosti ostvarene.

Godine 2022, istraživači su pokazali da bi generator molekula umjetne inteligencije mogao proizvesti 40.000 potencijalnih agenata kemijskog ratovanja za manje od šest sati. Danas alati umjetne inteligencije mogu pomoći u gotovo svakom znanstvenom području, uključujući biotehnologiju. Napredak u uređivanju gena i sintetičkoj biologiji dodatno je smanjio barijeru za ulazak u stvaranje opasnih patogena. Iako postoje postojeće zaštitne mjere, one nisu besprijekorne, a stručnjaci se ne slažu o ozbiljnosti prijetnje. Neki istraživači tvrde da uloga umjetne inteligencije u razvoju biološkog oružja nije nužno vezana za postizanje svijesti ili superinteligencije. Umjesto toga, ona može jednostavno pojačati postojeće trendove u biotehnologiji.

Na primjer, chatboti na temelju umjetne inteligencije mogli bi pružiti detaljne smjernice za izgradnju otpornih sojeva patogena ili repliciranje prošlih pandemija. Nedavni izvještaji ukazuju na to da su biolozi uspješno koristili umjetnu inteligenciju za generiranje nacrta smrtonosnih virusa, iako su oni trenutno ograničeni na bakterijske prijetnje.

Kritičari ističu da međunarodni sporazumi, kao što je Deklaracija iz Delhija potpisana na Globalnom Indijskom AI Samitu, nisu spriječili stalni razvoj AI sustava. Nacije su se obvezale promicati sigurnu i pouzdanu AI, ali mnogi i dalje daju prednost inovacijama nad sigurnošću. Implikacije tih rizika prevazilaze teoretske rasprave.

Kako se AI okruženje nastavlja razvijati, izazov leži u uravnoteženju inovacija s odgovornošću. Stručnjaci naglašavaju da su trenutni regulatorni okviri nedovoljni za rješavanje složenih etičkih i sigurnosnih pitanja koja okružuju AI. Bez temeljnih promjena poticaja koji pokreću razvoj AI, rizici koje su opisali Coxon i drugi mogu se nastaviti. Razgovor oko potencijalnih prijetnji AI-a ljudskom opstanku dobija na zamahu. S obzirom na to da se AI sve više integriše u kritična područja znanosti i tehnologije, potreba za robusnim mehanizmima upravljanja nikada nije bila važnija.

Kako se polje kreće naprijed, fokus se mora prebaciti na osiguravanje da AI služi čovječanstvu sigurno i odgovorno.

Kako je nastao ovaj izvještaj. Objektivne vijesti je ovaj izvještaj napisao iz 3 izvornih članaka uz pomoć umjetne inteligencije prema našoj metodologiji. Riječ je o našem vlastitom tekstu, a ne o kopiji pojedinog medija. Pročitajte našu metodologiju.

Odgovorni urednik: Matej BašaUočili ste pogrešku? Prijavite je

Idi na primarne izvore (10)

Službeni izvori na kojima se izvještavanje temelji. Pročitaj ih izravno da zaobiđeš uokvirivanje.

3 izvještaja

Vox logoVoxNeovisanProgresivnoČinjenice 85Objektivnost 60
Prijetnja umjetne inteligencije drži znanstvenike budnim noću

U članku se raspravlja o zabrinutosti koju su znanstvenici i tehnolozi izrazili u vezi s potencijalnim opasnostima koje predstavlja umjetna inteligencija (AI), osobito njezina uloga u omogućavanju stvaranja biološkog oružja. Vodeći istraživač u Anthropicu izjavio je da postoji više od 10% šanse da bi AI mogla uzrokovati ljudsko izumiranje u sljedećem desetljeću. Ti su strahovi povezani s sposobnosti AI-e da pomogne u razvoju opasnih patogena kroz napredak u uređivanju gena i sintezi DNA-e. Nedavni primjeri uključuju slučajeve u kojima su AI chatboti pružili detaljne upute za stvaranje sojeva patogena otpornih na bolesti i ponovno stvaranje prošlih pandemijskih virusa. Osim toga, AI modeli obučeni na DNK sekvencama generirali su nacrt za nove viruse, iako su trenutno ciljali bakterije, a ne ljude. Iako je točan opseg doprinosa umjetne inteligencije takvim prijetnjama i dalje neizvjestan, stručnjaci tvrde da je povećano ulaganje u spremnost na pandemiju od ključne važnosti za ublažavanje tih rizika.

Procjena pristranosti (Progresivno): U članku se naglašavaju egzistencijalni rizici koje predstavljaju umjetna inteligencija, fokusirajući se na potencijal razvoja biološkog oružja i zagovarajući regulatorne mjere. U izvještaju se naglašavaju upozorenja istraživača i nedavni incidenti koji uključuju napredak u biotehnologiji uz pomoć umjetne inteligencije, sugerišući oprezni stav usklađen s

Zašto činjenice (85): The article accurately reports the general sentiment expressed by Anthropic researchers regarding AI risks, citing a 'greater than 10 percent chance of AI killing all humans within the next decade.' However, it introduces speculative elements not present in the primary source, such as 'synthetic pan

Zašto objektivnost (60): The article uses emotionally charged language like 'nerve-racking forecast,' 'apocalypse,' and 'mass death,' which leans toward alarmism. It frames the issue in a dramatic narrative style rather than presenting a balanced view of the situation.

MIT Technology Review logoMIT Technology ReviewNeovisanSredinaČinjenice 5Objektivnost 3
The Download: AI-ova opasnost od izumiranja i prijetnja biološkim oružjem

MIT Technology Review 'The Download' newsletter raspravlja o zabrinutosti oko potencijalnih egzistencijalnih rizika AI-a, uključujući razvoj biološkog oružja putem naprednih alata AI-a. Istraživači su pokazali 2022. godine da bi AI mogla generirati tisuće molekula pogodnih za kemijsko ratovanje u nekoliko sati, što je podiglo uzbunu o pristupačnosti alata biotehnologije. Iako postoje zaštitne mjere, stručnjaci raspravljaju o ozbiljnosti prijetnje. Članak također dotiče evoluirajuću ulogu astronauta u istraživanju svemira, pozivajući se na nedavne knjige koje uokviruju ljudsku želju za istraživanjem svemira kao duboko ukorijen želju da se potrudi izvan Zemlje. Dodatno, newsletter ističe da zaposlenici Microsoft i OpenAI tvrde da AI potkopava web smanjujući promet na web stranicama, čime prijeti ekosustavima za stvaranje sadržaja.

Procjena pristranosti (Sredina): U članku su predstavljena različita gledišta o rizicima vezanim za umjetnu inteligenciju, uključujući mišljenja stručnjaka i nalaze istraživanja, bez da se otvoreno favorizira bilo koji određeni stav.

Zašto činjenice (5): The article discusses AI's potential risks like bioweapons and geopolitical changes in space exploration, but does not mention the recent court filings or admissions by Microsoft and OpenAI regarding content theft and impact on human labor. It focuses on unrelated topics such as AI extinction risk a

Zašto objektivnost (3): The tone is speculative and focused on hypothetical dangers rather than presenting balanced views. The article lacks discussion of the specific legal and ethical issues raised in the primary source document, suggesting a lack of neutrality.

Deccan Herald logoDeccan HeraldNeovisanSredinaČinjenice: nije otkriven službeni izvor/dokumentObjektivnost 50
Hoće li nas AI sve ubiti za 10 godina?

Istraživač u Anthropicu, Jacob Coxon, podnio je ostavku na svoj položaj, izražavajući zabrinutost da bi AI mogla predstavljati egzistencijalnu prijetnju čovječanstvu u roku od 10 godina. Njegov odlazak naglašava etičku dilemu s kojom se suočavaju pojedinci koji rade na razvoju umjetne inteligencije, posebice jer se tvrtke trkaju kako bi unaprijedili tehnologiju bez odgovarajućih zaštitnih mjera. Unatoč međunarodnim sporazumima poput "Delhi Deklaracije" čiji je cilj osigurati sigurnu praksu umjetne inteligencije, Coxon tvrdi da ove obveze nemaju provedivost i često se ignoriraju u korist brze inovacije. Njegova odluka da napusti Anthropic, gdje je izgubio značajne financijske dobitke, odražava duboke moralne rezerve o doprinosu napretku umjetne inteligencije bez rješavanja potencijalnih rizika. Coxon izvodi paralele između svog iskustva i iskustva glazbenika Petera Gabriela, koji je slično uspješno izabrao izaći poduh zbog osobnih uvjerenja.

Procjena pristranosti (Sredina): Članak predstavlja Jacob Coxonovu ostavku i zabrinutost zbog egzistencijalnog rizika umjetne inteligencije bez da otvoreno favorizira bilo koji određeni politički stav.

Zašto činjenice: nije otkriven službeni izvor/dokument

Zašto objektivnost (50): The article takes a highly subjective approach, drawing parallels to music history and emphasizing Coxon's personal sacrifice. It presents a strongly biased perspective by highlighting the moral dilemma of leaving a high-paying job, potentially influencing readers' perceptions of the issue.

Kako je izvijestila svaka strana

Isti događaj, grupiran prema političkom nagibu medija koji su o njemu izvještavali.

Kako je izvijestila svaka strana

Podržite neovisne vijesti svjesne pristranosti i otključajte društveni puls, glasovanje zajednice i sve ostale značajke za podupiratelje.

Postani podupiratelj

Izvještavanje u svijetu

Isti događaj kako se o njemu izvještavalo u drugim zemljama.

Izvještavanje u svijetu

Podržite neovisne vijesti svjesne pristranosti i otključajte društveni puls, glasovanje zajednice i sve ostale značajke za podupiratelje.

Postani podupiratelj

Provjera tvrdnji

Ključne činjenične tvrdnje i koliko ih izvora potvrđuje odn. osporava.

Provjera tvrdnji

Podržite neovisne vijesti svjesne pristranosti i otključajte društveni puls, glasovanje zajednice i sve ostale značajke za podupiratelje.

Postani podupiratelj

Neka vijesti ostanu poštene.

ObjectiveNews financiraju čitatelji i bez oglasa je – pristranost vam pokazujemo, ne skrivamo. Podržite neovisno novinarstvo za 4 €/mjesec.

Postani podupiratelj

Povezane priče