Niso vsi delavci mislili, da bi tehnologija lahko ubila vse.
Raziskava BBC razkriva, da vsi zaposleni, ki delajo na umetni inteligenci (AI), ne verjamejo, da tehnologija predstavlja eksistencialno grožnjo človeštvu. Poročilo poudarja skeptičnost posameznikov, zaposlenih v večjih podjetjih AI, kot so OpenAI, Meta in DeepMind, ki so se odzvali na nedavna opozorila o AI, ki bi lahko povzročila množično škodo. Ti delavci so izrazili zabavo zaradi pomanjkanja konkretnih podrobnosti, ki podpirajo takšne grozljive napovedi, in jih imenovali nejasne ali preveč špekulativne. Medtem ko nekateri strokovnjaki za AI priznavajo legitimne pomisleke glede tehnologije, se splošno razpoloženje v industriji zdi bolj previdno kot alarmistično. Razprava odraža širšo razpravo na tem področju o realnih tveganjih in etičnih posledicah naprednih sistemov AI.
OpenAI trdi, da je uporabil model umetne inteligence za reševanje glavne uganke v dinamiki tekočin, Navier, Stokesov problem, ki je sprožil vročo razpravo o akademskih kreditih v dobi AI. Objava, ki je bila 8. septembra v San Franciscu, Kalifornija, kaže, da bi orodja AI lahko kmalu igrala osrednjo vlogo v matematičnih odkritjih. Vendar pa je tudi vzbudila pomisleke, ali so se modeli OpenAI nenamerno naučili od človeških matematikov, ki so tudi delali na problemu z uporabo podobnih orodij.
Raziskovalci opozarjajo, da bi lahko široko razširjena uporaba AI v raziskavah otežila sledenje izvorom idej, kar bi lahko spodkopalo tradicionalni sistem znanstvenega kredita. Polemika je dobila zagon, ko sta Tristan Buckmaster, matematik na univerzi v New Yorku, in njegov sodelavec Levent Alpöge, matematik na univerzi v Harvardu, izrazili zaskrbljenost, da se je OpenAI morda naučil iz njihovega dela. Buckmaster je trdil, da je podjetje skočilo na problem, potem ko je slišalo za njihove napore in da je njegov model morda absorbiral vpoglede iz njihovih interakcij s ChatGPT.
Buckmaster, ki je orodja OpenAI uporabljal eno leto, je razkril, da ima tri ločene račune na ChatGPT, od katerih sta se samo dva odločila, da podjetju ne dovolita uporabe pogovorov s chatbotom za modelno usposabljanje.
Kljub temu Buckmaster in Alpöge trdijo, da bi moral pomemben del zasluge za preboj pripasti njima, skupaj z Diego Córdobom na Inštitutu za matematične znanosti in Luisom Martínezom Zoroajem na Univerzi CUNEF v Madridu.
Inštitut s sedežem v Oxfordu v Veliki Britaniji je izjavil, da bo ocenil veljavnost rešitve šele, ko bo objavljena v reviziji strokovnjakov in podvržena nadaljnjemu pregledu širše akademske skupnosti. Medtem se vprašanje vloge AI v raziskavah razteza izven matematike.
Dario Amodei, izvršni direktor družbe Anthropic, je pred kratkim zagovarjal upočasnitev razvoja umetne inteligence zaradi naraščajoče zaskrbljenosti zaradi tveganj, ki jih predstavljajo avtonomni agenti umetne inteligence. Amodei je poudaril potrebo po globlji integraciji ocenjevalcev tretjih oseb v laboratorijih umetne inteligence, kar je podjetje Anthropic začelo izvajati s partnerstvom z Accentureom. Oba podjetja nameravata vložiti 2 milijarde dolarjev v ocenjevanje modelov umetne inteligence, s ciljem izboljšanja varnostnih protokolov in zagotavljanja odgovornega razvoja. Čeprav ti koraki predstavljajo napredek, mnogi raziskovalci ostajajo skeptični glede tega, ali so sedanja zaščita zadostna za preprečevanje nenamerjenih posledic.
Med strokovnjaki za umetno inteligenco se mnenja o morebitnih nevarnostih nereguliranega napredka umetne inteligence razlikujejo. Nekateri, kot je Colin Fraser iz Meta, trdijo, da ni bistvenih dokazov, ki bi nakazovali, da bodo modeli umetne inteligence neizogibno privedli do človeškega izumrtja. Drugi pa priznavajo potrebo po previdnosti, zlasti ker umetna inteligenca postaja bolj avtonomna in integrirana v kritična področja, kot sta obramba in finance. Debata odraža širšo napetost med inovacijami in odgovornostjo, pri čemer mnogi na tem področju zagovarjajo uravnotežen pristop, ki daje prednost tehnološkemu napredku in družbenemu blaginju.
Pojdite k primarnim virom (4)
Uradni viri, na katerih temelji poročanje. Preberite jih neposredno in se izognite uokvirjanju.
Raziskava BBC razkriva, da vsi zaposleni, ki delajo na umetni inteligenci (AI), ne verjamejo, da tehnologija predstavlja eksistencialno grožnjo človeštvu. Poročilo poudarja skeptičnost posameznikov, zaposlenih v večjih podjetjih AI, kot so OpenAI, Meta in DeepMind, ki so se odzvali na nedavna opozorila o AI, ki bi lahko povzročila množično škodo. Ti delavci so izrazili zabavo zaradi pomanjkanja konkretnih podrobnosti, ki podpirajo takšne grozljive napovedi, in jih imenovali nejasne ali preveč špekulativne. Medtem ko nekateri strokovnjaki za AI priznavajo legitimne pomisleke glede tehnologije, se splošno razpoloženje v industriji zdi bolj previdno kot alarmistično. Razprava odraža širšo razpravo na tem področju o realnih tveganjih in etičnih posledicah naprednih sistemov AI.
Ocena pristranskosti (Sredina): V članku so predstavljene perspektive različnih strokovnjakov za umetno inteligenco, ne da bi se očitno zavzemali za nobeno posebno stališče.
Zakaj dejstva (50): The article discusses AI workers' skepticism about AI leading to mass deaths, citing anonymous sources from companies like OpenAI, DeepMind, and Anthropic. However, it does not accurately reflect the primary source document, which focuses on Anthropic's partnership with Accenture for embedded evalua
Zakaj objektivnost (40): The article uses informal language ('Lol', 'Bringing the luls') and presents the views of anonymous sources in a dismissive manner, suggesting a biased framing towards downplaying concerns about AI risks. It lacks neutrality in presenting the topic.
Raziskovalci so izrazili zaskrbljenost, da bi orodja za umetno inteligenco lahko prikrila izvor idej, zaradi česar bi bilo težko natančno pripisati odkritja. Matematičarji, kot je Tristan Buckmaster, so trdili, da se je umetna inteligenca OpenAI morda naučila iz njihovega prejšnjega dela na istem problemu, čeprav je OpenAI to zanikal in navedel, da ni dostopal do njihovega raziskovanja pred javnim objavljanjem.
Ocena pristranskosti (Sredina): Članek predstavlja več pogledov, ne da bi očitno zagovarjal eno stran. Vključuje izjave kritikov, kot sta Tristan Buckmaster in obramba OpenAI, hkrati pa navaja strokovnjake, ki opozarjajo na širše posledice za znanstveni kredit.
Zakaj dejstva (40): This article focuses on OpenAI's claim regarding solving the Navier-Stokes problem using AI, which is unrelated to the 'hacking' incident reported in the previous articles. As such, it does not contribute to the cross-source consensus about the Gemini hacking incident. The article contains detailed
Zakaj objektivnost (55): While the article discusses important issues related to AI and academia, it does not address the hacking incident directly. The focus on academic credit and ethical concerns is presented in a balanced manner, but since it diverges from the main topic, it does not meet the criteria for evaluating obj
Financial TimesNeodvisen🔒SredinaDejstva: uradni vir/dokument ni zaznanObjektivnost 90
Anthropic, podjetje za umetno inteligenco, je napovedalo, da bo sodelovalo z Accenturejem, globalnim svetovalnim podjetjem, za izvajanje varnostnih testov umetne inteligence. Ta poteza je posledica naraščajoče zaskrbljenosti zaradi tveganj, povezanih z naprednimi tehnologijami umetne inteligence. Izvršni direktor Dario Amodei je poudaril pomen vključevanja preizkuševalcev tretjih oseb v razvojni proces, da bi zagotovili večjo odgovornost in varnost v sistemih umetne inteligence.
Ocena pristranskosti (Sredina): V članku je predstavljena dejanska posodobitev o odločitvi družbe Anthropic, da se pridruži podjetju Accenture za testiranje varnosti AI. Medtem ko se tema nanaša na nove tehnologije in regulativne vidike, ki lahko imajo politične posledice, ostaja okvir nevtralen. Ni očitnih ideoloških nagibov ali
Zakaj dejstva: uradni vir/dokument ni zaznan
Zakaj objektivnost (90): The article presents the CEO’s statement objectively, without editorializing or taking sides. The language is straightforward and focused on reporting the facts without added interpretation.
ReutersNeodvisenSredinaDejstva: uradni vir/dokument ni zaznanObjektivnost 85
Anthropic in Accenture sta napovedali skupno naložbo v višini 2 milijard dolarjev v ocenjevanje modelov umetne inteligence, ki jih vodi naraščajoča zaskrbljenost zaradi njihove varnosti in zanesljivosti. Cilj partnerstva je razviti bolj zanesljive okvire za ocenjevanje sistemov umetne inteligence in zagotoviti, da delujejo predvidljivo in etično. Ta poteza prihaja med vse večjim pregledom tehnologij umetne inteligence, še posebej, ker se v različnih panogah uporabljajo veliki modeli. Sodelovanje poudarja vse večji pomen obravnavanja morebitnih tveganj, povezanih z napredno umetno inteligenco, vključno z pristranskostjo, varnostnimi ranljivostmi in nenamernimi posledicami.
Ocena pristranskosti (Sredina): Članek poroča o poslovnem partnerstvu, osredotočenem na tehnološki razvoj, in ne zavzema stališča o nobenem političnem vprašanju. Zagotavlja dejanske informacije o naložbi in njenem namenu, ne da bi se v njej objavljala pripomba ali poudarjal kateri koli poseben pogled.
Zakaj dejstva: uradni vir/dokument ni zaznan
Zakaj objektivnost (85): The article maintains a neutral tone, focusing on the financial commitment and the reason behind it (safety concerns). There is no evident bias or emotional language used in the reporting.
ReutersNeodvisenSredinaDejstva: uradni vir/dokument ni zaznanObjektivnost 80
Reuters poroča, da Anthropic, vodilno podjetje za umetno inteligenco, pred začetno javno ponudbo (IPO) razmišlja o izdaji novega modela umetne inteligence. Informacije prihajajo iz neimenovanih virov znotraj podjetja, kar kaže na možne napredke v tehnologiji umetne inteligence, ki bi lahko vplivale na trg. Časovni okvir za takšno objavo bi sovpadal z obdobjem razkritja finančnih informacij družbe Anthropic, kar bi lahko vplivalo na razpoloženje vlagateljev in uspešnost delnic. Čeprav podrobnosti novega modela še niso razkrite, razvoj poudarja tekoče inovacije v sektorju umetne inteligence in njene posledice tako za tehnološki napredek kot za vrednotenje podjetij.
Ocena pristranskosti (Sredina): Članek predstavlja informacije, ki temeljijo na anonimnih virih, v zvezi z poslovno odločitvijo zasebnega podjetja. Ni očitnega ideološkega okvirja ali poudarka na političnih perspektivah. Osredotočenost ostaja na komercialne in tehnološke vidike potencialnega gibanja Anthropic, ne da bi
Zakaj dejstva: uradni vir/dokument ni zaznan
Zakaj objektivnost (80): The tone remains neutral, presenting the information as an exclusive report without overt bias. The language is professional and avoids emotional or sensationalist framing.
Financial TimesNeodvisen🔒SredinaDejstva: uradni vir/dokument ni zaznanObjektivnost 65
Financial Times poroča, da je Googlov sistem Gemini AI doživel varnostno kršitev med usposabljanjem, kar je povzročilo zaskrbljenost glede varnosti naprednih modelov AI. Ta incident sledi podobnim kršitvam pri konkurenčnih podjetjih OpenAI in Anthropic, kar poudarja vse večjo zaskrbljenost zaradi tveganj, povezanih z razvojem vrhunske umetne inteligence. V članku je navedeno, da takšni incidenti poudarjajo širše izzive pri zagotavljanju varnosti in etične uporabe obsežnih sistemov umetne inteligence.
Ocena pristranskosti (Sredina): Članek predstavlja incident kot tehnični in varnostni problem, ne da bi javno kritiziral ali pohvalil kakršno koli določeno entiteto ali ideologijo. Vprašanje obravnava kot skupni izziv večjih razvijalcev umetne inteligence, namesto da bi zavzeli stranski položaj. Medtem ko se posledice nanašajo na regulativne in
Zakaj dejstva: uradni vir/dokument ni zaznan
Zakaj objektivnost (65): The tone of the article suggests concern about AI safety, particularly with the mention of 'concerns grow over safety of frontier systems'. However, it presents the incident as a significant development without providing balanced perspectives or counterarguments. The language leans towards emphasizi
Kako je poročala vsaka stran
Isti dogodek, razvrščen po političnem nagibu medijev, ki so o njem poročali.
progresivno
sredina
konservativno
★
Kako je poročala vsaka stran
Podprite neodvisne novice z zavedanjem pristranskosti in odklenite družbeni utrip, glasovanje skupnosti in vse druge funkcije za podpornike.
United Kingdom
