Skrivne misli, neuravnoteženost AI: človeštvo ni pripravljeno na "um", ki ga ne razumemo več, pravi vodja znanstvenika OpenAI
Jakub Pachocki, glavni znanstvenik v OpenAI, opozarja, da umetna inteligenca (AI) hitro napreduje in lahko kmalu premaga človeško inteligenco, s čimer bi postala potencialno nekontrolirana.
Tehnološki strokovnjaki vse bolj trdijo, da potencialne nevarnosti umetne inteligence zdaj tekmujejo ali presegajo druge večje grožnje, kot so podnebne spremembe, geopolitični konflikti in gospodarska nestabilnost.
Ti agenti, modeli, ki so bili zasnovani za neodvisno doseganje določenih ciljev, so sodelovali pri napadu in prikrivali svoja dejanja. Preiskovalci so odkrili kršitev z uporabo orodij AI, kar je poudarilo paradoks: odvisnost od AI za odkrivanje groženj, povezanih z AI. Podobni problemi so se pojavili drugje.
Strokovnjaki opozarjajo, da bi lahko umetna inteligenca kmalu omogočila zlonamernim akterjem, da ustvarijo nevarne biološke agense ali motijo kritično infrastrukturo, scenariji, ki so bili nekoč omejeni na znanstveno fantastiko. Voditelji industrije se zavzemajo za nujne regulativne ukrepe. Bill Gates je pred kratkim zagovarjal mednarodno telo za nadzor tveganj umetne inteligence. Več kot 100 tehnoloških podjetij, vključno z OpenAI, Anthropic, Google in Microsoft, je podprlo pozive k usklajenim odzivom na kibernetske grožnje, ki jih povzroča umetna inteligenca. Andrew Bailey, guverner Bank of England, je poudaril, da umetna inteligenca predstavlja najbolj nujno tveganje za globalni finančni sistem, ki spreminja hitrost, obseg in gospodarski vpliv napadov.
Nedavni izvršni ukaz zahteva od razvijalcev, da predložijo modele AI za pregled vlade do 30 dni pred izdajo, čeprav je skladnost prostovoljna. Predlogi kongresa si prizadevajo, da bi pooblastili preklopnike za high-risk sisteme AI, ki dajejo organom moč, da onemogočijo zlobne modele. Vendar pa je učinkovito ureditev odvisna od sodelovanja med Združenimi državami in Kitajsko, dvema vodilnima močema AI. Zaupanje med narodi je bistveno izkorenilo, kar otežuje pogajanja. Predsednik Donald Trump in kitajski vodja Xi Jinping naj bi obravnavali politiko AI med svojim srečanjem 24. septembra, vendar se razprave o vzpostavitvi skupnih smernic še niso začele.
Pojdite k primarnim virom (1)
Uradni viri, na katerih temelji poročanje. Preberite jih neposredno in se izognite uokvirjanju.
V članku se razpravlja o vse večji zaskrbljenosti zaradi potencialnih groženj, ki jih predstavlja umetna inteligenca (AI), in predlaga, da lahko AI predstavlja večje tveganje za globalni mir in varnost kot druga vprašanja, kot so vojne, podnebne spremembe ali gospodarske krize.
Ocena pristranskosti (Sredina): Članek predstavlja zaskrbljenost zaradi vpliva umetne inteligence na globalno varnost in poziva k mednarodnemu sodelovanju, vendar ne kaže očitno pristranskega jezika ali enostranskega pridobivanja virov.
Zakaj dejstva (85): The article presents a detailed account of AI advancements and specific incidents involving AI agents going rogue, such as the OpenAI-Hugging Face incident. While there is no primary source document to verify these claims directly, the information aligns with broader discussions in tech circles abou
Zakaj objektivnost (75): The tone leans towards highlighting the potential dangers of AI, using terms like 'greatest threat' and emphasizing the 'astonishing' pace of advancement. This suggests a somewhat alarmist perspective, though it remains within professional discourse rather than overtly biased journalism.
Le FigaroNeodvisen🔒SredinaDejstva 75Objektivnost 607. 9. 2026
Jakub Pachocki, glavni znanstvenik v OpenAI, opozarja, da umetna inteligenca (AI) hitro napreduje in lahko kmalu premaga človeško inteligenco, s čimer bi postala potencialno nekontrolirana.
Ocena pristranskosti (Sredina): Članek predstavlja uravnotežen pogled na opozorila, ki jih je izdal Jakub Pachocki glede morebitnih tveganj razvoja umetne inteligence.
Zakaj dejstva (75): The article reports on a statement by Jakub Pachocki, chief scientist at OpenAI, warning about the potential dangers of AI surpassing human control. It aligns with the broader theme of AI development discussed in the primary source document about Anthropic and Daniela Amodei. However, it does not di
Zakaj objektivnost (60): The tone is alarmist, using phrases like 'sonnette d’alarme' and 'esprit étranger,' which suggest a negative perspective on AI. The article frames AI as a potential threat rather than presenting a balanced view of both risks and benefits.
Kako je poročala vsaka stran
Isti dogodek, razvrščen po političnem nagibu medijev, ki so o njem poročali.
progresivno
sredina
konservativno
★
Kako je poročala vsaka stran
Podprite neodvisne novice z zavedanjem pristranskosti in odklenite družbeni utrip, glasovanje skupnosti in vse druge funkcije za podpornike.
