AI: Vertige... istraživači su hakirali ChatGPT koristeći Claude, konkurentnu AI od Anthropic
Istraživači iz Hacktron AI uspješno su pristupili ChatGPT računima zaposlenika OpenAI-a koristeći Claude model Anthropic-a, prema izvještaju objavljenom od strane Hacktron AI-a. Kršenje se dogodilo početkom kolovoza i potvrdio ga je OpenAI. Tim je koristio platformu Discourse, koja omogućuje pristup ChatGPT-u i Codex-u, da bi se infiltrirao u više računa.
Istraživači iz tvrtke Hacktron AI navodno su hakirali unutarnje sustave OpenAI-a koristeći Anthropic's Claude AI, otkrivajući nove ranjivosti u glavnim jezičnim modelima.
To je omogućilo istraživačima da potencijalno pristupe osjetljivim informacijama kao što su GitHub repozitoriji, Slack komunikacije i sustavi e-pošte, iako nisu izmijenjeni stvarni podaci.
Istraživači su zatim upozorili OpenAI, koji je brzo riješio problem i dodijelio im nagradu od 6.500 dolara za njihova otkrića. Ovaj incident naglašava sve veću sofisticiranost kibernetičkih prijetnji koje pokreće umjetna inteligencija i postavlja pitanja o sigurnosnim protokolima vodećih laboratorija za umjetnu inteligenciju.
Tijekom prosvjeda u San Franciscu 17. rujna, desetine prosvjednika okupilo se u blizini sjedišta OpenAI-a i ureda Anthropic-a, zahtijevajući kraj brzog širenja AI tehnologija. Pozvali su na strože propise, međunarodne sporazume i zaustavljanje razvoja moćnijih AI sustava sve dok ne budu uspostavljene odgovarajuće zaštitne mjere. Prosvjednici su nosili znakove upozorenja na egzistencijalne rizike nekontrolirane AI, a neki su na ulicama pisali "Izumiranje je na stolu" u kredi.
Demonstracije su održane tijekom konferencije Dreamforce, koja je privukla oko 43.000 sudionika u San Franciscu. Ključne osobe iz sektora umjetne inteligencije, uključujući OpenAI-a Sam Altmana, Anthropic-a Dario Amodei i Nvidia-a Jensen Huanga, bili su među govornicima na konferenciji. Protesti su naglašavali rastuću zabrinutost javnosti oko potencijalnog utjecaja umjetne inteligencije na društvo, posebice u vezi s pitanjima poput potrošnje energije, održivosti okoliša i etičkog upravljanja. U međuvremenu, kontroverza oko sigurnosti umjetne inteligencije nastavlja se intenzivirati. Ranije ove godine, Anthropic je odlučio ne širiti svoj model Mythos, navodeći njegov visok rizik za kibernetičku sigurnost.
Umesto toga, ograničio je pristup odabranim organizacijama u svrhu testiranja. Vlada SAD-a zbog zabrinutosti za nacionalnu sigurnost prije nego što je odobrena tjednima kasnije. Kako se istraživanje veštačke inteligencije ubrzava, tako se ubrzava i potreba za robusnim sigurnosnim mjerama i transparentnom regulacijom. Najnoviji incident koji uključuje Hacktron AI i Anthropic's Claude naglašava potrebu za većom suradnjom između programera, regulatora i šire tehnološke zajednice kako bi se riješile novonastalih prijetnji i osigurale odgovorne inovacije.
Idi na primarne izvore (1)
Službeni izvori na kojima se izvještavanje temelji. Pročitaj ih izravno da zaobiđeš uokvirivanje.
Istraživači iz Hacktron AI uspješno su pristupili ChatGPT računima zaposlenika OpenAI-a koristeći Claude model Anthropic-a, prema izvještaju objavljenom od strane Hacktron AI-a. Kršenje se dogodilo početkom kolovoza i potvrdio ga je OpenAI. Tim je koristio platformu Discourse, koja omogućuje pristup ChatGPT-u i Codex-u, da bi se infiltrirao u više računa.
Procjena pristranosti (Sredina): U članku je prikazan činjenični prikaz incidenta kibernetičke sigurnosti koji uključuje modele umjetne inteligencije, bez da se otvoreno favorizira neki određeni politički stav.
Zašto činjenice (75): The article accurately reports the main facts from the primary source: Hacktron AI researchers exploited vulnerabilities to gain access to OpenAI employee accounts using Anthropic's Claude model. It mentions the use of Discourse, the type of attack (heap overflow and SSO misconfiguration), and the i
Zašto objektivnost (70): The article presents the information in a relatively neutral tone, though it includes some emotionally charged phrases like 'vertige...' and 'machine à inquiétudes sur l'IA,' which suggest concern or alarm. It does not appear to favor either Hacktron AI or OpenAI, but the framing emphasizes the pote
17. rujna prosvjednici su marširali kroz San Francisco ciljajući na OpenAI i Anthropic, zahtijevajući pauzu u razvoju moćnih AI sustava dok se ne uspostave snažnije globalne zaštitne mjere.
Procjena pristranosti (Progresivno): U članku se protesti prikazuju kao poziv na hitnu regulatornu akciju i naglašava zabrinutost zbog sigurnosti umjetne inteligencije kao kritičnog pitanja koje zahtijeva međunarodnu suradnju.
Zašto činjenice (30): This article is largely unrelated to the primary source document. It discusses protests against AI companies in San Francisco, focusing on safety concerns and calls for regulation. There is no mention of the specific hacking incident described in the primary source, nor any connection to Hacktron AI
Zašto objektivnost (50): The article maintains a neutral tone in describing the protests and their demands. However, it frames the issue in terms of public safety and existential risk, which could be seen as biased toward the protesters' perspective rather than presenting a balanced view of the situation.
Kako je izvijestila svaka strana
Isti događaj, grupiran prema političkom nagibu medija koji su o njemu izvještavali.
progresivno
sredina
konzervativno
★
Kako je izvijestila svaka strana
Podržite neovisne vijesti svjesne pristranosti i otključajte društveni puls, glasovanje zajednice i sve ostale značajke za podupiratelje.
France
