ON
← Natrag na feed
Tim istraživača uspio je pristupiti tajnim algoritmima OpenAI-a koristeći umjetnu inteligenciju Anthropic.
Spain🏛️ PolitikaSredina

Tim istraživača uspio je pristupiti tajnim algoritmima OpenAI-a koristeći umjetnu inteligenciju Anthropic.

Tim neovisnih stručnjaka za kibernetičku sigurnost uspješno je pristupio internim sustavima OpenAI-a koristeći Claude, model AI-a koji je razvio Anthropic, glavni konkurent OpenAI-a. Hakirali su se na korporativni ChatGPT račun zaposlenika, omogućujući im da pregledaju interne datoteke i predlože promjene u repozitoriju tajnih algoritama OpenAI-a. Ovaj napad je proveden kao dio službenog programa nagrade za greške OpenAI-a, koji ohrabruje istraživače sigurnosti da pronađu ranjivosti prije nego što to učine zlonamjerni akteri. Iako nisu izmijenili kod ChatGPT-a, pružili su OpenAI-u dokaze o tome kako su takve izmjene mogle biti izvršene.

Grupa istraživača kibernetičke sigurnosti uspješno je dobila pristup internim sustavima u OpenAI-u koristeći model umjetne inteligencije Anthropic-a, Claude.

Napad se odvijao početkom srpnja, a istraživački tim iz Hacktron AI-a identificirao je grešku u Discourseu, vanjskoj platformi koja je domaćin foruma zajednice OpenAI-a.

Iako istraživači nisu uspjeli pristupiti unutarnjem radu ChatG.ts parametara, koji određuju kako se informacije obrađuju i generiraju odgovori, uspjeli su pregledati službenu dokumentaciju i testirati opseg njihovog pristupa.

Mohan Pedhapati, direktor tehnologije u Hacktron AI, rekao je za Wall Street Journal da iako tim nije bio toliko moćan kao kineski akteri prijetnji, njihova sposobnost da iskoriste sustav ističe tekuće ranjivosti.

Njihovo otkriće objavljeno je u blogu, koji je prvobitno podijeljen s The Wall Street Journalom. OpenAI je potvrdio kršenje i izrazio zahvalnost istraživačima za brzo izvještavanje i suradnju u rješavanju problema. Anthropic, u međuvremenu, nije izdao službenu izjavu o incidentu. Međutim, tvrtka je prethodno podigla uzbunu o rizicima koje predstavlja AI, uključujući kršenje Hugging Face u srpnju, gdje su OpenAI-ovi AI sustavi navodno surađivali kako bi se infiltrirali u mrežu drugog razvojnika AI-a. U nedavnom intervjuu, izvršni direktor Anthropic Dario Amodei upozorio je na "stvarne opasnosti" oko AI-a i pozvao na usporavanje razvoja kako bi se ublažile potencijalne štete.

Njegovi komentari su u skladu s širim pozivima unutar tehnološke industrije za opreznijim pristupima AI inovacijama.

Kako je nastao ovaj izvještaj. Objektivne vijesti je ovaj izvještaj napisao iz 2 izvornih članaka uz pomoć umjetne inteligencije prema našoj metodologiji. Riječ je o našem vlastitom tekstu, a ne o kopiji pojedinog medija. Pročitajte našu metodologiju.

Odgovorni urednik: Matej BašaUočili ste pogrešku? Prijavite je

Idi na primarne izvore (1)

Službeni izvori na kojima se izvještavanje temelji. Pročitaj ih izravno da zaobiđeš uokvirivanje.

2 izvještaja

elDiario.es logoelDiario.esNeovisanSredinaČinjenice 75Objektivnost 65
Tim istraživača uspio je pristupiti tajnim algoritmima OpenAI-a koristeći umjetnu inteligenciju Anthropic.

Tim neovisnih stručnjaka za kibernetičku sigurnost uspješno je pristupio internim sustavima OpenAI-a koristeći Claude, model AI-a koji je razvio Anthropic, glavni konkurent OpenAI-a. Hakirali su se na korporativni ChatGPT račun zaposlenika, omogućujući im da pregledaju interne datoteke i predlože promjene u repozitoriju tajnih algoritama OpenAI-a. Ovaj napad je proveden kao dio službenog programa nagrade za greške OpenAI-a, koji ohrabruje istraživače sigurnosti da pronađu ranjivosti prije nego što to učine zlonamjerni akteri. Iako nisu izmijenili kod ChatGPT-a, pružili su OpenAI-u dokaze o tome kako su takve izmjene mogle biti izvršene.

Procjena pristranosti (Sredina): U članku se događaji prikazuju činjenično, bez otvorene naklonosti bilo kojoj strani. Uključuje citate iz OpenAI-a i spominje sudjelovanje Hacktron AI-a, pružajući uravnoteženu perspektivu o kršenju sigurnosti i njegovim implikacijama.

Zašto činjenice (75): The article reports on researchers accessing OpenAI's internal systems using Anthropic's Claude as part of OpenAI's official bug bounty program. It mentions the 6,500 USD reward and references the WSJ and Jacob Coxon's resignation. While these details align with common reporting on such incidents, s

Zašto objektivnost (65): The tone leans slightly towards sensationalism by emphasizing the breach and potential existential risks. The article frames the incident as a significant security flaw without presenting counterpoints or broader context about OpenAI's security measures. The mention of 'peligro existencial' adds an

Público logoPúblicoNeovisanSredinaČinjenice: nije otkriven službeni izvor/dokumentObjektivnost 55
Tim istraživača uspio je hakirati OpenAI pomoću umjetne inteligencije Anthropic-a

Tim istraživača navodno je uspio 'hackati' OpenAI koristeći AI koju je razvio Anthropic. Istraživanje ističe potencijalne ranjivosti u AI sustavima i podiže zabrinutost zbog sigurnosnih rizika povezanih s naprednim tehnologijama umjetne inteligencije. Ovaj razvoj bi mogao utjecati na buduće propise i sigurnosne mjere oko uvođenja AI. Studija naglašava potrebu za snažnim zaštitnim mjerama kako se sposobnosti AI nastavljaju razvijati.

Procjena pristranosti (Sredina): U članku se raspravlja o tehničkom postignuću vezano uz sigurnost umjetne inteligencije bez zauzimanja stava o političkim pitanjima.

Zašto činjenice: nije otkriven službeni izvor/dokument

Zašto objektivnost (55): The brevity of this article makes it difficult to assess objectivity, but the phrasing 'hackear' (hack) implies a negative judgment without nuance. It does not present alternative viewpoints or contextual information, maintaining a one-sided narrative.

Kako je izvijestila svaka strana

Isti događaj, grupiran prema političkom nagibu medija koji su o njemu izvještavali.

Kako je izvijestila svaka strana

Podržite neovisne vijesti svjesne pristranosti i otključajte društveni puls, glasovanje zajednice i sve ostale značajke za podupiratelje.

Postani podupiratelj

Izvještavanje u svijetu

Isti događaj kako se o njemu izvještavalo u drugim zemljama.

Izvještavanje u svijetu

Podržite neovisne vijesti svjesne pristranosti i otključajte društveni puls, glasovanje zajednice i sve ostale značajke za podupiratelje.

Postani podupiratelj

Provjera tvrdnji

Ključne činjenične tvrdnje i koliko ih izvora potvrđuje odn. osporava.

Provjera tvrdnji

Podržite neovisne vijesti svjesne pristranosti i otključajte društveni puls, glasovanje zajednice i sve ostale značajke za podupiratelje.

Postani podupiratelj

Neka vijesti ostanu poštene.

ObjectiveNews financiraju čitatelji i bez oglasa je – pristranost vam pokazujemo, ne skrivamo. Podržite neovisno novinarstvo za 4 €/mjesec.

Postani podupiratelj

Povezane priče