ON
← Nazaj na pregled
Ekipa raziskovalcev je z uporabo umetne inteligence Anthropic dosegla dostop do tajnih algoritmov OpenAI.
Spain🏛️ PolitikaSredina

Ekipa raziskovalcev je z uporabo umetne inteligence Anthropic dosegla dostop do tajnih algoritmov OpenAI.

Ekipa neodvisnih strokovnjakov za kibernetsko varnost je uspešno pristopila do notranjih sistemov OpenAI z uporabo Claude, modela AI, ki ga je razvil glavni konkurent OpenAI Anthropic. Vdrli so v korporativni ChatGPT račun zaposlenega, ki jim je omogočil ogled notranje datoteke in predlagal spremembe v zbirki skrivnih algoritmov OpenAI. Ta napad je bil izveden kot del uradnega programa za nagrade za napake OpenAI, ki spodbuja varnostne raziskovalce, da najdejo ranljivosti, preden to storijo zlonamerne akterji. Čeprav niso spremenili kode ChatGPT, so OpenAI zagotovili dokaze o tem, kako bi lahko bile take spremembe izvedene. OpenAI je raziskovalce nagradil za 6.500 dolarjev za njihove ugotovitve. Kršitev je nastala julija, vendar je bila nedavno razkrita izključno za The Wall Street Journal. Raziskovalci iz podjetja Hacktron AI so dodatno zaskrbljeni zaradi varnostnih praks večjih laboratorijev.

Skupina raziskovalcev kibernetske varnosti je uspešno pridobila dostop do notranjih sistemov v OpenAI z uporabo modela umetne inteligence Anthropic, Claude. Izkoriščanje je bilo izvedeno prek korporativnega računa ChatGPT, ki je pripadal zaposlenemu v OpenAI, kar je timu omogočilo ogled notranjih datotek in predlagati spremembe v repozitoriju lastniškega algoritma podjetja.

Napad se je odvijal v začetku julija, raziskovalna ekipa iz Hacktrona AI pa je odkrila napako v Discourseju, zunanji platformi, ki gosti forum skupnosti OpenAI. 8, vendar poskus ni uspel. Vendar pa je ekipa po izdaji Opus 5 s strani Anthropic kasneje istega dne uspešno izkoristila šibkost v treh urah. Z dostopom do uporabniških poverilnic, pridobljenih prek Discourseja, so se lahko prijavili v račune ChatGPT in prodrli v notranje sisteme OpenAI. Skozi to vstopno točko so dosegli Monorepo, osrednji repozitorij, kjer OpenAI shranjuje nekatere svoje ključne algoritme, ki so ključni za delovanje svojih modelov AI.

Medtem ko raziskovalcem ni uspelo dostopati do notranjega delovanja parametrov ChatGts, ki določajo, kako se informacije obdelujejo in odgovori ustvarjajo, so lahko pregledali uradno dokumentacijo in preizkusili obseg njihovega dostopa.

Mohan Pedhapati, tehnološki direktor pri Hacktron AI, je za Wall Street Journal povedal, da čeprav ekipa ni bila tako močna kot kitajski akterji groženj, njihova sposobnost izkoriščanja sistema poudarja tekoče ranljivosti.

Njihovo razkritje je prišlo v objavi na blogu, ki je bila sprva objavljena v The Wall Street Journal. OpenAI je potrdil kršitev in se zahvalil raziskovalcem za hitro poročanje in sodelovanje pri reševanju vprašanja. Anthropic medtem ni izdal uradne izjave o incidentu. Vendar pa je podjetje predhodno opozorilo na tveganja, ki jih predstavlja AI, vključno s kršitvijo Hugging Face v juliju, kjer so sistemi AI podjetja OpenAI domnevno sodelovali pri infiltraciji omrežja drugega razvijalca AI. V nedavnem intervjuju je izvršni direktor Anthropic Dario Amodei opozarjal na "resnične nevarnosti", ki obkrožajo AI, in pozval k upočasnitvi razvoja, da bi zmanjšali morebitne škode.

Njegove pripombe se ujemajo s širšimi pozivi v tehnološki industriji za bolj previdne pristope k AI inovacijam.

Kako je nastalo to poročilo. Objektivne novice je to poročilo napisal iz 2 izvornih člankov s pomočjo umetne inteligence po naši metodologiji. Gre za naše lastno besedilo, ne za kopijo posameznega medija. Preberite našo metodologijo.

Odgovorni urednik: Matej BašaSte opazili napako? Sporočite jo

Pojdite k primarnim virom (1)

Uradni viri, na katerih temelji poročanje. Preberite jih neposredno in se izognite uokvirjanju.

2 poročil

elDiario.es logoelDiario.esNeodvisenSredinaDejstva 75Objektivnost 65
Ekipa raziskovalcev je z uporabo umetne inteligence Anthropic dosegla dostop do tajnih algoritmov OpenAI.

Ekipa neodvisnih strokovnjakov za kibernetsko varnost je uspešno pristopila do notranjih sistemov OpenAI z uporabo Claude, modela AI, ki ga je razvil glavni konkurent OpenAI Anthropic. Vdrli so v korporativni ChatGPT račun zaposlenega, ki jim je omogočil ogled notranje datoteke in predlagal spremembe v zbirki skrivnih algoritmov OpenAI. Ta napad je bil izveden kot del uradnega programa za nagrade za napake OpenAI, ki spodbuja varnostne raziskovalce, da najdejo ranljivosti, preden to storijo zlonamerne akterji. Čeprav niso spremenili kode ChatGPT, so OpenAI zagotovili dokaze o tem, kako bi lahko bile take spremembe izvedene. OpenAI je raziskovalce nagradil za 6.500 dolarjev za njihove ugotovitve. Kršitev je nastala julija, vendar je bila nedavno razkrita izključno za The Wall Street Journal. Raziskovalci iz podjetja Hacktron AI so dodatno zaskrbljeni zaradi varnostnih praks večjih laboratorijev.

Ocena pristranskosti (Sredina): Članek predstavlja dogodek dejansko, ne da bi očitno naklonil nobeni strani. Vključuje citate iz OpenAI in omenja vpletenost Hacktron AI, ki zagotavlja uravnotežen pogled na kršitev varnosti in njene posledice.

Zakaj dejstva (75): The article reports on researchers accessing OpenAI's internal systems using Anthropic's Claude as part of OpenAI's official bug bounty program. It mentions the 6,500 USD reward and references the WSJ and Jacob Coxon's resignation. While these details align with common reporting on such incidents, s

Zakaj objektivnost (65): The tone leans slightly towards sensationalism by emphasizing the breach and potential existential risks. The article frames the incident as a significant security flaw without presenting counterpoints or broader context about OpenAI's security measures. The mention of 'peligro existencial' adds an

Público logoPúblicoNeodvisenSredinaDejstva: uradni vir/dokument ni zaznanObjektivnost 55
Ekipi raziskovalcev uspe 'hackati' OpenAI z AI Anthropic

Skupina raziskovalcev je po poročanju uspela "hackati" OpenAI z uporabo AI, ki jo je razvil Anthropic. Raziskava poudarja potencialne ranljivosti v sistemih AI in izraža zaskrbljenost zaradi varnostnih tveganj, povezanih z naprednimi tehnologijami umetne inteligence. Ta razvoj bi lahko vplival na prihodnje predpise in varnostne ukrepe glede uporabe AI. Študija poudarja potrebo po trdnih zaščitnih ukrepih, saj se zmogljivosti AI še naprej razvijajo.

Ocena pristranskosti (Sredina): Članek razpravlja o tehničnem dosežku, povezanem z varnostjo AI, ne da bi zavzel stališče o političnih vprašanjih.

Zakaj dejstva: uradni vir/dokument ni zaznan

Zakaj objektivnost (55): The brevity of this article makes it difficult to assess objectivity, but the phrasing 'hackear' (hack) implies a negative judgment without nuance. It does not present alternative viewpoints or contextual information, maintaining a one-sided narrative.

Kako je poročala vsaka stran

Isti dogodek, razvrščen po političnem nagibu medijev, ki so o njem poročali.

Kako je poročala vsaka stran

Podprite neodvisne novice z zavedanjem pristranskosti in odklenite družbeni utrip, glasovanje skupnosti in vse druge funkcije za podpornike.

Postani podpornik

Poročanje po svetu

Isti dogodek, kot so ga poročali v drugih državah.

Poročanje po svetu

Podprite neodvisne novice z zavedanjem pristranskosti in odklenite družbeni utrip, glasovanje skupnosti in vse druge funkcije za podpornike.

Postani podpornik

Preverjanje trditev

Ključne dejanske trditve in koliko virov jih potrjuje oz. zavrača.

Preverjanje trditev

Podprite neodvisne novice z zavedanjem pristranskosti in odklenite družbeni utrip, glasovanje skupnosti in vse druge funkcije za podpornike.

Postani podpornik

Ohranimo novice poštene.

ObjectiveNews financirajo bralci in je brez oglasov – pristranskost vam pokažemo, ne skrijemo. Podprite neodvisno novinarstvo za 4 €/mesec.

Postani podpornik

Povezane zgodbe