Ekipa raziskovalcev je z uporabo umetne inteligence Anthropic dosegla dostop do tajnih algoritmov OpenAI.

elDiario.esNeodvisenSredinapred 20 urami

Ekipa neodvisnih strokovnjakov za kibernetsko varnost je uspešno pristopila do notranjih sistemov OpenAI z uporabo Claude, modela AI, ki ga je razvil glavni konkurent OpenAI Anthropic. Vdrli so v korporativni ChatGPT račun zaposlenega, ki jim je omogočil ogled notranje datoteke in predlagal spremembe v zbirki skrivnih algoritmov OpenAI. Ta napad je bil izveden kot del uradnega programa za nagrade za napake OpenAI, ki spodbuja varnostne raziskovalce, da najdejo ranljivosti, preden to storijo zlonamerne akterji. Čeprav niso spremenili kode ChatGPT, so OpenAI zagotovili dokaze o tem, kako bi lahko bile take spremembe izvedene. OpenAI je raziskovalce nagradil za 6.500 dolarjev za njihove ugotovitve. Kršitev je nastala julija, vendar je bila nedavno razkrita izključno za The Wall Street Journal. Raziskovalci iz podjetja Hacktron AI so dodatno zaskrbljeni zaradi varnostnih praks večjih laboratorijev.

Ocena pristranskosti (Sredina): Članek predstavlja dogodek dejansko, ne da bi očitno naklonil nobeni strani. Vključuje citate iz OpenAI in omenja vpletenost Hacktron AI, ki zagotavlja uravnotežen pogled na kršitev varnosti in njene posledice.

PúblicoNeodvisenSredinapred 23 urami

Skupina raziskovalcev je po poročanju uspela "hackati" OpenAI z uporabo AI, ki jo je razvil Anthropic. Raziskava poudarja potencialne ranljivosti v sistemih AI in izraža zaskrbljenost zaradi varnostnih tveganj, povezanih z naprednimi tehnologijami umetne inteligence. Ta razvoj bi lahko vplival na prihodnje predpise in varnostne ukrepe glede uporabe AI. Študija poudarja potrebo po trdnih zaščitnih ukrepih, saj se zmogljivosti AI še naprej razvijajo.

Ocena pristranskosti (Sredina): Članek razpravlja o tehničnem dosežku, povezanem z varnostjo AI, ne da bi zavzel stališče o političnih vprašanjih.