Vodeća platforma za umjetnu inteligenciju, Hugging Face, potvrdila je da je bila žrtva sajber-napada izvedenog pomoću umjetne inteligencije. Incident se dogodio prošlog tjedna kada je neovlašteni pristup otkriven u dijelovima svoje proizvodne infrastrukture. Prema blog postu objavljenom od strane Hugging Face-a, napad je u potpunosti izvršen autonomnim AI sustavom, označavajući novi i sofisticirani pristup prijetnjama kibernetičkoj sigurnosti. Tvrtka je izjavila da je prvenstveno koristila alate AI za otkrivanje i analizu kršenja. Napad je identificiran neovlaštenim pristupom ograničenom broju internog skupa podataka i višestrukim poverama koje koriste interne usluge.
Ugostiteljstvo se obavlja kako bi utvrdilo jesu li pogođeni podaci partnera ili kupaca. Hugging Face se obvezao da će kontaktirati sve pogođene strane izravno. Tvrtka nije pronašla dokaze da su manipulirani javni modeli, skupovi podataka ili prostori dostupni korisnicima. Osim toga, lanac snabdevanja softverom, uključujući slike kontejnera i objavljene pakete, pregledan je i smatran sigurnim. Prema Hugging Faceu, napadačka umjetna inteligencija ciljala je cjevovod za obradu podataka i prenijela zlonamjerni skup podataka koji je iskoristio dva puta izvršenja koda unutar okvira za obradu podataka.
Konkretno, daljinski učitač kodnog skupa podataka i ubrizgavanje predložaka u konfiguraciju skupa podataka korišteni su za izvršavanje proizvoljnog koda unutar procesa. To je omogućilo napadačima da dobiju pristup čvorovima i izvade poverljive podatke o oblaku i klasteru. Oni su dalje proširili svoj doseg na nekoliko unutarnjih klastera.
To je u skladu s opisom scenarija napadača zasnovanog na agentu koji je prethodno predvidio industrija kibernetičke sigurnosti. Kao odgovor na kršenje, Hugging Face je zatvorio ranjivosti koje su omogućile izvršavanje koda tijekom obrade podataka. Napadači su protjerani iz mreže, a kompromitirani čvorovi su obnovljeni. Povrijeđene poverljive podatke i žetoni su rotirani i opozvani. Dodatni sigurnosni mehanizmi i strože kontrole su provedeni na klasteru. Sistem detekcije i upozorenja također su poboljšani. Hugging Face preporučuje korisnicima da opozovu i rotiraju svoje poverljive podatke i žetone i nedavne aktivnosti pregleda računa.
Incident naglašava sve veću složenost cyber prijetnji, osobito onih koji uključuju napade vođeni AI-om. Kako AI tehnologije postaju naprednije, one predstavljaju i mogućnosti i rizike u području cyber sigurnosti. Sposobnost autonomnog AI sustava da provede takav napad naglašava potrebu za snažnim obrambenim mjerama i stalnim praćenjem potencijalnih ranjivosti.
Dijeljenjem informacija o tome kako je došlo do povrede i korake poduzete za ublažavanje njenog utjecaja, tvrtka ima za cilj pridonijeti širem razumijevanju prijetnji povezanih s umjetnom inteligencijom.
Iskustvo stečeno iz ovog incidenta vjerojatno će utjecati na budući razvoj sigurnosti umjetne inteligencije i praksi kibernetičke sigurnosti.
1 izvještaja
heise onlineNeovisanSredinaČinjenice 85Objektivnost 90jučerPlatforma Hugging Face, koja omogućava razmjenu modela AI otvorenog koda i skupova podataka, postala je žrtva cyber napada koji je vjerojatno izvršen od strane sustava AI i ublažen pomoću alata AI. Prema objavi na blogu Hugging Face-a, neovlašteni pristup otkriven je u dijelovima njihove proizvodne infrastrukture prošlog tjedna. Napad je uključivao autonomni sustav AI koji je iskorištavao ranjivosti u cjevovodu za obradu podataka, uključujući zlonamjerni skup podataka koji je zloupotrijebio dva puta izvršenja koda. To je omogućilo napadačima da dobiju pristup unutarnjim čvorovima i izvade akreditacije oblaka i klastera.
Procjena pristranosti (Sredina): Članak se fokusira na cyber sigurnosni incident koji uključuje AI-ov napad na tehnološku platformu.
Zašto činjenice (85): The article accurately reports the core facts from the primary source document, including the nature of the attack, the involvement of AI, and the response using AI. It mentions the discovery of unauthorized access to internal datasets and credentials, and the lack of impact on public models. Howeve
Zašto objektivnost (90): The tone remains neutral and informative, focusing on the facts without introducing bias or emotional language. It presents both the threat and the response in a balanced manner, aligning with the primary source's perspective.
★
Neka vijesti ostanu poštene.
ObjectiveNews financiraju čitatelji i bez oglasa je – pristranost vam pokazujemo, ne skrivamo. Podržite neovisno novinarstvo za 5 €/mjesec.
Postani podupiratelj
Germany
