Izvješće, objavljeno u utorak, ocjenjuje sigurnosne prakse devet velikih tvrtki za umjetnu inteligenciju i utvrđuje da nijedna ne ispunjava visoke standarde u rješavanju potencijalnih egzistencijalnih prijetnji koje predstavljaju napredni sustavi umjetne inteligencije.
Prema izvješću, u procesu evaluacije sudjelovalo je sedam istraživača i stručnjaka za upravljanje koji su procijenili tvrtke na temelju šest kategorija: procjena rizika, trenutne štete, sigurnosni okviri, egzistencijalna sigurnost, upravljanje i odgovornost te dijeljenje informacija.
Mistral, relativno novi na popisu, izrazio je neslaganje s metodologijom upotrijebljenom u izvješću, navodeći da njegov pristup razvoju modela AI otvorenog koda nije dobro usklađen s okvirom evaluacije. Za razliku od mnogih svojih konkurenata, Mistral omogućuje korisnicima slobodno preuzimanje i izmjenu svojih modela AI, dok tvrtke poput Anthropic, OpenAI i Google DeepMind razvijaju zatvorene modele koji nisu dostupni javnosti.
Max Tegmark, profesor MIT-a i predsjednik Future of Life Instituta, izrazio je razočaranje zbog niskog rangiranja Mistral-a, napominjući da su europske zemlje bile vodeće u sigurnosti umjetne inteligencije. Naglasio je da je institut više puta pokušao kontaktirati Mistral za povratne informacije, ali nije dobio odgovor. Slično tome, Alibaba, xAI i DeepSeek također su bili nedostižni tijekom razdoblja istraživanja.
Antropic je, primjerice, bio kritiziran zbog sudjelovanja u sumnjivim vojnim suradnjama unatoč tome što je prethodno zabranio takvu upotrebu.
Institut za budućnost života istaknuo je da sva devet procijenjenih tvrtki nisu uspjela adekvatno riješiti egzistencijalne rizike povezane s potragom za umjetnom općom inteligencijom (AGI) - razinom umjetne inteligencije sposobnom za obavljanje bilo kojeg intelektualnog zadatka koji čovjek može. Iako postoje neki konstruktivni napori unutar industrije, izvješće je zaključilo da te inicijative ostaju potpuno nedovoljne za ublažavanje potencijalnih opasnosti koje predstavljaju visoko napredni AI sustavi. Dodatni rizici identificirani u izvješću uključuju mogućnost zlouporabe umjetne inteligencije za cyber napade ili druge aktivnosti koje mogu naškoditi pojedincima.
Antropic je nedavno predstavio svoj najmoćniji model do sada, nazvan Mythos, koji je u početku bio ograničen na odabranu grupu pouzdanih organizacija zbog svog potencijala da izloži ranjivosti kibernetičke sigurnosti. Vlada SAD-a intervenirala je u lipnju, blokirajući objavljivanje Mythosa stranim subjektima iz razloga nacionalne sigurnosti.
Kako rasprava o sigurnosti umjetne inteligencije nastavlja dobivati na zamahu, izvješće naglašava hitnu potrebu za snažnijom suradnjom među vladama, subjektima privatnog sektora i istraživačkim institucijama kako bi se uspostavile snažne zaštitne mjere protiv novih prijetnji.
★
Neka vijesti ostanu poštene.
ObjectiveNews financiraju čitatelji i bez oglasa je – pristranost vam pokazujemo, ne skrivamo. Podržite neovisno novinarstvo za 5 €/mjesec.
Postani podupiratelj
Japan
