Poročilo, objavljeno v torek, ocenjuje varnostne prakse devetih večjih podjetij, ki se ukvarjajo z umetno inteligenco, in ugotavlja, da nobena ne izpolnjuje visokih standardov pri reševanju morebitnih eksistencialnih groženj, ki jih predstavljajo napredni sistemi umetne inteligence.
Po poročilu je v proces ocenjevanja sodelovalo sedem raziskovalcev in strokovnjakov za upravljanje, ki so ocenili podjetja na podlagi šestih kategorij: ocena tveganja, trenutne škode, varnostni okviri, eksistencialna varnost, upravljanje in odgovornost ter izmenjava informacij.
Mistral, relativno nov na seznamu, se ni strinjal z metodologijo, uporabljeno v poročilu, in je navedel, da njegov pristop k razvoju modelov AI z odprtim virom ni dobro usklajen z ocenjevalnim okvirom. Za razliko od mnogih njegovih konkurentov, Mistral omogoča uporabnikom, da brezplačno prenesejo in spremenijo svoje modele AI, medtem ko podjetja, kot so Anthropic, OpenAI in Google DeepMind, razvijajo zaprte modele, ki niso dostopni javnosti.
Max Tegmark, profesor na MIT in predsednik Future of Life Institute, je izrazil razočaranje nad nizko uvrstitvijo Mistral, pri čemer je poudaril, da so bile evropske države vodilne na področju varnosti AI. Poudaril je, da je inštitut večkrat poskušal stopiti v stik z Mistralom za povratne informacije, vendar ni prejel odgovora.
Vlada ZDA je v preteklem letu uporabila tehnologijo Anthropic v vojaških operacijah v Venezueli in Iranu. Pentagon pa je nedavno prepovedal Anthropic zaradi nesoglasja glede varnostnih protokolov AI.
The Future of Life Institute je poudaril, da vseh devet ocenjenih podjetij ni ustrezno obravnavalo eksistencialnih tveganj, povezanih s prizadevanjem za umetno splošno inteligenco (AGI) - raven AI, ki je sposobna opravljati katero koli intelektualno nalogo, ki jo lahko opravlja človek.
Te pomisleke so postale bolj nujne, saj podjetja še naprej premikajo meje zmogljivosti AI. Na primer, Anthropic je pred kratkim razkril svoj najmočnejši model, imenovan Mythos, ki je bil sprva omejen na izbrano skupino zaupanja vrednih organizacij zaradi možnosti izpostavljanja ranljivosti kibernetske varnosti. Ameriška vlada je v juniju intervenirala in blokirala izdajo Mythosa tujim subjektom iz razlogov nacionalne varnosti. Prepoved je kasneje odpravila Trumpova administracija, kar je Anthropicu omogočilo nadaljnji razvoj in distribucijo modela.
Medtem ko razprava o varnosti umetne inteligence še naprej pridobiva zagon, poročilo poudarja nujno potrebo po tesnejšem sodelovanju med vladami, subjekti zasebnega sektorja in raziskovalnimi institucijami, da se vzpostavijo zanesljivi zaščitni ukrepi proti nastajajočim grožnjam.
★
Ohranimo novice poštene.
ObjectiveNews financirajo bralci in je brez oglasov – pristranskost vam pokažemo, ne skrijemo. Podprite neodvisno novinarstvo za 5 €/mesec.
Postani podpornik
Japan
