Claude je odkril šibko točko v algoritmu.

Antropicov AI sistem Claude je identificiral ranljivosti v kriptografskih algoritmih, kar je povzročilo zaskrbljenost glede varnosti standardov za post-kvantno šifriranje. Odkritje je bilo izvedeno med rutinsko analizo, ki so jo raziskovalci podjetja opravili z uporabo naprednega modela jezika Mythos Preview.

Raziskava, objavljena v raziskovalnem blogu Anthropic, kaže, da je umetna inteligenca razvila izboljšano metodo za napad na shemo digitalnega podpisa, ki se uporablja v HAWK. Po poročilu ta napad zmanjšuje čas, potreben za obnovitev ključa, tako da učinkovito prepolovi dolžino ključa. Za manjše velikosti ključev, kot je HAWK256, je proces obnovitve izvedljiv z računalniškim naporom, enakim 2 ^ 38 operacijam, v primerjavi z prvotno dolžino ključa 2 ^ 64. Medtem ko večji ključi ostajajo praktično nelomljivi, rezultati poudarjajo potencialna tveganja pri izvajanju HAWK za posebne aplikacije. Poleg HAWK so raziskovalci Anthropic preizkusili še eno varianto šifre AES128.

Ugotovili so, da lahko umetna inteligenca prepozna ranljivosti v poenostavljeni različici algoritma, ki uporablja le sedem krogov šifriranja namesto standardnih desetih. Ta razrezana različica pogosto uporabljajo raziskovalci za preučevanje algoritmov in odkrivanje možnih napak. Analiza umetne inteligence je pokazala, da bi lahko obstoječi napadi na to varianto pospešili do 200 do 800 krat. Vendar pa so bile te izboljšave dosežene z obsežnim računanjem, ki je zahtevalo več dni in milijardo žetonov, preden so človeški strokovnjaki preverili ugotovitve, ki so trajale stotine ur.

Kljub tem odkritjem Anthropic poudarja, da nimajo nobenega vpliva na sedanjo varnost polnih sistemov šifriranja AES. Podjetje pojasnjuje, da predpostavke, potrebne za napade, niso praktične, tudi za zgodnejše študije, na katerih temelji sedanje delo. Poleg tega ugotovitve ne izpodbijajo splošne trdnosti široko uporabljenih kriptografskih protokolov. Uporaba umetne inteligence v raziskavah kibernetske varnosti postaja vse pogostejša, Anthropic pa poudarja, kako lahko njihov pristop pomaga pri prepoznavanju potencialnih slabosti, ne da bi zahtevali globoko strokovno znanje človeških raziskovalcev.

V tem primeru je vodilni raziskovalec imel ozadje v računalniških znanostih, vendar mu ni bilo specializiranih znanj o posameznih analiziranih kriptografskih metodah. Družba ugotavlja, da je človeški nadzor še vedno potreben, vendar je sposobnost AI, da učinkovito obdeluje velike količine podatkov, dragoceno orodje na tem področju.

Implikacije teh odkritij poudarjajo spreminjajočo se naravo kriptografske varnosti in vlogo umetne inteligence pri premikanju meja tako zaznavanja groženj kot obrambnih strategij.