Umetne inteligence se sami strinjajo in sledijo večini, tudi če jih je na tisoče.

Sistemi umetne inteligence so pokazali sposobnost samostojnega doseganja soglasja, usklajevanja z večinskimi odločitvami celo v velikih skupinah do 1000 modelov. To vedenje je bilo opaženo v nedavni študiji, objavljeni v Science Advances, ki jo je vodil italijanski raziskovalec Giordano De Marzo z Univerze v Konstancu v Nemčiji. Raziskava je vključevala sodelovanje z Italijanskim nacionalnim raziskovalnim svetom Inštituta za kompleksne sisteme in Rimskim raziskovalnim centrom Enrico Fermi. Ugotovitve razkrivajo, da lahko modeli umetne inteligence spontano razvijejo kolektivne koordinacijske mehanizme, ki odražajo vedenja, ki jih najdemo v naravi, kot so jata ptic ali ribja šola.

V eksperimentih so testirali skupine velikih jezikovnih modelov, močnih sistemov umetne inteligence, ki se uporabljajo v aplikacijah, kot so klepetalni roboti in virtualni asistenti. 5 Sonnet od Anthropic in GPT-4 Turbo od OpenAI. Raziskovalci so vsakemu modelu predstavili dve enako veljavni možnosti v scenarijih, kjer ni bilo objektivnega razloga, da bi favorizirali enega pred drugim.

Študija je pokazala, da so se podobni vzorci koordinacije pojavili tudi med skupinami približno 1000 modelov AI. Raziskovalci so poudarili, da ta spontana poravnava ni zahtevala človeškega nadzora ali izrecnih pravil za vodenje kolektivnega vedenja. Namesto tega je soglasje nastalo naravno z interakcijo posameznih odločitev. Posledice tega odkritja so tako zanimive kot zapletene. Na eni strani bi zmožnost sistemov AI za samo-koordinacijo lahko povečala učinkovitost v okoljih, kjer morajo sodelovati več modelov. Vendar pa tudi vzbuja zaskrbljenost zaradi nepredvidljive dinamike, ki bi se lahko pojavila, ko mnogi modeli vplivajo na odločitve drugih.

Študija poudarja pomen razumevanja ne le tega, kako delujejo posamezni modeli AI, temveč tudi kako medsebojno delujejo in se prilagajajo drug drugemu pri skupnih nalogah. Raziskovalci so ugotovili, da spontana koordinacija lahko ponuja prednosti, vendar predstavlja tudi izzive, povezane z varnostjo in nadzorom.

Raziskava poudarja naraščajočo zapletenost sistemov umetne inteligence, ki presegajo ločene operacije in delujejo znotraj medsebojno povezanih omrežij. Razumevanje te dinamike je bistvenega pomena za razvoj trdnih okvirov, ki zagotavljajo varno in učinkovito uporabo tehnologij umetne inteligence v aplikacijah v resničnem svetu. Študija zagotavlja dragocene vpoglede v razvijajočo se pokrajino umetne inteligence, razkriva nove dimenzije njenih zmogljivosti in potrebo po nadaljnjem raziskovanju njenih vzorcev vedenja.