Pri zaposlovanju je bolj verjetno, da bo umetna inteligenca oblikovala pristranskosti kot ljudje

Sistem umetne inteligence, ki se uporablja pri zaposlovanju, je bolj nagnjen k oblikovanju pristranskosti kot ljudje, je pokazala nedavna študija, ki so jo izvedli raziskovalci s Univerze v Princetonu in Univerze v Chicagu.

Kandidati so pripadali štirim fiktivnim etničnim skupinam: Tufa, Aima, Reku in Weki. Vsi kandidati so bili enako sposobni opravljati katero koli določeno delo, vendar modeli niso bili obveščeni o tem dejstvu. Ko so modeli sprejeli odločitve o zaposlitvi, so začeli povezovati določene etnične skupine z določenimi vlogami na podlagi začetnih rezultatov. Če kandidat iz skupine Aima ni uspel v vlogi, za katero se šteje, da zahteva visoko raven topline in usposobljenosti, kot je zdravnik, model bi se izognil zaposlitvi drugih Aima za podobne položaje. Namesto tega bi jih dodelil vlogam, za katere se šteje, da zahtevajo manj spretnosti, kot je hišništvo.

Rezultati so pokazali, da so LLM-ji v primerjavi s človeškimi udeleženci v predhodni psihološki študiji pokazali znatno večje stereotipe. 84 na lestvici segregacije, medtem ko so modeli dosegli skoraj 65% višjo oceno. 83, ki se približuje največji možni vrednosti. Ryan Liu, doktorski študent na univerzi Princeton in soavtor študije, je pojasnil, da so LLM-ji zasnovani tako, da iz minimalnih podatkov sklepajo sklepe, kar lahko privede do prezgodnjih generalizacij. Ta težnja, čeprav je koristna pri reševanju logičnih ugank, lahko povzroči pristransko odločanje v socialnih okoliščinah. "To se nanaša na ravnovesje med zanašanjem na pretekle uspehe in raziskovanjem novih možnosti.

Vendar pa lahko LLM zaradi svojega usposabljanja za naloge, ki poudarjajo posplošitev iz omejenih primerov, prehitro postanejo preveč samozavestni v svoje predpostavke.

Angelina Wang, računalniška strokovnjakinja na Cornellovi univerzi, ki ni bila vključena v študijo, je opozorila, da medtem ko morajo chatbotovi ohranjati informacije iz prejšnjih interakcij, lahko ta funkcija prispeva k oblikovanju pristranskosti. Poudarila je, da je določanje ustrezne ravni ohranjanja spomina še vedno stalni izziv. Kljub prizadevanjem, da bi modeli poučili, da bi prednost dali pravičnosti, je študija ugotovila, da imajo take direktive majhen vpliv na vedenje modelov. Posledice teh ugotovitev so še posebej pomembne, saj sistemi AI vse bolj prevzemajo vloge, ki jih tradicionalno opravljajo ljudje, kar povzroča zaskrbljenost zaradi možnosti sistemskih pristranskosti v avtomatiziranih postopkih zaposlovanja.

Za učinkovito reševanje teh vprašanj so potrebne nadaljnje raziskave in razvoj, s čimer se zagotovi, da tehnologije umetne inteligence podpirajo pravične priložnosti, namesto da bi ohranjale obstoječe neenakosti.