Sustavi umjetne inteligencije koji se koriste u procesima zapošljavanja skloniji su razvoju pristranosti od ljudi, prema nedavnoj studiji koju su proveli istraživači s Sveučilišta Princeton i Sveučilišta u Chicagu.
Kandidati su pripadali četiri izmišljene etničke skupine: Tufa, Aima, Reku i Weki. Svi kandidati su jednako sposobni za obavljanje bilo kojeg zadatka, ali modeli nisu bili obaviješteni o ovoj činjenici. Kako su modeli donosili odluke o zapošljavanju, počeli su povezivati određene etničke skupine s određenim ulogama na temelju početnih rezultata. Ako kandidat iz skupine Aima ne uspije u ulozi za koju se smatra da zahtijeva visok nivo topline i kompetencije, kao što je liječnik, model bi izbjegavao zapošljavanje drugih Aima za slične pozicije. Umjesto toga, dodijelio bi ih ulogama za koje se smatra da zahtijevaju manje vještina, kao što je rad na čišćenju.
Rezultati su pokazali da su LLM-ovi pokazali znatno veće tendencije stereotipiranja u usporedbi s ljudskim sudionicima u prethodnoj psihološkoj studiji. 84 na skali segregacije, dok su modeli dostigli rezultate gotovo 65% veće. 83, približavajući se maksimalno moguće vrijednosti.
Međutim, LLM-ovi, zbog obuke na zadacima koji naglašavaju generalizaciju iz ograničenih primjera, mogu postati prebrzo previše uvjerljivi u svoje pretpostavke. Noviji modeli s poboljšanim sposobnostima razmišljanja, kao što su OpenAI's o3 i DeepSeek's R1, pokazali su još jače pristranosti. Prema Liu-u, brzo stvaranje stereotipa od strane ovih modela može dovesti do problematičnih ishoda, posebice jer chatboti nastavljaju evoluirati s poboljšanim memorijskim i personalizacijskim značajkama.
Angelina Wang, računalni znanstvenik na Sveučilištu Cornell koji nije bio uključen u studiju, primijetila je da chatbotovi moraju zadržati informacije iz prethodnih interakcija, ali da ta značajka može doprinijeti stvaranju pristranosti. Naglasila je da određivanje odgovarajuće razine zadržavanja memorije ostaje stalni izazov. Unatoč naporima da se modelima da prednost poštenju, studija je utvrdila da takve direktive imaju mali utjecaj na ponašanje modela. Implikacije ovih nalaza posebno su relevantne jer AI sustavi sve više preuzimaju uloge koje tradicionalno imaju ljudi, što izaziva zabrinutost zbog potencijalnih sistemskih pristranosti u automatiziranim procesima zapošljavanja.
Nadalje istraživanje i razvoj potrebni su kako bi se tim pitanjima učinkovito pristupilo, osiguravajući da tehnologije umjetne inteligencije podupiru jednake mogućnosti umjesto da očuvaju postojeće nejednakosti.
1 izvještaja
MIT Technology ReviewNeovisanSredinaČinjenice 85Objektivnost 78jučerNedavna studija otkriva da su veliki jezični modeli (LLM), kao što su ChatGPT, Claude i Gemini, skloniji stvaranju stereotipa i pristranosti tijekom simuliranih procesa zapošljavanja u usporedbi s ljudima. U eksperimentima koje su proveli istraživači s Sveučilišta Princeton i Sveučilišta u Chicagu, ovim AI sustavima bilo je naloženo da zapošljavaju kandidate za različite uloge na temelju povratne informacije o izvedbi. Unatoč tome što su svi kandidati imali jednake šanse za uspjeh, modeli su počeli dodjeljivati pojedince određenim poslovima na temelju ranih rezultata, što je dovelo do segregacije fiktivnim etničkim skupinama.
Procjena pristranosti (Sredina): U članku su predstavljene empirijske nalaze iz akademskog istraživanja bez otvorenih ideoloških okvira.
Zašto činjenice (85): The article presents findings from a study conducted by researchers at Princeton University and the University of Chicago, where LLMs like ChatGPT, Claude, and Gemini were tested in a simulated hiring scenario. It accurately describes the methodology and results, noting that models developed biases
Zašto objektivnost (78): The article remains largely neutral in tone, presenting the study's findings without overt bias. However, it uses emotionally charged language such as 'handing them ammunition for forming those biases' which subtly implies negative consequences of AI hiring systems. This slight editorializing reduce
★
Neka vijesti ostanu poštene.
ObjectiveNews financiraju čitatelji i bez oglasa je – pristranost vam pokazujemo, ne skrivamo. Podržite neovisno novinarstvo za 5 €/mjesec.
Postani podupiratelj
United States
