Krajem rujna, birači u tri njemačke savezne države, Sachsen-Anhalt, Berlin i Mecklenburg-Vorpommern, glasat će na regionalnim izborima. Usred te političke aktivnosti, pojavila se zabrinutost zbog toga kako Googleovi AI-generizirani rezime pretrage rješavaju pitanja povezana s izbornim sadržajem. Neprofitna organizacija AlgorithmWatch provela je studiju koja ispituje transparentnost i neutralnost ovih AI-poticanih komada, koji se pojavljuju u otprilike polovici svih pretraga u Njemačkoj od početka 2025. Mnogi se korisnici oslanjaju na ove kratke rezime bez klikavanja na izvorne izvore, što izaziva uzbunu o potencijalnom utjecaju na donošenje informiranih odluka.
Istraživanje je provedeno pomoću Google-ovog internog API-ja za rezultate pretraživanja, koji je dostupan na temelju Zakona o digitalnim uslugama. Istraživači su mogli dostaviti gotovo 4.500 upita povezanih s predstojećim izborima u tri države i analizirati rezime generirane AI-om zajedno s njihovim navedenim izvorima. Prema nalazima, Google ne pruža jasne kriterije za prikaz tih AI-ovih rezima.
Iako je studija otkrila da Google manje često generiše AI sažetke za upite vezane uz izbore u usporedbi s nepolitičkim, ostaje nejasno jesu li poduzete posebne mjere za rješavanje izbornog sadržaja. Izgleda da ne postoji dosljedan uzorak u načinu na koji AI odlučuje prikazati svoje sažetke. Na primjer, pitanja o anketama rijetko su pokrenula AI sažetke, dok su upiti o strankama i pojedinačnim kandidatima to učinili u do 50% slučajeva. Također su uočene razlike između država: u odgovorima na pitanja o Saksoniji-Anhalt pojavilo se manje AI sažetki nego u Berlinu ili Meklenburgu-Vorpommern.
Ključno otkriće bilo je da je broj izvora citiranih u AI sažetkama često bio ograničen. Gotovo polovina pruženih poveznica ukazala je na manje od deset izvora, a YouTube, podružnica Googlea, bio je neproporcionalno zastupljen. Među prvih deset referentnih web stranica, bili su uključeni javni emiteri, Wikipedia, platforme društvenih medija i službene vladine ili stranke stranice. To sugerira moguću pristranost prema poznatim ili povezanim izvorima, potencijalno ograničavajući izloženost različitim perspektivama.
Ovaj fenomen, koji se naziva "psihofancija", može poteknuti iz inherentnih tendencija velikih jezičnih modela da potvrde stavove ispitanika. U kontekstu politike, takvo pristrasno oblikovanje moglo bi ometati sposobnost birača da formiraju uravnotežena mišljenja, prema AlgorithmWatch.
Kako se približava izborno razdoblje, uloga umjetne inteligencije u oblikovanju percepcije javnosti nastavlja privlačiti pažnju, naglašavajući stalne izazove u osiguravanju da digitalne informacije ostanu dostupne i pouzdane.
★
Neka vijesti ostanu poštene.
ObjectiveNews financiraju čitatelji i bez oglasa je – pristranost vam pokazujemo, ne skrivamo. Podržite neovisno novinarstvo za 4 €/mjesec.
Postani podupiratelj
Germany
