Umetnost umetne inteligence v politiki: pristranskost in halucinacije

Uporaba umetne inteligence (AI) v novinarstvu je sprožila pomembno razpravo po nedavnih incidentih, ki so vključevali pomembne politične osebnosti. Frankfurter Allgemeine Zeitung (F.A.Z.) se je znašel v središču polemike, ko je bil gostinski prispevek, ki ga je napisal predsednik ministrstva Turingije Mario Voigt, odstranjen s svoje spletne strani in arhiviran.

Kmalu po tem razkritju je prišlo na dan, da je zvezni minister za digitalne zadeve Karsten Wildberger uporabil AI za pripravo več govorov in prispevkov gostov, vključno z enim, objavljenim v Frankfurter Allgemeine Sonntagszeitung.

Za uredniško ekipo F.A.Z. ostaja jasno, da še naprej sami pišejo svoje članke in prevzemajo polno odgovornost za njih. Kljub temu uporaba orodij AI ni prepovedana. Nasprotno, AI lahko pomaga pri raziskavah, preverjanju dejstev, ugotavljanju protislovja v argumentih, korektiranju in zagotavljanju povzetkov ali predgovorov na zahtevo. Končni tekst mora še vedno izhajati od človeka, ki je zasnoval idejo in izrazil svoje misli. Avtor ohranja avtoriteto vsebine nad besedilom, vendar ga je dovoljeno izboljšati s pomočjo AI.

V zadnjih štirih desetletjih je na področju novinarstva prišlo do številnih tehnoloških preoblikovanj. Sprva je zvok pisalnih strojev narekoval tempo produkcije novic v hrupnih uredniških prostorih. Kasneje je sledil prehod na elektronske urejevalne sisteme, nato pa prehod iz analogne na digitalno fotografijo, ki je zamenjala temne sobe s shranjevalnimi karticami in programsko opremo za urejanje slik, kar je omogočilo manipulacije, ki prej niso bile popolnoma izključene. Sodobna obdelava besedila je omogočila hitro urejanje in kopiranje besedil.

V vseh teh prehodih so vedno obstajali opozorila o upadu novinarske obrtnosti. Vendar pa pravilni pristop nikoli ni bil popolno zavrnitev, temveč inteligentna prilagoditev. Vedno je bilo treba obvladati nova orodja za izboljšanje lastne obrtnosti in ohranjanje konkurenčnosti v poslovnih operacijah. Zdaj umetna inteligenca predstavlja najpomembnejši korak v tej verigi. Prava pot tukaj je zavestna in človeško nadzorovana uporaba umetne inteligence v uredniškem delu.

Sodoben uredniški urad se mora naučiti delovati kot "šef" za umetno inteligenco, jo uporabiti kot pomočnika za analizo obsežnih podatkovnih zbirk, prepoznavanje vzorcev v zapletenih dokumentih, programiranje in vokaliziranje besedil, prepisovanje intervjujev in njihovo prevajanje.

AI je odlično delovno orodje, vendar ni novinar. Ne glede na to, ali gre za kontekstualizacijo novic ali konstrukcijo koherentnega argumenta, ki temelji na človeški izkušnji v komentarju, novinarji ostajajo nepogrešljivi v dobi AI. Poplava čisto strojno ustvarjene vsebine, ki nekontrolirano preplavlja internet, zahteva bolj kot kdaj koli prisotnost človeških novinarjev.

Sam Altman, izvršni direktor OpenAI in ena od gonilnih sil za revolucijo umetne inteligence, verjame, da bodo ljudje vedno predvsem zainteresirani za to, kaj

Uporaba AI v politiki je prav tako pritegnila pozornost zaradi možnih pristranskosti in halucinacij. Zagotovo je ogorčenje glede politikov, ki uporabljajo AI, vendar je še pomembneje, da je potrebna analiza tveganj, ko stroje nadomestijo ljudi. Digitalni minister Karsten Wildberger (CDU) je bil obtožen, da je lagal o svoji uporabi AI za svoje delo. Jasno je, da Wildberger uporablja AI, da so govori napisani zanj.

V začetku februarja je njegovo ministrstvo to zanikalo, ko je odgovorilo na zahtevo za svobodo informacij, da Wildberger ni uporabljal AI klepetalcev v svoji vlogi zveznega ministra za digitalne zadeve in modernizacijo države od 6. maja do 31. decembra 2025.

Predstavljivo je, da je Wildberger začel uporabljati umetno inteligenco za svoje delo kot zvezni minister po 31. decembru 2025. Vendar je malo verjetno. Bolj verjetno je, da je njegovo ministrstvo zgradilo razliko med zasebnimi in uradnimi dejanji, ki jih je težko ohraniti v praksi. Če je to res, se postavlja vprašanje: zakaj to počne? Samo Wildberger bi lahko odgovoril na to. Vendar je verjetna domneva, da se politiki in njihovo bližnje osebje izognejo odprti razpravi o uporabi umetne inteligence, ker se bojijo kritike, ker omogočajo, da umetna inteligenca prevzame njihov proces razmišljanja.

Ta zaskrbljenost je utemeljena: primeri iz Wildbergerjevih besedil in besedil drugih ministrov, kot sta Mario Voigt in Sven Schulze (oba CDU), kažejo, da se pogosto pojavijo številne klišejske izjave in posploševanja, ki nimajo vsebine in globljega znanja, ko umetna inteligenca svobodno ustvari vsebino.

Veliko večja tveganja ležijo drugje. Ena težava je, da AI chatboti pogosto dajejo lažne odgovore, znane kot "hallucinacije". Druga je tako imenovana pristranskost, kar pomeni, da so lahko predsodki. Pristranskost je zapleten koncept; običajno se nanaša na diskriminacijo določenih skupin ali pogledov, ker niso ustrezno predstavljeni v podatkih, ki se uporabljajo za usposabljanje sistemov AI.