Googleov AI Overviews je predstavljao izmišljena čudovišta kao stvarna

Njemački sud je presudio da je Google izravno odgovoran za netačne odgovore generirane svojom funkcijom AI Pregleda, što je značajan pravni presedan u tome kako se sadržaj generiran umjetnom inteligencijom tretira prema postojećim zakonima. Odluka dolazi nakon što su dvije izdavačke tvrtke sa sjedištem u Münchenu podnele tužbu protiv tehnološkog giganta, navodeći da je AI pogrešno povezao svoje poslove s prijevarnim praksama, zamkama za pretplate i obmanjujućim šemama. Prema presudi suda, Google ne može jednostavno skrenuti odgovornost tvrdeći da samo prikuplja sadržaj trećih strana bez aktivnog oblikovanja ili odobrenja.

Slučaj je usredotočen na funkcionalnost poznatu kao AIAI Pregled, koja sažima rezultate pretraživanja koristeći obradu prirodnog jezika i predstavlja ih u strukturiranom formatu. Izdavači su tvrdili da je ovaj sažetak generiran AI-om bio obmanjujuć jer je povezao njihove tvrtke s sumnjivim poslovnim praksama koje nisu bile prisutne u stvarnim rezultatima pretraživanja. Umjesto toga, AI je spojio svoje podatke s informacijama o drugim, istinski problematičnim tvrtkama, stvarajući veze koje nisu postojale čak ni u navedenim izvorima unutar rezultata pretraživanja.

Googleova obrana se oslanjala na načelo da pretraživači ne bi trebali biti odgovorni za sadržaj koji prikupljaju iz vanjskih izvora. Međutim, sud je odbacio ovaj argument, navodeći da AI pregled čini više od samo prikazivanja ili povezivanja s rezultatima pretrage - stvara nove, neovisne izjave koje idu izvan jednostavnih referenci na vanjski sadržaj.

Sud je također odbacio Googleovu tvrdnju da su korisnici mogli sami provjeriti izvore putem pruženih poveznica i već su bili svjesni da se sadržaj koji je generirala umjetna inteligencija ne bi smio shvaćati po nominalnoj vrijednosti. Istaknuo je da se pregled umjetne inteligencije predstavljao kao samostalna izjava s neovisno razumljivim sadržajem, ne nudeći čitateljima da su informacije možda nepouzdane. Kao rezultat toga, sud je naložio Googleu da prestane širiti lažne tvrdnje i da snosi 80 posto pravnih troškova povezanih s predmetom.

U odgovoru na presudu, glasnogovornik Google-a izjavio je da je tvrtka posvećena poboljšanju kvalitete svojih AI sažetaka kako bi se osiguralo da većina odgovora pruža točne informacije.

Osim neposrednih pravnih implikacija, presuda ima širi značaj u tekućoj raspravi o ulozi umjetne inteligencije u širenju informacija. Kritičari su već dugo podizali uzbunu o slučajevima u kojima je Googleova umjetna inteligencija pogrešno prikazala fiktivni sadržaj kao činjenični. Na primjer, pretrage povezane s unosima SCP fondacije - fiktivnim anomalijama stvorenim u zabavne svrhe - ponekad su rezultirale AI-generiranim sažetcima koji tretiraju te izmišljene entitete kao stvarne.

Druga potraga za SCP-426, izmišljenim tosterom koji prisiljava svakoga tko ga spominje da govori o njemu u prvom licu, proizvela je odgovor napisan u prvom licu, s AI-om koji se opisuje kao toster i detaljno opisuje izmišljene ozljede koje su pretrpjeli oni koji pokušavaju ga oponašati.

Ti primjeri naglašavaju potencijalne rizike sustava umjetne inteligencije koji ne mogu razlikovati između fikcije i stvarnosti, osobito kada se sintetizirani sadržaj predstavlja kao činjeničan.

Kako se nastavlja pravna bitka, ishod žalbe Googlea vjerojatno će utjecati na buduće propise o odgovornosti za umjetnu inteligenciju. Ako se potvrdi, presuda bi mogla stvoriti presedan koji zahtijeva od tehnoloških tvrtki da preuzmu veću odgovornost za točnost sadržaja koji je generirala umjetna inteligencija, što bi potencijalno dovelo do strožeg nadzora i jasnijih smjernica za rukovanje sintetičkim informacijama. U međuvremenu, incident služi kao opomena o izazovima integracije umjetne inteligencije u svakodnevne digitalne interakcije, gdje granice između istine i izmišljanja mogu postati sve nejasnije.