Google AI Overviews je predstavljal izmišljene pošasti kot resnične.

Nemško sodišče je odločilo, da je Google neposredno odgovoren za netočne odgovore, ki jih je ustvarila funkcija AI Overview, kar je pomemben pravni precedens v tem, kako se vsebina, ustvarjena s pomočjo umetne inteligence, obravnava v skladu z obstoječimi zakoni.

Primer se je osredotočil na funkcionalnost, znano kot AI pregled, ki povzema rezultate iskanja z uporabo obdelave naravnega jezika in jih predstavlja v strukturirani obliki. Izdajalci so trdili, da je bil ta povzetek, ki ga je ustvarila AI, zavajajoč, ker je povezal njihova podjetja z dvomljivimi poslovnimi praksami, ki niso bile prisotne v dejanskih rezultatih iskanja. Namesto tega je AI združila svoje podatke z informacijami o drugih, resnično problematičnih podjetjih, in ustvarila povezave, ki niso obstajale niti v citiranih virih v rezultatih iskanja.

Googleova obramba se je močno opirala na načelo, da iskalniki ne bi smeli biti odgovorni za vsebino, ki jo zbirajo iz zunanjih virov. Vendar pa je sodišče to trditev zavrnilo in navedlo, da AI Pregled naredi več kot le prikaz ali povezavo do rezultatov iskanja - ustvarja nove, neodvisne izjave, ki presegajo preproste sklicevanja na zunanjo vsebino. Sodniki so poudarili, da AI ne samo navaja vire, ampak namesto tega sintetizira in predstavlja informacije z lastnimi besedami, s čimer Google neposredno odgovarja za točnost teh povzetkov.

Sodišče je tudi zavrnilo trditev Googla, da lahko uporabniki sami preverijo vire prek zagotovljenih povezav in so že vedeli, da vsebine, ki jih ustvari AI, ne bi smeli jemati za nominalno vrednost.

V odgovoru na sodbo je tiskovni predstavnik Googla izjavil, da se je družba zavezala k izboljšanju kakovosti svojih povzetkov umetne inteligence, da bi zagotovila, da večina odgovorov zagotavlja točne informacije.

Poleg neposrednih pravnih posledic ima sodba širši pomen v tekuči razpravi o vlogi umetne inteligence pri širjenju informacij. Kritičarji že dolgo opozarjajo na primere, ko je Googlova umetna inteligenca napačno predstavila izmišljene vsebine kot dejanske. Na primer, iskanja v zvezi z vnosi fundacije SCP - izmišljene anomalije, ustvarjene za zabavne namene - so včasih povzročila povzetke, ki jih je ustvarila umetna inteligenca, ki obravnavajo te izmišljene entitete kot resnične. V enem primeru je poizvedba za SCP-565 pripeljala do opisa "anomalne, mobilne človeške glave", ki se premika kot rak, skupaj s sklicevanji na forenzične zapise in identiteto umrlega človeka.

Še eno iskanje SCP-426, izmišljenega tostera, ki prisili vsakogar, ki ga omeni, da govori o njem v prvi osebi, je prineslo odgovor, napisan v prvi osebi, z AI, ki se opisuje kot toster in podrobno opisuje izmišljene poškodbe, ki jih trpijo tisti, ki ga poskušajo posnemati.

Ti primeri poudarjajo potencialna tveganja sistemov umetne inteligence, ki ne razlikujejo med fikcijo in resničnostjo, še posebej pri predstavitvi sintetizirane vsebine kot dejanske.

Medtem ko se pravna bitka nadaljuje, bo izid pritožbe Googla najverjetneje vplival na prihodnje predpise v zvezi z odgovornostjo za umetno inteligenco. Če bo odločba potrjena, bi lahko postavila precedens, ki bi zahteval, da tehnološka podjetja prevzamejo večjo odgovornost za natančnost vsebine, ki jo ustvari umetna inteligenca, kar bi lahko privedlo do strožjega nadzora in jasnejših smernic za ravnanje s sintetičnimi informacijami.