Google Earthov AI generator slik je ustvaril preveč lažnih novic

Google je v svoji aplikaciji Google Earth deaktiviral funkcijo, ki je uporabljala umetno inteligenco za ustvarjanje slik, zaradi skrbi zaradi ustvarjanja zavajajoče vsebine.

To je uporabnikom omogočilo, da ustvarijo podrobne, tridimenzionalne rekonstrukcije zgodovinskih lokacij, vizualizirajo arhitekturne načrte in dodajajo plasti informacij na zemljevide. Kljub temu, da so bili označeni kot AI-generirani in spremljajo jih opozorila, so nekateri uporabniki našli načine za zatiranje teh opozoril, kar jim je omogočilo, da delijo slike, ki so se pojavile kot pristne.

Po navedbah Googla je bila odločitev o onemogočitvi te funkcije sprejeta, ko so uporabniki začeli deliti posnetke zaslona, ki so kršili smernice podjetja. Čeprav je bilo veliko strokovnjakov za geoprostorje, ki so imeli legitimne uporabe za orodje, je Google dejal, da se je počutil prisiljenega razviti različico z "strožjimi zaščitnimi ukrepi", da bi preprečil zlorabo. Podjetje je poudarilo, da je bil glavni namen funkcije AI izboljšati uporabniško izkušnjo s točnimi in informativnimi vizualizacijami, zlasti za zgodovinske in arheološke kontekste.

-mehiška meja in kraterji z bombami, ki so sosedili bolnišnicam v Gazi, prizori, ki so bili očitno izmišljeni, vendar so imeli pomembne politične posledice, ko so bili predstavljeni kot dejanski. Ti primeri so poudarili potencial za izkoriščanje tehnologije za dezinformacije, čeprav so bile slike ustvarjene z orodjem, zasnovanim za konstruktivne namene. Strokovnjaki za podatkovno novinarstvo in odkrivanje lažnih novic, kot je Henk van Ess, so ugotovili, da so slike, ki jih je ustvarila umetna inteligenca, predstavljale resen izziv za procese preverjanja medijev. Nekateri orodji, ki se običajno uporabljajo za odkrivanje globokih ponaredkov in sintetičnih medijev, niso uspeli identificirati izmišljenih slik, ki jih je proizvedla Nano Banana.

To je sprožilo vprašanja o zanesljivosti trenutnih metod zaznavanja proti vsebini, ki jo je ustvarila umetna inteligenca, še posebej, ko se vsebina zdi vizualno nerazločljiva od realnosti.

Incident poudarja širše izzive, povezane z integracijo umetne inteligence v aplikacije, ki so namenjene potrošnikom, kjer lahko postane nejasna meja med koristnimi inovacijami in potencialno zlorabo.

Googlejev korak odraža to tekočo napetost, saj želi izkoristiti prednosti umetne inteligence in hkrati zmanjšati njen potencial za škodo.