Google hat eine Funktion in seiner Google Earth-Anwendung deaktiviert, die künstliche Intelligenz zur Generierung von Bildern nutzte, nachdem Bedenken über die Erstellung irreführender Inhalte aufgetaucht waren. Die von KI generierten Bilder waren ursprünglich für Bildungs- und Visualisierungszwecke gedacht, z. B. zur Rekonstruktion alter Stätten oder zur Darstellung von Bauprojekten. Journalisten schafften es jedoch, die Warnungen des Systems zu umgehen, was zur Erzeugung von hochrealistischen, aber fabrizierten Bildern führte, die mit realen Szenen verwechselt werden konnten.
Es erlaubte Benutzern, detaillierte, dreidimensionale Rekonstruktionen historischer Orte zu erstellen, architektonische Pläne zu visualisieren und Karten mit mehreren Informationsschichten zu versehen.
Nach Angaben von Google kam die Entscheidung, die Funktion zu deaktivieren, nachdem Nutzer Screenshots zu teilen begannen, die die Richtlinien des Unternehmens zu verletzen schienen. Obwohl es viele Geospatial-Experten gab, die legitime Anwendungen für das Tool hatten, erklärte Google, dass es sich gezwungen fühlte, eine Version mit "stärkeren Sicherheitsvorkehrungen" zu entwickeln, um Missbrauch zu verhindern. Das Unternehmen betonte, dass die primäre Absicht hinter der KI-Funktion darin bestand, die Benutzererfahrung durch genaue und informative Visualisierungen zu verbessern, insbesondere für historische und archäologische Zusammenhänge.
-Mexiko-Grenze und Bombenkrater in der Nähe von Krankenhäusern in Gaza, Szenen, die, obwohl eindeutig gefälscht, bedeutende politische Implikationen hatten, wenn sie als Tatsachen präsentiert wurden. Diese Beispiele hoben das Potenzial für die Nutzung der Technologie für Desinformation hervor, obwohl die Bilder mit einem Tool erstellt wurden, das für konstruktive Zwecke entwickelt wurde. Experten für Datenjournalismus und Fake-News-Erkennung, wie Henk van Ess, stellten fest, dass die von KI erzeugten Bilder eine ernsthafte Herausforderung für Medienverifizierungsprozesse darstellten. Einige der typischerweise zur Erkennung von Deepfakes und synthetischen Medien verwendeten Tools konnten die von Nano Banana erzeugten gefälschten Bilder nicht identifizieren.
Dies führte zu Fragen über die Zuverlässigkeit der aktuellen Erkennungsmethoden gegen KI-generierte Inhalte, insbesondere wenn der Inhalt visuell nicht von der Realität zu unterscheiden ist.
Der Vorfall unterstreicht die breiteren Herausforderungen, die mit der Integration von KI in verbraucherorientierte Anwendungen verbunden sind, bei denen die Grenze zwischen nützlicher Innovation und potenziellem Missbrauch verschwimmen kann. Die Deaktivierung des KI-Bildgenerators folgt auf ein wachsendes Bewusstsein für die mit Deepfake-Technologien verbundenen Risiken und deren Auswirkungen auf das Vertrauen der Öffentlichkeit in digitale Medien.
Der Schritt von Google spiegelt diese anhaltende Spannung wider, da es versucht, die Vorteile der KI zu nutzen und gleichzeitig das Potenzial für Schäden zu mildern.
★
Halte die Nachrichten ehrlich.
ObjectiveNews ist leserfinanziert und werbefrei – wir zeigen dir den Bias, statt ihn zu verstecken. Unterstütze unabhängigen Journalismus für 4 €/Monat.
Unterstützer werden
Germany
