Wie KI ihre eigenen Deepfakes entlarvt

heise onlineUnabhängigMitteFaktentreue 65Objektivität 70vor 4 Tagen

In dem Artikel werden die Herausforderungen der modernen Deepfake-Technologie diskutiert, die nun hochrealistische Bilder und Videos erzeugen kann, die sich nicht von der Realität unterscheiden. Es werden die Grenzen der aktuellen Erkennungsmethoden und die Notwendigkeit zuverlässigerer Lösungen hervorgehoben. Das Bundesamt für Informationssicherheit (BSI) und das Fraunhofer-Institut für Optoelektronik, Systemtechnologie und Bildverarbeitung (IOSB) arbeiten an einer neuen Methode namens RealOrRender zusammen. Dieses System verwendet einen zweistufigen Ansatz, der eine Bildrekonstruktion und -klassifizierung beinhaltet, mit dem Ziel, Deepfakes mit hoher Genauigkeit zu erkennen. Die Technik beruht auf dem Vergleich mathematischer Fingerabdrücke von Bildern mit Rekonstruktionen, die von KI-Modellen erzeugt werden, und identifiziert Diskrepanzen, die auf künstliche Manipulation hindeuten.

Tendenz-Einschätzung (Mitte): Der Artikel präsentiert eine technische Erklärung der Deepfake-Erkennung ohne offensichtliche ideologische Neigung.

Warum diese Bewertungen (Faktentreue 65 · Objektivität 70): The article discusses AI-generated deepfakes and mentions efforts by BSI and Fraunhofer IOSB to detect them using RealOrRender. However, it lacks specific details from the primary source document such as the three main media types (video/image, audio, text) and does not mention the technical methods

Deutsche Welle (Deutsch)Staatlich / öffentlichMittevor 4 Std.

Der Artikel behandelt den zunehmenden Einsatz von künstlicher Intelligenz (KI) zur Generierung von Videos, die historisch erscheinen, aber tatsächlich synthetisch sind. Beispiele sind KI-generierte Inhalte, die das antike Pompeji während des Ausbruchs des Vesuvs darstellen, angebliche Überwachungsmaterial aus der Tschernobyl-Katastrophe und eine rekonstruierte Version des ikonischen Iwo Jima-Flaggenfoto aus dem Zweiten Weltkrieg. Diese KI-generierten Videos enthalten oft subtile Hinweise auf ihre Herkunft, wie Wasserzeichen, Community-Notizen auf Social-Media-Plattformen wie X oder Unvollkommenheiten in Bewegung und Aussehen. Experten warnen davor, dass einige KI-generierte Inhalte zwar leicht identifizierbar sind, andere jedoch zunehmend anspruchsvoller werden, was die Erkennung schwieriger macht.

Tendenz-Einschätzung (Mitte): Der Artikel bietet einen faktischen Überblick über KI-generierte historische Inhalte, ohne eine Haltung zur Technologie selbst oder zu ihren Implikationen einzunehmen.