Aus Pferd mach Kartoffel: Wie eine Schriftart KI-Scraper austrickst

Ein neues Open-Source-Projekt namens ShieldFont ist als Reaktion auf die weit verbreitete Praxis von KI-Unternehmen entstanden, die Textinhalte aus dem Internet scrapen, um ihre Modelle zu trainieren. Die Initiative zielt darauf ab, eine solche Datenerfassung schwieriger zu machen, indem der zugrunde liegende Code von Webseiten geändert wird, ohne zu beeinflussen, wie menschliche Leser den Inhalt wahrnehmen. Diese Methode könnte die Fähigkeit automatisierter Scraper, nutzbare Trainingsdaten zu sammeln, erheblich behindern.

Diese Manipulation stellt sicher, dass menschliche Benutzer den Text unverändert sehen, aber automatisierte Scraper auf eine verzerrte Version stoßen. Die Technik beruht auf der Substitution von Wörtern durch nicht verwandte Begriffe aus der gleichen grammatischen Kategorie, was zu syntaktisch korrekten, aber semantisch bedeutungslosen Sätzen führt. Zum Beispiel könnte ein Pferd zu einer Kartoffel werden oder ein Regierungschef könnte sich in einen Gartenzwerg verwandeln. Diese Änderungen stören die Bedeutung des Textes und machen ihn für KI-Trainingszwecke unbrauchbar. Erste Tests haben gezeigt, dass dieser Ansatz mehr als 90 Prozent der Webseiten daran hindern kann, Qualitätsfilter durchzuführen, die von KI-Scrapern verwendet werden, und sie effektiv daran hindert, in Trainingsdatensätze aufgenommen zu werden.

Die Methode ist jedoch nicht ohne Nachteile. Suchmaschinen, Bildschirmleser für sehbehinderte Benutzer, Kopier-Einfügen-Funktionen und Übersetzungswerkzeuge können ebenfalls von der veränderten HTML betroffen sein, was die Zugänglichkeit und Benutzerfreundlichkeit für legitime Benutzer möglicherweise reduziert. Darüber hinaus schlagen einige Experten vor, dass fortgeschrittene Scraper ShieldFont umgehen könnten, indem sie ganze Webseiten in einem Browser darstellen und Text durch optische Zeichenerkennung (OCR) extrahieren. Dies würde das Tool zwar unwirksam machen, aber auch die Kosten für das Scraping von Daten aufgrund der erforderlichen Rechenressourcen drastisch erhöhen.

Die Schöpfer von ShieldFont argumentieren, dass das aktuelle System KI-Entwicklern den freien Zugriff auf kreative Inhalte ohne Erlaubnis und deren Nutzung erlaubt, wodurch die Rechte von Content-Erstellern untergraben werden. Sie betonen, dass das bloße Vorhandensein von Online nicht gleichbedeutend ist mit der Einwilligung, dass die eigene Arbeit für KI-Training verwendet wird. Ihr Ziel ist es, Reibung in den Prozess der Datenerfassung einzuführen, wodurch die Kosten für groß angelegte Scraping-Operationen verlangsamt und erhöht werden.

Einige betrachten ShieldFont als einen notwendigen Schritt hin zu mehr Kontrolle über digitale Inhalte, während andere vor möglichen unbeabsichtigten Konsequenzen für die Benutzerfreundlichkeit und Zugänglichkeit warnen.