China steht vor einer wachsenden Herausforderung, da Videos, die durch künstliche Intelligenz erzeugt werden, Fehlinformationen während Naturkatastrophen verbreiten, die Notfallmaßnahmen erschweren und die öffentliche Angst schüren. Während der Taifun Noul am Wochenende das Land traf, kämpfen die Behörden mit der Bedrohung durch KI-produzierte Inhalte, die die Realität verzerren und die Bemühungen zur Bewältigung der Krise untergraben. Diese Videos, die oft fabrizierte Szenen von Verwüstungen zeigen, haben in den sozialen Medien weit verbreitet und Beamte und Experten gleichermaßen zu Bedenken gebracht.
Falsche Videos mit toten Körpern, die im Hochwasser schwimmen, übertriebenen Darstellungen von Überschwemmungen in nicht betroffenen Regionen und irreführenden Berichten über Notfallmaßnahmen haben Online-Plattformen überschwemmt. In einigen Fällen haben diese Videos zu Panik geführt, um aufgrund falscher Behauptungen über Stromausfälle Notfallvorräte zu kaufen. Andere Fälle beinhalten die Manipulation realer Ereignisse, wie die Freilassung von Schlangen aus einer Zuchtfarm in Hengzhou, Guangxi, Anfang Juli, durch die Schaffung falscher Bilder von Krokodilen, die in Flüsse entkommen. Solche Inhalte verschärfen das Chaos von Massen-Evakuierungen und Rettungseinsätzen und machen es für die Behörden schwieriger, Ordnung und Vertrauen zu wahren.
Laut Huang Zhihua, stellvertretendem Chef der Online-Public Security Unit des Zhejiang Police Department, nutzen viele Content-Ersteller Katastrophennachrichten, um Follower anzuziehen und Sensationalismus für ein erhöhtes Engagement zu nutzen. Er stellte fest, dass diese Personen Informationen absichtlich fabrizieren, um Aufmerksamkeit zu erregen, oft ohne Rücksicht auf den potenziellen Schaden, den ihre Handlungen verursachen können.
Die jüngsten Durchsetzungsmaßnahmen zielen auf diejenigen ab, die für die Herstellung und Verbreitung solcher Inhalte verantwortlich sind, mit Strafen, die von der Inhaftierung bis zu strafrechtlichen Anklagen bis hin zu Geldstrafen reichen. Trotz dieser Maßnahmen warnen Experten, dass das Ausmaß und die Geschwindigkeit von KI-gesteuerten Fehlinformationen bald ein beispielloses Niveau erreichen könnten. Professor Chen Bin von der Zentralen Partschule der Kommunistischen Partei betonte, dass KI die technischen Hindernisse für die Generierung falscher Informationen erheblich reduziert und es sogar Nicht-Experten ermöglicht, qualitativ hochwertige, realistische Inhalte mit Leichtigkeit zu produzieren. Diese Fähigkeit, so argumentierte er, stellt eine ernsthafte Bedrohung für die öffentliche Sicherheit und das Vertrauen dar.
Laut Professor Gao Fuping von der East China University of Political Science and Law sind die Motive für die Erstellung solcher Inhalte unterschiedlich. Einige Personen betreiben diese Aktivitäten zum Vergnügen, während andere versuchen, Traffic für persönlichen Gewinn zu generieren oder absichtlich Panik oder soziale Unruhen zu verursachen. Er wies darauf hin, dass viele Nutzer glauben, dass die Anonymität und die fehlende Regulierung im Online-Raum sie gegen Konsequenzen immun machen und die Verbreitung schädlicher Inhalte weiter fördern.
Um dieses Problem zu bekämpfen, schlug Professor Xu Xiaoke von der Beijing Normal University vor, dass die Überprüfung des geografischen Kontexts und der Zeitstempel von KI-generierten Inhalten dazu beitragen könnte, echte Informationen von Falschmeldungen zu unterscheiden. Er warnte jedoch, dass die aktuellen Erkennungstechnologien hinter den Fähigkeiten der KI-Generation zurückbleiben, was zu einem anhaltenden Kampf zwischen den beiden führt. Dieses Ungleichgewicht bedeutet, dass technologische Lösungen allein möglicherweise nicht ausreichen, um das Problem effektiv anzugehen. In der Zwischenzeit investiert die chinesische Regierung weiterhin stark in KI und positioniert sich als weltweit führender Anbieter auf diesem Gebiet.
Seit 2017, als es KI als Schlüsselfaktor für den nationalen Fortschritt erklärte, sind erhebliche Mittel in KI-bezogene Branchen fließen und fördern einen intensiven inländischen Wettbewerb. Mit über 6.000 KI-Unternehmen, die im Land tätig sind, hat die Regierung Innovation und Kontrolle priorisiert, um KI sowohl für das Wirtschaftswachstum als auch für strategische Vorteile zu nutzen. Diese schnelle Expansion wirft jedoch Fragen auf, wie man den technologischen Fortschritt am besten mit der öffentlichen Sicherheit und der ethischen Verantwortung in Einklang bringt.
★
Halte die Nachrichten ehrlich.
ObjectiveNews ist leserfinanziert und werbefrei – wir zeigen dir den Bias, statt ihn zu verstecken. Unterstütze unabhängigen Journalismus für 4 €/Monat.
Unterstützer werden
United Kingdom
