AI in politics: biases and hallucinations

KI in der Politik : Bias und Halluzinationen

Dass es Empörung über KI nutzende PolitikerInnen gibt – geschenkt. Wichtiger ist eine Analyse der Risiken, wenn die Maschine den Menschen ersetzt.

Digitalminister Karsten Wildberger (CDU)

Sebastian Christoph Gollnow/dpa

H at Bundesdigitalminister Karsten Wildberger (CDU) darüber gelogen, dass er KI für seine Arbeit nutzt? Klar ist: Wildberger nutzt KI, um sich Reden schreiben zu lassen: „Ja, auch Bundesminister Dr. Karsten Wildberger nutzt KI als Arbeitswerkzeug“, antwortete einer seiner Sprecher auf Anfrage der Zeit , und weiter: „ Die genannten Texte wurden mit Unterstützung von KI erarbeitet. “ Noch im Februar hatte sein Ministerium das abgestritten und auf eine Anfrage nach dem Informationsfreiheitsgesetz geantwortet: „Minister Wildberger hat in seiner Funktion als Bundesminister für Digitales und Staatsmodernisierung bisher keine KI-Chatbots genutzt.“

Diese Anfrage bezog sich auf die Zeit vom 6. Mai bis zum 31. Dezember 2025, denn in einem Interview hatte Wildberger im Dezember gesagt, er nutze KI-Chatbots „Oftmals ein, zwei Stunden am Tag“, um seine Gedanken zu strukturieren und sich von der KI Ideen vorschlagen zu lassen. Doch: Das sei rein privat, als Minister tue er das nicht.

Ist es denkbar, dass Wildberger erst nach dem 31. Dezember 2025 begonnen hat, KI auch für seine Arbeit als Bundesminister zu verwenden? Ja. Ist es wahrscheinlich? Kaum. Viel wahrscheinlicher ist, dass sein Ministerium eine Unterscheidung zwischen privatem und amtlichem Handeln konstruiert hat, die in der Praxis nicht durchzuhalten ist.

Wenn es so wäre, ist die Frage erlaubt: Warum tut er das? Beantworten könnte das natürlich nur der Minister selbst. Aber es gibt eine naheliegende Vermutung: Politikerinnen und Politiker sprechen nicht gern offen darüber, dass sie und ihr engerer Mitarbeiterstab KI nutzen, weil sie befürchten, Menschen könnten missbilligen, dass sie sich von der KI ihre Denkarbeit abnehmen lassen.



KI neigt dazu, ihre Antworten an die – ausgesprochenen oder unausgesprochenen – Präferenzen der Nut­ze­r*in­nen anzupassen

Diese Sorge ist berechtigt. Denn die Beispiele der Texte von Wildberger und auch der Ministerpräsidenten von Thüringen und Sachsen-Anhalt, Mario Voigt und Sven Schulze (beide CDU), zeigen, dass oft genug eine Aneinanderreihung klischeehafter Aussagen und Allgemeinplätze dabei herauskommt, die Substanz und tieferes Wissen vermissen lassen, wenn man die KI einfach mal machen lässt.

Matthias Spielkamp

ist Gründer der gemeinnützigen NGO AlgorithmWatch in Berlin. Sie beschäftigt sich mit den Mechanismen und gesellschaftlichen Folgen algorithmischer Entscheidungsfindungen

Die viel größeren Risiken liegen jedoch woanders. Eins besteht darin, dass KI-Chatbots sehr oft falsche Antworten liefern, „Halluzinationen“ genannt. Das zweite ist der sogenannte Bias, also dass sie voreingenommen sein können. Bias ist ein komplexes Konzept; meist ist damit die Diskriminierung bestimmter Gruppen oder Ansichten gemeint, weil sie in den Daten, mit denen KI-System trainiert werden, nicht angemessen vertreten sind.

Längst nicht die Aufmerksamkeit, die sie verdienen, bekommen jedoch tiefgreifende Probleme, die sich nicht einfach erkennen lassen, indem man Aussagen der KI auf falsche Informationen oder potenzielle Diskriminierung prüft. Dazu gehören Schmeichelei, bei der Modelle ihre Antworten an die – ausgesprochenen oder unausgesprochenen – Präferenzen der Nut­ze­r*in­nen anpassen, das Verhalten, identische Inhalte unterschiedlich zu behandeln, wenn sie verschiedenen Quellen zugeschrieben werden, und die Tendenz, Annahmen als neutrale Fakten darzustellen.

Das kann weitreichende Folgen haben, wenn Po­li­ti­ke­r*in­nen mit Chatbots interagieren, um Ideen und Vorschläge zu entwickeln. Wis­sen­schaft­le­r*in­nen haben verschiedene Prozesse untersucht, durch die Menschen die regelmäßige Nutzung von dialogorientierten KI-Tools, also Chatbots wie ChatGPT, Claude, Gemini und andere, allmählich in ihre Denkmuster integrieren und damit möglicherweise beeinflussen, was sie als „gute“ oder „relevante“ Informationen betrachten. Dazu kommen der „Automatisierungsbias“ – das Phänomen, bei dem Menschen Antworten von Computersystemen allzu leicht akzeptieren – und die Gefahr, dass Menschen sich stark von KI darin beeinflussen lassen, wie sie grundlegende Überzeugungen entwickeln.

Diese Effekte können sich gegenseitig verstärken, insbesondere wenn Chatbots von mehreren Ent­schei­dungs­trä­ge­r*in­nen innerhalb einer Organisation oder einer Behörde genutzt werden. Institutionelle Annahmen können sich in der Art und Weise verfestigen, wie Beamte oder andere Ent­schei­dungs­trä­ge­r*in­nen Fragen formulieren und Antworten bewerten. Was wie ein Konsens aussieht, spiegelt möglicherweise in Wirklichkeit nur eine Übereinstimmung der Antworten wider, die Chatbots generieren, wenn alle Nut­ze­r*in­nen die KI auf ähnliche Weise „prompten“, also anweisen.

Werden Chatbot-Antworten die Hier…