Darf KI Prüfungen bewerten?

Die Integration von künstlicher Intelligenz in Bildungssysteme hat erhebliche Debatten ausgelöst, insbesondere in Bezug auf ihre Verwendung bei der Bewertung der Leistung von Studenten. Während sich akademische Institutionen auf Abschlussprüfungen und Semesterbewertungen vorbereiten, haben sich die Diskussionen über die potenziellen Vorteile und rechtlichen Herausforderungen im Zusammenhang mit der Verwendung von KI-gestützten Bewertungswerkzeugen intensiviert.

Im Zentrum dieser Diskussion steht das Gesetz über künstliche Intelligenz (AI Act) der Europäischen Union, das bestimmte KI-Anwendungen aufgrund ihrer potenziellen Konsequenzen als hochriskant klassifiziert. Nach jüngsten Berichten gelten KI-Systeme, die zur Beurteilung von Lernergebnissen - wie z. B. Klassenprüfungen - eingesetzt werden, als hochriskant nach dem AI-Gesetz. Diese Klassifizierung legt Entwicklern und Benutzern strenge Anforderungen auf, einschließlich umfassender Risikomanagementstrategien, Transparenz, menschlicher Aufsicht und Einhaltung von Datenschutzbestimmungen wie der Allgemeinen Datenschutzverordnung (DSGVO). Diese Maßnahmen zielen darauf ab, sicherzustellen, dass KI-Bewertungen fair, zuverlässig und rechtlich konform bleiben.

Die Implikationen der Verwendung von KI für die Bewertung gehen über reine technische Überlegungen hinaus. Die Genauigkeit der Noten, die die Hochschulzulassungen, Zertifizierungsprozesse und sogar Karrieremöglichkeiten beeinflussen können, wirft Bedenken hinsichtlich Fairness und Rechenschaftspflicht auf. Rechtsexperten warnen davor, dass KI-basierte Bewertungen ohne angemessene Sicherheitsvorkehrungen versehentlich Vorurteile oder Fehler einführen könnten, die sich überproportional auf Studenten auswirken. Daher ist es entscheidend, sicherzustellen, dass diese Systeme sowohl mit dem KI-Gesetz als auch mit der DSGVO übereinstimmen, um das Vertrauen zu erhalten und die Bildungsstandards einzuhalten.

Derzeit gibt es kein kommerziell erhältliches KI-System, das für die Beurteilung von Lernergebnissen entwickelt wurde und die erforderliche CE-Kennzeichnung erhalten hat - ein Symbol, das die Einhaltung der EU-Sicherheits-, Gesundheits- und Umweltschutznormen anzeigt.

Der Umfang dessen, was ein "risikoreiches" KI-System nach dem KI-Gesetz ausmacht, bleibt etwas mehrdeutig, insbesondere in Bezug auf Bildungskontexte. Der Entwurf der Leitlinien der Europäischen Kommission schlägt eine breite Interpretation des Begriffs vor, die sowohl öffentliche als auch private Bildungseinrichtungen unabhängig vom Alter oder dem spezifischen Umfeld der Lernenden umfasst. Die Leitlinien verdeutlichen jedoch auch, dass Bildungseinrichtungen in der Regel von nationalen Bildungsbehörden akkreditiert oder lizenziert werden, was als Grundlage dienen kann, um zu bestimmen, ob sie in den Anwendungsbereich des KI-Gesetzes fallen.

Da sich der Regulierungsrahmen weiter entwickelt, werden die Interessengruppen - darunter Pädagogen, politische Entscheidungsträger und Technologieanbieter - wahrscheinlich einen weiteren Dialog führen, um die Erwartungen und Verantwortlichkeiten zu klären. Dieser Prozess wird entscheidend sein, um zu bestimmen, wie KI in die Bildung integriert wird, während gleichzeitig die Rechte und Interessen der Schüler geschützt werden. Die kommenden Monate werden entscheidend sein, um festzustellen, ob die derzeitige rechtliche Landschaft den verantwortungsvollen Einsatz von KI in Bildungsbewertungen unterstützen kann, ohne die Integrität des Bewertungsprozesses zu beeinträchtigen.