Die Digitalisierung im deutschen Bildungswesen verstärkt sich. Statistiken zufolge verbessert sich nicht nur die Hardware-Ausstattung. Schüler lernen den Umgang mit Software. Und Lehrende verwenden KI zur Unterstützung bei der Korrektur von Tests.
Durch die Beschlüsse auf der Kultusministerkonferenz ist klar geregelt, wie Künstliche Intelligenz (KI) im Klassenzimmer eingesetzt werden kann. Sie soll vor allem zur individuellen Förderung der Kinder und Jugendlichen eingesetzt werden. Bei Korrekturen und Feedback sollten KI-Tools allenfalls unterstützend verwendet werden.
Benotung durch KI ist nicht datenschutzkonform
Lehrkräften bietet sich durch KI-Einsatz eine enorme Zeitersparnis: Einfach einen Test oder eine Arbeit in das KI-Tool laden. Bewertung oder Korrektur kommen schon Sekunden später zurück. Tatsächlich sind die Tools jedoch nicht so zuverlässig, wie einige vielleicht vermuten. So zeigen Studien, dass KIs – je nach Prompt – denselben Aufsatz mit sehr unterschiedlichen Noten bewertet haben.
"Das ist natürlich nur eine Momentaufnahme der KI und kann sich ändern."
Dass der gleiche Text derselben Schularbeit so unterschiedlich bewertet wird, könnte daran liegen, dass KIs mit Erwachsenentexten trainiert werden. Das verschlechtert die Noten-Performance der KI, wenn es um Texte von Jugendlichen geht. Am besten bewerten KIs ki-generierte-Texte. Reale Schülertexte schneiden schlechter ab. Deutschlandfunk-Nova-Netzreporter Andi Noll findet es absurd, wenn beide Seiten KI verwenden.
"Dass Schülerklausuren durch die KI-Benotung auf US-Servern landen, darf nicht sein. Schul- und Prüfungsordnungen in Deutschland verlangen, dass Noten persönliche, pädagogische Entscheidungen bleiben."
Aus Datenschutzgründen ist es nicht erlaubt, von Schüler*innen erstellte Texte in KI-Tools zu laden. Wer also die KI heimlich bewerten lässt, verstößt gegen die Vorschriften. Zumal auch die EU mit ihrem AI-Act sensibilisiert ist: KI, die über Bildungswege entscheidet, gilt als Hochrisikosystem und steht unter besonderer Beobachtung.
Welche Grundsätze es zu beachten gibt bei der Benotung mit KI-Hilfe
Allerdings kann KI als ergänzende Einschätzung der eigenen Bewertung herangezogen werden. Dafür sollten dann aber drei Bedingungen erfüllt sein.
- Die KI liefert höchstens Feedback-Vorschläge.
- Die Klasse weiß, dass KI im Spiel ist.
- Datensparsamkeit: Die Texte werden anonymisiert oder lokal verarbeitet.
Gegen eine ergänzende Unterstützung sei bei der Vergabe von Noten nichts einzuwenden, meint Deutschlandfunk-Nova-Netzreporter Andreas Noll. Aber: Von der KI erstellte "Black-Box-Noten" untergraben das Vertrauen in die Lehrkräfte. Nicht auszuschließen, dass dadurch langfristig auch die Bewertungskompetenz der Lehrkräfte nachlässt oder gar ganz verschwindet, gibt Andi Noll zu Bedenken. Wenn die KI alles vorkaut, trainiert man diese Kompetenz ja nicht mehr.