Branche
KI in der Bildung: EU AI Act für Schulen, Hochschulen und Weiterbildung
Bildungseinrichtungen setzen KI für Zulassung, Bewertung und Prüfungsaufsicht ein. Genau diese Anwendungen stuft der EU AI Act als hochriskant ein. Dieser Beitrag zeigt, was für Schulen, Hochschulen und Weiterbildungsanbieter gilt.
Bildung wirkt prägend, oft ein Leben lang. Wer über Zulassung, Noten oder den Bestand einer Prüfung mitentscheidet, trägt Verantwortung. Genau deshalb behandelt der EU AI Act KI im Bildungsbereich mit besonderer Vorsicht und stuft mehrere Anwendungen als hochriskant ein. Dieser Beitrag zeigt, was für Schulen, Hochschulen und Weiterbildungsanbieter gilt.
Welche Anwendungen hochriskant sind
Anhang III des AI Act nennt den Bildungsbereich ausdrücklich. Hochriskant ist KI insbesondere dann, wenn sie über den Zugang oder die Aufnahme zu einer Bildungseinrichtung mitentscheidet, wenn sie Lernergebnisse bewertet oder das angemessene Bildungsniveau einer Person beeinflusst, und wenn sie während Prüfungen unerlaubtes Verhalten überwacht oder erkennt.
Vieles andere fällt nicht darunter. Ein Werkzeug, das Schülern beim Üben hilft, Texte erklärt oder Lehrkräften bei der Vorbereitung assistiert, bewegt sich meist im Bereich des begrenzten oder minimalen Risikos, solange es nicht über Bewertung oder Zugang entscheidet.
Üben gegen Bewerten
Eine KI, die einem Schüler beim Vokabellernen hilft und Feedback gibt, ist nicht hochriskant. Eine KI, die Prüfungsleistungen automatisch bewertet und benotet oder bei der Online-Prüfung das Verhalten der Prüflinge überwacht, ist es. Der Unterschied liegt darin, ob die KI über die Bildungsbiografie eines Menschen mitentscheidet.
Welche Pflichten gelten
Bei den hochriskanten Anwendungen verlangt der AI Act unter anderem eine wirksame menschliche Aufsicht, Transparenz und Fairness. Gerade bei der automatischen Bewertung ist die menschliche Letztkontrolle entscheidend, denn eine fehlerhafte oder verzerrte Benotung kann den weiteren Bildungsweg beeinflussen. Die allgemeinen Hochrisiko-Pflichten beschreibt der Beitrag zu Hochrisiko-KI-Systemen.
Die KI-Kompetenz in der Bildungseinrichtung
Die KI-Kompetenz-Pflicht aus Artikel 4 gilt unabhängig von der Risikostufe für alle, die mit KI arbeiten, von der Lehrkraft bis zur Verwaltung. Lehrende müssen verstehen, wie ihre Werkzeuge zu Ergebnissen kommen, wo die Grenzen liegen und wann sie einer Bewertung nicht trauen dürfen. Gerade im Umgang mit Lernenden ist dieses Verständnis besonders wichtig.
Was Bildungseinrichtungen jetzt tun sollten
Erfassen Sie, wo im Haus KI genutzt wird. Prüfen Sie, ob eine Anwendung über Zulassung, Bewertung oder Prüfungsaufsicht entscheidet; dann gelten die Hochrisiko-Pflichten. Sorgen Sie für die KI-Kompetenz Ihrer Lehrkräfte und Mitarbeiter und dokumentieren Sie die Schulung.
Wie Sie das im Team umsetzen, lesen Sie unter KI-Schulung für Mitarbeiter. Den rechtlichen Rahmen erklärt der Leitfaden zu Artikel 4.
Häufige Fragen
Ist KI in der Bildung hochriskant?+
Teilweise. KI, die über Zulassung mitentscheidet, Lernergebnisse bewertet oder Prüfungen überwacht, zählt nach Anhang III zu den Hochrisiko-Systemen. Lernhilfen oder einfache Verwaltungswerkzeuge sind in der Regel nicht hochriskant.
Betrifft das auch private Weiterbildungsanbieter?+
Ja. Die Einstufung knüpft an die Anwendung an, nicht an die Trägerschaft. Auch private Bildungs- und Weiterbildungsanbieter sind betroffen, wenn sie KI für Bewertung, Zulassung oder Prüfungsaufsicht einsetzen.
Was ist mit KI-Lernhilfen für Schüler?+
Werkzeuge, die beim Lernen unterstützen, ohne über Bewertung oder Zugang zu entscheiden, sind meist nicht hochriskant. Dennoch gilt die KI-Kompetenz-Pflicht aus Artikel 4 für die Lehrkräfte und Mitarbeiter, die solche Werkzeuge einsetzen.
Quelle: Verordnung (EU) 2024/1689 (EU AI Act), EUR-Lex. Dieser Beitrag dient der allgemeinen Information und ersetzt keine Rechtsberatung.