Branche
KI in der Bildung: EU AI Act für Schule und Hochschule
Bildung bildet eine eigene Nummer in Anhang III, und sie ist präziser gefasst als erwartet. Vier Anwendungen sind benannt, die Prüfungsaufsicht gehört ausdrücklich dazu. Dieser Beitrag zeigt, was diesseits und jenseits der Grenze liegt.
Bildung hat im EU AI Act eine eigene Nummer in Anhang III. Sie ist enger gefasst, als die Überschrift vermuten lässt, und benennt vier konkrete Anwendungen. Eine davon überrascht regelmäßig: die Aufsicht über Prüfungen.
Seit dem 2. August 2026 gelten die Hochrisiko-Vorschriften. Dieser Beitrag geht die vier Tatbestände durch und zeigt, was außerhalb bleibt.
Die vier Tatbestände
Anhang III Nummer 3 zählt abschließend auf. Jeder Buchstabe beschreibt eine eigene Anwendung.
Buchstabe a erfasst Systeme zur Feststellung des Zugangs, der Zulassung oder der Zuweisung natürlicher Personen zu Bildungseinrichtungen. Gemeint sind Auswahl- und Verteilverfahren, etwa bei der Studienplatzvergabe oder der Zuweisung zu Schulformen.
Buchstabe b erfasst die Bewertung von Lernergebnissen. Ausdrücklich eingeschlossen ist der Fall, dass diese Ergebnisse dazu dienen, den Lernprozess zu steuern. Damit sind adaptive Lernsysteme angesprochen, die aus Leistungsdaten den weiteren Weg ableiten.
Buchstabe c erfasst die Bewertung des angemessenen Bildungsniveaus, das eine Person erhalten wird oder zu dem sie Zugang erhält. Das zielt auf Empfehlungs- und Einstufungsverfahren.
Buchstabe d erfasst die Überwachung und Erkennung von verbotenem Verhalten von Schülern bei Prüfungen.
Prüfungsaufsicht ist ausdrücklich benannt
Digitale Aufsichtssysteme für Fernprüfungen werten Kamerabild, Blickrichtung, Geräusche oder Tastaturverhalten aus, um Täuschungsversuche zu erkennen. Genau diese Anwendung steht in Buchstabe d. Sie ist der Tatbestand, den Einrichtungen bei der Bestandsaufnahme am häufigsten übersehen, weil sie ihn der IT-Sicherheit zuordnen und nicht der Bewertung.
Alle Ebenen, nicht nur Schule und Hochschule
Der Wortlaut spricht durchgehend von Einrichtungen aller Ebenen der allgemeinen und beruflichen Bildung. Die Vorschrift beschränkt sich damit nicht auf das staatliche Bildungswesen.
Wer berufliche Weiterbildung anbietet und Lernergebnisse maschinell bewertet, sollte Buchstabe b deshalb ernsthaft prüfen. Für die Einstufung zählt die Funktion, nicht die Bezeichnung des Anbieters.
Vier Werkzeuge, zwei Einstufungen
Ein Sprachmodell erstellt Übungsaufgaben zu einem Lehrplanthema. Es steht in keinem Punkt von Nummer 3. Ein Lernsystem bewertet die Antworten und legt danach den nächsten Lernschritt fest. Das ist Buchstabe b. Ein Verfahren verteilt Studienplätze nach Kriterien. Das ist Buchstabe a. Eine Software überwacht die Fernklausur auf Täuschung. Das ist Buchstabe d.
Was außerhalb bleibt
Ein großer Teil des KI-Einsatzes in Bildungseinrichtungen fällt unter keinen der vier Buchstaben. Unterrichtsvorbereitung, Materialerstellung, Übersetzung, Terminplanung und Verwaltungsaufgaben greifen weder in eine Zulassung noch in eine Bewertung ein.
Die Grenze verläuft an der Frage, ob das System über eine Person befindet. Ein Werkzeug, das Aufgaben erzeugt, tut das nicht. Ein Werkzeug, das Antworten benotet, tut es.
Für Systeme, mit denen Lernende direkt sprechen, gilt Artikel 50. Die betroffene Person muss erkennen können, dass sie mit einem KI-System interagiert. Diese Pflicht hängt nicht an der Risikostufe.
Die Betreiberrolle der Einrichtung
Bildungseinrichtungen entwickeln selten eigene Systeme. Sie kaufen ein und sind damit Betreiber. Der Pflichtenkatalog aus Artikel 26 trifft sie unmittelbar: bestimmungsgemäße Verwendung nach Betriebsanleitung, menschliche Aufsicht durch kompetente und befugte Personen, geeignete Eingabedaten, Aufbewahrung der Protokolle. Die Einzelheiten stehen im Beitrag zu Hochrisiko-KI-Systemen.
Ein Punkt verdient in der Bildung besondere Aufmerksamkeit. Artikel 26 Absatz 4 verlangt geeignete und repräsentative Eingabedaten, soweit sie der Kontrolle des Betreibers unterliegen. Wer ein Bewertungssystem mit Daten aus dem eigenen Haus betreibt, kann sich nicht auf den Anbieter berufen.
Die Grundrechte-Folgenabschätzung
Artikel 27 verlangt vor der Inbetriebnahme eines Hochrisiko-Systems nach Anhang III eine Abschätzung der Auswirkungen auf die Grundrechte. Die Pflicht trifft Betreiber, bei denen es sich um Einrichtungen des öffentlichen Rechts handelt, sowie private Einrichtungen, die öffentliche Dienste erbringen.
Für staatliche Schulen und Hochschulen ist die Antwort damit klar. Für Schulen in freier Trägerschaft und private Hochschulen kommt es darauf an, ob sie öffentliche Dienste erbringen. Diese Prüfung sollte dokumentiert werden, unabhängig davon, wie sie ausgeht.
Die Abschätzung erfasst unter anderem die Verfahren, in denen das System verwendet wird, Zeitraum und Häufigkeit der Nutzung, die betroffenen Personengruppen und die spezifischen Schadensrisiken.
Das Recht auf Erläuterung
Artikel 86 gibt Betroffenen ein Recht auf eine klare und aussagekräftige Erläuterung zur Rolle des KI-Systems in einer Entscheidung. Es greift bei Anhang-III-Systemen, wenn die Entscheidung rechtliche Auswirkungen hat oder die Person ähnlich erheblich beeinträchtigt.
In der Bildung sind das die harten Fälle: eine abgelehnte Zulassung, eine nicht bestandene Prüfung, ein Täuschungsvorwurf aus einem Aufsichtssystem. Wer solche Entscheidungen maschinell vorbereitet, sollte vorab klären, wer sie erklären kann.
Sanktionen
Verstöße gegen die Betreiberpflichten aus Artikel 26 fallen unter Artikel 99 Absatz 4. Für kleine und mittlere Unternehmen greift nach Absatz 6 jeweils der niedrigere der beiden dort genannten Werte. Die Systematik erklärt der Beitrag zu Bußgeldern und Sanktionen.
Für Artikel 4 selbst sieht die Verordnung keine eigene EU-Geldbuße vor. Sanktionen richten sich dort nach nationalem Recht.
Die KI-Kompetenz in der Bildungseinrichtung
Artikel 4 gilt seit dem 2. Februar 2025 und unabhängig von der Risikostufe. Er trifft Lehrkräfte, Prüfende und Verwaltung.
In der Bildung hat die Kompetenzpflicht eine doppelte Bedeutung. Sie richtet sich einerseits an die Beschäftigten, die mit den Systemen arbeiten. Andererseits ist Vermittlung von KI-Kompetenz an Lernende der Kern des Bildungsauftrags. Beides sollte nicht verwechselt werden: Artikel 4 verpflichtet die Einrichtung als Betreiberin, nicht als Lehranstalt.
Was Bildungseinrichtungen jetzt tun sollten
- Systeme erfassen und jede Funktion einzeln den vier Buchstaben zuordnen.
- Prüfungsaufsicht gesondert prüfen. Buchstabe d wird am häufigsten übersehen.
- Trägerschaft klären. Erbringen Sie öffentliche Dienste im Sinne von Artikel 27?
- Grundrechte-Folgenabschätzung ansetzen, bevor ein erfasstes System in Betrieb geht.
- Aufsicht mit Befugnis ausstatten. Wer eine Bewertung bestätigt, muss sie ändern dürfen.
- Erläuterungsfähigkeit herstellen für Zulassung, Bewertung und Täuschungsvorwürfe.
- Kompetenzaufbau dokumentieren.
Den Rahmen der Kompetenzpflicht erklärt der Leitfaden zu Artikel 4. Für die Umsetzung im Kollegium hilft KI-Schulung für Mitarbeiter.
Quelle: Verordnung (EU) 2024/1689, insbesondere Art. 4, Art. 26, Art. 27, Art. 50, Art. 86, Art. 99 und Anhang III Nr. 3.
Häufige Fragen
Ist KI in der Bildung hochriskant?+
Teilweise. Anhang III Nummer 3 benennt vier Anwendungen: die Feststellung von Zugang, Zulassung oder Zuweisung zu Bildungseinrichtungen, die Bewertung von Lernergebnissen, die Bewertung des angemessenen Bildungsniveaus sowie die Überwachung und Erkennung von verbotenem Verhalten bei Prüfungen. Andere Anwendungen fallen nicht unter diesen Punkt.
Ist digitale Prüfungsaufsicht hochriskant?+
Anhang III Nummer 3 Buchstabe d nennt Systeme zur Überwachung und Erkennung von verbotenem Verhalten von Schülern bei Prüfungen ausdrücklich. Wer eine Fernprüfung algorithmisch überwachen lässt, bewegt sich damit im Hochrisiko-Bereich.
Gilt das auch für Weiterbildung und Firmenschulungen?+
Anhang III Nummer 3 spricht von Einrichtungen aller Ebenen der allgemeinen und beruflichen Bildung. Die Vorschrift ist damit nicht auf Schule und Hochschule beschränkt. Entscheidend ist die Anwendung, nicht der Name des Anbieters.
Braucht eine Schule eine Grundrechte-Folgenabschätzung?+
Artikel 27 trifft Einrichtungen des öffentlichen Rechts sowie private Einrichtungen, die öffentliche Dienste erbringen, für Hochrisiko-Systeme nach Anhang III. Öffentliche Schulen und Hochschulen fallen darunter. Bei privaten Trägern kommt es auf die Erbringung öffentlicher Dienste an, nicht allein auf die Rechtsform.
Dürfen Lehrkräfte ChatGPT im Unterricht einsetzen?+
Der AI Act verbietet das nicht. Ein allgemeines Sprachmodell für Unterrichtsvorbereitung oder Materialerstellung steht in keinem Punkt von Anhang III Nummer 3. Sobald daraus eine Bewertung von Lernergebnissen wird, ändert sich die Einstufung. Die Kompetenzpflicht aus Artikel 4 gilt in beiden Fällen.
Quelle: Verordnung (EU) 2024/1689 (EU AI Act), EUR-Lex. Dieser Beitrag dient der allgemeinen Information und ersetzt keine Rechtsberatung.
Dieser Beitrag entstand mit Unterstützung durch KI und wurde vor der Veröffentlichung von einem Menschen geprüft. Wie wir KI einsetzen