KI in der öffentlichen Verwaltung: EU AI Act für Behörden

Für Behörden gilt der EU AI Act in einem entscheidenden Punkt strenger als für Unternehmen. Nicht weil andere Systeme erfasst wären, sondern weil an dieselbe Einstufung eine zusätzliche Pflicht geknüpft ist. Sie heißt Grundrechte-Folgenabschätzung und trifft die öffentliche Hand nahezu flächendeckend.

Seit dem 2. August 2026 gelten die Hochrisiko-Vorschriften. Die Verbote aus Artikel 5 gelten bereits seit dem 2. Februar 2025.

Die Grundrechte-Folgenabschätzung ist der Unterschied

Artikel 27 Absatz 1 benennt zwei Gruppen von Betreibern. Die erste sind Einrichtungen des öffentlichen Rechts und private Einrichtungen, die öffentliche Dienste erbringen. Die zweite sind Betreiber von Systemen nach Anhang III Nummer 5 Buchstaben b und c.

Der Unterschied liegt in der Reichweite. Für die zweite Gruppe ist die Pflicht auf zwei eng umrissene Anwendungen begrenzt, nämlich Kreditwürdigkeitsprüfung sowie Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung. Für die erste Gruppe gilt sie bei jedem Hochrisiko-System nach Artikel 6 Absatz 2. Ausgenommen ist allein der Bereich aus Anhang III Nummer 2, also kritische Infrastruktur.

Eine Behörde, die ein Auswahlsystem im Personalbereich einsetzt, muss die Abschätzung deshalb durchführen. Ein privates Unternehmen mit demselben System muss es nicht. Die Parallele erklärt der Beitrag zu KI im Recruiting.

Anspruchsprüfung bei öffentlichen Leistungen

Der für die Verwaltung wichtigste Tatbestand steht in Anhang III Nummer 5 Buchstabe a. Er erfasst KI-Systeme, die bestimmungsgemäß von Behörden oder im Namen von Behörden verwendet werden, um zu beurteilen, ob natürliche Personen Anspruch auf grundlegende öffentliche Unterstützungsleistungen und -dienste haben, einschließlich Gesundheitsdiensten.

Der Wortlaut geht über die Bewilligung hinaus. Erfasst ist auch die Frage, ob Leistungen einzuschränken, zu widerrufen oder zurückzufordern sind. Die Rückforderungsseite wird bei der Bestandsaufnahme regelmäßig vergessen, obwohl gerade dort automatisierte Auffälligkeitsprüfungen verbreitet sind.

Die Formulierung „von Behörden oder im Namen von Behörden" schließt beauftragte Dienstleister ein. Eine Auslagerung ändert an der Einstufung nichts.

Das Verbot der sozialen Bewertung

Artikel 5 verbietet bestimmte Praktiken vollständig. Für die Verwaltung ist das Verbot der sozialen Bewertung einschlägig. Erwägungsgrund 31 beschreibt den erfassten Fall: Systeme, die Personen über einen Zeitraum anhand zahlreicher Datenpunkte zu ihrem sozialen Verhalten oder zu vermuteten Persönlichkeitsmerkmalen bewerten.

Verboten ist eine solche Bewertung, wenn sie zu einer Schlechterstellung in sozialen Zusammenhängen führt, die mit den Umständen der ursprünglichen Datenerhebung nichts zu tun haben, oder wenn die Schlechterstellung im Verhältnis zum bewerteten Verhalten unverhältnismäßig ist.

Ebenso wichtig ist die Kehrseite. Derselbe Erwägungsgrund stellt klar, dass rechtmäßige Bewertungspraktiken unberührt bleiben, sofern sie im Einklang mit Unionsrecht und nationalem Recht zu einem bestimmten Zweck erfolgen. Eine gesetzlich geregelte Bedürftigkeitsprüfung ist kein Social Scoring. Der Unterschied liegt in Zweckbindung und Verhältnismäßigkeit, nicht in der Verwendung von Daten.

Verstöße gegen Artikel 5 fallen unter die höchste Bußgeldstufe der Verordnung, Artikel 99 Absatz 3.

Die Betreiberpflichten

Neben der Abschätzung gilt der allgemeine Katalog aus Artikel 26: bestimmungsgemäße Verwendung nach Betriebsanleitung, menschliche Aufsicht durch Personen mit Kompetenz und Befugnis, geeignete Eingabedaten und Aufbewahrung der Protokolle. Die Einzelheiten stehen im Beitrag zu Hochrisiko-KI-Systemen.

In der Verwaltung verdient die Aufsicht besondere Beachtung. Ein Systemvorschlag, der in einen Bescheid mündet, braucht eine Person, die ihm begründet widersprechen darf. Ohne diese Befugnis entsteht eine Entscheidung, die formal von einem Menschen stammt und tatsächlich nicht.

Wer als Beschäftigter mit einem Hochrisiko-System arbeitet, ist zugleich Betroffener von Artikel 26 Absatz 7. Setzt eine Behörde ein solches System am Arbeitsplatz ein, muss sie die Personalvertretung und die betroffenen Beschäftigten vorher informieren.

Das Recht auf Erläuterung

Artikel 86 gibt betroffenen Personen ein Recht auf eine klare und aussagekräftige Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess. Es greift bei Entscheidungen auf Grundlage eines Anhang-III-Systems mit rechtlichen Auswirkungen.

Ein Verwaltungsakt hat regelmäßig rechtliche Auswirkungen. Behörden sollten deshalb früh klären, wie sich die Rolle eines Systems im Einzelfall darstellen lässt. Die Begründungspflicht des Verwaltungsverfahrensrechts bleibt daneben bestehen.

Die KI-Kompetenz in der Behörde

Artikel 4 gilt seit dem 2. Februar 2025, unabhängig von Risikostufe und Behördengröße. Er trifft Sachbearbeitung, Fachaufsicht und IT gleichermaßen.

Für die Verwaltung kommt ein eigener Grund hinzu. Wer einen Bescheid verantwortet, muss erklären können, worauf er beruht. Diese Anforderung ergibt sich schon aus dem Verwaltungsrecht. Artikel 4 verlangt die Kompetenz, die dafür nötig ist.

Was Behörden jetzt tun sollten

1. Systeme erfassen, einschließlich der von Dienstleistern betriebenen. „Im Namen von Behörden" zählt mit.
2. Nach Anhang III einordnen, Leistungsgewährung und Rückforderung getrennt betrachten.
3. Artikel-5-Prüfung voranstellen. Verbotene Praktiken lassen sich nicht durch Dokumentation heilen.
4. Grundrechte-Folgenabschätzung ansetzen für jedes erfasste System außerhalb von Anhang III Nummer 2.
5. Personalvertretung informieren, bevor ein System am Arbeitsplatz in Betrieb geht.
6. Aufsicht mit Widerspruchsbefugnis ausstatten und diese schriftlich festhalten.
7. Kompetenzaufbau dokumentieren.

Den Rahmen der Kompetenzpflicht erklärt der Leitfaden zu Artikel 4. Für die Umsetzung im Haus hilft KI-Schulung für Mitarbeiter. Die Bußgeldsystematik erklärt der Beitrag zu Bußgeldern und Sanktionen.

Quelle: Verordnung (EU) 2024/1689, insbesondere Art. 4, Art. 5, Art. 26, Art. 27, Art. 86, Art. 99, Art. 113, Erwägungsgrund 31 und Anhang III Nr. 5.