Branche
KI in der öffentlichen Verwaltung: EU AI Act für Behörden
Behörden setzen KI zunehmend ein, von der Bürgerkommunikation bis zur Bearbeitung von Anträgen. Manche dieser Anwendungen sind hochriskant, einige sogar verboten. Dieser Beitrag ordnet ein, was für die öffentliche Verwaltung gilt.
Auch die öffentliche Verwaltung setzt zunehmend auf KI, um Verfahren zu beschleunigen und Bürger besser zu erreichen. Weil staatliches Handeln Menschen unmittelbar betrifft, schaut der EU AI Act hier besonders genau hin. Manche Anwendungen sind hochriskant, einige sind sogar ganz verboten. Dieser Beitrag ordnet ein, was für Behörden gilt.
Welche Anwendungen hochriskant sind
Anhang III des AI Act erfasst KI, mit der Behörden über den Zugang zu wichtigen öffentlichen Leistungen entscheiden. Dazu gehört insbesondere die Prüfung, ob Menschen Anspruch auf Sozialleistungen haben, sowie deren Gewährung, Kürzung oder Entzug. Hier entscheidet KI über existenzielle Fragen, deshalb die strenge Einstufung. Ähnlich sensibel sind KI-Systeme, die über den Einsatz von Not- und Rettungsdiensten mitentscheiden.
Viele Verwaltungsanwendungen sind dagegen nicht hochriskant. Ein Werkzeug zur internen Dokumentenverarbeitung, ein Chatbot, der allgemeine Fragen von Bürgern beantwortet, oder eine einfache Automatisierung von Routineabläufen bewegt sich meist im Bereich des begrenzten oder minimalen Risikos.
Eine klare Grenze: verbotene Praktiken
Eine Besonderheit gilt für den Staat. Die soziale Bewertung von Menschen durch Behörden, also das Bewerten und Einstufen von Bürgern anhand ihres Verhaltens, gehört zu den verbotenen KI-Praktiken aus Artikel 5. Sie ist seit dem 2. Februar 2025 untersagt. Hier geht es nicht um Auflagen, sondern um eine harte Grenze.
Hochriskant ist nicht gleich verboten
Eine KI, die prüft, ob jemand Anspruch auf eine Sozialleistung hat, ist hochriskant, aber erlaubt, sofern die Pflichten erfüllt werden. Eine KI, die Bürger allgemein nach ihrem Verhalten bewertet und einstuft, ist verboten. Diese Unterscheidung ist für die Verwaltung zentral.
Welche Pflichten gelten
Für die hochriskanten Anwendungen verlangt der AI Act unter anderem eine wirksame menschliche Aufsicht, Transparenz und Nachvollziehbarkeit. Bei Entscheidungen über Leistungen ist die menschliche Letztverantwortung besonders wichtig, denn die Folgen für die Betroffenen sind erheblich. Die allgemeinen Hochrisiko-Pflichten beschreibt der Beitrag zu Hochrisiko-KI-Systemen.
Die KI-Kompetenz in der Behörde
Die KI-Kompetenz-Pflicht aus Artikel 4 gilt auch für öffentliche Stellen. Die Beschäftigten, die mit KI-Systemen arbeiten, müssen verstehen, wie ein Ergebnis zustande kommt, wo die Grenzen liegen und wann eine Entscheidung kritisch zu prüfen ist. Bei hoheitlichem Handeln ist dieses Verständnis nicht verhandelbar.
Was Behörden jetzt tun sollten
Erfassen Sie, wo KI eingesetzt wird. Prüfen Sie, ob eine Anwendung über den Anspruch auf öffentliche Leistungen entscheidet; dann gelten die Hochrisiko-Pflichten. Stellen Sie sicher, dass keine verbotene Praxis wie soziale Bewertung zum Einsatz kommt. Und sorgen Sie für die KI-Kompetenz der Beschäftigten und dokumentieren Sie die Schulung.
Einen Überblick über die Risikostufen gibt der Beitrag EU AI Act einfach erklärt. Den rechtlichen Rahmen erklärt der Leitfaden zu Artikel 4.
Häufige Fragen
Ist KI in der Verwaltung hochriskant?+
Teilweise. KI, mit der Behörden über den Anspruch auf wichtige öffentliche Leistungen entscheiden, etwa Sozialleistungen, zählt nach Anhang III zu den Hochrisiko-Systemen. Verwaltungsinterne Hilfsmittel wie Dokumentenverarbeitung sind meist nicht hochriskant.
Was ist mit Social Scoring durch Behörden?+
Das ist verboten. Die soziale Bewertung von Menschen durch Behörden gehört zu den verbotenen KI-Praktiken aus Artikel 5 und ist seit dem 2. Februar 2025 untersagt.
Gilt die KI-Kompetenz-Pflicht auch für Behörden?+
Ja. Auch öffentliche Stellen sind Betreiber im Sinne der Verordnung. Die KI-Kompetenz-Pflicht aus Artikel 4 gilt für die Beschäftigten, die mit KI-Systemen arbeiten.
Quelle: Verordnung (EU) 2024/1689 (EU AI Act), EUR-Lex. Dieser Beitrag dient der allgemeinen Information und ersetzt keine Rechtsberatung.