Branche
KI in der Finanzbranche: EU AI Act für Banken und Finanzdienstleister
Banken und Finanzdienstleister nutzen KI von der Bonitätsprüfung bis zur Betrugserkennung. Der EU AI Act behandelt diese Fälle sehr unterschiedlich. Dieser Beitrag zeigt, was hochriskant ist und was nicht.
Die Finanzbranche war eine der ersten, die KI im großen Stil eingesetzt hat. Bonitätsprüfung, Betrugserkennung, Risikomodelle, Kundenservice: Überall steckt heute Automatisierung. Der EU AI Act behandelt diese Anwendungen sehr unterschiedlich. Eine ist klar hochriskant, andere sind es ausdrücklich nicht. Dieser Beitrag schafft Klarheit für Banken und Finanzdienstleister.
Welche Anwendungen hochriskant sind
Anhang III des AI Act benennt die Bewertung der Kreditwürdigkeit natürlicher Personen und die Bildung von Kredit-Scores ausdrücklich als Hochrisiko-Bereich. Der Grund ist nachvollziehbar: Hier entscheidet KI mit darüber, ob ein Mensch einen Kredit, eine Wohnung oder einen Mobilfunkvertrag bekommt. Das greift tief in die Lebensführung ein.
Bemerkenswert ist die Ausnahme im selben Punkt: KI, die ausschließlich der Aufdeckung von Finanzbetrug dient, ist von dieser Hochrisiko-Einstufung ausgenommen. Der Gesetzgeber wollte die Betrugsbekämpfung nicht erschweren.
Bonität gegen Betrug
Eine KI, die anhand der Daten eines Antragstellers dessen Kreditwürdigkeit bewertet, ist hochriskant, denn sie entscheidet über den Zugang zu einer wichtigen Leistung. Eine KI, die verdächtige Transaktionsmuster erkennt und auf möglichen Betrug hinweist, ist es nicht. Zwei Anwendungen im selben Haus, zwei völlig verschiedene Stufen.
Welche Pflichten gelten
Für die hochriskante Kreditprüfung verlangt der AI Act unter anderem eine wirksame menschliche Aufsicht, Transparenz und Maßnahmen gegen Diskriminierung. Gerade beim Scoring ist das zentral: Ein Modell, das auf verzerrten Daten beruht, kann bestimmte Gruppen systematisch benachteiligen. Eine nachvollziehbare, überprüfbare Entscheidung ist Pflicht und schützt zugleich vor Reputations- und Haftungsrisiken. Die allgemeinen Hochrisiko-Pflichten beschreibt der Beitrag zu Hochrisiko-KI-Systemen.
Die KI-Kompetenz im Finanzbetrieb
Unabhängig von der Risikostufe gilt die KI-Kompetenz-Pflicht aus Artikel 4 für alle, die mit den Systemen arbeiten, in der Kreditvergabe, im Risikomanagement oder im Kundenservice. Die Mitarbeiter müssen verstehen, wie ein Ergebnis zustande kommt und wann sie es nicht ungeprüft übernehmen dürfen.
Was Finanzdienstleister jetzt tun sollten
Verschaffen Sie sich einen Überblick, wo im Haus KI eingesetzt wird. Prüfen Sie, ob eine Anwendung die Kreditwürdigkeit von Personen bewertet; dann gelten die Hochrisiko-Pflichten. Stellen Sie für diese Fälle eine echte menschliche Aufsicht sicher. Und sorgen Sie für die KI-Kompetenz Ihres Teams und halten Sie die Schulung fest.
Den vollständigen Rahmen erklärt der Leitfaden zu Artikel 4. Wie die Sanktionen aussehen, lesen Sie unter Bußgelder und Sanktionen.
Häufige Fragen
Ist KI zur Kreditprüfung hochriskant?+
Ja. KI, die die Kreditwürdigkeit natürlicher Personen bewertet oder einen Kredit-Score bildet, zählt nach Anhang III zu den Hochrisiko-Systemen. Damit gelten strenge Pflichten wie menschliche Aufsicht und Maßnahmen gegen Diskriminierung.
Gilt das auch für Betrugserkennung?+
Nein. Der AI Act nimmt KI zur Aufdeckung von Finanzbetrug ausdrücklich von der Hochrisiko-Einstufung für Kreditwürdigkeit aus. Die KI-Kompetenz-Pflicht aus Artikel 4 gilt aber auch hier.
Was müssen Finanzdienstleister konkret tun?+
Erfassen, wo KI eingesetzt wird, prüfen ob eine Anwendung die Kreditwürdigkeit von Personen bewertet, für diese Fälle eine echte menschliche Aufsicht sicherstellen und die KI-Kompetenz der beteiligten Mitarbeiter herstellen und dokumentieren.
Quelle: Verordnung (EU) 2024/1689 (EU AI Act), EUR-Lex. Dieser Beitrag dient der allgemeinen Information und ersetzt keine Rechtsberatung.