KI in der Finanzbranche: EU AI Act für Banken

Die Finanzbranche hat KI früher eingesetzt als die meisten anderen Wirtschaftszweige. Bonitätsprüfung, Betrugserkennung, Risikomodelle, Kundenservice: Überall steckt heute Automatisierung. Der EU AI Act behandelt diese Anwendungen sehr unterschiedlich. Eine ist ausdrücklich hochriskant, zwei sind ausdrücklich ausgenommen, der Rest richtet sich nach dem Einzelfall.

Seit dem 2. August 2026 gelten die Hochrisiko-Vorschriften der Verordnung. Dieser Beitrag ordnet ein, was das für Banken, Kreditinstitute und Finanzdienstleister konkret bedeutet.

Was der AI Act als hochriskant einstuft

Anhang III Nummer 5 Buchstabe b nennt die Bewertung der Kreditwürdigkeit natürlicher Personen und die Bildung von Kredit-Scores ausdrücklich als Hochrisiko-Bereich. Die Begründung steht in den Erwägungsgründen: Solche Systeme bestimmen den Zugang zu Finanzmitteln und zu wesentlichen Dienstleistungen wie Wohnraum, Elektrizität und Telekommunikation. Der Gesetzgeber sah dort ein reales Diskriminierungsrisiko, auch die Fortschreibung historischer Muster.

Zwei Ausnahmen stehen im selben Regelwerk. KI, die der Aufdeckung von Finanzbetrug dient, ist von der Hochrisiko-Einstufung ausgenommen. Ebenso ausgenommen sind Systeme, die nach Unionsrecht für Aufsichtszwecke die Eigenkapitalanforderungen von Kreditinstituten und Versicherungsunternehmen berechnen. Beide Ausnahmen sind eng gefasst und beziehen sich auf den Zweck des Systems, nicht auf die Abteilung, die es betreibt.

Die Ausnahme, die beim Scoring nicht greift

Artikel 6 Absatz 3 enthält eine Erleichterung, auf die sich viele Häuser hoffnungsvoll berufen. Ein in Anhang III genanntes System gilt danach nicht als hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt. Die Vorschrift nennt vier Fälle, etwa eine eng gefasste Verfahrensaufgabe oder eine rein vorbereitende Tätigkeit.

Der letzte Unterabsatz derselben Vorschrift zieht diese Hoffnung für den Kreditbereich zurück. Ungeachtet der vier Fälle gilt ein Anhang-III-System immer dann als hochriskant, wenn es ein Profiling natürlicher Personen vornimmt. Kredit-Scoring ist seiner Natur nach Profiling. Die Ausnahme läuft hier praktisch leer.

Welche Pflichten Betreiber treffen

Die meisten Banken entwickeln ihre Scoring-Systeme nicht selbst, sondern kaufen sie ein. Damit sind sie Betreiber im Sinne der Verordnung, nicht Anbieter. Artikel 26 fasst zusammen, was das bedeutet.

• Menschliche Aufsicht durch geeignete Personen. Absatz 2 verlangt, die Aufsicht natürlichen Personen zu übertragen, die über die erforderliche Kompetenz, Ausbildung und Befugnis verfügen. Das ist die direkte Brücke zur Schulungspflicht aus Artikel 4.
• Betrieb nach Betriebsanleitung. Absatz 1 verlangt geeignete technische und organisatorische Maßnahmen, damit das System bestimmungsgemäß verwendet wird.
• Geeignete Eingabedaten. Absatz 4 verpflichtet Betreiber dazu, dass die Eingabedaten der Zweckbestimmung entsprechen und ausreichend repräsentativ sind, soweit sie ihrer Kontrolle unterliegen.
• Protokolle aufbewahren. Die automatisch erzeugten Protokolle sind aufzubewahren. Für Finanzinstitute ordnet die Verordnung dies als Teil der Dokumentation an, die ohnehin nach dem Finanzdienstleistungsrecht zu führen ist.

Die allgemeinen Anforderungen an Hochrisiko-Systeme beschreibt der Beitrag zu Hochrisiko-KI-Systemen.

Die Grundrechte-Folgenabschätzung

Für Kredit-Scoring kommt eine Pflicht hinzu, die viele Häuser übersehen. Artikel 27 verlangt eine Abschätzung der Auswirkungen auf die Grundrechte, und zwar vor der Inbetriebnahme. Sie trifft Einrichtungen des öffentlichen Rechts, private Erbringer öffentlicher Dienste und ausdrücklich die Betreiber von Systemen nach Anhang III Nummer 5 Buchstaben b und c. Kreditwürdigkeitsprüfung ist Buchstabe b.

Die Abschätzung beschreibt unter anderem die Verfahren, in denen das System eingesetzt wird, den Zeitraum und die Häufigkeit der Nutzung, die betroffenen Personengruppen sowie die spezifischen Schadensrisiken. Sie ist damit mehr als eine Formalie und knüpft inhaltlich an die Diskriminierungsfrage an, die dem Gesetzgeber den Anlass für die Einstufung gab.

Was für Bestandssysteme gilt

Ein Punkt entschärft die Lage für viele Häuser erheblich. Nach Artikel 111 Absatz 2 gilt die Verordnung für Betreiber von Hochrisiko-Systemen, die vor dem 2. August 2026 in Verkehr gebracht oder in Betrieb genommen wurden, nur dann, wenn diese Systeme danach in ihrer Konzeption erheblich verändert werden. Ein seit Jahren laufendes Scoring-Modell fällt also nicht automatisch unter die neuen Pflichten.

Zwei Einschränkungen gehören dazu. Erstens löst jede erhebliche Änderung der Konzeption die volle Anwendung aus. Zweitens gilt die Kompetenzpflicht aus Artikel 4 ohnehin seit dem 2. Februar 2025, unabhängig von Alter und Risikostufe des Systems.

Sanktionen: was tatsächlich im Gesetz steht

Hier lohnt Genauigkeit, denn im Netz kursieren beliebige Zahlen. Verstöße gegen die Betreiberpflichten aus Artikel 26 sind in Artikel 99 Absatz 4 aufgeführt. Der dortige Rahmen liegt bei bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen gilt nach Absatz 6 der jeweils niedrigere Wert.

Artikel 4 steht in dieser Aufzählung nicht. Für die reine Kompetenzpflicht gibt es keine eigene EU-Geldbuße. Sanktionen ergeben sich dort aus nationalem Recht. Die Einzelheiten stehen im Beitrag zu Bußgeldern und Sanktionen.

Die KI-Kompetenz im Finanzbetrieb

Unabhängig von der Risikostufe gilt Artikel 4 für alle, die mit den Systemen arbeiten, in der Kreditvergabe, im Risikomanagement, in der Betrugsabwehr und im Kundenservice. Im Hochrisiko-Bereich verschärft sich die Anforderung zusätzlich, denn Artikel 26 Absatz 2 verlangt für die Aufsichtspersonen ausdrücklich Kompetenz und Ausbildung.

Praktisch heißt das: Wer eine Scoring-Empfehlung freigibt, muss verstehen, wie sie zustande kommt, welche Verzerrungen im Modell stecken können und wann ein Ergebnis nicht ungeprüft übernommen werden darf. Ein Nachweis darüber ist nicht vorgeschrieben, aber er macht die Maßnahme prüfbar.

Was Finanzdienstleister jetzt tun sollten

1. Bestand erfassen. Wo im Haus arbeitet KI, offiziell wie inoffiziell? Erfahrungsgemäß taucht dabei mehr auf als erwartet.
2. Zweck je System bestimmen. Bewertet es Kreditwürdigkeit, deckt es Betrug auf, dient es der Eigenkapitalberechnung? Der Zweck entscheidet über die Einstufung, nicht die Abteilung.
3. Profiling prüfen. Wo natürliche Personen profiliert werden, ist die Ausnahme aus Artikel 6 Absatz 3 versperrt.
4. Für Scoring die Grundrechte-Folgenabschätzung ansetzen. Sie gehört vor die Inbetriebnahme.
5. Aufsicht personell klären. Wer beaufsichtigt welches System, und ist diese Person dafür geschult und befugt?
6. Änderungen an Bestandssystemen bewerten. Jede erhebliche Konzeptionsänderung holt das System in die volle Regelung.
7. Kompetenzaufbau dokumentieren. Wer wurde wann worin geschult?

Den Rahmen der Kompetenzpflicht erklärt der Leitfaden zu Artikel 4. Wie sich die Anforderungen im Team umsetzen lassen, steht unter KI-Schulung für Mitarbeiter.

Quelle: Verordnung (EU) 2024/1689, insbesondere Art. 4, Art. 6, Art. 26, Art. 27, Art. 99, Art. 111, Art. 113 und Anhang III Nr. 5.