KI im Gesundheitswesen: EU AI Act für Praxis und Klinik

Im Gesundheitswesen trifft der EU AI Act auf ein Feld, das bereits reguliert ist. Daraus folgt eine Besonderheit, die es in keiner anderen Branche in dieser Form gibt: Zwei voneinander unabhängige Vorschriften können dasselbe System zum Hochrisiko-System machen, und sie lösen nicht dieselben Pflichten aus.

Seit dem 2. August 2026 gelten die Hochrisiko-Vorschriften. Dieser Beitrag trennt die beiden Wege und zeigt, was jeweils daraus folgt.

Weg 1: über das Medizinprodukterecht

Artikel 6 Absatz 1 knüpft an die Produktsicherheit an. Ein KI-System gilt als hochriskant, wenn zwei Bedingungen zusammenkommen. Erstens muss das System als Sicherheitsbauteil eines Produkts dienen, das unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften fällt, oder selbst ein solches Produkt sein. Zu diesen Vorschriften gehört das Medizinprodukterecht.

Zweitens, und dieser Punkt wird oft überlesen, muss das Produkt eine Konformitätsbewertung durch Dritte durchlaufen. Beide Bedingungen müssen erfüllt sein.

Daraus folgt eine Abgrenzung, die nicht im AI Act selbst steht, sondern im Medizinprodukterecht: Wo dort keine benannte Stelle eingeschaltet werden muss, ist die zweite Bedingung nicht erfüllt. Für eigenständige medizinische Software führt die Klassifizierung allerdings regelmäßig in eine Klasse mit Beteiligung einer benannten Stelle. Die Einstufungsfrage ist damit zuerst eine des Medizinprodukterechts und erst danach eine des AI Act.

Weg 2: über Anhang III

Der zweite Weg läuft über Artikel 6 Absatz 2 und den Katalog in Anhang III. Für das Gesundheitswesen ist vor allem Nummer 5 Buchstabe d einschlägig. Er erfasst KI-Systeme für die Bewertung und Klassifizierung von Notrufen natürlicher Personen, für die Entsendung oder Priorisierung des Einsatzes von Not- und Rettungsdiensten sowie Systeme für die Triage von Patienten bei der Notfallversorgung.

Erwägungsgrund 58 nennt den Grund. Diese Systeme treffen Entscheidungen in Situationen, die für Leben, Gesundheit und Eigentum sehr kritisch sind.

Daneben kann Nummer 5 Buchstabe a greifen. Er erfasst Systeme, die von Behörden oder in deren Namen beurteilen, ob natürliche Personen Anspruch auf grundlegende öffentliche Unterstützungsleistungen haben, ausdrücklich einschließlich Gesundheitsdiensten. Diese Vorschrift zielt auf die Leistungsseite, nicht auf die Behandlung.

Warum die Unterscheidung praktisch zählt

Beide Wege führen zum selben Pflichtenkatalog für Betreiber aus Artikel 26. Er verlangt die bestimmungsgemäße Verwendung nach Betriebsanleitung, die menschliche Aufsicht durch befugte und kompetente Personen, geeignete Eingabedaten und die Aufbewahrung der Protokolle. Die Einzelheiten stehen im Beitrag zu Hochrisiko-KI-Systemen.

Bei einer Pflicht laufen die Wege jedoch auseinander. Artikel 27 verlangt die Grundrechte-Folgenabschätzung vor der Inbetriebnahme eines Hochrisiko-KI-Systems gemäß Artikel 6 Absatz 2. Das ist der Anhang-III-Weg. Systeme, die allein über Artikel 6 Absatz 1 hochriskant werden, nennt die Vorschrift nicht.

Wen sie trifft, steht ebenfalls in Artikel 27 Absatz 1: Einrichtungen des öffentlichen Rechts und private Einrichtungen, die öffentliche Dienste erbringen. Ein Krankenhaus in privater Trägerschaft, das öffentliche Versorgungsaufträge erfüllt, sollte diese Formulierung sorgfältig prüfen. Die Rechtsform allein entscheidet nicht.

Praktisch bedeutet das: Eine Klinik, die diagnostische Software einsetzt, erfüllt Artikel 26. Setzt dieselbe Klinik zusätzlich ein Triage-System ein, kommt Artikel 27 hinzu.

Was außerhalb bleibt

Vieles im Praxis- und Klinikalltag fällt unter keinen der beiden Wege. Diktat und Arztbrieferstellung, Terminkoordination, Abrechnungsunterstützung und Materialdisposition greifen nicht in eine medizinische Entscheidung ein und stehen in keinem Punkt von Anhang III.

Für Systeme, die direkt mit Patienten interagieren, gilt trotzdem Artikel 50. Wer einen Chatbot einsetzt, muss dafür sorgen, dass die Person erkennt, dass sie mit einem KI-System spricht. Diese Transparenzpflicht hängt nicht an der Risikostufe.

Menschliche Aufsicht in der Versorgung

Artikel 26 Absatz 2 verlangt, die Aufsicht Personen zu übertragen, die dafür Kompetenz, Ausbildung und Befugnis besitzen. In der Medizin klingt das selbstverständlich, weil die ärztliche Letztverantwortung ohnehin gilt.

Der kritische Punkt liegt woanders. Automatisierungsbias beschreibt die Neigung, einem Systemvorschlag stärker zu vertrauen als der eigenen Einschätzung. Genau darauf zielt die Anforderung an Kompetenz. Wer die Fehlerarten eines Systems nicht kennt, kann seinen Vorschlägen nicht begründet widersprechen.

Datenschutz gilt unverändert weiter

Gesundheitsdaten zählen nach der Datenschutz-Grundverordnung zu den besonderen Kategorien personenbezogener Daten. Der AI Act tritt daneben und lässt sie unberührt. Nach Artikel 26 Absatz 9 dürfen Betreiber die Informationen aus Artikel 13 verwenden, um ihrer Pflicht zur Datenschutz-Folgenabschätzung nachzukommen. Beide Prüfungen lassen sich verbinden, ersetzen einander aber nicht.

Sanktionen

Verstöße gegen die Betreiberpflichten aus Artikel 26 fallen unter Artikel 99 Absatz 4. Für kleine und mittlere Unternehmen greift nach Absatz 6 jeweils der niedrigere der beiden dort genannten Werte. Eine Praxis ist damit regelmäßig erfasst. Die Systematik erklärt der Beitrag zu Bußgeldern und Sanktionen.

Für Artikel 4 selbst sieht die Verordnung keine eigene EU-Geldbuße vor. Sanktionen richten sich dort nach nationalem Recht.

Die KI-Kompetenz im Gesundheitsbetrieb

Artikel 4 gilt seit dem 2. Februar 2025, unabhängig von Risikostufe und Betriebsgröße. Er trifft ärztliches Personal, Pflege und Verwaltung gleichermaßen.

Der Maßstab richtet sich nach der Aufgabe. Wer einen Befundvorschlag beurteilt, braucht ein anderes Verständnis als wer ein Diktatwerkzeug bedient. Beide brauchen es.

Was Praxen und Kliniken jetzt tun sollten

1. Systeme erfassen, medizinisch und administrativ, jede Funktion einzeln.
2. Weg 1 prüfen. Ist die Software ein Medizinprodukt, und verlangt ihre Klasse eine benannte Stelle?
3. Weg 2 prüfen. Berührt ein System Notrufbewertung, Rettungsdisposition oder Triage?
4. Trägerschaft klären. Erbringen Sie öffentliche Dienste im Sinne von Artikel 27? Dann kommt bei Weg 2 die Grundrechte-Folgenabschätzung hinzu.
5. Aufsicht besetzen und die Befugnis zum Widerspruch ausdrücklich festhalten.
6. Transparenz sichern, wo Patienten direkt mit einem System sprechen.
7. Kompetenzaufbau dokumentieren.

Den Rahmen der Kompetenzpflicht erklärt der Leitfaden zu Artikel 4. Für die Umsetzung im Team hilft KI-Schulung für Mitarbeiter.

Quelle: Verordnung (EU) 2024/1689, insbesondere Art. 4, Art. 6, Art. 26, Art. 27, Art. 50, Art. 99, Erwägungsgrund 58, Anhang I und Anhang III Nr. 5.