Branche
KI im Gesundheitswesen: Was der EU AI Act für Praxen und Kliniken bedeutet
Im Gesundheitswesen trifft der EU AI Act auf ein ohnehin streng reguliertes Feld. KI als Medizinprodukt ist hochriskant, viele administrative Anwendungen sind es nicht. Dieser Beitrag ordnet ein, was für Praxen, Kliniken und Pflege gilt.
Im Gesundheitswesen trifft der EU AI Act auf ein Feld, das ohnehin streng reguliert ist. Das hat einen Vorteil: Viele Einrichtungen sind den Umgang mit Vorschriften gewohnt. Es hat aber auch eine Tücke: KI in der Medizin berührt schnell die sensibelsten Bereiche, Gesundheit und körperliche Unversehrtheit. Dieser Beitrag zeigt, was für Praxen, Kliniken und Pflegeeinrichtungen gilt.
Welche Anwendungen hochriskant sind
Der wichtigste Hochrisiko-Fall im Gesundheitswesen führt über die Produktsicherheit. KI, die als Medizinprodukt eingesetzt wird, etwa Software zur Auswertung von Bildgebung, zur Diagnoseunterstützung oder zur Therapieentscheidung, unterliegt bereits den strengen Regeln für Medizinprodukte. Solche Systeme gelten nach dem AI Act in der Regel als hochriskant. Hinzu kommen Anwendungen, die über den Zugang zu wichtigen Gesundheitsleistungen mitentscheiden, etwa bei der Triage.
Vieles, was im Praxis- und Klinikalltag an KI genutzt wird, fällt dagegen nicht in diese Kategorie. Ein Werkzeug, das Arztbriefe vorformuliert, Gespräche transkribiert, Termine koordiniert oder die Abrechnung unterstützt, bewegt sich meist im Bereich des begrenzten oder minimalen Risikos.
Diagnose gegen Dokumentation
Eine KI, die Röntgenbilder auf Auffälligkeiten prüft und dem Arzt einen Befundvorschlag macht, wirkt unmittelbar an einer medizinischen Entscheidung mit und ist hochriskant. Eine KI, die das Diktat des Arztes in einen strukturierten Bericht überträgt, ist es nicht. Derselbe Betrieb, zwei völlig verschiedene Stufen.
Welche Pflichten gelten
Bei hochriskanter medizinischer KI verlangt der AI Act unter anderem eine wirksame menschliche Aufsicht, Genauigkeit und Robustheit sowie Transparenz. In der Medizin versteht sich die menschliche Letztentscheidung von selbst: Die KI unterstützt, der Mensch entscheidet und verantwortet. Die allgemeinen Hochrisiko-Pflichten beschreibt der Beitrag zu Hochrisiko-KI-Systemen.
Besonders wichtig ist der Datenschutz. Gesundheitsdaten gehören zu den am stärksten geschützten Datenkategorien der DSGVO. Der AI Act tritt neben diese Anforderungen, er ersetzt sie nicht. Beim KI-Einsatz müssen Sie beides zusammen denken.
Die KI-Kompetenz im Gesundheitsbetrieb
Die KI-Kompetenz-Pflicht aus Artikel 4 gilt unabhängig von der Risikostufe für alle, die mit KI arbeiten, vom ärztlichen Personal bis zur Verwaltung. Sie müssen verstehen, wie ein Ergebnis zustande kommt, wo die Grenzen liegen und wann ein Vorschlag kritisch zu prüfen ist. Gerade in der Patientenversorgung ist dieses Verständnis nicht verhandelbar.
Was Praxen und Kliniken jetzt tun sollten
Verschaffen Sie sich einen Überblick, wo im Betrieb KI genutzt wird, medizinisch wie administrativ. Prüfen Sie, ob eine Anwendung als Medizinprodukt eingestuft ist oder über den Zugang zu Leistungen mitentscheidet; dann gelten die Hochrisiko-Pflichten. Sorgen Sie für die KI-Kompetenz Ihres Teams und dokumentieren Sie die Schulung.
Wie Sie das im Team umsetzen, lesen Sie unter KI-Schulung für Mitarbeiter. Den rechtlichen Rahmen erklärt der Leitfaden zu Artikel 4.
Häufige Fragen
Ist KI im Gesundheitswesen hochriskant?+
Es kommt auf die Anwendung an. KI, die als Medizinprodukt eingesetzt wird, etwa zur Diagnose oder Therapieentscheidung, gilt in der Regel als hochriskant. Administrative KI für Dokumentation oder Terminplanung ist das meist nicht.
Gilt der AI Act auch für kleine Arztpraxen?+
Ja. Eine Ausnahme nach Größe gibt es nicht. Auch eine kleine Praxis, die KI nutzt, muss für die KI-Kompetenz der beteiligten Personen sorgen. Die schweren Hochrisiko-Pflichten greifen nur bei den entsprechenden Anwendungen, etwa diagnostischer KI.
Was ist mit dem Datenschutz bei Gesundheitsdaten?+
Gesundheitsdaten sind nach DSGVO besonders geschützt. Der AI Act tritt neben den Datenschutz, er ersetzt ihn nicht. Beim KI-Einsatz im Gesundheitswesen müssen Sie beide Anforderungen zusammen denken.
Quelle: Verordnung (EU) 2024/1689 (EU AI Act), EUR-Lex. Dieser Beitrag dient der allgemeinen Information und ersetzt keine Rechtsberatung.