Hochrisiko-KI in der Medizin: AI Act trifft MDR

Kaum ein Sektor ist so dicht reguliert wie das Gesundheitswesen — und kaum ein Sektor setzt KI heute so breit ein: von der Bildbefundung in der Radiologie über Triage-Assistenz und Sepsis-Frühwarnung bis zur Auswertung von Laborwerten. Für die Einordnung nach dem EU AI Act ist entscheidend, dass viele dieser Systeme nicht über den bekannten Anhang III zur Hochrisiko-KI werden, sondern über einen zweiten, oft unterschätzten Weg: Anhang I der Verordnung (EU) 2024/1689.

Wer die Medizin-KI nur durch die Brille des Anhangs III betrachtet, übersieht deshalb die Hälfte der Pflichten. Denn im Gesundheitswesen greifen zwei Regelwerke ineinander, die getrennt entstanden sind, aber denselben Nachweis verlangen: die KI-Verordnung und das Medizinprodukterecht.

Der zweite Weg zur Hochrisiko-KI: Anhang I

Der EU AI Act kennt zwei Türen zur Hochrisiko-Einstufung. Die erste führt über Anhang III — eigenständige KI-Systeme in gelisteten Anwendungsbereichen wie Beschäftigung, Strafverfolgung oder Biometrie. Die zweite Tür beschreibt Artikel 6 Absatz 1: Ein KI-System gilt als hochriskant, wenn es entweder selbst ein Produkt ist oder als Sicherheitsbauteil eines Produkts dient, das unter eine der in Anhang I gelisteten Harmonisierungsrechtsvorschriften der Union fällt — und wenn dieses Produkt einer Konformitätsbewertung durch Dritte unterzogen werden muss.

Genau hier landet die Medizin-KI. Anhang I nennt unter anderem die Medizinprodukteverordnung (EU) 2017/745 (MDR) und die In-vitro-Diagnostika-Verordnung (EU) 2017/746 (IVDR). Eine KI-basierte Diagnosesoftware, die als Medizinprodukt in Verkehr gebracht wird und für die eine Benannte Stelle eingeschaltet werden muss, erfüllt damit beide Bedingungen des Artikels 6 Absatz 1 — sie ist Hochrisiko-KI, unabhängig davon, ob sie in Anhang III auftaucht.

Das ist keine akademische Feinheit. Viele Software-as-a-Medical-Device-Produkte (SaMD) fallen ab MDR-Risikoklasse IIa aufwärts unter die Pflicht zur Drittbewertung. Für sie öffnet sich damit automatisch das volle Pflichtenprogramm des EU AI Act für Hochrisiko-Systeme.

Was die KI-Verordnung zusätzlich verlangt

Anbieter kennen aus der MDR bereits ein Qualitätsmanagementsystem, eine technische Dokumentation, klinische Bewertung und Post-Market-Surveillance. Der EU AI Act legt darüber eine eigene Anforderungsschicht für die KI-spezifischen Risiken. Dazu gehören insbesondere ein Risikomanagementsystem über den gesamten Lebenszyklus (Art. 9), Anforderungen an Daten und Daten-Governance mit Blick auf Repräsentativität und Bias (Art. 10), die technische Dokumentation nach Anhang IV (Art. 11), automatische Protokollierung von Ereignissen (Art. 12), Transparenz gegenüber den Betreibern (Art. 13), wirksame menschliche Aufsicht (Art. 14) sowie Genauigkeit, Robustheit und Cybersicherheit (Art. 15).

Vieles davon überschneidet sich inhaltlich mit dem, was die MDR schon fordert — aber eben nicht deckungsgleich. Die klinische Bewertung nach MDR beantwortet nicht automatisch die Frage nach Trainingsdaten-Repräsentativität. Ein MDR-Risikomanagement nach ISO 14971 adressiert Produktrisiken, nicht spezifisch die Verzerrung durch unausgewogene Datensätze über Alters-, Geschlechts- oder ethnische Gruppen. Der EU AI Act schließt genau diese Lücken.

Kein zweites Verfahren: die integrierte Konformitätsbewertung

Der Gesetzgeber hat erkannt, dass zwei parallele Zertifizierungswege für dasselbe Produkt unzumutbar wären. Artikel 8 Absatz 2 der KI-Verordnung stellt deshalb klar, dass Anbieter, deren Produkt sowohl unter die KI-Verordnung als auch unter eine Anhang-I-Rechtsvorschrift fällt, für Konsistenz sorgen und die Dokumentation integrieren dürfen, um Doppelarbeit zu vermeiden. In der Praxis bedeutet das: Die KI-Anforderungen werden Teil der ohnehin nötigen MDR- beziehungsweise IVDR-Konformitätsbewertung.

Die Bewertung läuft dann über die sektorale Benannte Stelle nach dem Verfahren der MDR — ergänzt um die Prüfung der KI-Act-Anforderungen. Das erspart ein zweites Audit, verlangt aber, dass die Benannten Stellen für diese Doppelrolle qualifiziert und notifiziert sind. Der Aufbau dieser Kapazität ist einer der Gründe, warum die zeitliche Streckung der Pflichten relevant ist.

Zeitlinien: warum die Medizin-KI später scharf wird

Für eigenständige Hochrisiko-KI nach Anhang III gilt seit dem Digital Omnibus der 2. Dezember 2027 als maßgeblicher Anwendungsbeginn. Für Hochrisiko-KI, die als Produkt oder Sicherheitsbauteil unter die Anhang-I-Rechtsvorschriften fällt — also der klassische Medizinprodukte-Fall — sieht der EU AI Act eine noch längere Übergangsfrist bis zum 2. August 2028 vor. Das trägt der Tatsache Rechnung, dass MDR-Zertifizierungszyklen lang sind und Benannte Stellen die neue KI-Kompetenz erst aufbauen müssen.

Diese längere Frist ist keine Einladung zum Abwarten. Ein Medizinprodukt mit einem MDR-Zertifikatszyklus von mehreren Jahren muss die KI-Anforderungen in die laufende technische Dokumentation und in die nächste Re-Zertifizierung einarbeiten. Wer erst 2028 beginnt, riskiert, dass ein bereits im Markt befindliches Produkt seine Konformität nicht rechtzeitig nachweisen kann. Die entscheidende Größe ist nicht der Stichtag, sondern der Zertifizierungszyklus, der davor liegt.

Was das für Anbieter und Kliniken heißt

Für Anbieter von Medizin-KI verschiebt sich die Aufgabe von zwei getrennten Compliance-Projekten hin zu einem integrierten Nachweis. Der pragmatische Startpunkt ist eine Gap-Analyse: Welche EU-AI-Act-Anforderungen sind durch die bestehende MDR-Dokumentation bereits abgedeckt, wo klaffen Lücken — typischerweise bei Daten-Governance, Bias-Bewertung und KI-spezifischer Protokollierung?

Für Kliniken und Praxen als Betreiber (Deployer) gelten die Betreiberpflichten des Artikels 26: bestimmungsgemäße Verwendung, menschliche Aufsicht sicherstellen, Eingabedaten im Rahmen der Kontrolle prüfen, Vorfälle melden. Krankenhäuser setzen häufig KI-Systeme ein, ohne sie selbst zu entwickeln — für sie ist die Deployer-Rolle die praktisch relevante. Eine sektorale Vertiefung zu den Hochrisiko-Pflichten insgesamt findet sich auf hochrisiko-ki.com.

Der rote Faden bleibt derselbe wie über alle Sektoren hinweg: Am Ende zählt nicht die Behauptung, ein System sei sicher und fair, sondern der belegbare Nachweis — die Datenbasis, die Bias-Prüfung, die Aufsichtsprotokolle, die Verbindung zur klinischen Bewertung. Genau diese nachweisbare, audit-fähige Evidenz ist im Gesundheitswesen, wo Fehlentscheidungen unmittelbar Menschen betreffen, kein Formalismus, sondern die eigentliche Substanz von Vertrauen.

Wer den Aufbau dieser Evidenzkette früh als durchgängige Trust-Infrastruktur denkt statt als nachgelagerte Zertifizierungsübung, spart sich Doppelarbeit zwischen MDR und KI-Verordnung. Mehr zum evidenzbasierten Ansatz: aegira.ai.