KI im Gesundheitswesen: EU AI Act trifft MDR

Kaum ein Sektor verbindet zwei Regulierungswelten so eng wie das Gesundheitswesen. Software, die Befunde auswertet, Therapieentscheidungen vorschlägt oder Bildgebung analysiert, ist in den meisten Fällen bereits ein Medizinprodukt — und wird durch den EU AI Act zugleich zur Hochrisiko-KI. Beide Regelwerke greifen nicht alternativ, sondern übereinander. Für Hersteller und Kliniken bedeutet das einen doppelten Pflichtenrahmen, der bis zum Forcing Event 02.12.2027 (Digital Omnibus) in eine prüfbare Form gebracht werden muss.

Dieser Beitrag ordnet, wie der EU AI Act (Verordnung (EU) 2024/1689) und die Medizinprodukteverordnung MDR (Verordnung (EU) 2017/745) zusammenwirken, und wo der Nachweisaufwand für medizinische KI konkret entsteht.

Warum medizinische KI fast immer Hochrisiko ist

Anders als beim Credit Scoring ergibt sich die Hochrisiko-Einstufung medizinischer KI nicht aus Annex III, sondern aus Art. 6 Abs. 1 des AI Act. Dieser Mechanismus greift, wenn ein KI-System die Sicherheitskomponente eines Produkts ist (oder selbst ein solches Produkt), das unter eine der in Annex I gelisteten Harmonisierungsrechtsakte fällt — und wenn dieses Produkt ein Konformitätsbewertungsverfahren durch eine Drittstelle durchlaufen muss.

Annex I nennt ausdrücklich die MDR und die IVDR (Verordnung (EU) 2017/746). Damit ist die Kette klar: Eine KI-gestützte Diagnose- oder Entscheidungsunterstützungssoftware, die nach MDR als Medizinprodukt eingestuft ist und eine Benannte Stelle (Notified Body) zur Konformitätsbewertung benötigt, ist automatisch Hochrisiko-KI.

Der entscheidende Hebel ist die Klassifizierung nach MDR. Nach Regel 11 des Anhang VIII MDR wird Software, die Informationen für diagnostische oder therapeutische Entscheidungen liefert, in der Regel mindestens als Klasse IIa eingestuft — und damit ist eine Benannte Stelle obligatorisch. Nur Software der Klasse I (ohne die Sonderfälle Is/Im/Ir) wird ohne Drittstelle selbst zertifiziert. In der Praxis fällt der Großteil klinisch relevanter KI über die Drittstellen-Schwelle und damit in den Hochrisiko-Bereich des AI Act.

Der doppelte Pflichtenrahmen

Hersteller medizinischer KI sind im AI Act Provider (Art. 3 Nr. 3) und tragen die volle Provider-Pflichtschicht aus Kapitel III Abschnitt 2. Diese überlappt inhaltlich mit der MDR, ist aber nicht deckungsgleich. Die zentralen AI-Act-Pflichten sind:

• Risikomanagementsystem (Art. 9) — über den gesamten Lebenszyklus, parallel zum MDR-Risikomanagement nach ISO 14971.
• Daten-Governance (Art. 10) — Trainings-, Validierungs- und Testdaten müssen relevant, repräsentativ und möglichst fehlerfrei sein. Dieser Datenfokus geht über die klassische MDR-Dokumentation hinaus.
• Technische Dokumentation (Art. 11) und Aufzeichnungspflichten/Logging (Art. 12).
• Transparenz gegenüber Anwendern (Art. 13) und menschliche Aufsicht (Art. 14) — bei klinischer KI besonders sensibel, da die ärztliche Letztentscheidung erhalten bleiben muss.
• Genauigkeit, Robustheit und Cybersicherheit (Art. 15).
• Qualitätsmanagementsystem (Art. 17), das sich mit dem MDR-QMS nach ISO 13485 weitgehend integrieren lässt.

Die gute Nachricht: Der Gesetzgeber hat Doppelarbeit teilweise eingeplant. Art. 11 Abs. 2 erlaubt eine einzige, integrierte technische Dokumentation, die die Anforderungen beider Verordnungen abdeckt. Und Art. 43 Abs. 3 legt fest, dass die AI-Act-Konformität im Rahmen des bestehenden MDR-Konformitätsbewertungsverfahrens durch dieselbe Benannte Stelle geprüft wird — kein zweites, separates Verfahren. Praktisch heißt das: Die Benannte Stelle muss zusätzlich die AI-Act-Anforderungen prüfen, und ihr Prüfumfang erweitert sich entsprechend.

Wo der Nachweis besonders genau geprüft wird

Aus Audit-Sicht entstehen die größten Lücken nicht bei den klassischen MDR-Themen, sondern an den AI-spezifischen Schnittstellen. Drei Felder stechen hervor.

Erstens die Daten-Governance nach Art. 10: Während die MDR primär auf klinische Evidenz und Leistungsbewertung zielt, verlangt der AI Act eine dokumentierte Auseinandersetzung mit Repräsentativität, Bias und Datenherkunft der Trainingsdaten. Wer ein Modell auf Datensätzen einer einzelnen Population trainiert hat, muss diese Limitierung belegbar adressieren.

Zweitens das Logging nach Art. 12: Hochrisiko-KI muss Ereignisse automatisch so aufzeichnen, dass sich der Betrieb über den Lebenszyklus nachvollziehen lässt. Für lernende oder regelmäßig aktualisierte Modelle ist das ein durchgehender Evidenzpfad, kein einmaliger Konformitätsstempel.

Drittens die menschliche Aufsicht nach Art. 14: Bei Entscheidungsunterstützung muss nachweisbar sein, dass das System die ärztliche Beurteilung unterstützt und nicht ersetzt — inklusive der Maßnahmen gegen Automation Bias, also die übermäßige Verlässlichkeit des Personals auf den Systemvorschlag.

Mehr zur sektorübergreifenden Systematik der Hochrisiko-Einstufung siehe hochrisiko-ki.com.

Unterschiede DE, EU27-Rest, UK und CH

In Deutschland und im EU27-Rest gelten MDR und AI Act unmittelbar. In Deutschland kommt das Medizinprodukterecht-Durchführungsgesetz (MPDG) als nationale Durchführungsklammer hinzu; aufsichtlich sind die zuständigen Landesbehörden und das BfArM beteiligt. Der AI Act ersetzt diesen Überbau nicht, sondern legt sich darüber.

Im Vereinigten Königreich gilt nach dem EU-Austritt ein eigenes Medizinprodukteregime unter der MHRA mit dem UKCA-Kennzeichen, ergänzt durch das angekündigte Software-and-AI-as-a-Medical-Device-Programm. Einen direkten AI Act gibt es nicht. Britische Hersteller, die KI-Medizinprodukte in der EU in Verkehr bringen, unterliegen ihm dennoch über den Marktzugang — Art. 2 Abs. 1 erfasst Provider in Drittstaaten, die ihr System auf dem Unionsmarkt bereitstellen.

In der Schweiz regelt die Medizinprodukteverordnung (MepV) unter Aufsicht von Swissmedic. Relevant ist hier eine Besonderheit: Das Abkommen über die gegenseitige Anerkennung (MRA) zwischen der EU und der Schweiz wurde für den MDR-Bereich nicht aktualisiert, sodass die Schweiz seit dem 26. Mai 2021 medizinprodukterechtlich als Drittstaat behandelt wird. Schweizer Hersteller mit EU-Geschäft benötigen daher einen EU-Bevollmächtigten — und unterliegen für ihre KI-Komponenten zusätzlich dem AI Act bei EU-Marktbezug. Ein dem AI Act entsprechendes Schweizer Gesetz existiert bislang nicht.

Was Hersteller und Kliniken jetzt vorbereiten sollten

Der Schlüssel liegt in der Integration statt der Parallelführung. Hersteller sollten ihr bestehendes MDR-QMS so erweitern, dass die AI-Act-Artikel 9 bis 15 als integrierte Prozesse abgebildet sind — mit einem gemeinsamen technischen Dokumentationspfad nach Art. 11 Abs. 2. Kliniken als Deployer (Art. 26) müssen sicherstellen, dass menschliche Aufsicht, Logging und Anwenderinformation organisatorisch verankert sind.

Wer beide Welten erst kurz vor dem 02.12.2027 zusammenführt, riskiert, dass die Benannte Stelle den erweiterten Prüfumfang nicht rechtzeitig bestätigen kann — mit der Folge, dass das Produkt seinen EU-Marktzugang verliert. Der belastbare Weg ist eine evidenzbasierte Trust-Infrastructure, die MDR-Konformität und AI-Act-Nachweis in einer gemeinsamen, prüfbaren Struktur zusammenführt, statt zwei getrennte Dokumentenwelten zu pflegen.

Fazit

Medizinische KI ist über Art. 6 Abs. 1 und Annex I fast durchgängig Hochrisiko-KI — der Auslöser ist die Drittstellen-Pflicht nach MDR. EU AI Act und MDR wirken übereinander, nicht alternativ: Risikomanagement, Daten-Governance, Logging und menschliche Aufsicht müssen zusätzlich zur MDR-Konformität nachweisbar sein, werden aber über Art. 11 Abs. 2 und Art. 43 Abs. 3 in das bestehende Verfahren integriert. Für Hersteller in DE, EU27-Rest, UK und CH unterscheidet sich der nationale Überbau, nicht aber die Wirkung des AI Act bei EU-Marktbezug. Die tragfähige Antwort ist ein integrierter Evidenznachweis statt zweier paralleler Compliance-Silos.

Mehr zur AEGIRA Trust-Platform: aegira.ai