Art. 86 EU AI Act: Recht auf Erläuterung der Entscheidung

Die meisten Pflichten der KI-Verordnung richten sich an Anbieter und Betreiber. Artikel 86 dreht die Perspektive um: Er gibt der betroffenen Person selbst ein Recht — und zwar eines, das jederzeit unangekündigt geltend gemacht werden kann. Wer eine Entscheidung auf Basis eines Hochrisiko-KI-Systems trifft, muss auf Nachfrage erklären können, welche Rolle das System dabei gespielt hat.

Das klingt nach einer Formalie. In der Praxis ist es der Punkt, an dem sich zeigt, ob eine Organisation ihre KI-Entscheidungen wirklich nachvollziehen kann oder nur behauptet, es zu tun.

Was Artikel 86 konkret verlangt

Artikel 86 der Verordnung (EU) 2024/1689 trägt die Überschrift „Recht auf Erläuterung der Entscheidungsfindung im Einzelfall". Der Anspruch richtet sich gegen den Betreiber (Deployer) — nicht gegen den Anbieter des Systems. Das ist die erste Weichenstellung, die viele Organisationen unterschätzen: Wer ein zugekauftes System einsetzt, kann die Erklärungspflicht nicht an den Hersteller weiterreichen.

Inhaltlich schuldet der Betreiber klare und aussagekräftige Erläuterungen zur Rolle des KI-Systems im Entscheidungsprozess und zu den wesentlichen Elementen der getroffenen Entscheidung. Die Verordnung verlangt also zweierlei: eine Aussage über das Verfahren (Wie ist der Output in die Entscheidung eingeflossen? Wurde er von einem Menschen überprüft?) und eine Aussage über die Substanz (Welche Faktoren waren für dieses Ergebnis maßgeblich?).

Der Anspruch ist nicht unbegrenzt. Er greift, wenn drei Bedingungen zusammenkommen:

• Die Entscheidung wurde auf Grundlage des Outputs eines Hochrisiko-KI-Systems nach Anhang III getroffen — mit Ausnahme der Systeme unter Anhang III Nummer 2 (kritische Infrastruktur).
• Die Entscheidung entfaltet Rechtswirkung gegenüber der Person oder beeinträchtigt sie in ähnlich erheblicher Weise.
• Die Person sieht die Auswirkung als nachteilig für ihre Gesundheit, ihre Sicherheit oder ihre Grundrechte an.

Artikel 86 gilt zudem unbeschadet des Artikel 22 DSGVO. Wo eine Entscheidung ausschließlich automatisiert erfolgt, bestehen beide Regime nebeneinander — die KI-Verordnung ergänzt den Datenschutz, sie ersetzt ihn nicht.

Wer typischerweise betroffen ist

Der Verweis auf Anhang III ist die eigentliche Reichweitendefinition. Betroffen sind unter anderem Entscheidungen in der Personalauswahl und im Beschäftigungsverhältnis, bei der Bewertung der Kreditwürdigkeit natürlicher Personen, beim Zugang zu grundlegenden privaten und öffentlichen Diensten, im Bildungsbereich sowie bei der Risikobewertung in der Lebens- und Krankenversicherung.

Das sind genau die Anwendungsfälle, in denen KI heute produktiv im Einsatz ist und in denen Betroffene ein starkes Eigeninteresse an einer Erklärung haben — der abgelehnte Bewerber, die abgelehnte Kreditnehmerin, der eingestufte Studienbewerber. Man muss kein Pessimist sein, um zu erwarten, dass Artikel 86 in der Praxis regelmäßig geltend gemacht wird, sobald er anwendbar ist. Eine Übersicht der Anhang-III-Kategorien und ihrer Pflichten findet sich auf hochrisiko-ki.com.

Flankiert wird der Anspruch durch Artikel 85: das Recht, bei einer Marktüberwachungsbehörde Beschwerde einzulegen. Eine unbefriedigend beantwortete Erläuterungsanfrage ist damit kein Endpunkt, sondern ein möglicher Ausgangspunkt für ein behördliches Verfahren.

Warum das eine Nachweis- und keine Textfrage ist

Die naheliegende Reaktion auf Artikel 86 ist ein Textbaustein: eine vorformulierte Erläuterung, die bei Anfragen versendet wird. Das greift zu kurz, und zwar aus einem strukturellen Grund.

Eine Erläuterung nach Artikel 86 bezieht sich auf einen konkreten Einzelfall zu einem konkreten Zeitpunkt. Sie muss beschreiben, welche Modellversion im Einsatz war, welche Eingabedaten verwendet wurden, welcher Schwellenwert galt, ob und durch wen eine menschliche Überprüfung nach Artikel 14 erfolgte. Wenn die Anfrage sechs Monate nach der Entscheidung eintrifft — und das ist der Normalfall — ist das System längst mehrfach aktualisiert worden.

Ohne Protokollierung ist die Erläuterung dann eine Rekonstruktion aus dem Gedächtnis. Genau deshalb greifen die Pflichten ineinander: Artikel 12 verlangt die automatische Aufzeichnung von Ereignissen über die Lebensdauer des Systems, Artikel 26 verpflichtet Betreiber, diese Protokolle aufzubewahren, Artikel 13 fordert Betriebsanleitungen, aus denen sich die Funktionsweise ergibt. Artikel 86 ist die Stelle, an der diese Vorarbeit auf eine externe Anfrage trifft — und an der sichtbar wird, ob sie geleistet wurde.

Anders gesagt: Die Frage ist nicht, ob eine Organisation eine Erklärung formulieren kann. Die Frage ist, ob sie die Erklärung belegen kann.

Was Betreiber jetzt aufsetzen sollten

Der Zeitrahmen ist bekannt: Die Durchsetzung der Hochrisiko-Pflichten nach Anhang III ist über den Digital Omnibus auf den 02.12.2027 terminiert. Das ist Vorbereitungszeit, kein Puffer — denn die Erklärbarkeit einer Entscheidung entsteht nicht zum Stichtag, sondern in der Protokollierung, die davor läuft.

Drei Dinge lassen sich unabhängig von der finalen Auslegung heute festlegen:

Erstens: der Prozess. Wer nimmt Erläuterungsanfragen entgegen, wer prüft die Anspruchsvoraussetzungen, wer erstellt die Antwort, in welcher Frist? Ein Verfahren, das erst bei der ersten Anfrage erfunden wird, produziert Fehler unter Zeitdruck.

Zweitens: die Verknüpfung von Entscheidung und Beleg. Jede Entscheidung, die unter Anhang III fällt, braucht eine eindeutige Referenz auf den zugrundeliegenden Systemlauf — Modellversion, Zeitstempel, Input, Output, menschliche Überprüfung. Ohne diese Verknüpfung ist jede spätere Anfrage eine Suchaufgabe mit ungewissem Ausgang.

Drittens: die Abgrenzung zum Geschäftsgeheimnis. Artikel 86 verlangt aussagekräftige Erläuterungen, nicht die Offenlegung des Modells. Wo diese Grenze im eigenen Anwendungsfall verläuft, sollte vorab geklärt und dokumentiert sein — nicht im Einzelfall improvisiert werden.

Erklärbarkeit ist eine Eigenschaft der Evidenz

Artikel 86 macht deutlich, worauf KI-Governance letztlich hinausläuft: nicht auf Dokumente, die einmal geschrieben und abgelegt werden, sondern auf eine belastbare Verbindung zwischen einer konkreten Entscheidung und den Belegen, die sie tragen. Wer diese Verbindung technisch abbildet, kann Artikel 86 als Routinevorgang behandeln. Wer sie nicht hat, behandelt jede Anfrage als Projekt.

Das ist der Unterschied zwischen Compliance-Dokumentation und Trust-Infrastructure: Die eine beschreibt, was gelten soll. Die andere zeigt, was tatsächlich passiert ist.

Mehr zur AEGIRA Trust-Platform und zu evidenzbasierten Nachweisen für KI-Entscheidungen: aegira.ai