Hochrisiko-KI in der Kreditwürdigkeitsprüfung: Annex III Nr. 5

Kaum ein KI-Einsatz im Finanzsektor berührt so unmittelbar die Lebensrealität von Menschen wie die automatisierte Bonitätsbewertung. Ob jemand einen Kredit, eine Wohnung oder einen Mobilfunkvertrag bekommt, hängt zunehmend von Modellen ab, die Kreditwürdigkeit prognostizieren. Der EU AI Act greift genau hier an: KI-Systeme zur Bewertung der Kreditwürdigkeit natürlicher Personen sind ausdrücklich als Hochrisiko eingestuft. Für Banken, Kreditplattformen und Scoring-Dienstleister bedeutet das einen klar umrissenen Pflichtenkatalog — und die Notwendigkeit, Konformität nicht zu behaupten, sondern nachzuweisen.

Warum Kreditwürdigkeits-KI als Hochrisiko gilt

Die Einstufung folgt aus Art. 6 Abs. 2 in Verbindung mit Annex III des EU AI Act. Annex III listet die Anwendungsbereiche auf, in denen KI grundsätzlich als Hochrisiko gilt. Nummer 5 betrifft den Zugang zu wesentlichen privaten und öffentlichen Diensten. Litera b nennt konkret KI-Systeme, die dazu bestimmt sind, die Kreditwürdigkeit natürlicher Personen zu bewerten oder deren Kredit-Score zu ermitteln.

Der Gesetzgeber begründet das mit der Tragweite der Entscheidung: Wer keinen Zugang zu Finanzierung erhält, bleibt von wesentlicher gesellschaftlicher Teilhabe ausgeschlossen. Fehlerhafte, verzerrte oder intransparente Modelle können Diskriminierung verstetigen — etwa wenn historische Daten benachteiligte Gruppen systematisch schlechter bewerten.

Wichtig ist die Ausnahme im Gesetzestext selbst: KI-Systeme, die ausschließlich der Aufdeckung von Finanzbetrug dienen, fallen nicht unter diese Hochrisiko-Kategorie. Die Grenze verläuft also zwischen der Bewertung einer Person für eine Kreditentscheidung und der reinen Betrugserkennung. Wer beide Funktionen in einem System bündelt, sollte die Zweckbestimmung sauber dokumentieren, denn die Zweckbestimmung entscheidet über die Einstufung.

Praktisch heißt das: Nicht jeder Algorithmus im Kreditprozess ist automatisch Hochrisiko. Ein Modell, das interne Liquiditätskennzahlen prognostiziert, oder ein reines Betrugserkennungssystem fällt anders aus als ein Score, der über die Kreditentscheidung für eine konkrete Person mitbestimmt. Entscheidend ist, ob das System die Kreditwürdigkeit einer natürlichen Person bewertet oder deren Score ermittelt. Diese Abgrenzung sollte am Anfang jeder Bestandsaufnahme stehen, denn sie bestimmt den gesamten nachfolgenden Pflichtenkatalog.

Die Pflichten an die Anbieter

Ist ein System als Hochrisiko eingestuft, greifen die Anforderungen der Art. 8 bis 15 EU AI Act. Sie bilden das technische und organisatorische Rückgrat, das ein Anbieter (Provider) erfüllen und belegen muss, bevor das System auf den Markt kommt.

Dazu gehört ein fortlaufendes Risikomanagementsystem nach Art. 9, das Risiken über den gesamten Lebenszyklus identifiziert und mindert. Art. 10 verlangt Daten-Governance: Trainings-, Validierungs- und Testdaten müssen relevant, hinreichend repräsentativ und so fehlerfrei wie möglich sein — bei Bonitätsmodellen ein direkter Hebel gegen Bias. Die technische Dokumentation nach Art. 11 und die automatische Protokollierung nach Art. 12 schaffen die Nachvollziehbarkeit, auf die sich später Behörden und Auditoren stützen. Hinzu kommen Transparenz gegenüber dem Betreiber (Art. 13), wirksame menschliche Aufsicht (Art. 14) sowie ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit (Art. 15).

Für den Finanzsektor besonders relevant: Diese Pflichten überlagern bestehende aufsichtsrechtliche Anforderungen, ersetzen sie aber nicht. Wer bereits unter Modell-Governance-Regime der Bankenaufsicht arbeitet, hat Vorarbeit geleistet — aber der EU AI Act stellt eigene, KI-spezifische Nachweisanforderungen, die separat erfüllt werden müssen.

Die oft übersehene Pflicht: Grundrechte-Folgenabschätzung

Banken sind in der Bonitätsbewertung in der Regel nicht Anbieter, sondern Betreiber (Deployer) — sie setzen ein zugekauftes oder intern entwickeltes System ein. Damit gelten die Betreiberpflichten aus Art. 26: das System gemäß Gebrauchsanweisung betreiben, menschliche Aufsicht sicherstellen, die Eingabedaten im Rahmen der Kontrolle relevant halten und die automatisch erzeugten Protokolle aufbewahren.

Entscheidend und leicht zu übersehen ist Art. 27. Er verpflichtet bestimmte Betreiber zu einer Grundrechte-Folgenabschätzung (Fundamental Rights Impact Assessment, FRIA), bevor ein Hochrisiko-System in Betrieb genommen wird. Diese Pflicht trifft ausdrücklich auch Betreiber von KI-Systemen nach Annex III Nr. 5 lit. b — also gerade die Kreditwürdigkeitsbewertung. Die FRIA muss unter anderem den Einsatzzweck, den betroffenen Personenkreis, die spezifischen Risiken für Grundrechte und die vorgesehenen Aufsichts- und Abhilfemaßnahmen beschreiben.

Für eine Bank heißt das: Die Konformität des Modells reicht nicht. Der Einsatzkontext selbst muss dokumentiert und auf Grundrechtsrisiken hin bewertet werden — ein eigenständiger Nachweis, der vor dem Go-live vorliegen sollte.

Mehr zu den verschiedenen Hochrisiko-Use-Cases aus Annex III findet sich gebündelt auf hochrisiko-ki.com.

Vom Pflichtkatalog zum belastbaren Nachweis

Der rote Faden durch alle Anforderungen ist nicht Compliance als Selbstzweck, sondern Nachweisbarkeit. Eine Aufsichtsbehörde, die nach dem 02.12.2027 — dem Beginn der durchsetzbaren Anwendung im Rahmen des Digital Omnibus — ein Bonitätsmodell prüft, fragt nicht, ob ein Institut sich für konform hält. Sie fragt nach Belegen: nach der Risikoanalyse, der Datenherkunft, den Test- und Bias-Ergebnissen, der FRIA, den Aufsichtsprotokollen.

Genau deshalb ist Trust-Infrastructure mehr als ein Compliance-Projekt. Wer Bonitäts-KI betreibt, braucht eine Evidenzkette, die jeden Schritt vom Modelltraining bis zur Einzelentscheidung nachvollziehbar macht. Reifegrad lässt sich dabei strukturiert entwickeln — das AIMS-Modell (ISO 42001 kombiniert mit CMMI v3) bietet den Rahmen, um von punktuellen Maßnahmen zu einem wiederholbar nachweisbaren Governance-System zu gelangen.

Für Finanzinstitute, deren Geschäftsmodell auf Kreditentscheidungen aufbaut, ist das keine ferne Pflicht, sondern eine, die das Kerngeschäft direkt berührt. Der praktische Einstieg ist unspektakulär: Welche Modelle bewerten heute Kreditwürdigkeit, wer ist Anbieter und wer Betreiber, und für welche Systeme liegt bereits eine FRIA vor? Wer diese drei Fragen sauber beantworten kann, hat das Fundament gelegt, auf dem audit-ready Nachweise entstehen.

Evidence-based AI Trust heißt hier ganz konkret: nicht versprechen, dass ein Scoring-Modell fair und konform ist, sondern es belegen können. Mehr zur AEGIRA Trust-Platform: aegira.ai