KI-Beschaffung absichern: AI-Act-Klauseln im Vertrag

Die wenigsten Unternehmen bauen ihre Hochrisiko-KI selbst. Sie kaufen sie ein: ein Recruiting-Modul vom HR-Softwarehaus, ein Scoring-Modell von einem Fintech, ein Diagnose-Add-on vom Medizintechnik-Anbieter. Genau hier entsteht ein blinder Fleck. Der Betreiber (Deployer) trägt einen eigenen, nicht delegierbaren Pflichtenkatalog aus dem EU AI Act — und kann diese Pflichten nur erfüllen, wenn der Anbieter (Provider) liefert, was das Gesetz vorsieht. Wird die Beschaffung nicht sauber vertraglich abgesichert, steht der Betreiber am Stichtag mit einem System da, das er nicht nachweisbar betreiben darf.

Dieser Beitrag ordnet ein, welche Nachweise ein Betreiber vom Anbieter verlangen muss und wie sich das in Beschaffungsprozesse und Verträge übersetzen lässt — bevor der Vertrag unterschrieben ist, nicht danach.

Warum Einkauf die Pflichten nicht abschüttelt

Der EU AI Act adressiert nicht nur den, der ein KI-System entwickelt, sondern auch den, der es im beruflichen Kontext einsetzt. Art. 26 EU AI Act verpflichtet den Betreiber unter anderem, das System entsprechend der Gebrauchsanweisung zu verwenden, die menschliche Aufsicht sicherzustellen, die Eingabedaten im Rahmen seiner Kontrolle relevant und repräsentativ zu halten und den Betrieb zu überwachen. Diese Pflichten bleiben beim Betreiber, egal ob das Modell selbst entwickelt oder zugekauft wurde.

Gleichzeitig regelt Art. 25 EU AI Act die Verantwortung entlang der Wertschöpfungskette: Wer ein Hochrisiko-System unter eigenem Namen wesentlich verändert oder seinen Zweck so anpasst, dass ein zuvor nicht als hochrisiko eingestuftes System zum Hochrisiko-System wird, kann selbst zum Anbieter werden — mit dem vollen Pflichtenkatalog. Beschaffung ist deshalb keine reine Einkaufsfrage, sondern eine Frage der rechtlichen Rollenzuordnung. Wer diese Rolle nicht bewusst steuert, riskiert, ungewollt in die Anbieterrolle zu rutschen.

Für Unternehmen mit Anbietern außerhalb der EU kommt eine zusätzliche Ebene hinzu: Der außereuropäische Zulieferer ist der Vendor-Layer, nicht der Kunde. Die Pflicht, im eigenen Rechtsraum — DE, EU27-Rest, UK oder CH — nachweisbar sauber zu betreiben, bleibt beim einkaufenden Unternehmen. Diese Verantwortung lässt sich nicht in die Lieferkette exportieren.

Was der Anbieter liefern muss

Ein Betreiber kann seine Pflichten nur erfüllen, wenn der Anbieter die Grundlagen dafür bereitstellt. Der zentrale Anker ist Art. 13 EU AI Act: Hochrisiko-KI muss mit einer Gebrauchsanweisung ausgeliefert werden, die den Betreiber in die Lage versetzt, das System korrekt zu verwenden und seine Ergebnisse zu interpretieren. Dazu gehören Angaben zu Zweck, Genauigkeitsniveau, bekannten Grenzen, den Anforderungen an die menschliche Aufsicht nach Art. 14 und den erwartbaren Eingabedaten.

Konkret sollte ein Betreiber vor Vertragsschluss folgende Nachweise einfordern und prüfen:

• Die Gebrauchsanweisung nach Art. 13 — vollständig, aktuell und in einer Sprache, die die eigenen Fachverantwortlichen verstehen.
• Den Nachweis der Konformitätsbewertung und die CE-Kennzeichnung, sofern das System als Hochrisiko-KI in Verkehr gebracht wurde.
• Bestätigung, dass das System in der EU-Datenbank registriert ist, wo die Verordnung dies für den Anbieter vorsieht.
• Angaben zur technischen Dokumentation nach Art. 11 und Anhang IV, zumindest insoweit, wie der Betreiber sie für seine eigene Überwachungs- und Meldepflicht benötigt.
• Prozesse für Post-Market-Monitoring und die Meldung schwerwiegender Vorfälle nach Art. 73 — inklusive der Frage, wie der Anbieter den Betreiber informiert und umgekehrt.

Fehlt einer dieser Bausteine, ist das keine Formalie, sondern eine Lücke im eigenen Nachweis. Der Betreiber kann später nicht belegen, dass er das System bestimmungsgemäß und beaufsichtigt betrieben hat.

Von der Anforderung zur Vertragsklausel

Nachweise, die nur mündlich zugesagt sind, halten keiner Prüfung stand. Deshalb gehören die Anforderungen in den Vertrag — als durchsetzbare, überprüfbare Zusagen. Bewährt hat sich, mindestens vier Punkte klauselfest zu regeln.

Erstens eine Dokumentations- und Auskunftsklausel: Der Anbieter verpflichtet sich, Gebrauchsanweisung, Konformitätsnachweise und relevante Teile der technischen Dokumentation bereitzustellen und bei Aktualisierungen nachzuliefern. Zweitens eine Mitwirkungsklausel für Vorfälle: Der Anbieter unterstützt bei der Aufklärung und Meldung schwerwiegender Vorfälle innerhalb definierter Fristen. Drittens eine Change-Klausel: Wesentliche Änderungen am Modell — neues Training, geänderter Zweck, neue Funktionen — werden vorab angekündigt, damit der Betreiber prüfen kann, ob sich seine Rolle nach Art. 25 verschiebt. Viertens eine Audit- und Evidenzklausel: Der Betreiber erhält das Recht, die zugesagten Nachweise regelmäßig einzusehen oder auditieren zu lassen.

Diese Klauseln sind kein juristischer Selbstzweck. Sie sind der Mechanismus, mit dem ein Betreiber die verstreute Verantwortung entlang der Lieferkette in einen zusammenhängenden, prüfbaren Nachweis überführt. Genau das ist der Kern von Trust-Infrastructure: nicht die Behauptung, dass alles passt, sondern die belegbare Kette, die zeigt, warum es passt — nachweisbar und audit-ready.

Beschaffung als wiederkehrender Prozess

Einmalige Vertragsprüfung reicht nicht. KI-Systeme verändern sich, Anbieter aktualisieren Modelle, und die Einstufung eines Use-Case kann sich mit einer neuen Funktion verschieben. Sinnvoll ist deshalb ein wiederkehrender Lieferanten-Review: einmal jährlich prüfen, ob die Nachweise noch aktuell sind, ob das System noch bestimmungsgemäß genutzt wird und ob eine Änderung eine neue Bewertung auslöst. Bei besonders sensiblen Anwendungen — etwa Hochrisiko-KI im Personalwesen oder in der Kreditvergabe — gehört dieser Review in einen definierten Governance-Takt statt in den Zufall. Eine strukturierte Übersicht typischer Hochrisiko-Anwendungsfälle findet sich auf hochrisiko-ki.com.

Wer heute die Beschaffungsprozesse und Musterklauseln vorbereitet, hat einen erheblichen Vorsprung. Die Betreiberpflichten für Hochrisiko-KI greifen mit dem Enforcement-Stichtag am 02.12.2027 (Digital Omnibus). Verträge mit mehrjähriger Laufzeit, die heute geschlossen werden, laufen in diesen Stichtag hinein — ohne die passenden Klauseln fehlt am Tag X der Nachweis, der sich nicht rückwirkend erzeugen lässt.

KI-Beschaffung ist damit kein reines Einkaufsthema, sondern ein Baustein der eigenen Nachweisfähigkeit. Wer die Anbieterkette vertraglich absichert, macht aus einer zugekauften Blackbox ein nachvollziehbares, beaufsichtigbares System.

Mehr dazu, wie sich Nachweise über die gesamte Wertschöpfungskette hinweg belegbar zusammenführen lassen, zeigt die AEGIRA Trust-Platform: aegira.ai.