KI-Beschaffung: Welche Klauseln der AI Act erzwingt

Die meisten Unternehmen entwickeln ihre KI-Systeme nicht selbst. Sie kaufen sie ein: als SaaS-Modul im HR-System, als API eines Modellanbieters, als Komponente in einer Branchensoftware. Die regulatorische Konsequenz wird dabei regelmäßig unterschätzt. Der EU AI Act verteilt Pflichten entlang der Wertschöpfungskette — und er tut das unabhängig davon, was im Vertrag steht. Wer die Rollenverteilung nicht vertraglich abbildet, hat sie trotzdem. Nur ohne die Informationen, die er zur Erfüllung bräuchte.

Artikel 25: Wann aus dem Einkäufer ein Anbieter wird

Artikel 25 EU AI Act regelt die Verantwortlichkeiten entlang der KI-Wertschöpfungskette. Der praktisch wichtigste Absatz ist Artikel 25 Absatz 1: Ein Händler, Einführer, Betreiber oder sonstiger Dritter gilt als Anbieter eines Hochrisiko-KI-Systems — mit allen Pflichten aus Artikel 16 — in drei Konstellationen:

• Er bringt seinen Namen oder seine Marke auf einem bereits in Verkehr gebrachten Hochrisiko-KI-System an.
• Er nimmt eine wesentliche Änderung an einem bereits in Verkehr gebrachten Hochrisiko-KI-System vor, das weiterhin Hochrisiko bleibt.
• Er ändert die Zweckbestimmung eines nicht als Hochrisiko eingestuften KI-Systems — einschließlich eines GPAI-Systems — so, dass es dadurch zum Hochrisiko-System wird.

Der dritte Fall ist der gefährlichste, weil er ohne technische Änderung eintreten kann. Ein allgemein einsetzbares Sprachmodell ist als solches kein Hochrisiko-System. Wird es in einen Prozess eingebettet, der über Anhang III erfasst ist — Bewerbervorauswahl, Kreditwürdigkeitsprüfung, Zugang zu öffentlichen Leistungen —, kann sich die Einstufung des konkreten Systems ändern. Der Einkäufer wird dann zum Anbieter dieses Systems, mit Konformitätsbewertung, technischer Dokumentation nach Artikel 11 und Anhang IV, Qualitätsmanagementsystem und Registrierungspflicht.

Artikel 25 Absatz 2 verschiebt in diesen Fällen die Rolle des ursprünglichen Anbieters: Er gilt für dieses spezifische System nicht mehr als Anbieter, muss aber eng kooperieren, die erforderlichen Informationen bereitstellen sowie technischen Zugang und Unterstützung gewähren. Genau dieser Kooperationsanspruch ist es, den ein Beschaffungsvertrag operationalisieren muss.

Die Klausel, die Artikel 25 Absatz 4 nahelegt

Artikel 25 Absatz 4 adressiert die Zulieferseite direkt: Anbieter von Hochrisiko-KI-Systemen und Dritte, die KI-Systeme, Werkzeuge, Dienste, Komponenten oder Verfahren beisteuern, sollen durch schriftliche Vereinbarung festlegen, welche Informationen, Fähigkeiten, technischen Zugänge und Unterstützungsleistungen nach dem allgemein anerkannten Stand der Technik erforderlich sind, damit der Anbieter seine Pflichten vollständig erfüllen kann. Die Vorschrift sieht zudem vor, dass das AI Office freiwillige Musterklauseln entwickeln kann; für kostenlos und quelloffen lizenzierte Werkzeuge gilt die Pflicht nicht.

Aus dieser Norm lässt sich eine Klauselsystematik ableiten, die unabhängig vom Beschaffungsgegenstand trägt:

Rollenfeststellung. Der Vertrag benennt ausdrücklich, wer Anbieter und wer Betreiber im Sinne des AI Act ist, und für welchen Verwendungszweck. Dazu gehört eine Änderungsklausel: Wenn der Kunde die Zweckbestimmung ändert oder wesentlich modifiziert, muss er das anzeigen — und der Vertrag regelt, welche Unterstützung dann fällig wird.

Dokumentenlieferung. Konkret geschuldet sind die Betriebsanleitung nach Artikel 13, die für den Betrieb erforderlichen Teile der technischen Dokumentation, die EU-Konformitätserklärung und, sofern einschlägig, die Registrierungsdaten. „Auf Anfrage" reicht nicht; die Lieferung gehört an definierte Zeitpunkte gekoppelt.

Protokollierung und Zugriff. Artikel 12 verlangt für Hochrisiko-Systeme die automatische Aufzeichnung von Ereignissen über die Lebensdauer. Artikel 26 Absatz 6 verpflichtet den Betreiber, die vom System erzeugten Protokolle, soweit sie seiner Kontrolle unterliegen, für einen dem Zweck angemessenen Zeitraum aufzubewahren — mindestens sechs Monate, sofern Unionsrecht oder nationales Recht nichts anderes bestimmt. Bei SaaS-Bezug liegen diese Protokolle typischerweise beim Anbieter. Ohne Exportanspruch im Vertrag ist die Pflicht des Betreibers faktisch nicht erfüllbar.

Vorfall- und Änderungsmeldung. Artikel 26 Absatz 5 verpflichtet den Betreiber, den Anbieter bei einem Risiko oder einem schwerwiegenden Vorfall zu informieren; der Anbieter meldet nach Artikel 73 an die Marktüberwachungsbehörde. Der Vertrag sollte beide Richtungen mit Fristen versehen und ergänzen, dass der Anbieter über Modell-, Trainingsdaten- oder Verhaltensänderungen informiert, die die Konformitätsbewertung berühren.

Auditierbarkeit. Marktüberwachungsbehörden können Zugang zu Dokumentation und Protokollen verlangen. Ein Vertrag, der Behördenanfragen und Audit-Kooperation nicht abbildet, verlagert das Risiko auf den, der es am wenigsten steuern kann.

Warum Fragebögen die Klauseln nicht ersetzen

Viele Beschaffungsprozesse behelfen sich mit einem KI-Fragebogen: Ist Ihr System Hochrisiko? Sind Sie ISO-42001-zertifiziert? Bestätigen Sie Konformität mit dem AI Act? Solche Selbstauskünfte erzeugen ein Dokument, aber keine Nachweisfähigkeit. Sie beschreiben einen Zustand zum Zeitpunkt der Unterschrift, während KI-Systeme sich über Modell-Updates laufend ändern.

Der Unterschied ist der zwischen einer Zusicherung und einem Beleg. Nachweisbar wird eine Beschaffung erst, wenn die vertraglich geschuldeten Artefakte tatsächlich fließen und mit Herkunft, Zeitpunkt und Version festgehalten werden — Konformitätserklärung, Betriebsanleitung, Protokollexporte, Änderungsmitteilungen. Das ist der Kern von Trust-Infrastructure: nicht die Behauptung der Konformität, sondern die belegbare Kette, aus der sie folgt. Compliance ist dann das Ergebnis, nicht der Ausgangspunkt.

Praktisch heißt das: Die Beschaffungsklauseln gehören an dieselbe Stelle wie das KI-Inventar. Jeder Eintrag im Inventar trägt eine Rolle, einen Lieferanten, einen Satz geschuldeter Artefakte und einen Stand. Wo Artefakte fehlen, ist das eine offene Lücke — nicht ein Formalie-Problem.

Was jetzt zu tun ist

Die Rollenfrage lässt sich nicht auf den Anwendungsbeginn vertagen. Die Pflichten für Hochrisiko-Systeme greifen mit der Durchsetzung des EU AI Act zum 02.12.2027 in der Fassung des Digital Omnibus; Verträge mit mehrjähriger Laufzeit, die heute geschlossen werden, laufen in dieses Datum hinein. Ein Rahmenvertrag ohne Kooperationsklausel ist bis dahin schwer nachzuverhandeln — der Zeitpunkt mit der größten Verhandlungsmacht ist der vor der Unterschrift.

Drei Schritte ohne großen Apparat: Erstens die eingekauften KI-Systeme identifizieren und je System die Rolle bestimmen. Wer bei der Einstufung unsicher ist, findet eine strukturierte Orientierung zur Risikoklasse auf ki-vo-check.de. Zweitens die bestehenden Verträge gegen die fünf Klauselblöcke oben prüfen und die Lücken dokumentieren. Drittens einen Standard-Klauselsatz für Neuverträge festlegen, damit die Frage nicht in jedem Einkaufsvorgang neu verhandelt wird.

Wer Beschaffung als Nachweisfrage behandelt statt als Formularfrage, verschiebt die Arbeit nach vorne — dorthin, wo sie günstig ist.

Mehr zur AEGIRA Trust-Platform: aegira.ai