Art. 5 EU AI Act: Verbotene KI-Praktiken im Überblick

Die Debatte über den EU AI Act dreht sich meist um Hochrisiko-KI: Risikomanagement, technische Dokumentation, Konformitätsbewertung. Dabei gerät der schärfste Teil der Verordnung leicht aus dem Blick. Oberhalb der Hochrisiko-Klasse gibt es eine Stufe, die keine Auflagen kennt, sondern ein glattes Verbot: die Praktiken mit unannehmbarem Risiko. Sie sind in Artikel 5 der Verordnung (EU) 2024/1689 geregelt — und sie sind, anders als der Großteil der Verordnung, bereits seit dem 2. Februar 2025 anwendbar. Wer KI in der EU einsetzt, sollte diese Liste kennen, bevor er über Hochrisiko-Pflichten nachdenkt.

Was Artikel 5 verbietet

Art. 5 zählt einen abschließenden Katalog von KI-Praktiken auf, die als so grundrechtsgefährdend gelten, dass die Verordnung sie gar nicht erst zulässt. Im Kern sind es acht Fallgruppen.

Verboten sind erstens manipulative und täuschende Techniken, die unterschwellig oder gezielt das Verhalten von Menschen so verzerren, dass ihnen dadurch erheblicher Schaden droht. Zweitens das Ausnutzen von Verwundbarkeiten aufgrund von Alter, Behinderung oder einer besonderen sozialen oder wirtschaftlichen Lage. Drittens das Social Scoring: die Bewertung oder Klassifizierung von Personen anhand ihres Sozialverhaltens, wenn sie zu benachteiligender oder unverhältnismäßiger Behandlung führt.

Viertens untersagt die Verordnung KI-Systeme, die allein auf Basis von Profiling oder Persönlichkeitsmerkmalen die Wahrscheinlichkeit einer künftigen Straftat vorhersagen — die viel diskutierte Form von Predictive Policing. Fünftens das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder aus Videoüberwachung, um Gesichtserkennungsdatenbanken aufzubauen. Sechstens Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, abgesehen von eng umrissenen medizinischen oder sicherheitsbezogenen Zwecken.

Siebtens die biometrische Kategorisierung, die aus biometrischen Daten sensible Eigenschaften wie ethnische Herkunft, politische Meinungen, Gewerkschaftszugehörigkeit, religiöse oder weltanschauliche Überzeugungen, das Sexualleben oder die sexuelle Orientierung ableitet. Und achtens die biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken — mit wenigen, streng geregelten Ausnahmen.

Warum die Verbote schon heute greifen

Der EU AI Act tritt in Stufen in Kraft. Während viele Hochrisiko-Pflichten erst zum Forcing Event 02.12.2027 (Digital Omnibus) vollständig durchgesetzt werden, gilt Kapitel II mit den verbotenen Praktiken bereits seit dem 2. Februar 2025. Die Verbote sind damit die erste Schicht des AI Act, die reale Rechtswirkung entfaltet — nicht eine ferne Zukunftsfrage, sondern geltendes Recht.

Verstärkt wird das durch die Sanktionslogik. Verstöße gegen Artikel 5 fallen nach Art. 99 Abs. 3 in die höchste Bußgeldstufe: bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Kein anderer Tatbestand der Verordnung ist teurer. Wer also aus Versehen ein System betreibt, das in den Verbotsbereich fällt — etwa eine Emotionsanalyse in einem Recruiting-Tool oder eine biometrische Kategorisierung im Kundenkontakt —, riskiert nicht eine Auflage, sondern die schärfste Sanktion des gesamten Regelwerks. Eine detaillierte Übersicht zur Bußgeldstaffel findet sich auf ki-bussgeld.de.

Die eigentliche Schwierigkeit liegt in den Grauzonen

Auf dem Papier wirken die Verbote eindeutig. In der Praxis liegt die Herausforderung in der Abgrenzung. Emotionserkennung ist am Arbeitsplatz untersagt — aber wo endet zulässige Sprachanalyse und wo beginnt verbotene Emotionsableitung? Biometrische Kategorisierung ist verboten, wenn sie sensible Merkmale ableitet — aber viele Systeme klassifizieren biometrische Daten aus scheinbar neutralen Gründen, deren Nebenprodukt dennoch eine sensible Einordnung sein kann. Und die Grenze zwischen legitimer Personalisierung und verbotener Manipulation verläuft nicht dort, wo das Marketing sie gern hätte, sondern dort, wo erheblicher Schaden droht.

Hinzu kommt, dass die Verbote rollenübergreifend wirken. Anders als viele Hochrisiko-Pflichten, die sich primär an Anbieter (Provider) richten, bindet Artikel 5 auch Betreiber (Deployer): Wer ein verbotenes System lediglich einsetzt, ohne es entwickelt zu haben, verstößt ebenso gegen die Verordnung. Für Unternehmen in DE, den übrigen EU27-Staaten, aber auch mit Bezug zu UK oder CH bedeutet das, den Blick nicht nur auf selbst entwickelte Modelle zu richten, sondern auf jedes eingekaufte oder integrierte Werkzeug — einschließlich der Systeme von Anbietern mit US-Nexus, die über den Vendor-Layer in den eigenen Betrieb gelangen.

Diese Grauzonen bedeuten: Es genügt nicht, guten Gewissens zu erklären, man betreibe keine verbotene KI. Entscheidend ist, ob eine Organisation nachvollziehbar belegen kann, wie ihre Systeme funktionieren, welche Merkmale sie verarbeiten und welchem Zweck sie dienen. Genau hier verschiebt sich die Frage von einer juristischen Auslegung zu einer Frage der Evidenz. Ein Unternehmen, das seine KI-Systeme lückenlos inventarisiert und ihre Funktionsweise dokumentiert hat, kann die Verbotsfrage sauber beantworten. Eines, das nur eine ungefähre Vorstellung von seinen Modellen hat, kann es nicht.

Vom Verbotskatalog zur Nachweisstrategie

Für die Vorbereitung folgt daraus eine klare Reihenfolge. Bevor eine Organisation ihre Hochrisiko-Pflichten strukturiert, sollte sie prüfen, ob überhaupt ein System in den Verbotsbereich des Artikels 5 fällt — denn hier gibt es keine Konformitätsbewertung, die einen Verstoß heilt. Ein verbotenes System ist nicht mängelbehaftet, es ist unzulässig. Diese Triage steht am Anfang jeder ernsthaften AI-Governance.

Damit wird Artikel 5 zum Prüfstein für den Trust-Infrastructure-Gedanken. Vertrauenswürdige KI entsteht nicht aus der Behauptung, man halte sich an die Verbote, sondern aus der Fähigkeit, den eigenen Systembestand jederzeit transparent darzulegen — gegenüber Aufsichtsbehörden, Auditoren und Geschäftspartnern. Ein nach ISO/IEC 42001 geführtes AI-Management-System liefert dafür die Struktur: ein gepflegtes Systeminventar, dokumentierte Zweckbindung und laufend erzeugte Evidenz, aus der sich die Verbotsfrage nicht rekonstruieren, sondern unmittelbar beantworten lässt.

Die verbotenen Praktiken sind damit weniger eine exotische Randzone als der Lackmustest für den Reifegrad der eigenen KI-Governance. Wer weiß, dass er sie sicher vermeidet, weiß es, weil er seinen Systembestand kennt — und wer ihn kennt, hat bereits die Grundlage für alles Weitere gelegt. Mehr dazu, wie sich Evidence-based AI Trust nachweisbar und audit-ready aufbauen lässt: aegira.ai.