Verboten oder erlaubt? 12 Praxisfälle

Verbote wirken auf den ersten Blick wie der einfachste Teil eines Gesetzes. Etwas ist erlaubt oder eben nicht. Beim AI Act täuscht dieser Eindruck. Die Verbote in Art. 5 sind nicht als schlichte Liste von Technologien formuliert, sondern als genau umrissene Tatbestände. Emotionserkennung ist nicht verboten – Emotionserkennung am Arbeitsplatz schon. Personalisierung ist nicht verboten – manipulative Techniken, die Menschen erheblich schaden, schon. Wer die Verbote verstehen will, muss deshalb lesen wie ein Jurist: Merkmal für Merkmal.

Die gute Nachricht vorweg: Für die allermeisten Unternehmen sind die Verbote kein Alltagsproblem. Sie zielen auf Praktiken, die mit Grundrechten unvereinbar sind, und kaum ein mittelständischer Betrieb plant Social Scoring. Trotzdem gibt es zwei, drei Stellen, an denen gängige Software unbemerkt auf verbotenes Terrain geraten kann. Diese Lektion schärft den Blick dafür – und endet mit zwölf Fällen, an denen Sie Ihr Urteil erproben.

1. Warum der AI Act überhaupt verbietet

Die meisten Regeln des AI Act gestalten: Sie sagen, wie ein System beschaffen sein muss. Die Verbote dagegen ziehen eine Grenze, hinter der keine noch so gute Gestaltung hilft. Erwägungsgrund 28 begründet das mit den Werten der Union – Menschenwürde, Freiheit, Gleichheit, Demokratie, Rechtsstaatlichkeit und den Grundrechten der Charta. Bestimmte Praktiken seien mit diesen Werten schlicht unvereinbar, egal wie genau oder sicher die Technik arbeite.

Seit dem 2. Februar 2025 gelten die Verbote. Verstöße sind mit den höchsten Bußgeldern der Verordnung bewehrt: bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes. Die EU-Kommission hat im Februar 2025 Leitlinien zu den verbotenen Praktiken veröffentlicht, die zahlreiche Beispiele enthalten und für die Auslegung maßgebliche Orientierung geben.

2. Die Verbote im Überblick

3. Wie ein Verbot gebaut ist

Jedes Verbot besteht aus mehreren Merkmalen, die zusammenkommen müssen. Das ist keine juristische Spitzfindigkeit, sondern der Kern der Sache. Nehmen Sie die Emotionserkennung: Verboten ist nicht die Technik an sich, sondern ihr Einsatz in einem bestimmten Kontext – am Arbeitsplatz oder in Bildungseinrichtungen – und nur, wenn keine Ausnahme aus medizinischen oder Sicherheitsgründen greift. Fehlt ein Merkmal, ist die Praxis nicht verboten. Sie kann dann aber durchaus hochriskant sein oder einer Transparenzpflicht unterliegen.

Besonders deutlich wird das beim Manipulationsverbot in lit. a. Werbung will beeinflussen, das ist ihr Zweck. Der AI Act verbietet sie deshalb nicht. Verboten sind KI-Systeme, die unterschwellig, absichtlich manipulativ oder täuschend arbeiten, dadurch das Verhalten von Menschen wesentlich verzerren und so einen erheblichen Schaden verursachen oder verursachen können. Diese Kombination macht das Verbot eng. Die Leitlinien der Kommission betonen, dass gewöhnliche, rechtmäßige Werbe- und Geschäftspraktiken nicht erfasst sein sollen.

4. Wo Unternehmen aufpassen sollten

Drei Konstellationen verdienen im Mittelstand Aufmerksamkeit. Die erste ist die Stimmungsanalyse im Kundendienst. Viele Callcenter- und Videokonferenz-Werkzeuge bieten inzwischen „Sentiment-Analyse“ an. Solange sie die Stimmung von Kunden auswertet, ist sie nicht verboten. Sobald sie aber Beschäftigte bewertet – etwa ihre Freundlichkeit oder ihren Stress –, ist die Grenze zu lit. f überschritten, wenn die Analyse auf biometrischen Daten wie Stimme oder Mimik beruht.

Die zweite ist das Recruiting. Software, die aus Videointerviews Persönlichkeit oder Emotionen herausliest oder aus Fotos auf sensible Merkmale schließt, kann gleich zwei Verbote berühren. Hier lohnt ein genauer Blick in die Funktionsbeschreibung, bevor ein Anbieter beauftragt wird.

Die dritte ist das Marketing mit Dark Patterns. Ein KI-gestütztes Ausspielen von Scheinverknappung oder künstlichem Zeitdruck ist in den meisten Fällen bereits nach dem Gesetz gegen den unlauteren Wettbewerb unzulässig. Ob zusätzlich das Manipulationsverbot des AI Act greift, hängt davon ab, wie erheblich der Schaden für die Betroffenen ist. Wer hier sauber arbeitet, muss sich um beides keine Sorgen machen.

5. Ausnahmen richtig lesen

Wo es Verbote gibt, gibt es Ausnahmen – und die werden gern zu großzügig gelesen. Bei der Emotionserkennung nennt das Gesetz medizinische und sicherheitsbezogene Gründe. Gemeint sind etwa therapeutische Anwendungen oder die Erkennung gefährlicher Zustände bei Menschen, die Maschinen steuern. Nicht gemeint ist die allgemeine Behauptung, eine entspannte Belegschaft sei sicherer. Wer eine Ausnahme in Anspruch nimmt, sollte sie konkret begründen können.

Ähnlich verhält es sich mit der biometrischen Echtzeit-Fernidentifizierung. Die dort vorgesehenen Ausnahmen – etwa die gezielte Suche nach Opfern schwerer Straftaten oder die Abwehr einer konkreten terroristischen Bedrohung – stehen ausschließlich Strafverfolgungsbehörden offen und setzen eine vorherige Genehmigung voraus. Für Unternehmen spielen sie keine Rolle. Umgekehrt gilt aber auch: Das Verbot selbst richtet sich nur an die Strafverfolgung. Ein Einzelhändler, der bekannte Ladendiebe per Gesichtserkennung am Eingang erkennen will, fällt nicht unter dieses Verbot. Frei ist er deshalb nicht – biometrische Fernidentifizierung ist nach Anhang III ein Hochrisiko-Bereich, und die DSGVO setzt der Verarbeitung biometrischer Daten ohnehin sehr enge Grenzen.

Schließlich gilt: Eine Praxis, die nicht verboten ist, ist damit noch nicht unproblematisch. Das Verbot ist die äußerste Grenze, nicht der Maßstab für gute Praxis. Wer sich bei einem Werkzeug fragt, ob es gerade noch erlaubt ist, sollte sich zugleich fragen, ob er es seinen Kunden und Beschäftigten offen erklären könnte.

6. Zwölf Fälle zum Üben

Die folgenden Fälle sind so gewählt, dass die offensichtlichen neben den kniffligen stehen. Entscheiden Sie zuerst selbst und lesen Sie dann die Begründung. Achten Sie besonders auf die Paare – Fall 1 und 2, Fall 4 und 5 –, die sich nur in einem Merkmal unterscheiden.

Wenn Sie bei den Grenzfällen unsicher waren, ist das ein gutes Zeichen: Es zeigt, dass Sie die Merkmale ernst nehmen. In der Praxis werden solche Fälle nicht allein im Kopf entschieden, sondern mit einer dokumentierten Abwägung, die im Zweifel eine rechtliche Prüfung einschließt. Welche Fälle nicht verboten, aber hochriskant sind, behandelt die nächste Lektion.

Stand: September 2026, Rechtsstand nach dem AI Omnibus (VO (EU) 2026/1744). Kursmaterial der Klarwerk Akademie, keine Rechtsberatung. Abbildungen sind vereinfachte, schematische Darstellungen.