Kennzeichnungspflicht für KI-Inhalte

Seit dem 2. August 2026 gilt ein Teil des AI Act, der fast jedes Unternehmen mit Website betrifft: die Transparenzpflichten. Ihr Grundgedanke ist so einfach wie einleuchtend. Menschen sollen wissen, wann sie es mit einer Maschine zu tun haben, und sie sollen erkennen können, wenn ein Bild, ein Video oder eine Stimme nicht echt ist. In einer Welt, in der synthetische Inhalte in Sekunden entstehen und von echten kaum zu unterscheiden sind, ist das keine Formalie, sondern eine Voraussetzung für Vertrauen.

Die Umsetzung ist weniger einfach, als der Grundgedanke vermuten lässt. Art. 50 besteht aus mehreren Absätzen, die sich an unterschiedliche Adressaten richten und unterschiedliche Inhalte betreffen. In Gesprächen mit Unternehmen begegnet uns immer wieder dieselbe Sorge: „Müssen wir jetzt jeden Text kennzeichnen, bei dem ChatGPT geholfen hat?“ Die Antwort lautet: nein. Aber um zu sehen, warum nicht, muss man die Absätze auseinanderhalten.

1. Vier Pflichten, zwei Adressaten

Art. 50 enthält vier inhaltliche Pflichten. Zwei richten sich an Anbieter, also an die Hersteller von KI-Systemen, zwei an Betreiber, also an die Unternehmen, die KI einsetzen. Ein fünfter Absatz regelt, wie die Informationen zu geben sind.

Abs. 1 – Interaktion mit KI. Anbieter müssen Systeme, die direkt mit Menschen interagieren, so gestalten, dass diese erfahren, dass sie mit einer KI kommunizieren. Das betrifft Chatbots, Sprachassistenten und KI-Agenten, die mit Kunden schreiben oder telefonieren. Eine Ausnahme gilt nur, wenn die KI-Natur für eine normal informierte, aufmerksame und verständige Person aus den Umständen offensichtlich ist.

Abs. 2 – Maschinenlesbare Markierung. Anbieter von Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen dafür sorgen, dass die Ausgaben in einem maschinenlesbaren Format als künstlich erzeugt erkennbar sind – etwa durch Wasserzeichen oder Metadaten. Diese Pflicht richtet sich an die Hersteller der Werkzeuge, nicht an ihre Nutzer. Ausgenommen sind Systeme, die nur unterstützend bei der Standardbearbeitung helfen oder die Eingaben nicht wesentlich verändern. Für Systeme, die bereits vor dem 2. August 2026 auf dem Markt waren, hat der AI Omnibus eine Übergangsfrist bis zum 2. Dezember 2026 eingeräumt.

Abs. 3 – Emotionserkennung und biometrische Kategorisierung. Betreiber solcher Systeme müssen die betroffenen Personen über den Betrieb informieren. Für die meisten Unternehmen ist das eine Randnotiz, für Callcenter mit Stimmungsanalyse aber nicht. Dort gehört der Hinweis in die Ansage vor dem Gespräch, nicht in das Kleingedruckte.

Abs. 4 – Deepfakes und KI-Texte. Hier liegt die Pflicht, die Unternehmen im Alltag am häufigsten trifft. Betreiber, die Deepfakes erzeugen oder verbreiten, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert sind. Und Betreiber, die KI-generierte Texte veröffentlichen, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen das ebenfalls offenlegen – es sei denn, der Text wurde menschlich geprüft oder redaktionell kontrolliert und jemand trägt die redaktionelle Verantwortung.

2. Was ist ein Deepfake?

Der Begriff ist weiter, als das Wort vermuten lässt. Ein Deepfake muss keine berühmte Person zeigen und nicht in böser Absicht entstehen. Ein fotorealistisches Bild, das ein nicht existierendes Team in einem echten Büro zeigt, kann ebenso darunter fallen wie eine KI-Stimme, die wie die des Geschäftsführers klingt. Entscheidend sind zwei Merkmale: die Ähnlichkeit mit der Wirklichkeit und die Eignung, für echt gehalten zu werden.

Umgekehrt ist nicht jedes KI-Bild ein Deepfake. Eine erkennbar stilisierte Illustration, ein abstraktes Muster oder eine offensichtliche Fantasiewelt täuscht niemanden. Für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke sieht das Gesetz zudem eine Erleichterung vor: Die Offenlegung darf so erfolgen, dass sie die Darstellung oder den Genuss des Werks nicht beeinträchtigt.

3. Die Ausnahme für Texte – und warum sie so wichtig ist

Die Textpflicht in Abs. 4 ist enger gefasst, als viele befürchten. Sie greift nur, wenn drei Bedingungen zusammenkommen: Der Text ist KI-generiert oder manipuliert, er wird veröffentlicht, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, und er wurde weder menschlich geprüft noch redaktionell verantwortet. Ein Produkttext im Onlineshop, eine Werbe-E-Mail oder eine interne Präsentation erfüllen schon die zweite Bedingung nicht.

Bei Blogbeiträgen und Newsartikeln kommt es auf die dritte Bedingung an. Wer KI-Entwürfe liest, prüft, überarbeitet und mit seinem Namen dafür einsteht, fällt aus der Pflicht heraus. Das ist eine bewusste Entscheidung des Gesetzgebers: Nicht das Werkzeug soll offengelegt werden, sondern das Fehlen menschlicher Verantwortung. Für Unternehmen folgt daraus eine klare Empfehlung. Legen Sie fest, wer KI-gestützte Veröffentlichungen freigibt, und dokumentieren Sie das. Dann ist die Frage der Kennzeichnung in den meisten Fällen beantwortet.

4. Wie der Hinweis aussehen muss

Art. 50 Abs. 5 verlangt, dass die Informationen klar und eindeutig und spätestens bei der ersten Interaktion oder Aussetzung bereitgestellt werden. Sie müssen außerdem den Anforderungen an die Barrierefreiheit entsprechen. Ein Hinweis, der nur beim Überfahren mit der Maus erscheint, in winziger Schrift unter dem Bild steht oder nur als Bild ohne Alternativtext existiert, erfüllt das nicht.

5. Prüfen Sie Ihren Fall

Der Assistent führt Sie durch die entscheidenden Fragen und liefert, wo nötig, eine Musterformulierung, die Sie übernehmen und anpassen können.

Viele Unternehmen entscheiden sich über die Pflicht hinaus für eine einheitliche, freiwillige Kennzeichnung – etwa ein kleines Symbol an allen KI-Bildern. Das ist rechtlich nicht nötig, aber oft klug. Es erspart die Einzelfallprüfung, schützt vor dem Vorwurf der Irreführung und signalisiert einen souveränen Umgang mit der Technik. Wie das im Marketing konkret aussieht, zeigt die nächste Lektion.

Stand: September 2026, Rechtsstand nach dem AI Omnibus (VO (EU) 2026/1744). Kursmaterial der Klarwerk Akademie, keine Rechtsberatung. Abbildungen sind vereinfachte, schematische Darstellungen.