KI und Datenschutz: Was darf ins Chatfenster?

Das Chatfenster eines KI-Assistenten wirkt wie ein privater Notizblock. Man tippt hinein, bekommt eine Antwort, und niemand schaut zu. Dieser Eindruck ist der Kern des Problems. Tatsächlich verlässt jede Eingabe das Unternehmen, wird auf fremden Servern verarbeitet und unter Umständen gespeichert, ausgewertet oder zum Training künftiger Modelle genutzt. Was im Chatfenster landet, ist aus Sicht des Datenschutzes eine Übermittlung an einen Dienstleister – mit allen Folgen, die das hat.

Diese Lektion zeigt, wie AI Act und DSGVO zusammenspielen, welche Daten in ein KI-Werkzeug gehören und welche nicht, und wie Sie mit wenigen Regeln den Großteil der Risiken ausräumen, ohne auf den Nutzen der Werkzeuge zu verzichten.

1. Zwei Gesetze, zwei Blickrichtungen

Der AI Act und die DSGVO betrachten dieselbe Situation aus verschiedenen Winkeln. Der AI Act fragt nach dem System: Wie riskant ist es, wer trägt welche Pflichten, ist der Einsatz transparent? Die DSGVO fragt nach den Daten: Werden personenbezogene Daten verarbeitet, auf welcher Grundlage, an wen gehen sie, und welche Rechte haben die Betroffenen? Art. 2 Abs. 7 des AI Act stellt ausdrücklich klar, dass die DSGVO unberührt bleibt. Ein KI-Einsatz kann den AI Act vollständig erfüllen und trotzdem gegen den Datenschutz verstoßen.

In der Praxis ist die DSGVO für die meisten Unternehmen die strengere Hürde. Während ein Textassistent nach dem AI Act meist nur ein minimales Risiko darstellt, stellt die DSGVO bei jeder Eingabe mit Personenbezug dieselben Fragen wie bei jedem anderen Dienstleister. Die Datenschutzkonferenz, das Gremium der deutschen Aufsichtsbehörden, hat dazu bereits 2024 eine Orientierungshilfe veröffentlicht, die genau diese Fragen durchgeht.

2. Was sind personenbezogene Daten?

Der Begriff ist weiter, als viele denken. Nicht nur Name und E-Mail-Adresse zählen dazu, sondern auch eine Kundennummer, eine Auftragsnummer, die sich einer Person zuordnen lässt, oder eine Beschreibung, die so konkret ist, dass Kollegen sofort wissen, wer gemeint ist. Besonders geschützt sind nach Art. 9 DSGVO Gesundheitsdaten, Angaben zur Religion, zur politischen Meinung, zur Gewerkschaftszugehörigkeit, zur sexuellen Orientierung sowie biometrische und genetische Daten. Sie gehören ohne gesonderte Prüfung nie in ein KI-Werkzeug.

Neben dem Datenschutz spielt ein zweiter Schutzbereich eine Rolle, der oft vergessen wird: Geschäftsgeheimnisse. Kalkulationen, Konstruktionsdaten, Kundenlisten oder Strategiepapiere sind nach dem Geschäftsgeheimnisgesetz nur geschützt, wenn das Unternehmen angemessene Geheimhaltungsmaßnahmen trifft. Wer sie unbedacht in ein Werkzeug kopiert, das Eingaben zum Training nutzt, riskiert nicht nur ihren Abfluss, sondern im Streitfall auch den rechtlichen Schutz.

3. Privatkonto oder Unternehmenslösung

Der wichtigste Hebel liegt in der Wahl des Werkzeugs. Die meisten großen Anbieter unterscheiden zwischen kostenlosen oder privaten Zugängen und Unternehmensangeboten. Die Unterschiede sind erheblich.

Die Konsequenz ist einfach: Für die Arbeit mit personenbezogenen Daten oder Geschäftsgeheimnissen braucht es ein freigegebenes Unternehmenswerkzeug mit Auftragsverarbeitungsvertrag. Private Konten sind für dienstliche Inhalte tabu. Und wer Daten in Länder außerhalb der EU übermittelt, braucht dafür eine Grundlage nach Kapitel V der DSGVO. Für die USA ist das derzeit häufig das EU-US Data Privacy Framework, dem viele große Anbieter beigetreten sind.

Ein besonderes Risiko ist die sogenannte Schatten-KI. Gibt ein Unternehmen seinen Beschäftigten kein geeignetes Werkzeug an die Hand, nutzen viele trotzdem KI – nur eben mit privaten Konten, auf privaten Geräten und ohne jede Kontrolle. Verbote allein ändern daran erfahrungsgemäß wenig. Wirksamer ist es, ein freigegebenes Werkzeug bereitzustellen und klar zu sagen, was damit erlaubt ist. Das kostet Lizenzen, spart aber das deutlich größere Risiko unkontrollierter Datenabflüsse. Und es ist die Voraussetzung dafür, dass die übrigen Regeln dieser Lektion überhaupt eingehalten werden können.

4. Üben: Ampel und Schwärzen

Die folgende Übung trainiert das schnelle Urteil, das im Alltag gebraucht wird. Ordnen Sie jede Eingabe einer Ampelfarbe zu.

Oft ist die beste Lösung, die Eingabe vorher zu bereinigen. Probieren Sie es aus: Welche Angaben müssen aus diesem Auftrag an die KI entfernt werden?

5. Wenn die KI über Menschen entscheidet

Art. 22 DSGVO gibt jeder Person das Recht, keiner ausschließlich auf einer automatisierten Verarbeitung beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Der Europäische Gerichtshof hat diese Vorschrift 2023 im Fall SCHUFA weit ausgelegt: Schon ein automatisch berechneter Wert kann eine solche Entscheidung sein, wenn er für das Ergebnis maßgeblich ist.

Für Unternehmen heißt das: Überall dort, wo KI über Kredite, Bewerbungen, Vertragsbedingungen oder Kündigungen mitentscheidet, muss ein Mensch mit echter Entscheidungsbefugnis beteiligt sein – nicht als Formalie, sondern mit der Möglichkeit, anders zu entscheiden. Hier treffen sich DSGVO und AI Act: Die menschliche Aufsicht, die Art. 14 und 26 für Hochrisiko-Systeme verlangen, erfüllt zugleich diese datenschutzrechtliche Anforderung. Bei solchen Einsätzen ist in aller Regel auch eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO nötig.

6. Fünf Regeln für das Team

Die meisten Risiken lassen sich mit wenigen, klaren Regeln abdecken, die in die KI-Richtlinie gehören. Erstens: Nur freigegebene Werkzeuge verwenden, keine privaten Konten für dienstliche Inhalte. Zweitens: Namen, Kontaktdaten und Kennnummern vor der Eingabe entfernen, wenn sie für die Aufgabe nicht nötig sind. Drittens: Gesundheitsdaten und andere besondere Kategorien nie ohne gesonderte Freigabe eingeben. Viertens: Zugangsdaten, Passwörter und Schlüssel gehören nie in ein Chatfenster. Fünftens: Entscheidungen über Menschen trifft immer ein Mensch. Mehr braucht es für den Alltag nicht – aber diese fünf Regeln müssen alle kennen. Am besten hängen sie dort, wo gearbeitet wird: in der Richtlinie, im Intranet und als kurzer Hinweis direkt im freigegebenen Werkzeug.

Stand: September 2026. Kursmaterial der Klarwerk Akademie, keine Rechtsberatung. Abbildungen sind vereinfachte, schematische Darstellungen.