Worum es geht: KI kann Teams spürbar entlasten. Gleichzeitig entstehen neue Risiken, die man kennen muss, um KI verantwortungsvoll einzusetzen – genau das meint der AI Act mit KI-Kompetenz.
1. Die Chancen
- Zeit sparen: Entwürfe, Zusammenfassungen, Übersetzungen und Recherchen in Minuten statt Stunden.
- Wissen verfügbar machen: Handbücher und Richtlinien per Frage durchsuchbar.
- Qualität sichern: Fehler in Belegen, Texten oder Code früher erkennen.
- Service verbessern: Antworten rund um die Uhr, mit Übergabe an Menschen.
- Besser planen: Nachfrage und Engpässe vorhersagen.
2. Die Risiken
| Risiko | Was passiert | Beispiel |
|---|---|---|
| Halluzination | Plausible, aber falsche Aussagen | Erfundene Paragraphen in einem Vertragsentwurf |
| Bias | Verzerrte Ergebnisse durch einseitige Daten | Bewerbungen bestimmter Gruppen werden schlechter bewertet |
| Datenschutz | Personenbezogene Daten gelangen ungeprüft zu Dritten | Kundenliste im öffentlichen Chatfenster |
| Vertraulichkeit | Geschäftsgeheimnisse verlassen das Unternehmen | Strategiepapier zur „Verbesserung“ hochgeladen |
| Urheberrecht | Unklare Rechte an Inhalten | KI-Bild im Stil eines geschützten Werks |
| Sicherheit | Manipulation durch versteckte Anweisungen (Prompt Injection) | Chatbot gibt interne Informationen preis |
| Manipulation | Täuschend echte Fälschungen | Deepfake-Anruf mit der Stimme der Geschäftsführung |
| Abhängigkeit | Preis-, Qualitäts- oder Verfügbarkeitsrisiko beim Anbieter | Kernprozess hängt an einem einzigen Modell |
3. Risiken im eigenen Einsatz einschätzen
Welche Risiken wie stark wiegen, hängt vom Einsatz ab. Wählen Sie typische Fälle und vergleichen Sie:
Risiko-Radar: Wählen Sie einen Einsatz
Halluzinationhoch
Biasmittel
Datenschutzhoch
Vertraulichkeitmittel
Urheberrechtniedrig
Sicherheithoch
Typische Einschätzung – im Einzelfall abhängig von Werkzeug, Daten und Prozess.
Wirksame Gegenmaßnahmen
- Als KI kennzeichnen (Art. 50, seit August 2026)
- Antworten auf eigene, geprüfte Inhalte stützen (RAG)
- Übergabe an Menschen anbieten; gegen Prompt Injection testen
Bezug zum AI Act
Kennzeichnungspflicht →4. Das wichtigste Prinzip: Mensch in der Schleife
Je stärker ein KI-Ergebnis Menschen betrifft, desto wichtiger ist, dass ein Mensch prüft, entscheidet und verantwortet. Bei Hochrisiko-Systemen schreibt der AI Act menschliche Aufsicht sogar vor.
Übung
- Wählen Sie im Radar „Bewerbungen vorsortieren“. Welche beiden Risiken sind am höchsten – und warum?
- Eine Kollegin möchte ein Meetingprotokoll mit Kundennamen in ein kostenloses KI-Werkzeug laden. Was raten Sie?
Lösungshinweise
- Bias und Datenschutz: Das System bewertet Menschen anhand personenbezogener Daten – Verzerrungen können direkt zu Benachteiligung führen.
- Nicht ohne geprüftes, freigegebenes Werkzeug mit Auftragsverarbeitungsvertrag. Alternativ Namen entfernen oder ein im Unternehmen freigegebenes Werkzeug nutzen.
Stand: September 2026. Kein Rechtsrat.