Worum es geht: Ein Sprachmodell erzeugt Text, der plausibel klingt. Ob er stimmt, ist eine andere Frage – und die beantwortet das Modell nicht mit. Diese Lektion zeigt, wo Sie genau hinsehen müssen und wo Sie es sich sparen können.
1. Warum falsche Antworten so überzeugend klingen 🎭
Ein Sprachmodell wählt Wort für Wort das, was am besten passt. Es hat kein Nachschlagewerk und keinen Begriff davon, ob etwas wahr ist. Wenn eine Angabe fehlt, entsteht trotzdem ein Satz – und zwar einer, der genauso überzeugt formuliert ist wie eine richtige Antwort.
Das ist der entscheidende Unterschied zu einem Menschen: Ein Mitarbeiter, der etwas nicht weiß, zögert, schränkt ein oder fragt nach. Ein Modell antwortet in derselben Tonlage weiter. Fachleute nennen das Halluzination – irreführend, denn es ist kein Fehler im Betrieb, sondern die Funktionsweise.
2. Was wie sorgfältig geprüft wird
Prüfaufwand hoch
Zahlen sehen immer richtig aus. Ein Modell kann eine Jahreszahl, einen Betrag oder einen Prozentsatz erfinden, der plausibel wirkt und frei erfunden ist. Jede Zahl, die weiterverwendet wird, muss an der Quelle geprüft werden.
3. Die Faustregel 📐
Der Prüfaufwand richtet sich nach zwei Fragen: Wie teuer ist ein Fehler? und Würde er auffallen? Ein Tippfehler in einer internen Notiz ist billig und fällt auf. Eine falsche Zahl in einem Angebot ist teuer und fällt vielleicht nie auf.
| Fehler teuer? | Fällt auf? | Vorgehen |
|---|---|---|
| nein | ja | Übernehmen, kurz querlesen |
| nein | nein | Stichprobe |
| ja | ja | Vollständig prüfen |
| ja | nein | Vollständig prüfen und ein zweites Augenpaar |
Die letzte Zeile ist die gefährlichste Kombination – und genau dort liegen Zahlen in Angeboten, Rechtsauskünfte und Berechnungen.
4. Drei Handgriffe, die schnell gehen ⚡
Nach der Quelle fragen. „Woher stammt diese Angabe?“ Wenn keine Quelle genannt werden kann, ist die Angabe vermutlich erzeugt statt gefunden.
Zweimal fragen. Dieselbe Frage in einem neuen Gespräch stellen. Weichen die Antworten deutlich ab, ist das Modell unsicher – auch wenn beide Antworten sicher klingen.
Widersprechen. „Bist du sicher? Ich meine, es war anders.“ Ein Modell, das eine erfundene Angabe sofort zurücknimmt, hatte sie nie belegt. Umgekehrt ist Nachgiebigkeit kein Beweis für einen Fehler – deshalb ersetzt dieser Handgriff keine echte Prüfung.
5. Der Sonderfall: eigenes Material 📄
Wenn Sie das Material mitgeben – ein Dokument, eine Anfrage, eine Tabelle –, ist die Zuverlässigkeit deutlich höher. Das Modell muss dann nichts aus dem Gedächtnis holen, sondern nur umformen.
Verlangen Sie in diesem Fall Belegstellen: „Nenne zu jeder Aussage die Stelle im Text, auf die sie sich stützt.“ Damit wird die Antwort prüfbar, und erfundene Ergänzungen fallen sofort auf, weil sie keine Fundstelle haben.
6. Was das für den Betrieb heißt
Wer KI im Unternehmen einsetzt, braucht keine Regel für jeden Fall, sondern eine einzige Festlegung: Wer prüft, bevor etwas nach außen geht. Alles mit Außenwirkung – Angebote, Kundenmails, Veröffentlichungen – bekommt eine benannte Freigabe. Alles Interne läuft durch.
Das ist derselbe Gedanke wie bei automatisierten Abläufen: Die Maschine bereitet vor, ein Mensch entscheidet, wo es darauf ankommt.
7. Was Sie mitnehmen sollten
- Falsche Antworten klingen genauso überzeugt wie richtige.
- Zahlen, Quellen und Rechtsaussagen immer prüfen.
- Prüfaufwand nach Kosten des Fehlers und Auffälligkeit bemessen.
- Mit eigenem Material arbeiten und Belegstellen verlangen.