Worum es geht: Diese Lektion behandelt den vermutlich wichtigsten Denkfehler im Umgang mit KI-Ergebnissen. Er trifft Ärzte, Richter und Führungskräfte gleichermaßen – und er lässt sich mit einer einzigen Überlegung ausräumen: Wie viele sind es überhaupt?
1. Eine Frage zum Warmwerden 🩺
Ein Test erkennt eine Krankheit in 99 von 100 Fällen zuverlässig. Bei Gesunden schlägt er nur in 5 Prozent der Fälle fälschlich an. Die Krankheit betrifft eine von hundert Personen.
Ihr Test ist positiv. Wie wahrscheinlich sind Sie tatsächlich krank?
Die meisten Menschen antworten „etwa 95 Prozent“. Die richtige Antwort liegt bei etwa 17 Prozent. Bevor Sie widersprechen: Probieren Sie es aus.
2. Rechnen Sie selbst nach
Von 10.000 Personen
betroffen100
davon erkannt99
gesund, aber Alarm495
alle mit Alarm594
Test positiv – tatsächlich betroffen mit
16.7 %
Obwohl der Test gut ist: Ein positives Ergebnis bedeutet hier eher nichts. Es gibt schlicht mehr Gesunde, und ein kleiner Anteil von vielen ist mehr als ein großer Anteil von wenigen.
3. Warum das so ist 🧮
Der Trick besteht darin, nicht in Prozentsätzen zu denken, sondern in Personen. Von 10.000 Menschen sind 100 krank und 9.900 gesund.
- Von den 100 Kranken erkennt der Test 99.
- Von den 9.900 Gesunden schlägt er bei 5 Prozent fälschlich an – das sind 495.
- Alarm gibt es also bei 594 Personen, von denen nur 99 tatsächlich krank sind.
99 von 594 sind 16,7 Prozent. Der Grund für das überraschende Ergebnis: Es gibt so viel mehr Gesunde, dass selbst ein kleiner Anteil von ihnen die wenigen echten Fälle zahlenmäßig überdeckt.
4. Was Bayes eigentlich sagt
Der Satz von Bayes ist die Formel hinter dieser Rechnung. In Worten sagt er etwas Alltägliches: Was ich vorher glaubte, plus was ich neu erfahren habe, ergibt was ich jetzt glaube.
Ein Beispiel ohne Medizin: Sie hören nachts ein Geräusch im Haus. Vorher hielten Sie einen Einbruch für unwahrscheinlich. Das Geräusch erhöht diese Einschätzung – aber es macht sie nicht zur Gewissheit, weil es viele harmlosere Erklärungen gibt, die alle häufiger sind.
Als Formel ansehen
P(A) ist die Vorannahme, P(B|A) wie gut der Test anschlägt, P(A|B) das Ergebnis nach dem Test. Wichtig ist die Unterscheidung zwischen P(A|B) und P(B|A): „Test positiv, wenn krank“ ist etwas völlig anderes als „krank, wenn Test positiv“. Diese Verwechslung heißt Prosecutor’s Fallacy und hat schon zu Fehlurteilen geführt.
5. Warum das für KI zentral ist 🤖
Jedes Modell, das etwas einordnet, hat dasselbe Problem. Eine Betrugserkennung, die zu 99 Prozent stimmt, erzeugt bei einer Betrugsquote von einem Promille überwiegend Fehlalarme. Eine Qualitätsprüfung, die Ausschuss mit 98 Prozent erkennt, meldet bei einer Ausschussquote von 0,5 Prozent vor allem einwandfreie Teile.
Die Frage, die man stellen muss
Daraus folgt auch, warum Schwellenwerte wichtig sind. Wer die Empfindlichkeit senkt, bekommt weniger Fehlalarme und übersieht dafür mehr echte Fälle. Welche Richtung richtig ist, hängt davon ab, was teurer ist – ein übersehener Fall oder ein falscher Alarm. Das ist keine technische, sondern eine unternehmerische Entscheidung.
6. In Python
haeufigkeit = 0.01 # 1 % sind betroffen
treffer = 0.99 # Test erkennt Betroffene
falsch_alarm = 0.05 # Alarm bei Gesunden
richtig_positiv = haeufigkeit * treffer
falsch_positiv = (1 - haeufigkeit) * falsch_alarm
ergebnis = richtig_positiv / (richtig_positiv + falsch_positiv)
print(f"Bei positivem Test tatsaechlich betroffen: {ergebnis:.1%}")
# Bei positivem Test tatsaechlich betroffen: 16.7%7. Was Sie mitnehmen sollten
- Die Grundhäufigkeit gehört immer in die Rechnung.
- Denken Sie in Personen statt Prozenten – dann löst sich der Denkfehler auf.
- „Test positiv, wenn krank“ ist nicht dasselbe wie „krank, wenn Test positiv“.
- Bei seltenen Ereignissen sind die meisten Alarme falsche Alarme – auch bei sehr guten Modellen.