Kaum ein Begriff taucht in Angeboten für KI-Projekte so häufig auf wie „Human in the Loop“. Gemeint ist etwas Einfaches: Ein Mensch bleibt an der Entscheidung beteiligt, statt sie einer Maschine zu überlassen. In der Praxis wird der Begriff allerdings für sehr verschiedene Dinge verwendet – von der täglichen Freigabe jedes einzelnen Vorgangs bis zu einer Person, die einmal im Quartal eine Statistik ansieht. Dieser Beitrag zeigt, was tatsächlich dahintersteckt, wo die Beteiligung wirkt und wo sie zur bloßen Formsache verkommt.
Die Grundfrage: Wie viel Mensch braucht ein Ablauf?
Jeder automatisierte Vorgang lässt sich auf einer Skala einordnen. An einem Ende macht ein Mensch alles selbst, am anderen läuft alles ohne ihn. Dazwischen liegen die interessanten Fälle – und die Kunst besteht darin, für jeden Vorgang den passenden Punkt zu finden, nicht den höchstmöglichen.
Die Maschine bereitet auf, der Mensch entscheidet jeden Fall. Der häufigste und meist sinnvollste Grad für alles mit Außenwirkung.
Beispiel: KI erstellt einen Antwortentwurf, ein Mensch schickt ihn ab.
Tempo
Risiko ohne Prüfung
Auffällig ist, wie schnell das Risiko steigt, sobald die menschliche Beteiligung wegfällt – und wie wenig Tempo die beiden mittleren Stufen kosten. Genau dort liegt für die meisten Unternehmen der sinnvolle Bereich: Die Maschine bereitet vor, der Mensch entscheidet oder gibt frei.
Drei Muster, die oft verwechselt werden
Hinter dem Sammelbegriff stecken drei unterschiedliche Konzepte, die aus der Automatisierungsforschung stammen und heute auch in der Regulierung auftauchen. Sie werden im Alltag munter durcheinandergeworfen – dabei bedeuten sie sehr Verschiedenes.
Der Ablauf hält an und wartet auf eine Entscheidung. Nichts wird wirksam, bevor ein Mensch zugestimmt hat. Langsam, aber sicher – richtig überall dort, wo ein Fehler nach außen wirkt oder Geld bewegt.
Passend für: Angebote, Gutschriften, Veröffentlichungen, alles mit rechtlicher Folge.
Die dritte Ebene ist die wichtigste und wird am häufigsten übersehen: Auch ein vollständig automatisierter Ablauf steht unter menschlicher Verfügung. Jemand hat entschieden, dass es ihn gibt, welche Rechte er hat und wann er abgeschaltet wird. Diese Verantwortung lässt sich nicht delegieren – auch nicht an einen Dienstleister.
Wann braucht ein Schritt eine Freigabe?
Die Frage lässt sich mit zwei Kriterien beantworten: Wie groß ist der Schaden, wenn der Schritt falsch läuft, und wie leicht lässt er sich zurücknehmen? Ein falsch abgelegtes Dokument ist in zwei Minuten korrigiert. Eine falsch versendete Gutschrift kostet Geld und Erklärungen. Eine abgelehnte Bewerbung lässt sich gar nicht zurücknehmen – der Mensch hat die Absage bereits gelesen.
Freigabe durch einen Menschen. Der Ablauf bereitet alles vor und hält an. Wichtig: Es dürfen nicht zu viele Freigaben anfallen, sonst wird geklickt statt geprüft.
Oben rechts, bei hohem Schaden und schwerer Rücknahme, hört Automatisierung auf. Dort darf ein System vorbereiten, recherchieren und Vorschläge machen – entscheiden muss ein Mensch. Bei Entscheidungen mit rechtlicher Wirkung oder erheblicher Beeinträchtigung schreibt das Datenschutzrecht genau das ohnehin vor.
Die Falle: Freigaben, die nichts prüfen
Hier liegt der Punkt, an dem die meisten Konzepte scheitern – und er wird in Projekten fast nie besprochen. Eine Freigabe wirkt nur, wenn sie tatsächlich stattfindet. Wer dreißigmal am Tag auf denselben Knopf klickt, prüft beim einunddreißigsten Mal nicht mehr. Fachleute nennen das Automatisierungsvoreingenommenheit: die Neigung, Vorschlägen einer Maschine zu folgen, gerade weil sie meistens stimmen.
Prüfzeit je Fall
11 Sek.
Fehler entdeckt
1 von 2
1 Fehler geht durch
Noch vertretbar, aber die Sorgfalt sinkt bereits. Prüfen Sie, ob wirklich jeder Fall vorgelegt werden muss.
Das Ergebnis ist paradox: Je mehr Kontrolle eingebaut wird, desto weniger wird kontrolliert. Ein Ablauf mit fünf echten Freigaben am Tag ist sicherer als einer mit fünfzig – obwohl der zweite auf dem Papier mehr Kontrolle vorsieht. Wer Freigaben einführt, muss deshalb zuerst die Frage beantworten, wie sie selten genug bleiben.
Wie eine Freigabe aussehen muss, damit sie wirkt
Ob geprüft oder geklickt wird, entscheidet die Gestaltung. Sechs Punkte machen in der Praxis den Unterschied.
So wirkt es
Der zu prüfende Punkt steht oben, hervorgehoben: der Preis, der Empfänger, die Abweichung von der Regel.
So nicht
Ein Anhang, den man erst öffnen muss – geprüft wird dann der Betreff.
Besonders wirksam ist der dritte Punkt. Wer nur zwischen Ja und Nein wählen kann, wählt im Zweifel Ja – ein Nein erzeugt Aufwand und Rückfragen. Kommt eine dritte Möglichkeit hinzu, etwa „mit Anmerkung zurückgeben“, verändert das die Aufmerksamkeit messbar, weil aus dem Abnicken eine Mitarbeit wird.
Was das Recht verlangt
Für bestimmte Fälle ist menschliche Beteiligung keine Frage der Gestaltung, sondern Pflicht. Das Datenschutzrecht untersagt in Artikel 22 der Datenschutz-Grundverordnung Entscheidungen, die ausschließlich automatisiert ergehen und für die betroffene Person rechtliche Wirkung entfalten oder sie erheblich beeinträchtigen – etwa die automatische Ablehnung eines Vertrags, einer Finanzierung oder einer Bewerbung. Ausnahmen gibt es, sie sind aber eng und verlangen ihrerseits Schutzmaßnahmen, darunter das Recht auf Eingreifen eines Menschen.
Hinzu kommt die KI-Verordnung. Für Systeme mit hohem Risiko verlangt sie in Artikel 14 ausdrücklich menschliche Aufsicht: Die beaufsichtigenden Personen müssen die Fähigkeiten und Grenzen des Systems verstehen, dessen Ausgaben richtig einordnen können, sich der Automatisierungsvoreingenommenheit bewusst sein und in der Lage sein, einzugreifen oder abzuschalten. Bemerkenswert daran ist, dass die Verordnung genau die Falle benennt, die dieser Beitrag beschreibt – sie fordert nicht nur einen Menschen im Ablauf, sondern einen, der tatsächlich urteilsfähig bleibt.
Für die allermeisten Anwendungen im Mittelstand – Belege auslesen, Anfragen sortieren, Entwürfe schreiben – gilt keine dieser Pflichten unmittelbar. Die zugrunde liegende Überlegung bleibt trotzdem richtig: Verantwortung lässt sich nicht automatisieren.
Drei Situationen zum Selbstprüfen
1.Ein Ablauf legt Ihnen täglich 60 Vorgänge zur Freigabe vor.
2.Die freigebende Person ist zwei Wochen im Urlaub.
3.Ein Agent soll Rechnungen prüfen und bei Abweichung reklamieren.
Wie man es praktisch einführt
In der Praxis hat sich ein Vorgehen in drei Stufen bewährt. Zu Beginn läuft alles mit Freigabe – auch das, was später automatisch laufen soll. Das kostet Zeit, schafft aber Vertrauen und deckt Fälle auf, an die niemand gedacht hat. Nach einigen Wochen werden die Vorgänge ausgewertet: Bei welchen Fällen wurde immer freigegeben, ohne dass je etwas zu korrigieren war? Genau diese dürfen anschließend ohne Freigabe laufen, während die übrigen weiterhin vorgelegt werden.
Der dritte Schritt wird meist vergessen: die regelmäßige Stichprobe. Auch bei automatisch laufenden Vorgängen sieht jemand monatlich zwanzig Fälle durch – nicht um zu genehmigen, sondern um zu bemerken, wenn sich die Qualität verändert. Damit bleibt der Mensch beteiligt, ohne zum Flaschenhals zu werden.
Häufige Fragen
Ist „Human in the Loop“ nicht einfach ein Freigabeknopf?
Der Knopf ist die sichtbare Umsetzung, nicht das Konzept. Entscheidend ist, dass eine Person die nötigen Informationen hat, ausreichend Zeit, eine echte Wahl und die Möglichkeit, auch Nein zu sagen, ohne dafür bestraft zu werden. Fehlt eines davon, ist der Knopf Dekoration.
Verlangsamt das nicht jeden Ablauf?
Nur dort, wo Freigaben nötig sind – und das sind weniger Stellen, als zunächst angenommen. Der Großteil eines Ablaufs besteht aus Schritten ohne Außenwirkung, die unbeaufsichtigt laufen können. Die Verlangsamung entsteht meist nicht durch die Freigabe selbst, sondern durch fehlende Vertretungsregelungen.
Wie viele Freigaben sind zu viele?
Als Faustregel: mehr als fünf bis zehn am Tag je Person führen dazu, dass geprüft wird, ohne wirklich hinzusehen. Wer über dieser Zahl liegt, sollte die Schwelle anheben, statt mehr Personal einzuplanen.
Gilt das auch für KI-Agenten?
Besonders dort. Ein Agent entscheidet selbst, welche Schritte er geht – deshalb reicht es nicht, ihm gute Anweisungen zu geben. Die menschliche Beteiligung wird bei Agenten über Rechte und Freigaben durchgesetzt: Was das Konto nicht darf, kann auch der beste Vorschlag nicht auslösen.
Wer sollte freigeben?
Jemand aus dem Fachbereich, der den Inhalt beurteilen kann – nicht die technisch zuständige Person. Und immer mit benannter Vertretung, sonst steht der Ablauf beim ersten Urlaub.
