Hochrisiko erkennen – und die Zeit bis 2027 nutzen

Der Begriff „Hochrisiko-KI“ klingt nach autonomen Waffen und selbstfahrenden Lastwagen. In der Wirklichkeit des Mittelstands sieht er unspektakulärer aus: ein Bewerbermanagement, das eingehende Unterlagen vorsortiert. Eine Software, die Außendienstlern auf Basis ihrer Zahlen Gebiete zuweist. Ein Tool, das die Leistung im Lager auswertet. Keines dieser Systeme ist gefährlich im technischen Sinn. Aber alle entscheiden über Lebenschancen von Menschen mit – und genau das meint der AI Act mit hohem Risiko.

Durch den AI Omnibus gelten die Pflichten für diese Systeme erst ab dem 2. Dezember 2027. Das klingt nach viel Zeit. Wer aber weiß, wie lange die Einführung eines neuen HR-Systems samt Betriebsvereinbarung dauert, wird diese Frist nicht als Ruhepause verstehen, sondern als Planungshorizont. Diese Lektion zeigt, wie Sie Hochrisiko-Systeme sicher erkennen und was bis dahin zu tun ist.

1. Das Prüfschema nach Art. 6

Art. 6 kennt zwei Wege in die Kategorie. Der erste führt über regulierte Produkte: Ist ein KI-System Sicherheitsbauteil eines Produkts, das unter die Harmonisierungsvorschriften in Anhang I fällt und von einer externen Stelle geprüft werden muss, ist es hochriskant. Das betrifft etwa Maschinen, Medizinprodukte, Aufzüge oder Spielzeug. Der zweite Weg führt über die acht Bereiche in Anhang III, die Sie aus Modul 2 kennen.

Auf diesem zweiten Weg gibt es eine Abzweigung, die in der Praxis viel Bedeutung hat: die Ausnahme nach Art. 6 Abs. 3. Ein System aus einem Anhang-III-Bereich gilt nicht als hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt. Das Gesetz nennt vier typische Konstellationen: eine eng begrenzte Verfahrensaufgabe, die Verbesserung einer bereits abgeschlossenen menschlichen Tätigkeit, das bloße Erkennen von Entscheidungsmustern oder Abweichungen, ohne die menschliche Bewertung zu ersetzen, und vorbereitende Aufgaben.

Die Ausnahme hat eine harte Grenze: Nimmt das System ein Profiling natürlicher Personen vor, gilt es immer als hochriskant. Wer also Bewerbende nach einem Eignungswert sortiert, kann sich nicht auf die Ausnahme berufen. Wer nur Lebensläufe in ein einheitliches Format bringt, dagegen schon. Der Anbieter, der sich auf die Ausnahme beruft, muss seine Einschätzung dokumentieren und das System in der EU-Datenbank registrieren. Als Betreiber sollten Sie sich diese Einschätzung zeigen lassen.

Gehen Sie das Schema an einem Werkzeug aus Ihrem Unternehmen durch:

2. Der häufigste Fall: Personal

Anhang III Nr. 4 erfasst KI-Systeme, die bestimmungsgemäß für die Einstellung oder Auswahl von Personen verwendet werden sollen – ausdrücklich auch für das gezielte Schalten von Stellenanzeigen, das Sichten und Filtern von Bewerbungen und das Bewerten von Bewerbenden. Hinzu kommen Systeme, die Entscheidungen über Arbeitsbedingungen, Beförderungen und Kündigungen beeinflussen, Aufgaben nach Verhalten oder Persönlichkeitsmerkmalen zuweisen oder Leistung und Verhalten von Beschäftigten überwachen und bewerten.

Diese Aufzählung ist weiter, als viele Personalabteilungen vermuten. Nicht nur die Bewerberauswahl ist erfasst, sondern auch ein Werkzeug, das im Lager auf Basis von Leistungsdaten Aufgaben verteilt, oder eine Software, die aus Kennzahlen Kandidaten für eine Beförderung vorschlägt. Für den Mittelstand ist der Personalbereich deshalb mit Abstand der wichtigste Hochrisiko-Fall. Wer hier KI-Funktionen nutzt, sollte sie bis spätestens 2027 sauber eingeordnet haben.

3. Wer was tun muss

Die Hauptlast tragen die Anbieter. Sie müssen ein Risikomanagementsystem einrichten, die Qualität der Trainingsdaten sicherstellen, eine umfassende technische Dokumentation erstellen, automatische Protokollierung ermöglichen, eine verständliche Betriebsanleitung liefern, menschliche Aufsicht technisch vorsehen und Genauigkeit, Robustheit und Cybersicherheit gewährleisten. Hinzu kommen ein Qualitätsmanagementsystem, die Konformitätsbewertung, die CE-Kennzeichnung und die Registrierung.

Die Pflichten der Betreiber stehen in Art. 26 und sind überschaubarer, aber keineswegs formal. Sie müssen das System gemäß der Betriebsanleitung einsetzen und die menschliche Aufsicht Personen übertragen, die dafür die nötige Kompetenz, Ausbildung und Befugnis haben. Soweit sie die Eingabedaten kontrollieren, müssen diese für den Zweck relevant und hinreichend repräsentativ sein. Sie überwachen den Betrieb, melden Risiken und schwerwiegende Vorfälle an den Anbieter und bewahren automatisch erzeugte Protokolle mindestens sechs Monate auf.

Zwei Pflichten verdienen besondere Aufmerksamkeit. Vor dem Einsatz am Arbeitsplatz müssen Beschäftigte und ihre Vertretungen informiert werden (Art. 26 Abs. 7). In Deutschland greift ohnehin die Mitbestimmung des Betriebsrats bei technischen Einrichtungen zur Leistungs- und Verhaltenskontrolle. Und Personen, über die ein Hochrisiko-System mitentscheidet, haben einen Anspruch auf Information und in bestimmten Fällen auf eine Erläuterung der Entscheidung (Art. 86).

4. Die Zeit bis 2027 nutzen

Als Betreiber müssen Sie kein Konformitätsverfahren durchlaufen. Ihre Aufgabe ist, die eigenen Einsätze zu kennen, die richtigen Fragen an die Anbieter zu stellen und die organisatorischen Voraussetzungen zu schaffen. Die folgende Checkliste bündelt die Schritte, die sich in dieser Reihenfolge bewährt haben.

Was aber, wenn der Anbieter auf Ihre Nachfrage ausweichend antwortet oder gar nicht? Das ist selbst eine wertvolle Information. Ein Hersteller von Personalsoftware, der Ende 2026 noch nicht sagen kann, ob sein Produkt unter Anhang III fällt und wie er die Anforderungen erfüllen will, wird es 2027 kaum schaffen. Für Sie als Betreiber heißt das: Alternativen prüfen, bevor die Frist drängt, und bei neuen Verträgen die Konformität ausdrücklich zusichern lassen – einschließlich einer Betriebsanleitung, die Ihre Pflichten nach Art. 26 überhaupt erst erfüllbar macht.

Wer diese Punkte bis Mitte 2027 erledigt hat, erfüllt nicht nur die Vorgaben, sondern gewinnt auch Klarheit darüber, welche Entscheidungen im Unternehmen tatsächlich von Software beeinflusst werden. Das ist ein Wert für sich, denn erst dann lässt sich ehrlich beantworten, wo Menschen und wo Maschinen entscheiden. Wie Sie die Ergebnisse in einer KI-Inventur und einer Richtlinie festhalten, zeigt Modul 8. Die Rollenfrage, die über Anbieter- oder Betreiberpflichten entscheidet, vertieft die Lektion Anbieter, Betreiber oder beides?.

Stand: September 2026, Rechtsstand nach dem AI Omnibus (VO (EU) 2026/1744). Kursmaterial der Klarwerk Akademie, keine Rechtsberatung. Abbildungen sind vereinfachte, schematische Darstellungen.