Glossar · Recht und Datenschutz
Prüfebenen (Human in the Loop)
Auch: Human in the Loop, menschliche Aufsicht, Vier-Augen-Prinzip für KI
Prüfebenen sind festgelegte Stellen in einem KI-gestützten Ablauf, an denen ein Mensch das Ergebnis prüft, freigibt oder verwirft, bevor es wirksam wird. Sie setzen die menschliche Aufsicht um, die DSGVO und AI Act für Entscheidungen mit Wirkung auf Personen verlangen.
Einordnung
Was das für Ihre Wissensbasis bedeutet
Drei Ebenen haben sich bewährt: Was der Agent allein erledigen darf (Formalarbeit ohne Außenwirkung), was er vorbereitet und ein Mensch freigibt (Bestellungen, Antworten an Kunden), und was ein Mensch von Anfang an entscheidet (Personal, Verträge, Sicherheit). Die Zuordnung steht im Prozessdokument.
Prüfebenen sind keine Bremse. Sie sind der Grund, warum ein Unternehmen Agenten überhaupt einsetzen darf und warum Mitarbeitende und Betriebsrat mitgehen.
Datenschutz und Compliance
Was dabei zu beachten ist
Eine Prüfebene ist nur dann eine, wenn der Mensch tatsächlich entscheiden kann: mit Zeit, Information und Befugnis. Ein automatisch bestätigter Vorschlag gilt rechtlich als automatisierte Entscheidung nach Artikel 22 DSGVO.
Lassen Sie uns sprechen
Aus einer Herausforderung wird eine Lösung.
Ein Gespräch. 30 Minuten. Keine Vorbereitung.
Erstgespräch vereinbarenUnverbindlich · 30 Minuten