Glossar · Recht und Datenschutz
Hochrisiko-KI-System
Auch: High-Risk AI, Anhang III AI Act
Ein Hochrisiko-KI-System ist nach dem AI Act ein KI-System in einem Bereich mit erheblichen Auswirkungen auf Sicherheit oder Grundrechte, etwa Beschäftigung, Bildung, kritische Infrastruktur, Kreditwürdigkeit oder Strafverfolgung. Für Betreiber und Anbieter gelten besondere Pflichten.
Einordnung
Was das für Ihre Wissensbasis bedeutet
Für Unternehmen ist vor allem der Bereich Beschäftigung relevant: KI, die Bewerbungen sortiert, Mitarbeitende bewertet, Aufgaben zuteilt oder Kündigungen vorbereitet, ist Hochrisiko. Ein Corporate LLM, das Prozesswissen beantwortet, ist es nicht. Die Grenze muss aber bewusst gezogen und dokumentiert werden.
Prüfebenen in agentischen Systemen sorgen dafür, dass Agenten die Vorbereitung übernehmen und Menschen die Entscheidung. Das hält viele Anwendungen aus dem Hochrisiko-Bereich heraus.
Datenschutz und Compliance
Was dabei zu beachten ist
Betreiber von Hochrisiko-Systemen müssen menschliche Aufsicht sicherstellen, Protokolle aufbewahren, Mitarbeitende und Betriebsrat informieren und bei Beschäftigtendaten zusätzlich die Mitbestimmung beachten.
Weiterlesen
Passende Leistung und verwandte Begriffe
Lassen Sie uns sprechen
Aus einer Herausforderung wird eine Lösung.
Ein Gespräch. 30 Minuten. Keine Vorbereitung.
Erstgespräch vereinbarenUnverbindlich · 30 Minuten