Glossar · KI-Technik
Halluzination
Auch: Konfabulation, erfundene Antworten
Als Halluzination bezeichnet man eine Antwort eines Sprachmodells, die sprachlich überzeugend, aber inhaltlich falsch oder erfunden ist. Das Modell gibt Wahrscheinlichkeiten für Wörter aus, keine geprüften Fakten.
Einordnung
Was das für Ihre Wissensbasis bedeutet
Im Unternehmen ist die Halluzination der Hauptgrund für Misstrauen gegenüber KI, und zu Recht. Die Lösung ist nicht ein besseres Modell, sondern eine Antwort, die an Quellen gebunden ist: Das Corporate LLM antwortet nur aus freigegebenen Wissensdokumenten, nennt die Quelle und sagt, wenn es nichts findet.
Die Prüfbarkeit ist dabei wichtiger als die Trefferquote. Eine Antwort mit Verweis auf das gültige Dokument kann jeder Mitarbeitende in Sekunden kontrollieren.
Datenschutz und Compliance
Was dabei zu beachten ist
Erfundene Aussagen über Personen (Mitarbeitende, Kunden, Bewerber) sind unrichtige personenbezogene Daten im Sinne der DSGVO. Wer KI-Antworten in Entscheidungen einfließen lässt, muss deren Richtigkeit sicherstellen können.
Weiterlesen
Passende Leistung und verwandte Begriffe
Lassen Sie uns sprechen
Aus einer Herausforderung wird eine Lösung.
Ein Gespräch. 30 Minuten. Keine Vorbereitung.
Erstgespräch vereinbarenUnverbindlich · 30 Minuten