Halluzination
Auch: KI-Halluzination, Konfabulation, AI Hallucination
Kurz erklärt
Eine Halluzination liegt vor, wenn ein KI-Sprachmodell überzeugend klingende, aber sachlich falsche oder erfundene Informationen erzeugt, etwa falsche Zahlen, Quellen, Produkte oder Firmendaten.
Was bedeutet Halluzination?
Sprachmodelle berechnen, welche Wörter mit hoher Wahrscheinlichkeit aufeinander folgen. Sie wissen nicht im menschlichen Sinn, was wahr ist. Fehlen verlässliche Informationen oder sind sie widersprüchlich, füllt das Modell die Lücke mit plausibel klingenden Inhalten. Das Risiko sinkt, wenn Modelle über Verfahren wie Retrieval Augmented Generation auf geprüfte Quellen zugreifen und Quellen angeben. Ganz ausschließen lassen sich Halluzinationen bisher nicht, weshalb wichtige Aussagen geprüft werden sollten.
Warum ist das im B2B wichtig?
Für Unternehmen gibt es zwei Seiten. Intern müssen KI-Ergebnisse vor der Veröffentlichung geprüft werden. Extern kann eine KI Falsches über ein Unternehmen verbreiten, etwa falsche Standorte, Produkte oder Preise. Klare, konsistente und strukturierte Informationen im Netz verringern dieses Risiko.
Beispiel aus der Praxis
Ein Kunde fragt ChatGPT nach einem Hersteller und erhält die Antwort, dieser habe seinen Sitz in Nürnberg. Tatsächlich ist die Firma seit Jahren in Regensburg. Nach Korrektur alter Verzeichniseinträge und ergänzten strukturierten Daten stimmt die Angabe.
Häufige Fragen zu Halluzination
Warum halluzinieren KI-Modelle?
Weil sie Sprache auf Basis von Wahrscheinlichkeiten erzeugen, ohne Wissen zu überprüfen. Fehlende, veraltete oder widersprüchliche Daten begünstigen falsche Antworten.
Wie schützt man sich vor falschen KI-Aussagen über das eigene Unternehmen?
Durch eindeutige Unternehmensinformationen auf der eigenen Website, strukturierte Daten, konsistente Einträge in Verzeichnissen und regelmäßige Kontrolle, was KI-Systeme über das Unternehmen sagen.