Eine Halluzination liegt vor, wenn ein KI-System wie ChatGPT, Gemini, Claude oder Perplexity etwas überzeugend formuliert, das nicht stimmt: einen falschen Preis, eine Funktion, die es nicht gibt, oder eine Quellenangabe, die die Aussage gar nicht belegt. Der Begriff ist eine lose Analogie zu Halluzinationen beim Menschen; teils ist auch von Konfabulation die Rede. Für Unternehmen sind solche Fehler heikel, weil sie prägen, wie Menschen ein Angebot wahrnehmen.

Zwei Arten von Halluzinationen

Die Forschung unterscheidet grob zwei Fälle:

  • Falsche oder erfundene Fakten: Die Antwort widerspricht überprüfbaren Tatsachen oder erfindet Angaben, etwa einen Standort, den es nicht gibt.
  • Abweichung von Frage oder Quelle: Die Antwort weicht von der Frage oder von den Inhalten ab, die dem System vorliegen, etwa wenn es eine abgerufene Webseite falsch wiedergibt.

Halluzinationen kommen also auch vor, wenn ein KI-System aktuelle Inhalte aus dem Web abruft und seine Antwort darauf stützt (Grounding). Das Abrufen aktueller Inhalte senkt das Risiko meist, beseitigt es aber nicht. Eine Prüfung mehrerer solcher Systeme ergab 2023, dass angegebene Quellen die zugehörige Aussage nicht immer stützen. Ein KI-Zitat allein beweist deshalb nicht, dass eine Aussage stimmt.

Wie Halluzinationen entstehen

Ein Sprachmodell schlägt Fakten nicht in einem gespeicherten Verzeichnis nach, sondern erzeugt Wort für Wort einen Text, der zur Frage passt. Fehlt ihm gesichertes Wissen, entsteht oft trotzdem eine flüssige, sicher klingende Antwort. Eine Forschungsarbeit vom September 2025 argumentiert, dass Sprachmodelle halluzinieren, weil Training und Bewertung Raten eher belohnen als das Eingeständnis von Unsicherheit. Besonders anfällig sind Fakten über wenig bekannte Entitäten, über die selten etwas veröffentlicht wird; das kann vor allem mittelständische Unternehmen und ihre Produkte betreffen.

Warum Halluzinationen für Marken relevant sind

In einer im Oktober 2025 veröffentlichten Studie der Europäischen Rundfunkunion und der BBC prüften Journalistinnen und Journalisten öffentlich-rechtlicher Medien mehr als 3.000 Antworten von ChatGPT, Gemini, Perplexity und Copilot auf Nachrichtenfragen. Fast die Hälfte hatte mindestens ein erhebliches Problem, etwa bei den Quellenangaben. Rund ein Fünftel hatte gravierende Probleme bei der Richtigkeit, darunter erfundene oder veraltete Angaben. Die Werte gelten nur für diese Studie, zeigen aber, dass Fehler keine Einzelfälle sind.

Für Unternehmen ist die Richtigkeit deshalb ein eigener Teil ihrer KI-Sichtbarkeit: Ein Angebot kann eine hohe Erwähnungsrate haben und trotzdem mit falschen Preisen, Leistungen oder Kontaktdaten erscheinen. Solche Fehler bleiben unbemerkt, solange niemand regelmäßig prüft, was KI-Systeme über das eigene Unternehmen sagen; wie weit ihre Aussagen mit den geprüften Fakten übereinstimmen, beschreibt die Faktentreue von KI-Antworten.

Ein Unternehmen kann Halluzinationen nicht ganz ausschließen. Klare, aktuelle Angaben, die überall gleich lauten, geben KI-Systemen aber eine korrekte Quelle, auf die sie zurückgreifen können; darum geht es bei konsistenten Markeninformationen. Auf der eigenen Website lassen sich diese Angaben zusätzlich als strukturierte Daten bereitstellen.