ChatbotChecker — eine Marke der BMB Deutschland GmbH

Wissen · Qualität

Chatbot-Halluzinationen: Warum KI-Bots falsch antworten

Wenn ein Chatbot überzeugend klingt, aber Unsinn erzählt: was Halluzinationen sind, warum sie entstehen — und warum sie im Kundenservice teuer werden können.

Chatbot prüfen lassen
Chatbot-Figur greift nach einem zerfallenden Datenwürfel – Sinnbild für erfundene, halluzinierte Auskünfte

Start · Wissen · Halluzinationen

Definition

Was eine Halluzination ist

Eine Halluzination ist eine Ausgabe eines KI-Chatbots, die überzeugend formuliert, aber sachlich falsch oder frei erfunden ist. Das Tückische: Der Bot präsentiert die falsche Auskunft mit derselben Selbstsicherheit wie eine korrekte.

Gerade diese Selbstsicherheit macht Halluzinationen gefährlich — für Nutzer ist von außen kaum zu erkennen, ob eine flüssige Antwort stimmt oder erfunden ist.

Ursache

Warum KI-Bots halluzinieren

Ein Sprachmodell „versteht" Inhalte nicht im menschlichen Sinn. Es setzt Wort für Wort das jeweils wahrscheinlichste nächste Token — trainiert darauf, plausibel klingenden Text zu erzeugen, nicht darauf, Wahrheit zu prüfen.

Kein Faktengedächtnis. Fehlt eine belastbare Information, füllt das Modell die Lücke mit einer plausibel klingenden Erfindung, statt „weiß ich nicht" zu sagen.
Keine Quellenprüfung von Haus aus. Ohne Anbindung an eine gepflegte Wissensbasis hat der Bot keine verlässliche Quelle, an der er seine Aussage abgleichen könnte.
Folge der Funktionsweise, kein reiner Bug. Deshalb lassen sich Halluzinationen reduzieren, aber nicht vollständig abschalten.

Verbreitung

Wie häufig das wirklich passiert

Das hängt stark von Modell, Aufgabe und Wissensanbindung ab — aber selbst spezialisierte Systeme sind betroffen:

17–33 %
erfundene Inhalte selbst bei juristischen KI-Recherchetools

Quelle: Stanford RegLab / HAI, 2024. Bezieht sich auf spezialisierte juristische Recherchetools — allgemeine Chatbots ohne Wissensanbindung liegen nicht besser.

Warum es zählt

Im Kundenservice wird das teuer

Eine erfundene Auskunft ist kein harmloser Fehler: Verlässt sich ein Kunde darauf, kann daraus ein echtes Problem werden — bis hin zur Haftung. Ein deutsches Gericht hat die Zurechnung von Chatbot-Falschauskünften an den Betreiber bereits bestätigt. Mehr dazu auf der Seite Chatbot-Haftung.

Genau deshalb misst der CQI (Chatbot Quality Index) unter anderem die fachliche Richtigkeit und ob der Bot Aussagen belegt — Halluzinationen fallen dabei auf.

Gegenmittel

Was gegen Halluzinationen hilft

Anbindung an eine gepflegte Wissensbasis (RAG). Der Bot antwortet aus geprüften Inhalten statt aus dem Trainings-„Gedächtnis".
Klare Grenzen. Definieren, was der Bot beantworten darf — und wann er an einen Menschen eskaliert, statt zu raten.
Ehrlicher Umgang mit Unsicherheit. Ein „das kann ich nicht sicher sagen" ist besser als eine erfundene Zahl.
Unabhängig testen. Weil sich das Problem nicht ganz beseitigen lässt, macht eine unabhängige Prüfung der Antwortqualität das Restrisiko sichtbar — aus echter Kundensicht.

Häufige Fragen

Chatbot-Halluzinationen — FAQ

Was ist eine Halluzination bei einem Chatbot?
Eine Halluzination ist eine Ausgabe eines KI-Chatbots, die überzeugend formuliert, aber sachlich falsch oder frei erfunden ist. Der Bot präsentiert die falsche Auskunft mit derselben Selbstsicherheit wie eine korrekte — das macht sie schwer erkennbar.
Warum halluzinieren KI-Chatbots?
Ein Sprachmodell setzt Wort für Wort das wahrscheinlichste nächste Token. Fehlt eine belastbare Information, füllt es die Lücke mit einer plausibel klingenden Erfindung. Halluzinationen sind daher eine Folge der Funktionsweise, kein reiner Bug.
Wie häufig kommen Halluzinationen vor?
Das hängt von Modell, Aufgabe und Wissensanbindung ab. Das Stanford RegLab (2024) fand selbst bei spezialisierten juristischen KI-Recherchetools erfundene Inhalte in 17 bis 33 Prozent der Fälle.
Was hilft gegen Chatbot-Halluzinationen?
Anbindung an eine gepflegte Wissensbasis (RAG), klare Grenzen für den Bot und ehrliches Eingestehen von Unsicherheit. Weil sich das Problem nicht ganz beseitigen lässt, ist eine unabhängige Prüfung der Antwortqualität der zuverlässigste Weg, das Risiko sichtbar zu machen.

Erfindet Ihr Chatbot Auskünfte?

Unabhängige Prüfung der Antwortqualität aus Kundensicht — als nachvollziehbare Schulnote mit konkreten Handlungsempfehlungen.

Chatbot prüfen lassen
Chatbot prüfen lassen