Glossar
Halluzination
Eine Halluzination ist eine Aussage eines Sprachmodells, die überzeugend klingt, aber sachlich falsch oder frei erfunden ist.
Auf dieser Seite
Sprachmodelle berechnen, welche Wortfolge wahrscheinlich passt. Sie prüfen nicht von selbst, ob eine Aussage stimmt. Fehlt eine Information, füllt das Modell die Lücke manchmal mit etwas Plausiblem: einer Öffnungszeit, einem Preis, einer Zusage. Am Telefon ist das heikel, weil Anrufer die Auskunft als verbindlich verstehen.
Verringern lässt sich das Risiko mit mehreren Maßnahmen: Antworten nur aus hinterlegtem Wissen zulassen, dem Assistenten erlauben zu sagen, dass er etwas nicht weiß, verbindliche Angaben wie Preise und Zeiten strukturiert pflegen und Aktionen wie Buchungen serverseitig prüfen. Ganz ausschließen lassen sich Fehler nicht. Deshalb gehören Stichproben in Transkripten und eine klare Übergabe an Menschen zum Betrieb.
In der Praxis
Im Betrieb erkennst du Halluzinationen an Auskünften, die in keinem deiner Dokumente stehen. Such in den Transkripten gezielt nach Zahlen, Uhrzeiten, Preisen und Zusagen und vergleich sie mit dem hinterlegten Wissen. Findest du eine erfundene Angabe, liegt die Ursache meist in einer Lücke: Die Frage kam vor, die Antwort fehlte. Ergänz dann die Information oder gib dem Assistenten für dieses Thema eine klare Ausweichantwort, etwa das Angebot eines Rückrufs. Wiederhol die Stichprobe nach jeder größeren Änderung an Wissen oder Anweisungen.
Ein Beispiel
Ein Anrufer fragt in einer Autowerkstatt, was ein Bremsenwechsel an seinem Modell kostet. In den hinterlegten Informationen steht dazu kein Preis. Ein unzureichend eingestellter Assistent nennt trotzdem einen Betrag, der plausibel klingt. Der Kunde kommt mit dieser Zahl in die Werkstatt, und das Angebot liegt deutlich darüber. Richtig eingestellt sagt der Assistent, dass der Preis vom Fahrzeug abhängt, nimmt Modell und Kennzeichen auf und kündigt einen Rückruf mit Angebot an.
Häufiges Missverständnis
Halluzinationen werden gern als seltener Ausrutscher behandelt, den ein neueres Modell von allein behebt. Neuere Modelle irren seltener, aber nicht nie, und sie klingen dabei genauso sicher. Der gegenteilige Fehler ist, dem Assistenten jede Aussage zu verbieten, die nicht wörtlich hinterlegt ist. Dann beantwortet er auch einfache Fragen nicht mehr. Sinnvoll ist die Trennung: Frei formulieren darf er, verbindliche Fakten kommen ausschließlich aus gepflegten Quellen.
Bei Call0
Call0 beantwortet Fragen aus freigegebenem Wissen. Die Datenschutzerklärung weist darauf hin, dass KI-Ausgaben Fehler enthalten können und wichtige Ergebnisse geprüft werden sollten.
Weiterlesen:
Zum Thema:
Stand: 12. Oktober 2026