--- title: KI-Halluzination url: https://eom.de/glossar/ki-halluzination/ anbieter: EOM, Effektiv Online-Marketing GmbH, Hannover --- # KI-Halluzination > Eine KI-Halluzination ist eine Aussage eines KI-Sprachmodells, die plausibel klingt, aber falsch oder nicht belegt ist, etwa eine falsche Zahl oder eine Quelle, die es nicht gibt. Das Modell formuliert sie mit derselben Sicherheit wie richtige Angaben. Ein Hersteller von Wärmepumpen erhält Anfragen zu einem Modell, das er nie gebaut hat. Im Gespräch zeigt sich, dass ein KI-Assistent das Gerät als Produkt des Herstellers genannt hatte, samt Preisangabe. Die Bezeichnung ähnelt einer älteren Baureihe, der Preis stammt aus keiner Quelle des Unternehmens. Das Marketingteam stellt daraufhin typische Fragen in mehreren KI-Assistenten und vergleicht die Antworten mit der eigenen Website. Die Produktseiten bekommen eindeutige Modellbezeichnungen und eine vollständige Übersicht der lieferbaren Geräte. Auslaufmodelle sind seitdem klar als solche gekennzeichnet. ## Warum halluzinieren Sprachmodelle? Ein [LLM](https://eom.de/glossar/llm/) sagt voraus, welche Formulierung am wahrscheinlichsten folgt. Ob die Aussage stimmt, prüft es dabei nicht. Fehlt dem Modell eine Information, kann es trotzdem eine plausible Antwort bilden. Ein Forschungsteam von OpenAI und dem Georgia Institute of Technology hat 2025 untersucht, warum das auch bei aktuellen Modellen passiert. Sein Ergebnis lautet, dass Training und gängige Tests das Raten belohnen. Eine geratene Antwort kann in den meisten Bewertungen Punkte bringen, ein ehrliches „Ich weiß es nicht“ bringt keine. Besonders anfällig sind Fakten, die in den Trainingsdaten selten vorkommen. Die Autoren zeigen das an Geburtstagen, die nur einmal in den Daten stehen. Auf die Frage nach dem Titel der Doktorarbeit eines Mitautors nannten drei verbreitete Sprachmodelle, darunter ChatGPT, jeweils einen falschen Titel. Für Unternehmen heißt das, dass Details zu Produkten oder Preisen, die selten im Web stehen, eher falsch wiedergegeben werden als bekannte Fakten. ## Welche Folgen haben KI-Halluzinationen für Unternehmen? - **Falsche Angaben in KI-Antworten.** Assistenten nennen Produkte oder Preise, die nicht stimmen. Interessenten erwarten im Gespräch dann etwas anderes, als Sie anbieten. - **Verwechslungen.** Ähnliche Firmen- oder Produktnamen werden vermischt, etwa beim Gründungsjahr oder Firmensitz. Wie Suchmaschinen Unternehmen eindeutig zuordnen, erklärt der Eintrag [Knowledge Graph](https://eom.de/glossar/knowledge-graph/). - **Nicht belegte Zahlen in eigenen Texten.** KI-Entwürfe enthalten Marktzahlen oder Studien, die sich nicht belegen lassen. Werden sie veröffentlicht, leidet die Glaubwürdigkeit Ihres Unternehmens. - **Falsche Angaben über Personen.** Die Datenschutzaufsichtsbehörden von Bund und Ländern verlangen, Ergebnisse mit Personenbezug vor der Weiterverarbeitung auf Richtigkeit zu prüfen. ## Wie lassen sich KI-Halluzinationen verringern? Halluzinationen lassen sich verringern, wenn das Modell mit bereitgestellten Quellen arbeitet und ein Mensch wichtige Angaben prüft. Ganz verhindern lassen sie sich nicht. Anthropic schreibt in seiner Anleitung, dass die bekannten Techniken sie deutlich verringern, aber nicht vollständig beseitigen, und nennt unter anderem diese Maßnahmen. - **Quellen mitgeben.** Das Modell arbeitet aus Dokumenten, die Sie bereitstellen, oder ruft sie per [RAG](https://eom.de/glossar/rag/) ab. Der Prompt beschränkt es ausdrücklich auf diese Unterlagen. - **Nichtwissen erlauben.** Der Prompt erlaubt dem Modell ausdrücklich, „Das weiß ich nicht“ zu antworten. - **Belege verlangen.** Zu jeder Aussage nennt das Modell die Stelle im Dokument. Aussagen ohne Beleg werden gestrichen. - **Mehrfach fragen.** Weichen die Antworten auf dieselbe Frage voneinander ab, deutet das auf eine Halluzination hin. - **Prüfschritt einplanen.** Zahlen und Zitate prüft vor der Veröffentlichung ein Mensch an der Originalquelle. Wie Sie solche Regeln in Prompts verankern, beschreibt der Eintrag [Prompt Engineering](https://eom.de/glossar/prompt-engineering/). ## Was tun, wenn ChatGPT Falsches über Ihr Unternehmen sagt? Verbessern Sie die Quellen, aus denen die Systeme schöpfen, und dokumentieren Sie den Fehler. Eine einzelne KI-Antwort lässt sich in der Regel nicht direkt ändern. In dieser Reihenfolge gehen Sie am besten vor. 1. **Fehler dokumentieren.** Halten Sie Frage und Antwort mit Datum fest, am besten per Screenshot. Stellen Sie dieselbe Frage mehrfach, weil Antworten schwanken. 2. **Quellen der Antwort prüfen.** Nennt die Antwort Links, kann der Fehler auf einer dieser Seiten liegen, etwa in einem veralteten Verzeichniseintrag. Diese Quelle korrigieren Sie zuerst. 3. **Eigene Website eindeutig machen.** Produktbezeichnungen und Preise stehen aktuell als Text auf der Website. Datenblätter im PDF ergänzen diesen Text. 4. **Angaben vereinheitlichen.** Firmenname und Adresse stimmen überall überein, auf der Website ebenso wie im [Google Unternehmensprofil](https://eom.de/glossar/google-unternehmensprofil/). 5. **Feedback geben.** Unter jeder KI-Übersicht bietet Google eine Feedback-Funktion an, über die Sie Fehler melden können. 6. **Erneut prüfen.** Antworten aus Suchsystemen können sich nach der nächsten Indexierung ändern, Wissen aus dem Training erst mit einer neuen Modellversion. Wiederholen Sie die Abfragen deshalb regelmäßig. Betreffen falsche Angaben einzelne Personen, etwa die Geschäftsführung, kommen datenschutzrechtliche Ansprüche in Betracht. Ob und wie Sie diese geltend machen, klären Sie mit Ihrem Datenschutzbeauftragten oder Ihrer Rechtsberatung. Wie wir die Darstellung von Unternehmen in KI-Antworten messen und verbessern, zeigt unsere Seite zur [GEO-Agentur](https://eom.de/ki-marketing/geo/). ## Verwandte Begriffe - [LLM (Large Language Model)](https://eom.de/glossar/llm/) - [RAG (Retrieval-Augmented Generation)](https://eom.de/glossar/rag/) - [Prompt Engineering](https://eom.de/glossar/prompt-engineering/) - [KI-Sichtbarkeit](https://eom.de/glossar/ki-sichtbarkeit/) - [GEO (Generative Engine Optimization)](https://eom.de/glossar/geo/) - [AI Overviews (KI-Übersichten)](https://eom.de/glossar/ai-overviews/) - [Knowledge Graph](https://eom.de/glossar/knowledge-graph/) - [Strukturierte Daten (Schema.org)](https://eom.de/glossar/strukturierte-daten/) ## Quellen - [Kalai, Nachum, Vempala, Zhang: Why Language Models Hallucinate (arXiv 2509.04664, 2025)](https://arxiv.org/abs/2509.04664) - [Anthropic: Reduce hallucinations](https://platform.claude.com/docs/en/test-and-evaluate/strengthen-guardrails/reduce-hallucinations) - [Google Search Help: Find information in faster & easier ways with AI Overviews in Google Search](https://support.google.com/websearch/answer/14901683?hl=en) - [Google Knowledge Panel Help: Get verified on Google](https://support.google.com/knowledgepanel/answer/7534902?hl=en) - [DSK: Orientierungshilfe Künstliche Intelligenz und Datenschutz (06.05.2024)](https://www.datenschutzkonferenz-online.de/media/oh/20240506_DSK_Orientierungshilfe_KI_und_Datenschutz.pdf) ## Häufige Fragen ### Was ist eine KI-Halluzination einfach erklärt? Eine KI-Halluzination ist eine falsche Angabe, die ein KI-System so überzeugend formuliert, als wäre sie richtig. Das Modell täuscht dabei nicht absichtlich. Es bildet eine wahrscheinlich klingende Antwort, auch wenn ihm die nötige Information fehlt. ### Warum denkt sich ChatGPT Quellen und Zahlen aus? Ein Sprachmodell erzeugt Text nach Wahrscheinlichkeit und schlägt nichts nach, solange es nicht ausdrücklich sucht. Fragt man nach einer Quelle, entsteht eine Angabe, die wie eine Quelle aussieht. Nutzt ChatGPT die Websuche, stützt sich die Antwort auf echte Seiten, kann deren Inhalt aber trotzdem falsch zusammenfassen. ### Wie häufig halluzinieren KI-Modelle? Eine allgemeingültige Quote gibt es nicht. Sie hängt vom Modell ab und davon, ob das System Quellen abruft. Laut der Studie mit Forschern von OpenAI sind Fakten besonders anfällig, die in den Trainingsdaten nur selten vorkommen. ### Halluzinieren KI-Suchen mit Quellenangaben weniger? Quellenangaben helfen, weil Sie die Aussage an der verlinkten Seite prüfen können. Fehler schließen sie nicht aus. Google weist selbst darauf hin, dass KI-Übersichten Fehler enthalten können, und rät, wichtige Informationen an mehreren Stellen zu prüfen. ### Wie erkenne ich eine KI-Halluzination? Typische Warnzeichen sind sehr genaue Zahlen ohne Quelle und Links, die ins Leere führen. Prüfen Sie solche Angaben an der Originalquelle. Fallen die Antworten auf dieselbe Frage bei mehreren Versuchen unterschiedlich aus, ist das ebenfalls ein Hinweis. ### Wer haftet für falsche Angaben in KI-Texten? Die Anbieter von Sprachmodellen stellen laut den Datenschutzaufsichtsbehörden häufig klar, dass ihre Texte keinen Anspruch auf Richtigkeit haben. Prüfen Sie KI-Texte deshalb vor jeder Veröffentlichung. Wie eine falsche Angabe im Einzelfall rechtlich zu bewerten ist, klärt Ihre Rechtsberatung. ### Was ist der Unterschied zwischen Halluzination und Konfabulation? Gemeint ist in beiden Fällen eine falsche Aussage, die plausibel klingt, und Anthropic nennt beide Begriffe nebeneinander. Die Autoren der oben genannten Studie betonen, dass sich KI-Halluzinationen grundlegend von menschlichen Wahrnehmungen unterscheiden. ### Kann ich falsche Angaben über mein Unternehmen bei Google korrigieren? Teilweise. Unter KI-Übersichten können Sie über das Feedback einen Fehler melden. Zeigt Google zu Ihrem Unternehmen ein Knowledge Panel, können Sie es beanspruchen und Änderungen vorschlagen. Angaben wie Öffnungszeiten pflegen lokale Unternehmen im Google Unternehmensprofil.