KI-Halluzination

Warum halluzinieren Sprachmodelle?

Ein LLM sagt voraus, welche Formulierung am wahrscheinlichsten folgt. Ob die Aussage stimmt, prüft es dabei nicht. Fehlt dem Modell eine Information, kann es trotzdem eine plausible Antwort bilden.

Ein Forschungsteam von OpenAI und dem Georgia Institute of Technology hat 2025 untersucht, warum das auch bei aktuellen Modellen passiert. Sein Ergebnis lautet, dass Training und gängige Tests das Raten belohnen. Eine geratene Antwort kann in den meisten Bewertungen Punkte bringen, ein ehrliches „Ich weiß es nicht“ bringt keine.

Besonders anfällig sind Fakten, die in den Trainingsdaten selten vorkommen. Die Autoren zeigen das an Geburtstagen, die nur einmal in den Daten stehen. Auf die Frage nach dem Titel der Doktorarbeit eines Mitautors nannten drei verbreitete Sprachmodelle, darunter ChatGPT, jeweils einen falschen Titel. Für Unternehmen heißt das, dass Details zu Produkten oder Preisen, die selten im Web stehen, eher falsch wiedergegeben werden als bekannte Fakten.

Welche Folgen haben KI-Halluzinationen für Unternehmen?

• Falsche Angaben in KI-Antworten. Assistenten nennen Produkte oder Preise, die nicht stimmen. Interessenten erwarten im Gespräch dann etwas anderes, als Sie anbieten.
• Verwechslungen. Ähnliche Firmen- oder Produktnamen werden vermischt, etwa beim Gründungsjahr oder Firmensitz. Wie Suchmaschinen Unternehmen eindeutig zuordnen, erklärt der Eintrag Knowledge Graph.
• Nicht belegte Zahlen in eigenen Texten. KI-Entwürfe enthalten Marktzahlen oder Studien, die sich nicht belegen lassen. Werden sie veröffentlicht, leidet die Glaubwürdigkeit Ihres Unternehmens.
• Falsche Angaben über Personen. Die Datenschutzaufsichtsbehörden von Bund und Ländern verlangen, Ergebnisse mit Personenbezug vor der Weiterverarbeitung auf Richtigkeit zu prüfen.

Wie lassen sich KI-Halluzinationen verringern?

Halluzinationen lassen sich verringern, wenn das Modell mit bereitgestellten Quellen arbeitet und ein Mensch wichtige Angaben prüft. Ganz verhindern lassen sie sich nicht. Anthropic schreibt in seiner Anleitung, dass die bekannten Techniken sie deutlich verringern, aber nicht vollständig beseitigen, und nennt unter anderem diese Maßnahmen.

• Quellen mitgeben. Das Modell arbeitet aus Dokumenten, die Sie bereitstellen, oder ruft sie per RAG ab. Der Prompt beschränkt es ausdrücklich auf diese Unterlagen.
• Nichtwissen erlauben. Der Prompt erlaubt dem Modell ausdrücklich, „Das weiß ich nicht“ zu antworten.
• Belege verlangen. Zu jeder Aussage nennt das Modell die Stelle im Dokument. Aussagen ohne Beleg werden gestrichen.
• Mehrfach fragen. Weichen die Antworten auf dieselbe Frage voneinander ab, deutet das auf eine Halluzination hin.
• Prüfschritt einplanen. Zahlen und Zitate prüft vor der Veröffentlichung ein Mensch an der Originalquelle.

Wie Sie solche Regeln in Prompts verankern, beschreibt der Eintrag Prompt Engineering.

Was tun, wenn ChatGPT Falsches über Ihr Unternehmen sagt?

Verbessern Sie die Quellen, aus denen die Systeme schöpfen, und dokumentieren Sie den Fehler. Eine einzelne KI-Antwort lässt sich in der Regel nicht direkt ändern. In dieser Reihenfolge gehen Sie am besten vor.

1. Fehler dokumentieren. Halten Sie Frage und Antwort mit Datum fest, am besten per Screenshot. Stellen Sie dieselbe Frage mehrfach, weil Antworten schwanken.
2. Quellen der Antwort prüfen. Nennt die Antwort Links, kann der Fehler auf einer dieser Seiten liegen, etwa in einem veralteten Verzeichniseintrag. Diese Quelle korrigieren Sie zuerst.
3. Eigene Website eindeutig machen. Produktbezeichnungen und Preise stehen aktuell als Text auf der Website. Datenblätter im PDF ergänzen diesen Text.
4. Angaben vereinheitlichen. Firmenname und Adresse stimmen überall überein, auf der Website ebenso wie im Google Unternehmensprofil.
5. Feedback geben. Unter jeder KI-Übersicht bietet Google eine Feedback-Funktion an, über die Sie Fehler melden können.
6. Erneut prüfen. Antworten aus Suchsystemen können sich nach der nächsten Indexierung ändern, Wissen aus dem Training erst mit einer neuen Modellversion. Wiederholen Sie die Abfragen deshalb regelmäßig.

Betreffen falsche Angaben einzelne Personen, etwa die Geschäftsführung, kommen datenschutzrechtliche Ansprüche in Betracht. Ob und wie Sie diese geltend machen, klären Sie mit Ihrem Datenschutzbeauftragten oder Ihrer Rechtsberatung. Wie wir die Darstellung von Unternehmen in KI-Antworten messen und verbessern, zeigt unsere Seite zur GEO-Agentur.