Eine KI-Halluzination ist eine plausibel klingende, aber falsche Aussage eines Sprachmodells. Das Modell „erfindet“ Fakten, Quellen oder Zusammenhänge – und wirkt dabei für Leser überzeugt bzw. überzeugend.
Halluzinationen entstehen u. a. durch unklare Prompts, fehlende Datenbasis, zu wenig Kontext oder ungeeignete Bewertungsziele. Mit RAG, klaren Quellen und Prüfregeln lassen sie sich deutlich reduzieren.
Sind Halluzinationen ein „Bug“?
Teilweise. Sprachmodelle sind auf flüssige Antworten optimiert. Wenn Daten fehlen, „raten“ sie lieber, statt still zu sein – es sei denn, Sie erzwingen Unsicherheit/Quellen oder bauen Faktenzugriff ein.
Häufige Auslöser:
Erfundenes Zitat („… sagte Studie X“) ohne echte Quelle
Falsche Zahlen/Termine (z. B. Umsätze, Gesetzesfristen)
„Klingt richtig“-Definitionen, die Details verdrehen
Verlinkte Quellen, die nicht existieren oder nicht passen
Für Unternehmen gilt: KI-Ausgaben sind Entwürfe, keine Beweise. Definieren Sie Freigabeprozesse (Vier-Augen-Prinzip), Logging und Qualitätskriterien – besonders bei Content, Angeboten, Support-Antworten und internen Richtlinien
„Nenne die Quelle oder schreibe ‚unbekannt‘.“
„Liste Annahmen und Unsicherheiten separat.“
Dokumente, Zahlen, Richtlinien, Definitionen.
Antworten auf eine gepflegte Wissensbasis stützen.
rechtlich/medizinisch/finanziell immer gegenprüfen.
Eine falsche, aber plausibel formulierte Aussage, die als Fakt präsentiert wird.
Weil das Modell Sprache wahrscheinlich macht – nicht Wahrheit. „Sicher“ klingt oft besser als „ich weiß es nicht“.
Ja. Bessere Modelle halluzinieren oft weniger, aber nie „gar nicht“.
Ja, häufig deutlich – wenn die Quellen sauber sind und die Suche gute Treffer liefert.
Mit Prompt-Vorlagen, Quellenpflicht, Prüfschritten, klarer Datenbasis und festen Review-Prozessen.
Bei Erstellung und Formulierung dieser Inhalte hat uns künstliche Intelligenz unterstützt. Vor Veröffentlichung durch den unten genannten Autor wurden alle Angaben fachlich überprüft, ggf. korrigiert und ergänzt.
Mit dem Aufruf des Videos erklären Sie sich einverstanden, dass Ihre Daten an YouTube übermittelt werden und Sie die Datenschutzerklärung akzeptieren.
