Halluzination (KI) — einfach erklärt

Was ist eine Halluzination bei KI?

Eine Halluzination liegt vor, wenn eine KI eine Antwort gibt, die sich sicher und kompetent anhört, inhaltlich aber falsch oder komplett frei erfunden ist. Das Modell erfindet dabei zum Beispiel Gesetzestexte, Quellenangaben, Produktdaten oder Zahlen, die es so nie gab — ohne selbst zu merken, dass die Aussage nicht stimmt.

Der Begriff stammt aus der KI-Forschung und beschreibt genau dieses Phänomen: Die KI „sieht” Fakten, die es in dieser Form gar nicht gibt, ähnlich wie eine Sinnestäuschung. Für Unternehmen ist das relevant, weil solche Antworten auf den ersten Blick oft nicht von korrekten zu unterscheiden sind.

Warum erfinden Sprachmodelle Fakten?

Ein Sprachmodell arbeitet grundlegend anders, als viele annehmen:

1. Wahrscheinlichkeit statt Wissensdatenbank. Das Modell berechnet, welches Wort statistisch am besten zum bisherigen Text passt — es schlägt keine Fakten in einer Datenbank nach.
2. Lücken werden gefüllt, nicht gemeldet. Kennt das Modell die richtige Antwort nicht, gibt es in der Regel nicht zu „das weiß ich nicht”, sondern erzeugt trotzdem einen flüssigen, plausibel wirkenden Text.
3. Trainingsdaten haben Grenzen. Veraltete, lückenhafte oder widersprüchliche Trainingsdaten erhöhen das Risiko, dass die KI Zusammenhänge falsch verknüpft.
4. Selbstsicherer Ton täuscht. Erfundene Antworten werden sprachlich genauso überzeugend formuliert wie richtige — es gibt keinen erkennbaren Unterschied im Ton.

Risiken und Gegenmaßnahmen im Geschäftsalltag

Für Unternehmen wird das Thema vor allem dort riskant, wo KI-Antworten direkt weiterverwendet werden — in Kundenmails, Angeboten, rechtlichen Aussagen oder internen Entscheidungen. Ein paar wirksame Gegenmaßnahmen:

1. Quellenbindung nutzen. Die KI soll bevorzugt auf Basis freigegebener, unternehmenseigener Dokumente antworten (etwa über eine angebundene Wissensdatenbank), statt frei aus dem Trainingswissen zu schöpfen.
2. Klare Einsatzregeln festlegen. Für welche Aufgaben darf eine KI-Antwort direkt verwendet werden, wo braucht es zwingend eine menschliche Prüfung vorher? Diese Grenze sollte im Betrieb schriftlich klar sein.
3. Prüfschritt einbauen. Gerade bei rechtlich relevanten, finanziellen oder kundenseitigen Inhalten sollte eine Person die KI-Antwort gegenlesen, bevor sie verschickt oder umgesetzt wird.
4. Mitarbeiter schulen. Wer weiß, dass eine KI selbstsicher formulierte Falschantworten liefern kann, prüft von sich aus kritischer nach — das reduziert das Risiko deutlich mehr als reine Technikeinstellungen.

Keine absoluten Versprechen möglich: Auch mit guten Einsatzregeln lässt sich das Halluzinations-Risiko nicht vollständig auf null senken, sondern nur spürbar reduzieren.

Halluzination in der Praxis

Ein Geschäftsführer nutzt eine KI, um schnell eine Zusammenfassung eines Vertragsdokuments zu bekommen. Die Antwort liest sich klar und in sich schlüssig — nur dass die KI eine Kündigungsfrist nennt, die im tatsächlichen Vertrag so nicht steht. Ohne kurzen Abgleich mit dem Original wäre die falsche Frist unbemerkt in die weitere Planung eingeflossen.

Genau für solche Situationen lohnt sich eine durchdachte Einführung von KI im Betrieb: mit sauberer Quellenanbindung, klaren Regeln, wo eine menschliche Prüfung Pflicht bleibt, und einem realistischen Blick auf das, was KI heute leisten kann und wo ihre Grenzen liegen. Bei der KI-Beratung von LNIT legen wir genau diesen Rahmen gemeinsam mit Ihnen fest.