Eine Halluzination ist, wenn eine KI etwas Falsches erfindet und es trotzdem völlig überzeugend darstellt. Das Modell erfindet dann etwa eine Quelle, ein Datum, ein Zitat oder eine Zahl, die es so nie gab — und formuliert es genauso selbstsicher wie eine korrekte Antwort.

Wie es entsteht

Der Grund liegt in der Funktionsweise. Ein Sprachmodell versteht Inhalte nicht wie ein Mensch, sondern sagt Wort für Wort das jeweils wahrscheinlich passende voraus. Meistens liegt es damit richtig. Fehlt ihm aber echtes Wissen, füllt es die Lücke trotzdem mit etwas, das plausibel klingt. Es lügt nicht absichtlich — es merkt schlicht nicht, dass es danebenliegt.

Warum das gefährlich sein kann

Tückisch ist gerade der selbstsichere Ton. Eine erfundene Antwort sieht genauso professionell aus wie eine geprüfte. Ohne eigenes Nachprüfen erkennt man den Unterschied oft nicht.

Ein bekanntes Beispiel: Fragt man eine KI nach Studien oder Buchtiteln zu einem Nischenthema, nennt sie manchmal täuschend echt klingende Titel samt Autoren und Jahr — die es gar nicht gibt. Es gab sogar Gerichtsfälle, in denen Anwälte von einer KI erfundene Urteile eingereicht haben. Der praktische Umgang ist deshalb klar: KI-Ausgaben bei Fakten, Zahlen und Namen immer gegenprüfen, besonders bei wichtigen Entscheidungen. Techniken wie eine angebundene Wissensdatenbank (RAG) senken das Risiko, weil die KI dann aus echten Dokumenten schöpft. Ganz ausschließen lassen sich Halluzinationen bisher nicht.