Grenzen & Halluzinationen

Vielleicht hast du es selbst erlebt: Du fragst einen Chatbot nach einer Quelle, bekommst Titel, Autor und Jahreszahl, und nichts davon existiert. Solche erfundenen Angaben nennt man Halluzinationen. Sie sind kein seltener Betriebsunfall, sondern eine direkte Folge davon, wie Sprachmodelle funktionieren. Wer den Mechanismus versteht, weiß auch, wann Vorsicht geboten ist.

Warum Modelle halluzinieren

Ein Sprachmodell erzeugt Text, indem es das plausibelste nächste Wort wählt. Plausibel heißt: passt zu den Mustern der Trainingsdaten. Wahr heißt: stimmt mit der Welt überein. Das ist nicht dasselbe. Eine erfundene Studie mit realistischem Titel und plausiblem Autorennamen ist für das Modell eine gute Fortsetzung, denn genau so sehen echte Quellenangaben aus. Das Modell hat keine innere Instanz, die prüft, ob es etwas weiß oder gerade nahtlos etwas dazuerfindet. Neuere Systeme halluzinieren seltener und können eine Websuche einbinden, verschwunden ist das Problem damit aber nicht.

Muster statt Wissen

Im Kern besteht ein KI-Modell aus Zahlen, sogenannten Gewichten, die Eingaben zu einer Entscheidung verrechnen. Ein einzelnes künstliches Neuron nimmt dafür jede Eingabe mal ihr Gewicht, addiert die Produkte zu einer gewichteten Summe und sagt Ja, sobald diese Summe über einer festgelegten Schwelle liegt. Das genügt schon, um Äpfel von Birnen zu trennen, wenn die Daten ein klares Muster bilden. Genau da liegt aber auch die Grenze: Das Neuron kennt weder Äpfel noch Birnen, es zieht nur eine Linie durch Zahlen. Kommt etwas, das nicht ins gelernte Muster passt, entscheidet es trotzdem, und zwar mit voller Überzeugung. Große Sprachmodelle sind um Milliarden Mal komplexer, doch das Prinzip bleibt: Muster verrechnen, nicht Wissen prüfen.

Wo KI stark ist und wo nicht

Sprachmodelle sind stark, wenn du ihnen das Material gibst: einen Text zusammenfassen, umformulieren, übersetzen, Ideen sammeln, einen Entwurf verbessern, Code erklären. Hier arbeiten sie auf deiner Vorlage und du siehst Fehler schnell. Riskant wird es, wenn das Modell Fakten aus dem Gedächtnis liefern soll: exakte Zahlen, Zitate, Paragrafen, Namen, aktuelle Ereignisse oder Nischenthemen, zu denen es wenig Trainingsdaten gab. Je spezieller die Frage und je wichtiger die exakte Antwort, desto größer die Halluzinationsgefahr. Und Vorsicht: Der Tonfall des Modells ist bei erfundenen Antworten genauso souverän wie bei richtigen.

Quellen prüfen

Der wichtigste Schutz bist du. Behandle Faktenangaben eines Chatbots wie den Tipp eines belesenen Bekannten: oft richtig, nie ungeprüft übernehmen, wenn etwas davon abhängt. Konkret heißt das: Namen, Zahlen und Zitate nachschlagen, genannte Quellen wirklich öffnen statt nur dem Titel zu glauben, bei wichtigen Themen eine zweite unabhängige Quelle suchen. Frag das Modell ruhig nach seinen Quellen, aber denk daran, dass auch die Quellenangabe halluziniert sein kann. Modelle mit Websuche liefern echte Links, doch ob der Link die Behauptung wirklich stützt, siehst nur du beim Lesen.