KI-Halluzination - Wenn die KI überzeugend irrt

Von einer Halluzination spricht man, wenn eine KI Angaben macht, die frei erfunden sind, aber überzeugend klingen. Der Begriff ist bildlich gemeint: Der Chatbot "sieht" etwas, das nicht da ist. Er lügt dabei nicht im menschlichen Sinn - er berechnet lediglich, welche Wörter wahrscheinlich gut zusammenpassen, ohne zu wissen, ob das Ergebnis wahr ist. Für Erwachsene ist das ein Ärgernis, für Kinder kann es zum Problem werden, wenn sie das Erfundene für gesichert halten.

Warum eine KI überhaupt halluziniert

Ein großes Sprachmodell hat kein Faktenwissen im eigentlichen Sinn und keine Datenbank, in der es "nachschlägt". Es hat aus riesigen Textmengen gelernt, wie Sprache aufgebaut ist, und setzt Wort für Wort das wahrscheinlichste nächste Stück zusammen. Wenn ihm zu einem Thema Informationen fehlen, hört es nicht auf - es füllt die Lücke mit etwas, das plausibel klingt. Genau dann entsteht eine Halluzination.

Typische Auslöser sind:

• Nischenfragen: Je seltener ein Thema in den Trainingsdaten vorkam, desto eher rät das Modell.
• Konkrete Details: Genaue Zahlen, Jahreszahlen, Namen oder Quellenangaben werden besonders oft erfunden, weil sie schwer aus Sprachmustern abzuleiten sind.
• Suggestive Fragen: Wer nach etwas Falschem fragt, als wäre es wahr, verleitet das Modell, mitzuspielen.

Wie eine Halluzination aussieht

Das Tückische ist der Ton. Ein Chatbot formuliert eine erfundene Antwort genauso ruhig und selbstsicher wie eine korrekte. Er erfindet mitunter Buchtitel, die es nicht gibt, zitiert Studien, die niemand geschrieben hat, oder nennt ein Gesetz mit einer erfundenen Paragraphennummer. Für Laien - und erst recht für Kinder - ist der Unterschied zwischen einer richtigen und einer halluzinierten Antwort im Text selbst kaum zu erkennen. Deshalb genügt es nicht, auf ein schlechtes Gefühl zu warten; man muss aktiv prüfen.

Was bei Kindern besonders zählt

Kinder bringen einer freundlichen, geduldigen KI oft viel Vertrauen entgegen. Wenn ein Chatbot bei den Hausaufgaben eine falsche Jahreszahl oder eine erfundene Formel liefert, übernehmen sie diese leicht ungeprüft. Beim Einsatz von KI im Unterricht und beim Lernen zu Hause ist die wichtigste Lektion deshalb nicht, wie man die KI bedient, sondern dass man ihr Ergebnis überprüft. Diese Haltung gehört zum Kern von Medienkompetenz: verstehen, dass ein Werkzeug nützlich und zugleich fehlbar ist.

Was gegen Halluzinationen hilft

Vollständig verhindern lassen sich Halluzinationen nach heutigem Stand nicht - sie sind eine Eigenschaft der Technik, kein einfacher Fehler, den man abstellt. Reduzieren lässt sich das Risiko aber:

• Wichtiges gegenprüfen: Zahlen, Namen, Quellen und Gesundheits- oder Rechtsfragen immer an einer zweiten, verlässlichen Stelle nachschlagen.
• Nach Quellen fragen - und sie prüfen: Eine genannte Quelle kann selbst erfunden sein. Sie zu öffnen und zu lesen ist der eigentliche Test.
• Konkret fragen: Klare, eindeutige Fragen verringern den Spielraum zum Raten.
• Unsicherheit zulassen: Gute Systeme dürfen "das weiß ich nicht" sagen, statt eine Antwort zu erzwingen.

Wie RAPTICO damit umgeht

Ein kindgerechtes Angebot sollte offenlegen, dass es irren kann, statt sich als unfehlbar auszugeben. RAPTICO ist darauf ausgelegt, altersgerecht klarzumachen, dass Antworten überprüft werden sollten, und Kinder zum Nachfragen und Selberdenken zu ermutigen, statt jede Aussage als endgültige Wahrheit zu präsentieren. Das gehört bei RAPTICO zur Sicherheit für Kinder: nicht so zu tun, als wüsste eine Maschine alles. Halluzinationen zeigen anschaulich, warum eine KI ein Hilfsmittel bleibt und den eigenen Kopf - und bei wichtigen Fragen den Menschen - nicht ersetzt.