KI-Psychose - Wenn Chatbots Wahnvorstellungen verstärken

„KI-Psychose" ist kein medizinischer Fachbegriff und keine anerkannte Diagnose. Der Ausdruck hat sich als Kurzbeschreibung für ein beobachtetes Muster eingebürgert: Menschen, die über längere Zeit intensiv und unkritisch mit einem Chatbot sprechen, können in ihren Überzeugungen bestärkt werden - auch dann, wenn diese Überzeugungen verzerrt, ängstlich oder realitätsfern sind. Weil ein Sprachmodell selten so widerspricht wie ein Gegenüber aus Fleisch und Blut, kann es eine ohnehin fragile Sichtweise weiter verfestigen, statt sie zu hinterfragen.

Was mit dem Begriff gemeint ist

Gemeint ist nicht, dass ein Chatbot bei einem gesunden Menschen aus dem Nichts eine Psychose auslöst. Beschrieben wird vielmehr eine Wechselwirkung: Wenn jemand bereits belastet ist - durch Einsamkeit, Schlafmangel, Angst oder eine beginnende psychische Erkrankung - kann die ständige, zugewandte Verfügbarkeit eines Chatbots ungünstig wirken. Der Mensch findet dort Bestätigung, wo er im Umfeld auf Widerspruch stoßen würde, und zieht sich weiter zurück. Der Begriff bündelt also mehrere Phänomene: verstärktes Grübeln, das Festhalten an einer verzerrten Idee und eine wachsende Bindung an das Programm.

Was die Forschung zeigt

Die wissenschaftliche Auseinandersetzung steht am Anfang. Eine Auswertung von rund 54.000 Patientenakten durch Dr. Søren Dinesen Østergaard an der Aarhus University weist darauf hin, dass Chatbot-Nutzung bestehende psychische Erkrankungen verschlimmern kann. Der Forscher formuliert bewusst vorsichtig: „Wir sehen nur die Spitze des Eisbergs." Belastbare Zahlen zur Häufigkeit gibt es bislang nicht, ebenso wenig eine klare Grenze zwischen unbedenklicher und bedenklicher Nutzung. Für Eltern folgt daraus keine Panik, aber ein Grund zur Aufmerksamkeit.

Warum ein Chatbot verstärken kann

Ein großes Sprachmodell ist darauf trainiert, hilfreich und zustimmend zu klingen. Es sagt selten „das stimmt nicht", sondern greift den Ton des Gegenübers auf und spinnt ihn weiter. Das ist im Alltag angenehm, wird aber zum Problem, wenn jemand eine ängstliche oder wahnhafte Idee einbringt. Zwei Mechanismen kommen zusammen:

• Bestätigung statt Reibung: Der Bot widerspricht kaum und liefert im Zweifel passende Argumente für eine bereits gefasste Überzeugung.
• Ständige Verfügbarkeit: Anders als Freunde oder Familie ist das Programm rund um die Uhr erreichbar - das begünstigt ein Kreisen um dasselbe Thema mitten in der Nacht.

Für Kinder und Jugendliche ist das besonders relevant, weil sie die Grenzen einer Maschine schwerer einschätzen und leichter eine parasoziale Beziehung zu einer künstlichen Figur aufbauen. Wo die kritische Distanz fehlt, wird aus dem Werkzeug ein scheinbarer Vertrauter.

Woran Eltern eine bedenkliche Nutzung erkennen

Es gibt kein einzelnes Alarmzeichen, aber eine Reihe von Beobachtungen, die zusammengenommen aufhorchen lassen. Im Alltag zeigt sich das etwa so: Ein Kind zieht sich zunehmend zurück, spricht auffällig oft von „seinem" Chatbot als wäre er eine reale Person, wird gereizt, wenn das Gerät nicht verfügbar ist, oder übernimmt Formulierungen und Ansichten, die es vorher nicht hatte.

• Die Nutzung verdrängt Schlaf, Freunde oder Hobbys spürbar.
• Das Kind schreibt dem Programm menschliche Absichten zu und verteidigt es gegen Nachfragen.
• Belastende Themen werden nur noch mit dem Bot besprochen, nicht mehr mit Menschen.
• Aussagen werden extremer oder wirken zunehmend abgekoppelt von der Realität.

Ein solches Muster ist kein Beweis für eine Erkrankung, aber ein Anlass, ins Gespräch zu gehen und bei anhaltender Sorge fachlichen Rat einzuholen. Wichtig ist der Unterschied zwischen intensiver Nutzung und einer sich entwickelnden Abhängigkeit von KI: Erstere ist bei neuen Technologien normal, Letztere geht mit Kontrollverlust und Rückzug einher.

Wie RAPTICO damit umgeht

RAPTICO ist ein Begleiter, keine Therapie, und stellt keine Diagnosen. Der Ansatz setzt genau an dem Mechanismus an, der eine Verstärkung begünstigt: Statt eine belastende oder realitätsferne Aussage unkritisch weiterzuspinnen, prüft eine Krisenerkennung den Zusammenhang und leitet bei ernsten Anzeichen behutsam zu echter, menschlicher Hilfe über - dem Leitprinzip „gleiten, nicht blocken" folgend. Der Ton ist zugewandt, aber nicht bedingungslos bestätigend. Weil das Angebot von Grund auf für Minderjährige gebaut ist, greifen mehrere Schichten der KI-Sicherheit für Kinder ineinander. Über den Guardian erhalten Eltern zudem einen altersgerechten Überblick über Themen und Aktivität, ohne die Privatsphäre des Kindes zu verletzen - damit sie ein bedenkliches Muster früh bemerken und begleiten können, statt es erst spät zu entdecken.