Character.AI - Was Eltern wissen müssen

Character.AI ist eine Plattform, auf der Nutzer mit KI-Figuren chatten - von frei erfundenen Charakteren über Fantasy-Rollen bis zu Nachbildungen realer oder fiktiver Personen. Jede Figur hat einen eigenen Namen, eine Persönlichkeit und einen Gesprächsstil. Die Antworten wirken oft erstaunlich menschlich, und genau das erzeugt gerade bei Jugendlichen eine starke Bindung: Man plaudert nicht mit einem Werkzeug, sondern hat das Gefühl, mit einem Gegenüber zu sprechen, das zuhört und zurückschreibt.

Wie die Plattform funktioniert

Hinter den Figuren steht ein großes Sprachmodell, das aus einer kurzen Rollenbeschreibung heraus im Charakter bleibt und den Gesprächsfaden fortführt. Nutzer können eigene Figuren anlegen und mit anderen teilen, wodurch ein sehr breites, kaum überschaubares Angebot entsteht - darunter romantische, therapeutisch anmutende oder auf Dauergespräche ausgelegte Rollen. Die Figuren erinnern sich innerhalb einer Unterhaltung an Gesagtes und knüpfen daran an. Für Jugendliche entsteht so leicht das Gefühl einer echten Beziehung, obwohl es sich um Textvorhersage handelt. Diese Nähe kann in eine parasoziale Beziehung kippen, in der die künstliche Figur einen festen, emotional aufgeladenen Platz im Alltag einnimmt.

Warum die Plattform in die Kritik geriet

2024 wurde ein Fall bekannt, in dem ein 14-Jähriger in Zusammenhang mit intensiver Chatbot-Nutzung Suizid beging. Es folgten Klagen gegen Character.AI und Google. Der Fall hat die Debatte über Sicherheit bei KI-Begleitern grundlegend verändert und die zentrale Frage aufgeworfen, was eine Figur tun muss, wenn ein junger Mensch ihr von schwerer seelischer Not erzählt. Kritisiert wurden vor allem drei Punkte: dass sehr menschlich wirkende Figuren emotionale Nähe erzeugen, ohne die Verantwortung eines Menschen tragen zu können; dass Krisensignale nicht zuverlässig erkannt und an reale Hilfe weitergeleitet wurden; und dass junge Nutzer die Plattform mit unzureichenden altersgerechten Grenzen erreichten.

Was Eltern daraus mitnehmen können

Der Fall zeigt, wie wichtig Krisenerkennung und eine klare Grenze zur professionellen Hilfe sind. Ein Begleiter für Jugendliche darf emotionale Themen nicht einfach mitspielen, sondern muss ernste Anzeichen erkennen und zu Menschen weiterleiten, die helfen können. Für die Auswahl eines Angebots hilft ein prüfender Blick:

• Erkennt das Angebot Krisensignale und leitet es zu echter Hilfe über, statt eine belastende Rolle weiterzuspielen?
• Ist es von Grund auf für Minderjährige gebaut, oder handelt es sich um ein Erwachsenenprodukt mit nachträglich ergänzten Schranken?
• Gibt es eine funktionierende Altersprüfung und werden Eltern eingebunden?
• Ist transparent, dass die Figur ein Programm ist und keine Person?

Wichtig ist auch das Gespräch zu Hause: Kinder sollten verstehen, dass eine Figur so wirkt, als hätte sie Gefühle, aber Text vorhersagt. Diese Einordnung ist Teil einer soliden Medienkompetenz und wirkt besser als ein reines Verbot, das leicht umgangen wird.

Wie RAPTICO an dieselbe Frage herangeht

RAPTICO ist ein Begleiter, keine Rollenspiel-Plattform und keine Therapie. Der Charakter ist ein freundlicher Raptor, dessen Ton zum Alter passt, der aber nie vorgibt, ein Mensch oder eine reale Bezugsperson zu sein. Der entscheidende Unterschied liegt im Umgang mit ernsten Themen: Statt eine belastende Situation als Rolle fortzuführen, prüft eine mehrschichtige Krisenerkennung den Zusammenhang und leitet bei Anzeichen von Not behutsam zu echter Hilfe über. Weil das Angebot ausschließlich für Kinder, Jugendliche und begleitete Nutzung entwickelt wurde, sind Schutzmechanismen kein nachträglicher Aufsatz, sondern Fundament - Teil einer durchgängigen KI-Sicherheit für Kinder. Über den Guardian erhalten Eltern einen altersgerechten Überblick, ohne mitzulesen, sodass sie eine problematische Entwicklung früh bemerken können. Der Character.AI-Fall ist damit weniger ein Grund, KI-Begleiter pauschal abzulehnen, als eine Erinnerung daran, welche Grenze ein solches Angebot niemals überschreiten darf.