Datenschutz bei KI - Was mit deinen Daten passiert

Wer mit einer KI schreibt, gibt Daten preis - oft mehr, als bewusst ist. Anders als bei einer Suchmaschine, in die man einzelne Stichworte tippt, entsteht im Gespräch mit einem Chatbot ein zusammenhängender Text: Sorgen, Namen, Orte, Fragen zu Gesundheit oder Familie. Was mit diesen Angaben geschieht, unterscheidet sich stark je nach Anbieter. Für Familien lohnt es sich, genauer hinzusehen, bevor ein Kind ein solches Angebot regelmäßig nutzt.

Welche Daten eine KI verarbeitet

Bei einem KI-Chat fallen mehrere Arten von Daten an. Es gibt die Inhalte selbst - also alles, was ins Textfeld getippt wird. Dazu kommen technische Begleitdaten wie Gerätetyp, ungefährer Standort über die IP-Adresse, Zeitpunkt und Dauer der Nutzung. Und es gibt Kontodaten, wenn man sich registriert: E-Mail, Name, manchmal Zahlungsinformationen.

• Inhaltsdaten: die geschriebenen Nachrichten, hochgeladene Fotos, Sprachaufnahmen.
• Metadaten: wann, wie lange und mit welchem Gerät genutzt wird.
• Kontodaten: alles, was bei der Anmeldung angegeben wird.

Gerade Kinder plaudern im Gespräch oft Details aus, die sie in ein Formular nie eintragen würden - den Namen der besten Freundin, die Schule, einen Streit zu Hause. Deshalb ist bei KI der Umgang mit den Inhaltsdaten besonders heikel.

Wohin die Daten fließen

Viele bekannte KI-Dienste verarbeiten Anfragen auf Servern außerhalb der EU, häufig in den USA. Das ist nicht automatisch unsicher, bedeutet aber, dass andere rechtliche Rahmenbedingungen gelten. Für Angebote, die sich an Kinder richten, gelten in Europa strengere Maßstäbe. Wer wissen will, wie diese für Minderjährige konkret aussehen, findet die Grundlagen unter DSGVO und Kinder. Ein zentrales Signal ist, wo die Daten liegen: Server in der EU unterliegen unmittelbar der europäischen Datenschutz-Grundverordnung.

Werden Eingaben zum Training genutzt?

Eine der wichtigsten Fragen lautet: Nutzt der Anbieter die Gespräche, um seine Modelle weiter zu verbessern? Bei mehreren großen Diensten ist das die Voreinstellung - Eingaben können in die Trainingsdaten einfließen, aus denen ein Modell lernt. Das ist relevant, weil ein einmal ins Training aufgenommener Inhalt sich kaum noch gezielt entfernen lässt. Manche Anbieter erlauben es, diese Nutzung in den Einstellungen abzuschalten; oft ist die Option aber versteckt oder standardmäßig aktiv. Für Kinderprofile sollte die Grundhaltung umgekehrt sein: kein Training mit den Gesprächen, es sei denn, jemand entscheidet sich bewusst dagegen.

Was Eltern konkret prüfen können

Man muss kein Datenschutzexperte sein, um ein Angebot grob einzuordnen. Vier Fragen helfen weiter:

• Wo werden die Daten verarbeitet - in der EU oder anderswo?
• Werden Eingaben zum Training genutzt, und lässt sich das abstellen?
• Werden persönliche Angaben vor der Verarbeitung entfernt oder ersetzt?
• Kann man seine Daten einsehen, exportieren und löschen?

Die Antworten stehen meist in der Datenschutzerklärung. Wenn diese nur auf Englisch vorliegt, keine klare Auskunft zum Serverstandort gibt oder Löschung nur umständlich möglich ist, ist das ein Warnzeichen. Datenschutz ist kein Nischenthema, sondern Teil der Sicherheit von KI für Kinder insgesamt - Technik und rechtlicher Umgang gehören zusammen.

Der RAPTICO-Ansatz

RAPTICO ist darauf ausgelegt, so wenig personenbezogene Daten wie möglich an das Sprachmodell weiterzugeben. Namen, Orte und Schulen werden erkannt und durch neutrale Platzhalter ersetzt, bevor eine Nachricht das Sprachmodell erreicht. Das Modell sieht dann etwa "[Freundin]" statt des echten Namens - die Antwort bleibt sinnvoll, die Identität bleibt geschützt. Die Daten liegen auf Servern in der EU und lassen sich jederzeit herunterladen oder löschen. Die Gespräche werden nicht dazu verwendet, fremde Modelle zu trainieren.

Datenschutz ersetzt keine Aufmerksamkeit im Alltag, und RAPTICO begleitet Kinder, es ersetzt weder Eltern noch Fachpersonen. Aber ein sparsamer, transparenter Umgang mit Daten ist die Grundlage dafür, dass ein KI-Angebot für Familien überhaupt vertretbar ist. Wer die genannten Fragen stellt, trifft eine informierte Entscheidung - unabhängig davon, für welches Angebot sich eine Familie am Ende entscheidet.