Der EU AI Act - KI-Regeln in Europa

Was der EU AI Act ist

Der EU AI Act ist die erste umfassende gesetzliche Regelung für künstliche Intelligenz in der Europäischen Union. Er trat im August 2024 in Kraft und wird schrittweise über mehrere Jahre wirksam. Ziel ist es, den Einsatz von künstlicher Intelligenz so zu regeln, dass Innovation möglich bleibt, gleichzeitig aber Grundrechte, Sicherheit und der Schutz besonders verletzlicher Gruppen - darunter Kinder - gewahrt werden.

Das Gesetz gilt nicht nur für Unternehmen mit Sitz in der EU. Sobald ein KI-System in der Europäischen Union angeboten oder genutzt wird, fällt es unter die Regeln, egal wo der Anbieter sitzt. Damit hat der EU AI Act auch Einfluss auf große internationale Anbieter, deren Dienste in Deutschland, Österreich oder der Schweiz verfügbar sind.

Der risikobasierte Ansatz

Kern des Gesetzes ist eine Einteilung von KI-Anwendungen nach ihrem Risiko. Vereinfacht dargestellt gibt es vier Stufen:

• Unannehmbares Risiko: Bestimmte Anwendungen sind verboten, etwa Systeme, die Menschen gezielt manipulieren, oder eine allgemeine soziale Bewertung von Bürgern.
• Hohes Risiko: Anwendungen in sensiblen Bereichen wie Bildung, Bewerbung oder kritischer Infrastruktur unterliegen strengen Auflagen zu Transparenz, Datenqualität und menschlicher Aufsicht.
• Begrenztes Risiko: Hier gelten vor allem Transparenzpflichten - Nutzer sollen zum Beispiel erkennen, dass sie mit einer KI und nicht mit einem Menschen sprechen.
• Minimales Risiko: Die meisten alltäglichen Anwendungen fallen hierunter und unterliegen kaum zusätzlichen Pflichten.

Dieser abgestufte Ansatz bedeutet, dass nicht jede KI gleich streng behandelt wird. Je größer die möglichen Auswirkungen auf Menschen, desto höher die Anforderungen. Diese Logik ist eng mit Fragen der KI-Ethik verbunden, weil sie den Schutz von Grundrechten in den Mittelpunkt stellt.

Warum der EU AI Act für Kinder besonders wichtig ist

Kinder gelten im Gesetz als besonders schutzbedürftige Gruppe. Ausdrücklich untersagt sind KI-Systeme, die die Verletzlichkeit von Kindern ausnutzen oder ihr Verhalten so beeinflussen, dass ihnen daraus Schaden entstehen kann. Das ist eine direkte Reaktion auf Sorgen, die auch in der öffentlichen Debatte über Chatbots und Jugendliche eine Rolle spielen.

Der EU AI Act ersetzt dabei nicht die bestehenden Schutzregeln, sondern ergänzt sie. Er wirkt zusammen mit dem Datenschutzrecht - dem Umgang mit personenbezogenen Daten von Kindern - und mit dem klassischen Jugendmedienschutz. Für Eltern ist das relevant, weil daraus mit der Zeit nachvollziehbarere und transparentere KI-Angebote entstehen sollen. So müssen KI-Systeme künftig deutlicher kennzeichnen, wenn Menschen mit einer Maschine interagieren oder wenn Inhalte künstlich erzeugt wurden.

Was der EU AI Act nicht leistet

Ein Gesetz allein ersetzt keine Begleitung im Familienalltag. Der EU AI Act setzt Rahmenbedingungen und wird stufenweise durchgesetzt - viele Pflichten greifen erst über die kommenden Jahre. Bis dahin, und auch danach, bleibt die Aufmerksamkeit von Eltern und Lehrkräften entscheidend. Regulierung kann Mindeststandards schaffen, aber sie ersetzt nicht das Gespräch darüber, wie ein Kind KI nutzt und welche Erfahrungen es dabei macht. Medienkompetenz in der Familie und gesetzlicher Rahmen ergänzen sich.

Wie RAPTICO den Rahmen einordnet

RAPTICO orientiert sich an den Grundgedanken des europäischen Rechtsrahmens: Transparenz darüber, dass ein KI-System antwortet, besondere Rücksicht auf Kinder als schutzbedürftige Gruppe und ein Guardian-Bereich, der Eltern einbezieht. RAPTICO begleitet Kinder in diesem Rahmen und versteht regulatorische Vorgaben nicht als Hürde, sondern als gemeinsame Grundlage für einen verantwortungsvollen Umgang mit KI.