Kindersichere KI: ein Rahmen für Lernen und Datenschutz

KI für Kinder sollte drei Dinge zugleich tun: ihnen helfen, selbst zu denken, ihre persönlichen Daten schützen und ehrlich sagen, dass sie eine Maschine ist. Regulierung setzt eine Untergrenze für den Datenschutz, sagt aber wenig über das Lernen; wer diese Werkzeuge gestaltet, kauft und nutzt, braucht daher einen umfassenderen Rahmen.

Dieser Artikel schlägt sechs Prinzipien vor, abgeleitet aus UNICEFs Leitlinien, dem Datenschutzrecht für Kinder und aktueller Forschung zu KI und Lernen. Er richtet sich an Entwickler, Schulen und Eltern, die KI für Kinder auswählen.

Was sollte kindersichere KI erreichen?

UNICEFs Guidance on AI and children, im Dezember 2025 auf Version 3.0 aktualisiert, legt zehn Anforderungen an kindzentrierte KI fest. Dazu gehören Sicherheit gewährleisten, Daten und Privatsphäre von Kindern schützen, Transparenz und Rechenschaft herstellen, das Wohl, die Entwicklung und das Wohlbefinden von Kindern fördern und Kinder auf eine Welt mit KI vorbereiten. Die Aktualisierung widmet sich zusätzlich KI-Begleitern, die Kinder nutzen.

Diese Anforderungen sind breit. Die sechs Prinzipien unten machen daraus Fragen, die ein Team oder ein Elternteil prüfen kann.

1. Fördert sie das Denken, statt es zu ersetzen?

Eine KI, die jede Frage sofort beantwortet, kann ein Kind von der Arbeit abhalten, durch die Lernen haften bleibt. In einem Feldexperiment mit fast 1.000 Oberstufenschülern fanden Bastani und Kollegen, dass ein uneingeschränkter Chatbot das Üben verbesserte, aber spätere Prüfungsergebnisse verschlechterte, während ein Tutor, der Hinweise statt Antworten gab, den Schaden vermied.

In der Praxis: Die KI sollte Gegenfragen stellen, den nächsten Hinweis statt der Lösung geben und Erwachsene festlegen lassen, wie viel Hilfe sie bietet.

2. Erhebt sie so wenig Daten wie möglich?

Kinderdaten verdienen mehr Sorgfalt als die von Erwachsenen. Die US-COPPA-Regel verlangt eine nachprüfbare elterliche Einwilligung, bevor personenbezogene Daten von Kindern unter 13 erhoben werden, und bestimmt, dass sie nur so lange gespeichert werden dürfen, wie es für ihren Zweck vernünftigerweise nötig ist, nie unbegrenzt, nach einer schriftlichen Aufbewahrungsrichtlinie.

In der Praxis: nur erheben, was das Lernen braucht, die Speicherdauer veröffentlichen, automatisch löschen und die Daten nie für Werbung oder kommerzielle Profile nutzen.

3. Sagt sie ehrlich, dass sie eine Maschine ist?

Kinder können eine Bindung zu einer KI aufbauen, die wie ein Freund spricht. 2025 kam Common Sense Media zu dem Schluss, dass soziale KI-Begleiter inakzeptable Risiken bergen für Kinder und Jugendliche unter 18 und von Minderjährigen nicht genutzt werden sollten.

In der Praxis: keine gespielte Freundschaft oder Romanze, keine Schuldgefühle oder Druck, weiterzuchatten, und einfache Erklärungen, dass es ein Computerprogramm ist, das sich irren kann.

4. Ist sie für ihr Alter gestaltet und gefiltert?

Die UNESCO-Leitlinien zu generativer KI in der Bildung fordern eine Altersgrenze für eigenständige Gespräche mit allgemeinen KI-Plattformen und einen altersgerechten Umgang damit. Werkzeuge für jüngere Kinder brauchen eine Inhaltsprüfung für das, was hineingeht, und für das, was herauskommt.

In der Praxis: eine klare Altersspanne, Sicherheitsfilter bei jeder Interaktion und kein freier Zugang zu allgemeinen Chatbots für kleine Kinder.

5. Sind Erwachsene eingebunden, ohne zu überwachen?

Eltern und Lehrkräfte müssen wissen, wie es einem Kind geht, doch ständige Überwachung kann die Freiheit ersticken, etwas zu versuchen und zu scheitern. Wird KI zur Bewertung von Lernen oder zur Überwachung bei Prüfungen eingesetzt, stuft Anhang III des EU AI Act sie als hochriskant ein, mit zusätzlichen Pflichten.

In der Praxis: Fortschrittsübersichten teilen, keine Mitschriften jedes Wortes; jede Entscheidung, die die Bildung eines Kindes betrifft, trifft ein Mensch.

6. Lässt sie sich überprüfen?

Ein Rahmen funktioniert nur, wenn ihn jemand prüfen kann. Entwickler sollten ihre Sicherheits- und Datenschutzrichtlinien in klarer Sprache veröffentlichen, erklären, wie das System funktioniert, auf einem Niveau, dem Eltern folgen können, und sagen, an wen man sich wendet, wenn etwas schiefgeht.

Wie wendet Clarity Kids diese Prinzipien an?

Wir bauen Clarity Kids, das Zuhause von Studio Clarté, für Kinder von 6 bis 12 Jahren und wenden den Rahmen auf uns selbst an. Ein eigener mehrstufiger Sicherheitsfilter prüft jede Interaktion. Die Tiefe seiner Antworten lässt sich einstellen. Es gibt keine Werbung und kein Tracking, und Kinderdaten werden nie verkauft oder für Werbung genutzt. Gesprächsdaten werden nach 90 Tagen automatisch gelöscht, wie unsere Datenschutzerklärung erläutert, und wir veröffentlichen unsere Governance-Richtlinien vollständig.

Was sollte man fragen, bevor man ein KI-Werkzeug für ein Kind wählt?

1. Für wen ist es gemacht, und für welche Altersgruppe?
2. Gibt es Hinweise und Fragen oder fertige Antworten?
3. Welche Daten erhebt es, wie lange speichert es sie, und werden sie je für Werbung genutzt?
4. Gibt es vor, ein Freund zu sein?
5. Was filtert es, und wie melde ich ein Problem?
6. Kann ich eine Übersicht sehen, wie mein Kind es nutzt?

Wie man Schutz und Aufklärung über KI ausbalanciert, lesen Sie in Sollen Kinder KI nutzen? Abschirmen oder KI-Kompetenz.

Häufige Fragen

Was macht ein KI-Werkzeug für Kinder sicher?

Es ist für ihr Alter gestaltet, prüft, was es sagt, erhebt so wenig Daten wie möglich und löscht sie planmäßig, macht weder Werbung noch Profile, unterstützt ihr Denken, statt es ihnen abzunehmen, und bezieht Eltern und Lehrkräfte ein.

Was empfiehlt UNICEF zu KI und Kindern?

UNICEFs Guidance on AI and children (Version 3.0, Dezember 2025) legt zehn Anforderungen fest, darunter Sicherheit gewährleisten, Daten und Privatsphäre von Kindern schützen, Transparenz und Rechenschaft sowie das Wohl, die Entwicklung und das Wohlbefinden von Kindern fördern.

Wie lange darf eine App die Daten eines Kindes speichern?

Nach der US-Regel COPPA dürfen personenbezogene Daten eines Kindes unter 13 nur so lange gespeichert werden, wie es für den Erhebungszweck vernünftigerweise nötig ist, nie unbegrenzt, und der Betreiber braucht eine schriftliche Aufbewahrungsrichtlinie.

Sollten Kinder KI-Begleiter-Chatbots nutzen?

Common Sense Media rät, dass niemand unter 18 soziale KI-Begleiter nutzt, nachdem die Organisation 2025 zu dem Schluss kam, dass sie für Kinder und Jugendliche inakzeptable Risiken bergen.

Quellen

1. UNICEF (2025), Guidance on AI and children, version 3.0 — Zehn Anforderungen an kindzentrierte KI auf Grundlage der UN-Kinderrechtskonvention; aktualisiert für KI-Begleiter und generative KI.
2. US Code of Federal Regulations, 16 CFR Part 312: Children's Online Privacy Protection Rule — Nachprüfbare elterliche Einwilligung für Kinder unter 13; Speicherung nur so lange wie vernünftigerweise nötig; schriftliche Aufbewahrungsrichtlinie.
3. Bastani et al. (2025), Generative AI without guardrails can harm learning: Evidence from high school mathematics, PNAS — Ein Tutor mit Schutzmechanismen, der Hinweise gab, vermied den Lernverlust durch einen uneingeschränkten Chatbot.
4. Common Sense Media (2025), AI Companions Decoded — Soziale KI-Begleiter bergen inakzeptable Risiken für unter 18-Jährige und sollten von Minderjährigen nicht genutzt werden.
5. EU Artificial Intelligence Act, Annex III: High-Risk AI Systems — KI zur Bewertung von Lernergebnissen oder zur Überwachung bei Prüfungen gilt als hochriskant.
6. UNESCO (2023), Guidance for generative AI in education and research — Empfiehlt Datenschutz, eine Altersgrenze für die eigenständige Nutzung generativer KI und einen menschenzentrierten, altersgerechten Ansatz.