IA segura para niños: un marco para aprender y proteger la privacidad

La IA hecha para niños debería hacer tres cosas a la vez: ayudarles a pensar por sí mismos, proteger sus datos personales y ser honesta sobre el hecho de que es una máquina. La regulación fija un mínimo para la privacidad, pero dice poco sobre el aprendizaje, así que quienes diseñan, compran y usan estas herramientas necesitan un marco más completo.

Este artículo propone seis principios basados en la guía de UNICEF, la legislación sobre privacidad infantil y la investigación reciente sobre IA y aprendizaje. Está escrito para desarrolladores, escuelas y familias que eligen IA para niños.

¿Qué debe lograr una IA segura para niños?

La Guía sobre IA e infancia de UNICEF, actualizada a la versión 3.0 en diciembre de 2025, establece diez requisitos para una IA centrada en la infancia. Incluyen garantizar la seguridad, proteger los datos y la privacidad de los niños, ofrecer transparencia y rendición de cuentas, favorecer el interés superior, el desarrollo y el bienestar de los niños, y prepararlos para un mundo con IA. La actualización presta atención a los compañeros de IA que usan los niños.

Esos requisitos son amplios. Los seis principios siguientes los convierten en preguntas que un equipo o una familia pueden comprobar.

1. ¿Desarrolla el pensamiento en lugar de sustituirlo?

Una IA que responde al instante a cada pregunta puede impedir que un niño haga el trabajo que fija el aprendizaje. En un experimento de campo con casi 1.000 estudiantes de secundaria, Bastani y sus colegas hallaron que un chatbot sin restricciones mejoraba la práctica pero perjudicaba los resultados de exámenes posteriores, mientras que un tutor que daba pistas en lugar de respuestas evitaba el daño.

En la práctica: la IA debería devolver preguntas, dar la siguiente pista en lugar de la solución y dejar que los adultos fijen cuánta ayuda presta.

2. ¿Recoge los menos datos posibles?

Los datos de los niños merecen más cuidado que los de los adultos. La norma COPPA de EE. UU. exige un consentimiento parental verificable antes de recoger información personal de menores de 13 años, y establece que solo puede conservarse el tiempo razonablemente necesario para su fin, nunca indefinidamente, con una política de conservación por escrito.

En la práctica: recoger solo lo que necesita el aprendizaje, publicar cuánto tiempo se guarda, borrarlo automáticamente y no usarlo nunca para publicidad ni para crear perfiles comerciales.

3. ¿Es honesta sobre el hecho de ser una máquina?

Los niños pueden encariñarse con una IA que habla como un amigo. En 2025 Common Sense Media concluyó que los compañeros sociales de IA suponen riesgos inaceptables para niños y adolescentes menores de 18 años y que no deberían usarlos menores.

En la práctica: nada de amistad o romance simulados, nada de culpa ni presión para seguir hablando, y explicaciones sencillas de que es un programa informático que puede equivocarse.

4. ¿Está diseñada y filtrada para su edad?

La guía de la UNESCO sobre IA generativa en educación pide una edad mínima para las conversaciones autónomas con plataformas de IA generales y un uso adecuado a la edad. Las herramientas para niños pequeños necesitan filtrar el contenido que entra y el que sale.

En la práctica: un rango de edad claro, filtrado de seguridad en cada interacción y nada de acceso libre a chatbots generales para niños pequeños.

5. ¿Participan los adultos sin espiar?

Familias y docentes necesitan saber cómo va un niño, pero la vigilancia constante puede ahogar la libertad de probar y equivocarse. Cuando la IA se usa para evaluar el aprendizaje o vigilar a los alumnos en los exámenes, el anexo III de la Ley de IA de la UE la clasifica como de alto riesgo, con obligaciones adicionales.

En la práctica: compartir resúmenes de progreso, no transcripciones de cada palabra; que una persona tome cualquier decisión que afecte a la educación de un niño.

6. ¿Puede comprobarse?

Un marco solo funciona si alguien puede verificarlo. Los desarrolladores deberían publicar sus políticas de seguridad y privacidad en lenguaje claro, explicar cómo funciona el sistema a un nivel que una familia pueda seguir y decir a quién acudir cuando algo falla.

¿Cómo aplica Clarity Kids estos principios?

Creamos Clarity Kids, hogar de Studio Clarté, para niños de 6 a 12 años, y nos aplicamos el marco. Un filtro de seguridad propio de varias etapas revisa cada interacción. La profundidad de sus respuestas es configurable. No hay publicidad ni rastreo, y los datos de los niños nunca se venden ni se usan para publicidad. Los datos de las conversaciones se borran automáticamente a los 90 días, como explica nuestra política de privacidad, y publicamos íntegras nuestras políticas de gobernanza.

¿Qué preguntar antes de elegir una herramienta de IA para un niño?

1. ¿Para quién está diseñada y para qué edades?
2. ¿Da pistas y preguntas, o respuestas terminadas?
3. ¿Qué datos recoge, cuánto tiempo los guarda y se usan alguna vez para publicidad?
4. ¿Finge ser un amigo?
5. ¿Qué filtra y cómo puedo informar de un problema?
6. ¿Puedo ver un resumen de cómo la usa mi hijo?

Para equilibrar la protección con la enseñanza sobre IA, véase ¿Deben los niños usar IA? Proteger o alfabetizar.

Preguntas frecuentes

¿Qué hace que una herramienta de IA sea segura para los niños?

Está diseñada para su edad, revisa lo que dice, recoge los menos datos posibles y los borra según un calendario, no hace publicidad ni perfiles, apoya su pensamiento en vez de pensar por ellos e implica a familias y docentes.

¿Qué recomienda UNICEF sobre la IA y la infancia?

La Guía de UNICEF sobre IA e infancia (versión 3.0, diciembre de 2025) establece diez requisitos, entre ellos garantizar la seguridad, proteger los datos y la privacidad de los niños, la transparencia y la rendición de cuentas, y favorecer el interés superior, el desarrollo y el bienestar de los niños.

¿Cuánto tiempo puede guardar una app los datos de un niño?

Según la norma estadounidense COPPA, la información personal de un menor de 13 años solo puede conservarse el tiempo razonablemente necesario para el fin con que se recogió, nunca indefinidamente, y el operador necesita una política de conservación por escrito.

¿Deberían los niños usar chatbots de compañía?

Common Sense Media aconseja que ningún menor de 18 años use compañeros sociales de IA, tras concluir en 2025 que suponen riesgos inaceptables para niños y adolescentes.

Referencias

1. UNICEF (2025), Guidance on AI and children, version 3.0 — Diez requisitos para una IA centrada en la infancia, basados en la Convención sobre los Derechos del Niño; actualizados para compañeros de IA e IA generativa.
2. US Code of Federal Regulations, 16 CFR Part 312: Children's Online Privacy Protection Rule — Consentimiento parental verificable para menores de 13 años; datos guardados solo el tiempo razonablemente necesario; política escrita de conservación.
3. Bastani et al. (2025), Generative AI without guardrails can harm learning: Evidence from high school mathematics, PNAS — Un tutor con salvaguardas que daba pistas evitó la pérdida de aprendizaje causada por un chatbot sin restricciones.
4. Common Sense Media (2025), AI Companions Decoded — Los compañeros sociales de IA suponen riesgos inaceptables para menores de 18 años y no deberían usarlos menores.
5. EU Artificial Intelligence Act, Annex III: High-Risk AI Systems — La IA usada para evaluar resultados de aprendizaje o vigilar a los alumnos en los exámenes es de alto riesgo.
6. UNESCO (2023), Guidance for generative AI in education and research — Recomienda proteger la privacidad, fijar una edad mínima para el uso autónomo de la IA generativa y un enfoque centrado en las personas y adecuado a la edad.