儿童安全的人工智能：兼顾学习与隐私的框架

为儿童打造的人工智能应同时做到三件事：帮助他们独立思考，保护他们的个人数据，并坦诚自己是机器。监管为隐私设定了底线，却很少涉及学习，因此设计、采购和使用这些工具的人需要一个更完整的框架。

本文依据联合国儿童基金会的指南、儿童隐私法以及关于人工智能与学习的最新研究，提出六项原则。它面向为儿童选择人工智能的开发者、学校和家长。

儿童安全的人工智能应该实现什么？

联合国儿童基金会的《人工智能与儿童指南》于2025年12月更新至3.0版，为以儿童为中心的人工智能提出十项要求。其中包括确保安全、保护儿童数据和隐私、提供透明度和问责、支持儿童的最大利益、发展和福祉，以及让儿童为有人工智能的世界做好准备。此次更新增加了对儿童使用人工智能陪伴的关注。

这些要求比较宽泛。下面六项原则把它们变成团队或家长可以逐项检查的问题。

1. 它是在培养思考，还是取代思考？

一个立即回答所有问题的人工智能，会让孩子错过使学习牢固的那部分努力。在一项有近1000名高中生参与的现场实验中，Bastani及其同事发现，不受限制的聊天机器人改善了练习却损害了之后的考试成绩，而给提示而非答案的辅导工具避免了这种损害。

实践中： 人工智能应反问问题，给出下一步提示而不是答案，并允许成人设定它提供多少帮助。

2. 它是否尽量少收集数据？

儿童数据比成人数据更需严格对待。美国COPPA规则要求在收集13岁以下儿童的个人信息前获得可验证的家长同意，并规定这些信息只能在其目的合理必要的期限内保存，不得无限期保存，并须有书面保留政策。

实践中： 只收集学习所需的数据，公布保存期限，自动删除，绝不用于广告或建立商业画像。

3. 它是否坦诚自己是机器？

孩子可能会依恋像朋友一样说话的人工智能。2025年，Common Sense Media得出结论：社交型人工智能陪伴对18岁以下儿童和青少年构成不可接受的风险，未成年人不应使用。

实践中： 不模拟友谊或恋爱，不用内疚或压力让孩子继续聊天，用浅显的话说明它是可能出错的计算机程序。

4. 它是否为孩子的年龄设计并经过过滤？

联合国教科文组织的教育领域生成式人工智能指南呼吁为与通用人工智能平台的独立对话设定年龄限制，并采取适龄的使用方式。面向低龄儿童的工具需要对输入和输出都进行内容筛查。

实践中： 明确的年龄范围，对每次互动进行安全过滤，不让低龄儿童随意使用通用聊天机器人。

5. 成人是否参与其中而又不搞监视？

家长和老师需要了解孩子的情况，但持续监控会扼杀尝试和犯错的自由。当人工智能用于评估学习或在考试中监控学生时，欧盟《人工智能法案》的附件三将其列为高风险，须承担额外义务。

实践中： 分享进度摘要，而不是每句话的记录；任何影响孩子教育的决定都由人来做。

6. 它能被核查吗？

框架只有在有人能核查时才有效。开发者应以浅显的语言公布其安全和隐私政策，以家长能理解的程度解释系统如何运作，并说明出了问题时联系谁。

Clarity Kids如何应用这些原则？

我们为6至12岁儿童打造Clarity Kids（Studio Clarté的所在），并把这个框架用在自己身上。专有的多阶段安全过滤器筛查每一次互动。回答的深度可以配置。没有广告，没有追踪，儿童数据从不出售，也从不用于广告。对话数据在90天后自动删除，详见我们的隐私政策；我们也完整公开了治理政策。

为孩子选择人工智能工具前应该问什么？

1. 它为谁设计，适合什么年龄？
2. 它给的是提示和问题，还是完整答案？
3. 它收集哪些数据、保存多久、是否会用于广告？
4. 它是否假装成朋友？
5. 它过滤什么？我如何报告问题？
6. 我能看到孩子使用情况的摘要吗？

关于如何在保护与教孩子了解人工智能之间取得平衡，见儿童应该使用人工智能吗？屏蔽还是人工智能素养。

常见问题

什么样的人工智能工具对儿童是安全的？

它为儿童的年龄而设计，筛查自己说的话，尽量少收集数据并按计划删除，不做广告也不做画像，支持孩子思考而不是替他们思考，并让家长和老师参与其中。

联合国儿童基金会对人工智能与儿童有何建议？

联合国儿童基金会的《人工智能与儿童指南》（3.0版，2025年12月）提出十项要求，包括确保安全、保护儿童数据和隐私、透明度与问责，以及支持儿童的最大利益、发展和福祉。

应用可以保存孩子的数据多久？

根据美国COPPA规则，13岁以下儿童的个人信息只能在收集目的合理必要的期限内保存，不得无限期保存，运营者须有书面保留政策。

孩子应该使用人工智能陪伴聊天机器人吗？

Common Sense Media在2025年得出结论认为社交型人工智能陪伴对儿童和青少年构成不可接受的风险，因此建议18岁以下的人都不要使用。

参考资料

1. UNICEF (2025), Guidance on AI and children, version 3.0 — 以儿童为中心的人工智能的十项要求，以《儿童权利公约》为基础；针对人工智能陪伴和生成式人工智能进行了更新。
2. US Code of Federal Regulations, 16 CFR Part 312: Children's Online Privacy Protection Rule — 13岁以下儿童须获可验证的家长同意；数据仅保留合理必要的时间；书面保留政策。
3. Bastani et al. (2025), Generative AI without guardrails can harm learning: Evidence from high school mathematics, PNAS — 给提示的带保护措施辅导工具，避免了不受限制的聊天机器人造成的学习损失。
4. Common Sense Media (2025), AI Companions Decoded — 社交型人工智能陪伴对18岁以下人群构成不可接受的风险，未成年人不应使用。
5. EU Artificial Intelligence Act, Annex III: High-Risk AI Systems — 用于评估学习成果或在考试中监控学生的人工智能属于高风险。
6. UNESCO (2023), Guidance for generative AI in education and research — 建议保护数据隐私、为独立使用生成式人工智能设定年龄限制，并采取以人为本、适龄的方法。