# 课堂里的人工智能：更好的学习还是更少的隐私？

> 人工智能辅导和学习分析承诺个性化教学，但也可能削弱思考、收集敏感数据。学校如何获得好处而避免代价。

URL: https://www.clarityailab.com/zh/insights/algorithmic-classroom-ai-innovation-privacy-critical-thinking/

课堂里的人工智能可以实现个性化学习，但同样的系统也可能削弱它本应培养的思考能力，并收集关于孩子的详细数据。学校得到的是好处还是代价，与其说取决于是否使用人工智能，不如说取决于工具如何设计、保留哪些数据，以及由谁来检查。

本文面向正在权衡人工智能辅导和学习分析的学校领导、教师和家长。文章列出关于学习的证据、隐私风险，以及采用工具前的简短检查清单。

## 学生用人工智能做作业有多普遍？

使用的快速增长已是事实。[皮尤研究中心](https://www.pewresearch.org/short-reads/2025/01/15/about-a-quarter-of-us-teens-have-used-chatgpt-for-schoolwork-double-the-share-in-2023/)发现，26%的13至17岁美国青少年用ChatGPT做过学校作业，是2023年13%的两倍。学校要决定的是如何管理学生已经在用的人工智能，而不是要不要让它进校园。

## 课堂里的人工智能能改善学习吗？

能，前提是它被设计来教，而不是来答。最清晰的证据来自一项在土耳其有近1000名高中数学学生参与的现场实验，[发表在《美国国家科学院院刊》](https://doi.org/10.1073/pnas.2422633122)。正如[Knowledge at Wharton](https://knowledge.wharton.upenn.edu/article/without-guardrails-generative-ai-can-harm-education/)所总结：

- 使用标准聊天机器人的学生在练习中比对照组好48%，但在之后不借助它的考试中差17%。
- 使用带保护措施辅导版本的学生在练习中好127%，考试成绩与对照组大致相同。

*分析：* 分发答案的人工智能改善的是学生交上来的作业，而不是他们学到的东西。让学生自己思考的人工智能至少不会造成伤害，还能帮助他们多练习。

## 人工智能会削弱学生的批判性思维吗？

有警示信号。[Michael Gerlich](https://www.mdpi.com/2075-4698/15/1/6) 2025年对666名参与者的研究发现，频繁使用人工智能与批判性思维之间存在显著负相关，这与认知卸载有关：让工具去做本该由人完成的脑力工作。年轻参与者对人工智能的依赖更强，批判性思维得分更低。该研究显示的是关联而非因果，但与课堂实验指向同一方向。

## 学校使用人工智能有哪些隐私风险？

人工智能辅导和学习分析依靠收集数据运作：答案、错误、做题时间，有时还有写作、语音或视频。这些记录可能敏感且长期存在。

- **高风险用途。** 欧盟《人工智能法案》的[附件三](https://artificialintelligenceact.eu/annex/3/)把用于决定录取、评估学习成果、评估学生将接受的教育程度，或在考试中监控学生违规行为的人工智能列为高风险。这些用途须承担额外义务。
- **儿童数据。** 在美国，[COPPA规则](https://www.ecfr.gov/current/title-16/chapter-I/subchapter-C/part-312)要求在收集13岁以下儿童的个人信息前获得可验证的家长同意。它还规定此类数据只能在其目的合理必要的期限内保存，不得无限期保存，并须有书面保留政策。
- **儿童权利。** 联合国儿童基金会的[《人工智能与儿童指南》](https://www.unicef.org/innocenti/reports/policy-guidance-ai-children)为以儿童为中心的人工智能提出十项要求，包括确保安全、保护儿童数据和隐私，以及提供透明度和问责。

*分析：* 更深层的风险在于贴标签。预测哪些学生会遇到困难的系统，可以帮助老师及早介入。但同样的预测一旦被保存和共享，就可能跟随孩子，影响别人如何看待他们。

## 乐观者说对了什么？

大规模的个性化反馈很有价值。老师无法陪每个学生坐下来，而设计良好的辅导工具可以给提示、解释错误，让学生按自己的节奏练习。谨慎使用的预警分析可以帮助老师接触到原本会掉队的学生。目标是在限制数据、保护思考的同时保留这些好处。

## 学校在采用人工智能工具前应检查什么？

1. **它是在教还是在告诉？** 优先选择给提示、提问题的工具，而不是直接给完整答案的工具。
2. **它收集哪些数据、保存多久？** 要求书面的保留政策；拒绝无限期存储。
3. **谁能看到预测结果？** 风险评分留在老师手里，不进入永久记录。
4. **决策是否由人负责？** 不要让人工智能单独评分、录取或处分学生。
5. **按法律它是否属于高风险？** 检查该用途是否属于欧盟《人工智能法案》的教育类别或当地的儿童隐私规则。
6. **也要教会使用工具。** 向学生展示它如何运作、在哪里会出错，让他们用它来思考，而不是停止思考。

关于评估方式需要如何改变，见[人工智能时代学校应如何评估学习？](/insights/beyond-the-prompt-redefining-educational-rigor-in-the-era-of-ai/)。

### 人工智能能帮助学生学习吗？

取决于设计。在一项有近1000名高中数学学生参与的现场实验中，不受限制的聊天机器人提高了练习成绩，却降低了之后的考试成绩；而给提示而非答案的辅导工具避免了这种下降。

### 使用人工智能会削弱批判性思维吗？

一些研究提示存在关联。2025年一项有666人参与的研究发现，频繁使用人工智能与较低的批判性思维相关，中介是认知卸载，在年轻人中尤其明显。它显示的是相关性，而非因果证明。

### 学校里的人工智能受监管吗？

越来越多。欧盟《人工智能法案》把用于录取学生、评估学习成果、决定一个人接受何种教育程度或在考试中监控学生的人工智能列为高风险。在美国，COPPA管理13岁以下儿童的个人信息。

### 教育应用可以保存孩子的数据多久？

根据美国COPPA规则，只能在收集目的合理必要的期限内保存，不得无限期保存，运营者还必须有书面的数据保留政策。