子どもに安全なAI:学びとプライバシーのための枠組み

子どものために作られたAIは、三つのことを同時に果たすべきだ。子どもが自分で考えるのを助けること、個人データを守ること、そして自分が機械であると正直に伝えることである。規制はプライバシーの最低基準を定めるが、学びについてはほとんど語らない。だからこそ、これらの道具を設計し、購入し、使う人には、より包括的な枠組みが必要になる。

本稿は、ユニセフのガイダンス、子どものプライバシーに関する法律、AIと学びに関する最近の研究をもとに、六つの原則を提案する。子どものためにAIを選ぶ開発者、学校、保護者に向けたものだ。

子どもに安全なAIは何を実現すべきか?

2025年12月に第3版に更新されたユニセフの『AIと子どもに関するガイダンス』は、子ども中心のAIのための十の要件を定めている。安全の確保、子どものデータとプライバシーの保護、透明性と説明責任の確保、子どもの最善の利益・発達・幸福の支援、そしてAIのある世界に向けた子どもの備えなどである。今回の更新では、子どもが使うAIコンパニオンへの配慮が加わった。

これらの要件は幅広い。以下の六つの原則は、それをチームや保護者が確かめられる問いに置き換えたものだ。

1. 思考を置き換えるのではなく育てているか?

あらゆる質問に即座に答えるAIは、学びを定着させる努力を子どもから奪いかねない。高校生約1000人を対象とした実地実験で、Bastaniらの研究チームは、制限のないチャットボットが演習を改善する一方で後の試験の成績を損ない、答えではなくヒントを与える家庭教師はその害を避けたことを見いだした。

実践では: AIは問い返し、答えではなく次のヒントを出し、どこまで手助けするかを大人が設定できるようにすべきだ。

2. データの収集を最小限にしているか?

子どものデータは大人のデータ以上に慎重に扱われるべきだ。米国のCOPPA規則は、13歳未満の子どもの個人情報を収集する前に検証可能な保護者の同意を求め、その情報は目的に合理的に必要な期間だけ保存でき、無期限の保存は認められず、文書化された保存方針に従うよう定めている。

実践では: 学びに必要なものだけを集め、保存期間を公表し、自動で削除し、広告や商業的なプロファイル作成には決して使わない。

3. 自分が機械であると正直に伝えているか?

子どもは友だちのように話すAIに愛着を持つことがある。2025年、Common Sense MediaはソーシャルAIコンパニオンは18歳未満の子どもと10代に容認できないリスクをもたらすとし、未成年は使うべきではないと結論づけた。

実践では: 友情や恋愛を演じず、会話を続けさせるための罪悪感や圧力を与えず、間違えることもあるコンピュータープログラムだとわかりやすく説明する。

4. 子どもの年齢に合わせて設計・フィルタリングされているか?

ユネスコの教育における生成AIのガイダンスは、汎用AIプラットフォームとの単独での対話に年齢制限を設けること、そして年齢に適した使い方を求めている。年少の子ども向けの道具には、入力と出力の両方の内容チェックが必要だ。

実践では: 明確な対象年齢、すべてのやり取りへの安全フィルター、そして年少の子どもには汎用チャットボットを自由に使わせないこと。

5. 監視せずに大人が関われるか?

保護者と教師は子どもの様子を知る必要があるが、絶え間ない監視は試して失敗する自由を奪いかねない。AIを学習の評価や試験中の生徒の監視に使う場合、EU AI法の附属書IIIはそれを高リスクに分類し、追加の義務を課している。

実践では: 一言一句の記録ではなく進捗の要約を共有し、子どもの教育に関わる判断は人間が下す。

6. 検証できるか?

枠組みは、誰かが検証できて初めて機能する。開発者は安全とプライバシーの方針をわかりやすい言葉で公開し、保護者が理解できる水準でシステムの仕組みを説明し、問題が起きたときの連絡先を示すべきだ。

Clarity Kidsはこれらの原則をどう適用しているか?

私たちはStudio Clartéの拠点であるClarity Kidsを6〜12歳の子どものために作っており、この枠組みを自らにも当てはめている。独自の多段階安全フィルターがすべてのやり取りをチェックする。回答の深さは設定できる。広告も追跡もなく、子どものデータが販売されたり広告に使われたりすることは決してない。会話データは90日後に自動的に削除される。詳しくはプライバシーポリシーを参照してほしい。また、ガバナンス方針も全文公開している。

子どものためにAIツールを選ぶ前に何を尋ねるべきか?

1. 誰のために、どの年齢層向けに設計されているか?
2. ヒントや問いを出すのか、完成した答えを出すのか?
3. どんなデータを集め、どれだけの期間保存し、広告に使われることはあるか?
4. 友だちのふりをしていないか?
5. 何をフィルタリングし、問題をどう報告できるか?
6. 子どもの利用状況の要約を見られるか?

保護することとAIについて教えることのバランスについては、子どもはAIを使うべきか?遮断かAIリテラシーかを参照。

よくある質問

どんなAIツールなら子どもに安全か?

子どもの年齢に合わせて設計され、自らの発言をチェックし、データの収集を最小限にして予定通り削除し、広告もプロファイリングもせず、子どもの代わりに考えるのではなく子どもの思考を支え、保護者と教師が関われるものだ。

ユニセフはAIと子どもについて何を勧めているか?

ユニセフの「AIと子どもに関するガイダンス」(第3版、2025年12月)は十の要件を定めている。安全の確保、子どものデータとプライバシーの保護、透明性と説明責任、子どもの最善の利益・発達・幸福の支援などである。

アプリは子どものデータをどれくらい保存できるか?

米国のCOPPA規則では、13歳未満の子どもの個人情報は、収集した目的に合理的に必要な期間だけ保存でき、無期限の保存は認められず、運営者は文書化された保存方針を持たなければならない。

子どもはAIコンパニオンのチャットボットを使うべきか?

Common Sense Mediaは2025年、ソーシャルAIコンパニオンは子どもと10代に容認できないリスクをもたらすと結論づけ、18歳未満は誰も使うべきではないと勧めている。

参考文献

1. UNICEF (2025), Guidance on AI and children, version 3.0 — 子どもの権利条約に基づく、子ども中心のAIのための十の要件。AIコンパニオンと生成AIに対応して更新。
2. US Code of Federal Regulations, 16 CFR Part 312: Children's Online Privacy Protection Rule — 13歳未満には検証可能な保護者の同意;データは合理的に必要な期間だけ保存;文書化された保存方針。
3. Bastani et al. (2025), Generative AI without guardrails can harm learning: Evidence from high school mathematics, PNAS — ヒントを与える安全策付きの家庭教師は、制限のないチャットボットによる学習の損失を回避した。
4. Common Sense Media (2025), AI Companions Decoded — ソーシャルAIコンパニオンは18歳未満に容認できないリスクをもたらし、未成年は使うべきではない。
5. EU Artificial Intelligence Act, Annex III: High-Risk AI Systems — 学習成果の評価や試験中の生徒の監視に使うAIは高リスク。
6. UNESCO (2023), Guidance for generative AI in education and research — データプライバシーの保護、生成AIの単独利用への年齢制限、人間中心で年齢に適したアプローチを推奨。