ذكاء اصطناعي آمن للأطفال: إطار للتعلم والخصوصية

ينبغي للذكاء الاصطناعي المصنوع للأطفال أن يحقق ثلاثة أمور معًا: أن يساعدهم على التفكير بأنفسهم، وأن يحمي بياناتهم الشخصية، وأن يكون صادقًا في أنه آلة. فالتنظيم يضع حدًا أدنى للخصوصية لكنه لا يقول الكثير عن التعلم، ولذلك يحتاج من يصممون هذه الأدوات ويشترونها ويستخدمونها إلى إطار أشمل.

يقترح هذا المقال ستة مبادئ مستمدة من إرشادات اليونيسف وقوانين خصوصية الأطفال والأبحاث الحديثة عن الذكاء الاصطناعي والتعلم. وهو موجّه إلى المطورين والمدارس والآباء الذين يختارون ذكاءً اصطناعيًا للأطفال.

ما الذي ينبغي أن يحققه ذكاء اصطناعي آمن للأطفال؟

تضع إرشادات اليونيسف بشأن الذكاء الاصطناعي والأطفال، التي حُدّثت إلى الإصدار 3.0 في ديسمبر 2025، عشرة متطلبات لذكاء اصطناعي محوره الطفل. وتشمل ضمان السلامة، وحماية بيانات الأطفال وخصوصيتهم، وتوفير الشفافية والمساءلة، ودعم مصالح الأطفال الفضلى ونموهم ورفاههم، وإعداد الأطفال لعالم فيه ذكاء اصطناعي. ويضيف التحديث اهتمامًا برفقاء الذكاء الاصطناعي الذين يستخدمهم الأطفال.

هذه المتطلبات عامة. والمبادئ الستة أدناه تحولها إلى أسئلة يمكن لفريق أو لأحد الوالدين التحقق منها.

1. هل يبني التفكير بدل أن يحل محله؟

الذكاء الاصطناعي الذي يجيب فورًا عن كل سؤال قد يمنع الطفل من بذل الجهد الذي يرسّخ التعلم. ففي تجربة ميدانية مع نحو 1000 طالب في الثانوية، وجد باستاني وزملاؤه أن روبوت محادثة بلا قيود حسّن التمرين لكنه أضر بنتائج الامتحانات اللاحقة، بينما تجنب معلم آلي يقدم تلميحات بدل الإجابات هذا الضرر.

في التطبيق: ينبغي أن يرد الذكاء الاصطناعي بأسئلة، وأن يعطي التلميح التالي لا الحل، وأن يتيح للبالغين ضبط مقدار المساعدة.

2. هل يجمع أقل قدر ممكن من البيانات؟

بيانات الأطفال تستحق عناية أشد من بيانات البالغين. تشترط قاعدة COPPA الأمريكية موافقة والدين قابلة للتحقق قبل جمع المعلومات الشخصية من الأطفال دون 13 عامًا، وتنص على أنه لا يجوز الاحتفاظ بها إلا للمدة اللازمة بشكل معقول لغرضها، وليس إلى أجل غير مسمى، وفق سياسة احتفاظ مكتوبة.

في التطبيق: اجمعوا فقط ما يحتاجه التعلم، وانشروا مدة الاحتفاظ، واحذفوا البيانات تلقائيًا، ولا تستخدموها أبدًا للإعلان أو لبناء ملفات تعريف تجارية.

3. هل هو صادق في أنه آلة؟

قد يتعلق الأطفال بذكاء اصطناعي يتحدث كصديق. وفي 2025 خلصت Common Sense Media إلى أن رفقاء الذكاء الاصطناعي الاجتماعيين يشكلون مخاطر غير مقبولة على الأطفال والمراهقين دون 18 عامًا ولا ينبغي للقاصرين استخدامهم.

في التطبيق: لا صداقة ولا علاقة عاطفية مصطنعة، ولا شعور بالذنب أو ضغط لمواصلة المحادثة، وشرح بسيط بأنه برنامج حاسوبي يمكن أن يخطئ.

4. هل هو مصمم ومفلتر لأعمارهم؟

تدعو إرشادات اليونسكو بشأن الذكاء الاصطناعي التوليدي في التعليم إلى عمر أدنى للمحادثات المستقلة مع منصات الذكاء الاصطناعي العامة، وإلى نهج مناسب للعمر في استخدامها. وتحتاج أدوات الأطفال الصغار إلى فحص المحتوى الداخل والخارج.

في التطبيق: فئة عمرية واضحة، وترشيح أمان لكل تفاعل، ولا وصول مفتوح إلى روبوتات المحادثة العامة للأطفال الصغار.

5. هل يُشرَك البالغون دون تجسس؟

يحتاج الآباء والمعلمون إلى معرفة حال الطفل، لكن المراقبة الدائمة قد تخنق حرية المحاولة والخطأ. وحين يُستخدم الذكاء الاصطناعي لتقييم التعلم أو مراقبة الطلاب في الامتحانات، يصنّفه الملحق الثالث من قانون الذكاء الاصطناعي الأوروبي عالي المخاطر، مع التزامات إضافية.

في التطبيق: شاركوا ملخصات التقدم لا نصوص كل كلمة؛ ودعوا إنسانًا يتخذ أي قرار يمس تعليم الطفل.

6. هل يمكن التحقق منه؟

لا ينجح أي إطار إلا إذا استطاع أحد التحقق منه. ينبغي للمطورين نشر سياسات السلامة والخصوصية بلغة واضحة، وشرح طريقة عمل النظام بمستوى يستطيع الوالدان متابعته، وتحديد من يُتصل به حين يقع خطأ.

كيف تطبّق Clarity Kids هذه المبادئ؟

نبني Clarity Kids، موطن Studio Clarté، للأطفال من 6 إلى 12 عامًا، ونطبّق الإطار على أنفسنا. يفحص مرشح أمان متعدد المراحل خاص بنا كل تفاعل. ويمكن ضبط عمق إجاباته. لا إعلانات ولا تتبع، ولا تُباع بيانات الأطفال ولا تُستخدم للإعلان أبدًا. وتُحذف بيانات المحادثات تلقائيًا بعد 90 يومًا، كما توضح سياسة الخصوصية لدينا، وننشر سياسات الحوكمة كاملة.

ماذا تسأل قبل اختيار أداة ذكاء اصطناعي لطفل؟

1. لمن صُممت، ولأي فئة عمرية؟
2. هل تعطي تلميحات وأسئلة، أم إجابات جاهزة؟
3. ما البيانات التي تجمعها، وكم تحتفظ بها، وهل تُستخدم للإعلان؟
4. هل تتظاهر بأنها صديق؟
5. ماذا ترشّح، وكيف أبلّغ عن مشكلة؟
6. هل يمكنني رؤية ملخص لطريقة استخدام طفلي لها؟

لمعرفة كيف توازن بين الحماية وتعليم الأطفال عن الذكاء الاصطناعي، راجعوا هل ينبغي للأطفال استخدام الذكاء الاصطناعي؟ الحماية أم محو الأمية.

الأسئلة الشائعة

ما الذي يجعل أداة الذكاء الاصطناعي آمنة للأطفال؟

أن تكون مصممة لأعمارهم، وتفحص ما تقوله، وتجمع أقل قدر ممكن من البيانات وتحذفها وفق جدول، ولا تعرض إعلانات ولا تبني ملفات تعريفية، وتدعم تفكيرهم بدل أن تفكر عنهم، وتُشرك الآباء والمعلمين.

بماذا توصي اليونيسف بشأن الذكاء الاصطناعي والأطفال؟

تضع إرشادات اليونيسف بشأن الذكاء الاصطناعي والأطفال (الإصدار 3.0، ديسمبر 2025) عشرة متطلبات، منها ضمان السلامة، وحماية بيانات الأطفال وخصوصيتهم، والشفافية والمساءلة، ودعم مصالح الأطفال الفضلى ونموهم ورفاههم.

كم يمكن لتطبيق الاحتفاظ ببيانات الطفل؟

بموجب قاعدة COPPA الأمريكية، لا يجوز الاحتفاظ بالمعلومات الشخصية لطفل دون 13 عامًا إلا للمدة اللازمة بشكل معقول للغرض الذي جُمعت من أجله، ولا يجوز ذلك إلى أجل غير مسمى، ويحتاج المشغّل إلى سياسة احتفاظ مكتوبة.

هل ينبغي للأطفال استخدام روبوتات المحادثة الرفيقة؟

تنصح Common Sense Media بألا يستخدم أي شخص دون 18 عامًا رفقاء الذكاء الاصطناعي الاجتماعيين، بعد أن خلصت في 2025 إلى أنهم يشكلون مخاطر غير مقبولة على الأطفال والمراهقين.

المراجع

1. UNICEF (2025), Guidance on AI and children, version 3.0 — عشرة متطلبات لذكاء اصطناعي محوره الطفل، مستندة إلى اتفاقية حقوق الطفل؛ ومحدّثة لتشمل رفقاء الذكاء الاصطناعي والذكاء الاصطناعي التوليدي.
2. US Code of Federal Regulations, 16 CFR Part 312: Children's Online Privacy Protection Rule — موافقة والدين قابلة للتحقق لمن هم دون 13 عامًا؛ الاحتفاظ بالبيانات فقط للمدة اللازمة بشكل معقول؛ سياسة احتفاظ مكتوبة.
3. Bastani et al. (2025), Generative AI without guardrails can harm learning: Evidence from high school mathematics, PNAS — تجنّب معلم آلي بضمانات يقدم تلميحات خسارة التعلم التي سببها روبوت محادثة بلا قيود.
4. Common Sense Media (2025), AI Companions Decoded — رفقاء الذكاء الاصطناعي الاجتماعيون يشكلون مخاطر غير مقبولة على من هم دون 18، ولا ينبغي للقاصرين استخدامهم.
5. EU Artificial Intelligence Act, Annex III: High-Risk AI Systems — الذكاء الاصطناعي المستخدم لتقييم نتائج التعلم أو مراقبة الطلاب في الامتحانات عالي المخاطر.
6. UNESCO (2023), Guidance for generative AI in education and research — توصي بحماية الخصوصية، وتحديد عمر أدنى للاستخدام المستقل للذكاء الاصطناعي التوليدي، ونهج يتمحور حول الإنسان ويناسب العمر.