בינה מלאכותית בטוחה לילדים: מסגרת ללמידה ולפרטיות

בינה מלאכותית שנבנתה לילדים צריכה לעשות שלושה דברים בבת אחת: לעזור להם לחשוב בעצמם, להגן על המידע האישי שלהם, ולומר ביושר שהיא מכונה. הרגולציה קובעת רף מינימום לפרטיות, אבל אומרת מעט על למידה, ולכן מי שמתכננים, רוכשים ומשתמשים בכלים האלה זקוקים למסגרת מלאה יותר.

מאמר זה מציע שישה עקרונות, השאובים מההנחיות של יוניסף, מדיני פרטיות של ילדים וממחקר עדכני על בינה מלאכותית ולמידה. הוא מיועד למפתחים, לבתי ספר ולהורים שבוחרים בינה מלאכותית לילדים.

מה בינה מלאכותית בטוחה לילדים צריכה להשיג?

ההנחיות של יוניסף לבינה מלאכותית וילדים, שעודכנו לגרסה 3.0 בדצמבר 2025, קובעות עשר דרישות לבינה מלאכותית ממוקדת ילדים. ביניהן הבטחת בטיחות, הגנה על המידע והפרטיות של ילדים, שקיפות ואחריותיות, תמיכה בטובתם, בהתפתחותם וברווחתם של ילדים, והכנת ילדים לעולם שיש בו בינה מלאכותית. העדכון מוסיף תשומת לב למלווי בינה מלאכותית שילדים משתמשים בהם.

הדרישות האלה רחבות. ששת העקרונות שלהלן הופכים אותן לשאלות שצוות או הורה יכולים לבדוק.

1. האם היא בונה חשיבה ולא מחליפה אותה?

בינה מלאכותית שעונה מיד על כל שאלה עלולה למנוע מילד את המאמץ שגורם ללמידה להיקלט. בניסוי שדה עם כמעט 1,000 תלמידי תיכון, בסטני ועמיתיה מצאו שצ'אטבוט בלי הגבלות שיפר את התרגול אבל פגע בתוצאות מבחנים מאוחרים יותר, בעוד מורה וירטואלי שנתן רמזים במקום תשובות מנע את הנזק.

בפועל: הבינה המלאכותית צריכה להחזיר שאלות, לתת את הרמז הבא במקום הפתרון, ולאפשר למבוגרים לקבוע כמה עזרה היא נותנת.

2. האם היא אוספת כמה שפחות מידע?

מידע של ילדים ראוי לזהירות רבה יותר ממידע של מבוגרים. כלל COPPA האמריקאי דורש הסכמת הורים ניתנת לאימות לפני איסוף מידע אישי מילדים מתחת לגיל 13, וקובע שמותר לשמור אותו רק כל עוד הדבר נחוץ באופן סביר למטרתו, לעולם לא ללא הגבלת זמן, לפי מדיניות שמירה כתובה.

בפועל: לאסוף רק את מה שהלמידה צריכה, לפרסם כמה זמן המידע נשמר, למחוק אוטומטית, ולעולם לא להשתמש בו לפרסום או לבניית פרופילים מסחריים.

3. האם היא אומרת ביושר שהיא מכונה?

ילדים יכולים להיקשר לבינה מלאכותית שמדברת כמו חבר. ב-2025 הגיעה Common Sense Media למסקנה שמלווים חברתיים מבוססי בינה מלאכותית מציבים סיכונים בלתי קבילים לילדים ולבני נוער מתחת לגיל 18 ואין להשתמש בהם בקטינים.

בפועל: בלי חברות או רומנטיקה מדומות, בלי אשמה או לחץ להמשיך לשוחח, והסברים פשוטים שזו תוכנת מחשב שיכולה לטעות.

4. האם היא מתוכננת ומסוננת לגילם?

ההנחיות של אונסק״ו לבינה מלאכותית יוצרת בחינוך קוראות למגבלת גיל לשיחות עצמאיות עם פלטפורמות בינה מלאכותית כלליות ולגישה מותאמת גיל לשימוש בהן. כלים לילדים צעירים צריכים סינון תוכן גם במה שנכנס וגם במה שיוצא.

בפועל: טווח גילים ברור, סינון בטיחות בכל אינטראקציה, ובלי גישה פתוחה לצ'אטבוטים כלליים לילדים צעירים.

5. האם המבוגרים מעורבים בלי לרגל?

הורים ומורים צריכים לדעת מה שלום הילד, אבל פיקוח מתמיד עלול לחנוק את החופש לנסות ולטעות. כשבינה מלאכותית משמשת להערכת למידה או לפיקוח על תלמידים במבחנים, נספח III לחוק הבינה המלאכותית של האיחוד האירופי מסווג אותה כבסיכון גבוה, עם חובות נוספות.

בפועל: לשתף סיכומי התקדמות ולא תמלילים של כל מילה; כל החלטה שמשפיעה על חינוך הילד מתקבלת בידי אדם.

6. האם אפשר לבדוק אותה?

מסגרת עובדת רק אם מישהו יכול לבדוק אותה. מפתחים צריכים לפרסם את מדיניות הבטיחות והפרטיות שלהם בשפה פשוטה, להסביר כיצד המערכת עובדת ברמה שהורה יכול לעקוב אחריה, ולומר למי לפנות כשמשהו משתבש.

איך Clarity Kids מיישמת את העקרונות האלה?

אנו בונים את Clarity Kids, ביתו של Studio Clarté, לילדים בני 6 עד 12, ומחילים את המסגרת על עצמנו. מסנן בטיחות רב-שלבי קנייני בודק כל אינטראקציה. אפשר להגדיר את עומק התשובות. אין פרסומות ואין מעקב, ומידע של ילדים לעולם אינו נמכר ואינו משמש לפרסום. נתוני השיחות נמחקים אוטומטית אחרי 90 יום, כפי שמדיניות הפרטיות שלנו מסבירה, ואנו מפרסמים את מדיניות הממשל שלנו במלואה.

מה לשאול לפני שבוחרים כלי בינה מלאכותית לילד?

1. למי הוא מיועד, ולאיזה טווח גילים?
2. האם הוא נותן רמזים ושאלות, או תשובות מוכנות?
3. איזה מידע הוא אוסף, כמה זמן הוא שומר אותו, והאם הוא משמש אי פעם לפרסום?
4. האם הוא מעמיד פנים שהוא חבר?
5. מה הוא מסנן, ואיך מדווחים על בעיה?
6. האם אוכל לראות סיכום של אופן השימוש של ילדי?

על איזון בין הגנה לבין הוראה על בינה מלאכותית, ראו האם ילדים צריכים להשתמש בבינה מלאכותית? מיגון או אוריינות.

שאלות נפוצות

מה הופך כלי בינה מלאכותית לבטוח לילדים?

הוא מתוכנן לגילם, בודק את מה שהוא אומר, אוסף כמה שפחות מידע ומוחק אותו לפי לוח זמנים, אינו מפרסם ואינו בונה פרופילים, תומך בחשיבה שלהם במקום לחשוב במקומם, ומשתף הורים ומורים.

מה יוניסף ממליצה לגבי בינה מלאכותית וילדים?

ההנחיות של יוניסף לבינה מלאכותית וילדים (גרסה 3.0, דצמבר 2025) קובעות עשר דרישות, ביניהן הבטחת בטיחות, הגנה על המידע והפרטיות של ילדים, שקיפות ואחריותיות, ותמיכה בטובתם, בהתפתחותם וברווחתם של ילדים.

כמה זמן אפליקציה רשאית לשמור מידע של ילד?

לפי כלל COPPA האמריקאי, מותר לשמור מידע אישי של ילד מתחת לגיל 13 רק כל עוד הדבר נחוץ באופן סביר למטרה שלשמה נאסף, לעולם לא ללא הגבלת זמן, והמפעיל זקוק למדיניות שמירה כתובה.

האם ילדים צריכים להשתמש בצ'אטבוטים מלווים?

Common Sense Media ממליצה שאף אדם מתחת לגיל 18 לא ישתמש במלווים חברתיים מבוססי בינה מלאכותית, לאחר שהגיעה ב-2025 למסקנה שהם מציבים סיכונים בלתי קבילים לילדים ולבני נוער.

מקורות

1. UNICEF (2025), Guidance on AI and children, version 3.0 — עשר דרישות לבינה מלאכותית ממוקדת ילדים, המבוססות על האמנה בדבר זכויות הילד; עודכנו למלווי בינה מלאכותית ולבינה מלאכותית יוצרת.
2. US Code of Federal Regulations, 16 CFR Part 312: Children's Online Privacy Protection Rule — הסכמת הורים ניתנת לאימות לילדים מתחת לגיל 13; שמירת מידע רק כל עוד נחוץ באופן סביר; מדיניות שמירה כתובה.
3. Bastani et al. (2025), Generative AI without guardrails can harm learning: Evidence from high school mathematics, PNAS — מורה וירטואלי עם אמצעי הגנה שנתן רמזים מנע את אובדן הלמידה שגרם צ'אטבוט בלי הגבלות.
4. Common Sense Media (2025), AI Companions Decoded — מלווים חברתיים מבוססי בינה מלאכותית מציבים סיכונים בלתי קבילים למי שמתחת לגיל 18, ואין להשתמש בהם בקטינים.
5. EU Artificial Intelligence Act, Annex III: High-Risk AI Systems — בינה מלאכותית המשמשת להערכת תוצאות למידה או לפיקוח על תלמידים במבחנים היא בסיכון גבוה.
6. UNESCO (2023), Guidance for generative AI in education and research — ממליצות על הגנת פרטיות, מגבלת גיל לשימוש עצמאי בבינה מלאכותית יוצרת וגישה ממוקדת אדם ומותאמת גיל.