ההחלטה להציג כלי צ’אטבוט מבוססי בינה מלאכותית (AI) לילדים צעירים מציגה הזדמנויות וסיכונים כאחד. מצד אחד, כלים אלה יכולים להציע תמיכה חינוכית, לעודד יצירתיות ולספק חוויות למידה מרתקות. מצד שני, הם מעלים חששות לגבי חשיפה לתכנים לא הולמים, פוטנציאל למניפולציה ופיתוח מיומנויות חשיבה ביקורתית.
איך Gemini AI Chatbot עובד
חשבונות Family Link של גוגל נועדו לתת להורים פיקוח על הפעילויות המקוונות של ילדיהם. הורים יכולים לנהל גישה לתכנים ואפליקציות ספציפיות, כמו YouTube, להגדיר מגבלות ולפקח על השימוש. כדי להקים חשבון ילד, הורים חייבים לספק מידע אישי, כולל שם הילד ותאריך הלידה. בעוד שאיסוף נתונים זה עשוי לעורר חששות פרטיות, גוגל מבטיחה כי נתוני הילדים לא ישמשו לאימון מערכות AI.
כברירת מחדל, גישת הצ’אטבוט תופעל, ותחייב את ההורים להשבית את התכונה באופן פעיל כדי להגביל את גישת הילד שלהם. לאחר מכן ילדים יכולים להשתמש בצ’אטבוט כדי ליצור תגובות טקסט או ליצור תמונות. עם זאת, גוגל מכירה בפוטנציאל לשגיאות ואי דיוקים, ומדגישה את הצורך בהערכה זהירה של התוכן שנוצר. תופעת “ההזיות” של AI, שבה צ’אטבוטים בודים מידע, מחייבת שילדים יאמתו עובדות ממקורות מהימנים, במיוחד בעת השימוש בכלי זה לסיוע בשיעורי בית.
טבע המידע המסופק
מנועי חיפוש מסורתיים כמו גוגל מאחזרים חומרים קיימים עבור משתמשים לבדיקה וניתוח. סטודנטים יכולים לגשת לכתבות חדשותיות, כתבי עת אקדמיים ומקורות אחרים כדי לאסוף מידע למשימות. כלי AI גנרטיביים, לעומת זאת, פועלים אחרת. הם מנתחים דפוסים בחומר מקור כדי ליצור תגובות טקסט חדשות או תמונות המבוססות על הנחיות משתמש. לדוגמה, ילד יכול לבקש מהמערכת “לצייר חתול”, והבינה המלאכותית תסרוק נתונים כדי לזהות מאפיינים מזהים (למשל, שפם, אוזניים מחודדות, זנב ארוך) ותפיק תמונה המשלבת תכונות אלה.
ההבחנה בין מידע שאוחזר באמצעות חיפוש בגוגל לבין תוכן שנוצר על ידי כלי AI יכולה להיות קשה לתפיסה עבור ילדים צעירים. מחקרים הראו שאפילו מבוגרים יכולים להיות מרומים על ידי תוכן שנוצר על ידי AI. אפילו אנשי מקצוע מיומנים ביותר, כמו עורכי דין, הוטעו להשתמש בתוכן מזויף שהופק על ידי ChatGPT וצ’אטבוטים אחרים. זה מדגיש את החשיבות של חינוך ילדים לגבי טבע התוכן שנוצר על ידי AI והצורך בהערכה ביקורתית.
הבטחת התאמה לגיל
גוגל טוענת כי ג’מיני תשלב “אמצעי הגנה מובנים שנועדו למנוע יצירת תוכן בלתי הולם או לא בטוח”. אמצעי הגנה אלה נועדו להגן על ילדים מפני חשיפה לחומרים מזיקים.
עם זאת, אמצעי הגנה אלה עלולים ליצור בעיות חדשות שלא במתכוון. לדוגמה, הגבלת מילים מסוימות (למשל, “שדיים”) כדי למנוע גישה לתוכן מיני לא הולם עלולה גם לחסום גישה למידע המתאים לגיל על שינויים גופניים במהלך גיל ההתבגרות. זה מדגיש את האיזון העדין בין הגנה על ילדים לבין מתן מידע מדויק ורלוונטי.
ילדים רבים הם בעלי ידע טכנולוגי רב ובקיאים בניווט באפליקציות ועקיפת בקרות מערכת. הורים אינם יכולים להסתמך רק על אמצעי הגנה מובנים. עליהם לבדוק באופן פעיל תוכן שנוצר, לעזור לילדיהם להבין כיצד המערכת פועלת ולהעריך את הדיוק וההתאמה של המידע המסופק.
סיכונים פוטנציאליים של צ’אטבוטים של AI לילדים
נציבות הבטיחות המקוונת פרסמה ייעוץ בטיחות מקוונת המתאר את הסיכונים הפוטנציאליים של צ’אטבוטים של AI, במיוחד אלה שנועדו לדמות מערכות יחסים אישיות, עבור ילדים צעירים. הייעוץ מזהיר כי בני לוויה של AI יכולים “לשתף תוכן מזיק, לעוות את המציאות ולתת עצות מסוכנות”. ילדים צעירים, שעדיין מפתחים חשיבה ביקורתית וכישורי חיים, פגיעים במיוחד להטעיה או מניפולציה על ידי תוכניות מחשב.
מחקר בדק את הדרכים שבהן צ’אטבוטים של AI, כגון ChatGPT, Replika ו-Tessa, מחקים אינטראקציות אנושיות על ידי הקפדה על נורמות ומוסכמות חברתיות. מערכות אלה נועדו לזכות באמון שלנו על ידי שיקוף הכללים הלא כתובים השולטים בהתנהגות חברתית. על ידי חיקוי נימוסים חברתיים אלה, מערכות אלה נועדו לזכות באמון שלנו.
אינטראקציות דמויות אדם אלה יכולות להיות מבלבלות ומסוכנות עבור ילדים צעירים. הם עשויים להאמין שהצ’אטבוט הוא אדם אמיתי ולסמוך על התוכן שהוא מספק, גם אם הוא לא מדויק או מומצא. זה יכול לעכב את פיתוח מיומנויות החשיבה הביקורתית ולהפוך את הילדים לרגישים יותר למניפולציות.
הגנה על ילדים מפני נזק
השקת הצ’אטבוט של Gemini AI עולה בקנה אחד עם האיסור הקרב ובא של אוסטרליה על חשבונות מדיה חברתית לילדים מתחת לגיל 16, המתוכנן לדצמבר השנה. בעוד שאיסור זה נועד להגן על ילדים מפני נזק מקוון, צ’אטבוטים גנרטיביים של AI מדגימים כי הסיכונים של מעורבות מקוונת חורגים מעבר למדיה החברתית. ילדים והורים כאחד חייבים להיות מחונכים לגבי שימוש הולם ובטוח בכל סוגי הכלים הדיגיטליים.
מכיוון שהצ’אטבוט של Gemini AI אינו מסווג ככלי מדיה חברתית, הוא לא יהיה כפוף לאיסור של אוסטרליה. המשמעות היא שהורים אוסטרליים ימשיכו להתמודד עם האתגר של להקדים את הטכנולוגיות המתפתחות ולהבין את הסיכונים הפוטנציאליים העומדים בפני ילדיהם. עליהם גם להכיר במגבלות של האיסור על מדיה חברתית בהגנה על ילדים מפני נזק.
מצב זה מדגיש את הצורך הדחוף לבחון מחדש את חקיקת החובה הדיגיטלית המוצעת של אוסטרליה. בעוד שהאיחוד האירופי ובריטניה יישמו חקיקת חובה דיגיטלית בשנת 2023, הגרסה של אוסטרליה הוקפאה מאז נובמבר 2024. חקיקה זו תחייב חברות טכנולוגיה לתת דין וחשבון על טיפול בתוכן מזיק במקורו, ובכך להגן על כל המשתמשים.
ההכנסה של צ’אטבוטים של AI לילדים צעירים מציגה אתגר מורכב הדורש גישה רב-גונית. הורים, מחנכים, קובעי מדיניות וחברות טכנולוגיה חייבים לעבוד יחד כדי להבטיח שילדים יוכלו להפיק תועלת מההזדמנויות שמציעים כלים אלה, תוך שמירה על בטיחותם והגנה עליהם מפני נזק. זה כולל חינוך ילדים לגבי טבע הבינה המלאכותית, קידום מיומנויות חשיבה ביקורתית ויישום אמצעי הגנה חזקים למניעת חשיפה לתוכן בלתי הולם.