اعلامیه اخیر گوگل مبنی بر معرفی ربات هوش مصنوعی (AI) Gemini خود به کودکان زیر 13 سال، بحث های قابل توجهی را برانگیخته و سوالات مهمی را در مورد ایمنی آنلاین و حمایت از کودکان در عصر دیجیتال مطرح کرده است. این ابتکار، که قرار است در ابتدا در ایالات متحده و کانادا و بعداً در استرالیا راه اندازی شود، این ربات را از طریق حساب های Family Link گوگل در دسترس قرار می دهد. در حالی که این رویکرد به والدین درجه ای از کنترل را ارائه می دهد، همچنین بر چالش مداوم حفاظت از کودکان در یک چشم انداز تکنولوژیکی در حال تحول تاکید می کند.
تصمیم به معرفی ربات های هوش مصنوعی به کودکان خردسال هم فرصت ها و هم خطراتی را به همراه دارد. از یک سو، این ابزارها می توانند پشتیبانی آموزشی ارائه دهند، خلاقیت را تقویت کنند و تجربیات یادگیری جذابی را فراهم کنند. از سوی دیگر، آنها نگرانی هایی را در مورد قرار گرفتن در معرض محتوای نامناسب، پتانسیل دستکاری و توسعه مهارت های تفکر انتقادی ایجاد می کنند.
نحوه عملکرد ربات هوش مصنوعی Gemini
حساب های Family Link گوگل به گونه ای طراحی شده اند که به والدین نظارت بر فعالیت های آنلاین فرزندانشان را می دهند. والدین می توانند دسترسی به محتوای و برنامه های خاص، مانند YouTube، را مدیریت کرده و محدودیت هایی را تعیین و استفاده را نظارت کنند. برای ایجاد حساب کاربری کودک، والدین باید اطلاعات شخصی، از جمله نام و تاریخ تولد کودک را ارائه دهند. در حالی که این جمع آوری داده ها ممکن است نگرانی هایی را در مورد حریم خصوصی ایجاد کند، گوگل اطمینان می دهد که از داده های کودکان برای آموزش سیستم هوش مصنوعی استفاده نخواهد شد.
به طور پیش فرض، دسترسی ربات فعال خواهد بود و از والدین می خواهد که به طور فعال این ویژگی را غیرفعال کنند تا دسترسی فرزند خود را محدود کنند. سپس کودکان می توانند از ربات برای تولید پاسخ های متنی یا ایجاد تصاویر استفاده کنند. با این حال، گوگل احتمال خطاها و نادرستی ها را تصدیق می کند و بر نیاز به ارزیابی دقیق محتوای تولید شده تاکید می کند. پدیده "توهم" هوش مصنوعی، که در آن ربات ها اطلاعات را جعل می کنند، مستلزم آن است که کودکان حقایق را با منابع معتبر تأیید کنند، به ویژه هنگام استفاده از این ابزار برای کمک به تکالیف.
ماهیت اطلاعات ارائه شده
موتورهای جستجوی سنتی مانند گوگل مواد موجود را برای بررسی و تجزیه و تحلیل کاربران بازیابی می کنند. دانش‌آموزان می‌توانند برای جمع‌آوری اطلاعات برای تکالیف خود به مقالات خبری، مجلات آکادمیک و سایر منابع دسترسی داشته باشند. با این حال، ابزارهای هوش مصنوعی مولد به طور متفاوتی عمل می کنند. آنها الگوهای موجود در مواد منبع را برای ایجاد پاسخ های متنی یا تصاویر جدید بر اساس درخواست های کاربر تجزیه و تحلیل می کنند. به عنوان مثال، یک کودک می تواند از سیستم بخواهد که "یک گربه بکشد" و هوش مصنوعی داده ها را اسکن می کند تا ویژگی های تعیین کننده (به عنوان مثال، سبیل، گوش های نوک تیز، دم دراز) را شناسایی کرده و تصویری با ترکیب آن ویژگی ها ایجاد کند.
تشخیص تفاوت بین اطلاعات بازیابی شده از طریق جستجوی گوگل و محتوای تولید شده توسط ابزار هوش مصنوعی می تواند برای کودکان خردسال دشوار باشد. مطالعات نشان داده اند که حتی بزرگسالان نیز می توانند توسط محتوای تولید شده توسط هوش مصنوعی فریب بخورند. حتی متخصصان بسیار ماهر، مانند وکلا، فریب خورده اند تا از محتوای جعلی تولید شده توسط ChatGPT و سایر ربات ها استفاده کنند. این امر بر اهمیت آموزش کودکان در مورد ماهیت محتوای تولید شده توسط هوش مصنوعی و نیاز به ارزیابی انتقادی تاکید می کند.
اطمینان از تناسب با سن
گوگل ادعا می کند که Gemini "حفاظت های داخلی طراحی شده برای جلوگیری از تولید محتوای نامناسب یا ناامن" را در خود جای خواهد داد. هدف این حفاظتها محافظت از کودکان در برابر قرار گرفتن در معرض مواد مضر است.
با این حال، این حفاظتها ممکن است ناخواسته مشکلات جدیدی ایجاد کنند. به عنوان مثال، محدود کردن کلمات خاص (به عنوان مثال، "پستان") برای جلوگیری از دسترسی به محتوای جنسی نامناسب می تواند دسترسی به اطلاعات مناسب سن در مورد تغییرات بدنی در دوران بلوغ را نیز مسدود کند. این امر تعادل ظریف بین محافظت از کودکان و ارائه اطلاعات دقیق و مرتبط به آنها را برجسته می کند.
بسیاری از کودکان از نظر فناوری بسیار آگاه هستند و در پیمایش برنامه ها و دور زدن کنترل های سیستم مهارت دارند. والدین نمی توانند صرفاً به حفاظتهای داخلی تکیه کنند. آنها باید به طور فعال محتوای تولید شده را بررسی کنند، به فرزندان خود کمک کنند تا نحوه کار سیستم را درک کنند و دقت و مناسب بودن اطلاعات ارائه شده را ارزیابی کنند.
خطرات بالقوه ربات های هوش مصنوعی برای کودکان
کمیسیون ایمنی الکترونیکی یک مشاوره ایمنی آنلاین صادر کرده است که خطرات بالقوه ربات های هوش مصنوعی، به ویژه آنهایی که برای شبیه سازی روابط شخصی طراحی شده اند، برای کودکان خردسال را تشریح می کند. این مشاوره هشدار می دهد که همراهان هوش مصنوعی می توانند "محتوای مضر را به اشتراک بگذارند، واقعیت را تحریف کنند و توصیه هایی ارائه دهند که خطرناک باشد." کودکان خردسال، که هنوز در حال توسعه تفکر انتقادی و مهارت های زندگی هستند، به ویژه در برابر فریب خوردن یا دستکاری شدن توسط برنامه های رایانه ای آسیب پذیر هستند.
تحقیقات راه هایی را بررسی کرده است که ربات های هوش مصنوعی، مانند ChatGPT، Replika و Tessa، با رعایت هنجارها و قراردادهای اجتماعی، تعاملات انسانی را تقلید می کنند. این سیستم ها به گونه ای طراحی شده اند که با بازتاب قوانین نانوشته ای که بر رفتار اجتماعی حاکم است، اعتماد ما را جلب کنند. با تقلید از این آداب و رسوم اجتماعی، این سیستم ها به گونه ای طراحی شده اند که اعتماد ما را جلب کنند.
این تعاملات شبیه به انسان می تواند گیج کننده و بالقوه خطرناک برای کودکان خردسال باشد. آنها ممکن است باور کنند که ربات یک شخص واقعی است و به محتوای ارائه شده اعتماد کنند، حتی اگر نادرست یا جعلی باشد. این می تواند مانع از توسعه مهارت های تفکر انتقادی شود و کودکان را بیشتر در معرض دستکاری قرار دهد.
محافظت از کودکان در برابر آسیب
راه اندازی ربات هوش مصنوعی Gemini با ممنوعیت قریب الوقوع استرالیا برای حساب های رسانه های اجتماعی برای کودکان زیر 16 سال، که برای دسامبر سال جاری برنامه ریزی شده است، همزمان است. در حالی که هدف این ممنوعیت محافظت از کودکان در برابر آسیب های آنلاین است، ربات های هوش مصنوعی مولد نشان می دهند که خطرات تعامل آنلاین فراتر از رسانه های اجتماعی است. کودکان و والدین به طور یکسان باید در مورد استفاده مناسب و ایمن از انواع ابزارهای دیجیتال آموزش ببینند.
از آنجایی که ربات هوش مصنوعی Gemini به عنوان یک ابزار رسانه های اجتماعی طبقه بندی نمی شود، مشمول ممنوعیت استرالیا نخواهد بود. این بدان معناست که والدین استرالیایی همچنان با چالش جلوتر ماندن از فن آوری های نوظهور و درک خطرات احتمالی که فرزندانشان با آن روبرو هستند، روبرو خواهند بود. آنها همچنین باید محدودیت های ممنوعیت رسانه های اجتماعی در محافظت از کودکان در برابر آسیب را تشخیص دهند.
این وضعیت بر نیاز فوری به بازنگری در قانون پیشنهادی وظیفه مراقبت دیجیتال استرالیا تأکید می کند. در حالی که اتحادیه اروپا و بریتانیا قانون وظیفه مراقبت دیجیتال را در سال 2023 اجرا کردند، نسخه استرالیایی از نوامبر 2024 در حالت تعلیق بوده است. این قانون شرکت های فناوری را مسئول رسیدگی به محتوای مضر در منبع خود می داند و در نتیجه از همه کاربران محافظت می کند.
معرفی ربات های هوش مصنوعی به کودکان خردسال یک چالش پیچیده است که نیازمند رویکردی چند وجهی است. والدین، مربیان، سیاست گذاران و شرکت های فناوری باید با هم کار کنند تا اطمینان حاصل شود که کودکان می توانند از فرصت های ارائه شده توسط این ابزارها بهره مند شوند و در عین حال ایمن و محافظت شده از آسیب باقی بمانند. این شامل آموزش کودکان در مورد ماهیت هوش مصنوعی، ترویج مهارت های تفکر انتقادی و اجرای حفاظت های قوی برای جلوگیری از قرار گرفتن در معرض محتوای نامناسب است.
اهمیت تفکر انتقادی
تفکر انتقادی یک مهارت حیاتی است که باید از سنین پایین در کودکان تقویت شود. توانایی تجزیه و تحلیل اطلاعات، ارزیابی اعتبار منابع و تشخیص تعصب، برای پیمایش در چشم انداز دیجیتالی فزاینده پیچیده امروزی ضروری است. ربات های هوش مصنوعی، با توانایی خود در تولید محتوا شبیه به انسان، می توانند چالش های منحصر به فردی را برای تفکر انتقادی ایجاد کنند.
کودکان ممکن است به طور خودکار فرض کنند که اطلاعات ارائه شده توسط ربات دقیق و قابل اعتماد است، به ویژه اگر ربات به روشی دوستانه و مکالمه ای ارتباط برقرار کند. با این حال، مهم است که به کودکان آموزش دهیم که با ربات های هوش مصنوعی همانند هر منبع اطلاعات دیگری برخورد کنند، با شک و تردید و تمایل به بررسی حقایق.
والدین و مربیان می توانند نقش کلیدی در کمک به کودکان در توسعه مهارت های تفکر انتقادی در رابطه با ربات های هوش مصنوعی ایفا کنند. این می تواند شامل موارد زیر باشد:
- تشویق کودکان به پرسیدن سوالات درباره اطلاعات ارائه شده توسط ربات.
- یاد دادن به کودکان نحوه بررسی حقایق با استفاده از منابع معتبر دیگر.
- بحث درباره پتانسیل تعصب در محتوای تولید شده توسط هوش مصنوعی.
- تشویق کودکان به ارزیابی انتقادی تصاویر و سایر رسانه های ایجاد شده توسط ربات.
- تأکید بر این نکته که ربات یک شخص نیست و نباید به عنوان یک دوست یا مشاور مورد اعتماد قرار گیرد.
نقش والدین و مربیان
والدین و مربیان مسئولیت مهمی در محافظت از کودکان در برابر خطرات بالقوه ربات های هوش مصنوعی دارند. این شامل آگاهی از خطرات موجود، اتخاذ اقدامات پیشگیرانه برای کاهش این خطرات و آموزش کودکان در مورد استفاده ایمن و مسئولانه از این فناوری است.
برخی از اقدامات خاصی که والدین و مربیان می توانند انجام دهند عبارتند از:
- نظارت بر استفاده کودکان از ربات های هوش مصنوعی.
- بحث درباره خطرات بالقوه ربات های هوش مصنوعی با کودکان.
- تعیین محدودیت هایی برای استفاده کودکان از ربات های هوش مصنوعی.
- اطمینان حاصل کردن از اینکه کودکان از نحوه استفاده از ربات های هوش مصنوعی به طور ایمن و مسئولانه آگاه هستند.
- تشویق کودکان به گزارش هرگونه تجربه ناخوشایند یا ناراحت کننده با ربات های هوش مصنوعی.
- همکاری با شرکت های فناوری برای توسعه و اجرای حفاظت های قوی تر برای محافظت از کودکان.
- حمایت از سیاست هایی که از کودکان در برابر خطرات آنلاین محافظت می کند.
اهمیت همکاری
پرداختن به چالش های ناشی از معرفی ربات های هوش مصنوعی به کودکان خردسال نیازمند تلاش مشترک بین والدین، مربیان، سیاست گذاران و شرکت های فناوری است. هر یک از این گروه ها نقش مهمی در تضمین این دارند که کودکان می توانند از فرصت های ارائه شده توسط این ابزارها بهره مند شوند و در عین حال ایمن و محافظت شده از آسیب باقی بمانند.
شرکت های فناوری مسئولیت ویژه ای در توسعه و اجرای حفاظت های قوی برای محافظت از کودکان در برابر خطرات بالقوه ربات های هوش مصنوعی دارند. این شامل موارد زیر است:
- توسعه فیلترهایی برای جلوگیری از تولید محتوای نامناسب یا ناامن.
- ایجاد مکانیزم هایی برای شناسایی و حذف حساب های کاربری جعلی یا مضر.
- ارائه شفافیت در مورد نحوه عملکرد ربات های هوش مصنوعی و نحوه استفاده از داده های کاربران.
- همکاری با والدین و مربیان برای توسعه منابع آموزشی و بهترین شیوه ها.
- حمایت از تحقیقات در مورد اثرات هوش مصنوعی بر کودکان.
سیاست گذاران همچنین نقش مهمی در محافظت از کودکان در برابر خطرات آنلاین ایفا می کنند. این شامل موارد زیر است:
- تدوین قوانین و مقررات برای رسیدگی به چالش های ناشی از هوش مصنوعی.
- تأمین بودجه برای تحقیقات و برنامه های آموزشی.
- همکاری با سازمان های بین المللی برای ترویج استانداردهای ایمنی آنلاین.
- حمایت از اجرای دیجیتالی وظیفه مراقبت برای محافظت از همه کاربران، از جمله کودکان، از آسیب های آنلاین.
با کار مشترک، می توانیم اطمینان حاصل کنیم که کودکان می توانند از فرصت های ارائه شده توسط ربات های هوش مصنوعی بهره مند شوند و در عین حال ایمن و محافظت شده از آسیب باقی بمانند.