Pengumuman terbaru Google untuk memperkenalkan chatbot kecerdasan buatan (AI) Gemini kepada kanak-kanak di bawah umur 13 tahun telah mencetuskan perdebatan yang besar dan menimbulkan persoalan penting mengenai keselamatan dalam talian dan perlindungan kanak-kanak dalam era digital. Inisiatif ini, yang dijadualkan untuk dilancarkan pada mulanya di Amerika Syarikat dan Kanada dan kemudian di Australia, akan menjadikan chatbot itu boleh diakses melalui akaun Family Link Google. Walaupun pendekatan ini menawarkan ibu bapa sedikit kawalan, ia juga menggariskan cabaran berterusan untuk melindungi kanak-kanak dalam landskap teknologi yang berkembang.
Keputusan untuk memperkenalkan chatbot AI kepada kanak-kanak kecil membentangkan kedua-dua peluang dan risiko. Di satu pihak, alat ini boleh menawarkan sokongan pendidikan, memupuk kreativiti, dan menyediakan pengalaman pembelajaran yang menarik. Sebaliknya, mereka menimbulkan kebimbangan tentang pendedahan kepada kandungan yang tidak sesuai, potensi untuk manipulasi, dan perkembangan kemahiran berfikir kritis.
Bagaimana Gemini AI Chatbot Berfungsi
Akaun Family Link Google direka untuk memberi ibu bapa pengawasan aktiviti dalam talian anak-anak mereka. Ibu bapa boleh menguruskan akses kepada kandungan dan aplikasi tertentu, seperti YouTube, menetapkan had dan memantau penggunaan. Untuk mewujudkan akaun kanak-kanak, ibu bapa mesti memberikan maklumat peribadi, termasuk nama dan tarikh lahir kanak-kanak itu. Walaupun pengumpulan data ini boleh menimbulkan kebimbangan privasi, Google memberi jaminan bahawa data kanak-kanak tidak akan digunakan untuk latihan sistem AI.
Secara lalai, akses chatbot akan didayakan, yang memerlukan ibu bapa untuk secara aktif melumpuhkan ciri itu untuk menyekat akses anak mereka. Kanak-kanak kemudian boleh menggunakan chatbot untuk menjana respons teks atau membuat imej. Walau bagaimanapun, Google mengakui potensi untuk kesilapan dan ketidaktepatan, menekankan keperluan untuk penilaian berhati-hati terhadap kandungan yang dijana. Fenomena AI "halusinasi," di mana chatbot mereka-reka maklumat, memerlukan kanak-kanak untuk mengesahkan fakta dengan sumber yang boleh dipercayai, terutamanya apabila menggunakan alat untuk bantuan kerja rumah.
Sifat Maklumat yang Disediakan
Enjin carian tradisional seperti Google mendapatkan bahan sedia ada untuk pengguna menyemak dan menganalisis. Pelajar boleh mengakses artikel berita, jurnal akademik, dan sumber lain untuk mengumpul maklumat untuk tugasan. Alat AI generatif, bagaimanapun, beroperasi secara berbeza. Mereka menganalisis corak dalam bahan sumber untuk membuat respons teks atau imej baharu berdasarkan gesaan pengguna. Contohnya, seorang kanak-kanak boleh meminta sistem untuk "melukis kucing," dan AI akan mengimbas data untuk mengenal pasti ciri-ciri yang menentukan (contohnya, misai, telinga runcing, ekor panjang) dan menjana imej yang menggabungkan ciri-ciri tersebut.
Perbezaan antara maklumat yang diperoleh melalui carian Google dan kandungan yang dijana oleh alat AI boleh menjadi sukar untuk difahami oleh kanak-kanak kecil. Kajian telah menunjukkan bahawa orang dewasa juga boleh ditipu oleh kandungan yang dijana AI. Malah profesional yang berkemahiran tinggi, seperti peguam, telah disesatkan ke dalam menggunakan kandungan palsu yang dihasilkan oleh ChatGPT dan chatbot lain. Ini menggariskan kepentingan mendidik kanak-kanak tentang sifat kandungan yang dijana AI dan keperluan untuk penilaian kritikal.
Memastikan Kesesuaian Umur
Google menegaskan bahawa Gemini akan menggabungkan "perlindungan terbina dalam yang direka untuk menghalang penjanaan kandungan yang tidak sesuai atau tidak selamat." Perlindungan ini bertujuan untuk melindungi kanak-kanak daripada pendedahan kepada bahan berbahaya.
Walau bagaimanapun, perlindungan ini mungkin secara tidak sengaja mewujudkan masalah baharu. Contohnya, menyekat perkataan tertentu (contohnya, "payudara") untuk menghalang akses kepada kandungan seksual yang tidak sesuai juga boleh menyekat akses kepada maklumat yang sesuai umur tentang perubahan badan semasa akil baligh. Ini menyerlahkan keseimbangan halus antara melindungi kanak-kanak dan menyediakan mereka dengan maklumat yang tepat dan relevan.
Ramai kanak-kanak sangat mahir teknologi dan mahir menavigasi aplikasi dan mengelakkan kawalan sistem. Ibu bapa tidak boleh bergantung semata-mata pada perlindungan terbina dalam. Mereka mesti secara aktif menyemak kandungan yang dijana, membantu anak-anak mereka memahami cara sistem berfungsi, dan menilai ketepatan dan kesesuaian maklumat yang disediakan.
Potensi Risiko Chatbot AI untuk Kanak-Kanak
Suruhanjaya eSafety telah mengeluarkan nasihat keselamatan dalam talian yang menggariskan potensi risiko chatbot AI, terutamanya yang direka untuk mensimulasikan hubungan peribadi, untuk kanak-kanak kecil. Nasihat itu memberi amaran bahawa rakan AI boleh "berkongsi kandungan berbahaya, memesongkan realiti, dan memberi nasihat yang berbahaya." Kanak-kanak kecil, yang masih mengembangkan pemikiran kritis dan kemahiran hidup, amat terdedah kepada disesatkan atau dimanipulasi oleh program komputer.
Penyelidikan telah meneroka cara-cara di mana chatbot AI, seperti ChatGPT, Replika, dan Tessa, meniru interaksi manusia dengan mematuhi norma dan konvensyen sosial. Sistem ini direka untuk mendapatkan kepercayaan kita dengan mencerminkan peraturan tidak bertulis yang mengawal tingkah laku sosial. Dengan meniru kesopanan sosial ini, sistem ini direka untuk mendapatkan kepercayaan kita.
Interaksi seperti manusia ini boleh mengelirukan dan berpotensi berisiko untuk kanak-kanak kecil. Mereka mungkin percaya bahawa chatbot itu adalah orang sebenar dan mempercayai kandungan yang disediakannya, walaupun ia tidak tepat atau direka-reka. Ini boleh menghalang perkembangan kemahiran berfikir kritis dan menjadikan kanak-kanak lebih mudah terdedah kepada manipulasi.
Melindungi Kanak-Kanak daripada Bahaya
Pelancaran chatbot AI Gemini bertepatan dengan larangan Australia yang akan datang terhadap akaun media sosial untuk kanak-kanak di bawah umur 16 tahun, yang dijadualkan pada Disember tahun ini. Walaupun larangan ini bertujuan untuk melindungi kanak-kanak daripada bahaya dalam talian, chatbot AI generatif menunjukkan bahawa risiko penglibatan dalam talian melangkaui media sosial. Kanak-kanak dan ibu bapa sama-sama mesti dididik tentang penggunaan yang sesuai dan selamat bagi semua jenis alat digital.
Oleh kerana chatbot AI Gemini tidak diklasifikasikan sebagai alat media sosial, ia tidak akan tertakluk kepada larangan Australia. Ini bermakna ibu bapa Australia akan terus menghadapi cabaran untuk mendahului teknologi yang baru muncul dan memahami potensi risiko yang dihadapi anak-anak mereka. Mereka juga mesti menyedari batasan larangan media sosial dalam melindungi kanak-kanak daripada bahaya.
Keadaan ini menggariskan keperluan mendesak untuk melawat semula cadangan perundangan kewajipan berjaga-jaga digital Australia. Walaupun Kesatuan Eropah dan United Kingdom melaksanakan perundangan kewajipan berjaga-jaga digital pada tahun 2023, versi Australia telah ditangguhkan sejak November 2024. Perundangan ini akan memegang syarikat teknologi bertanggungjawab untuk menangani kandungan berbahaya di sumbernya, dengan itu melindungi semua pengguna.
Pengenalan chatbot AI kepada kanak-kanak kecil membentangkan cabaran kompleks yang memerlukan pendekatan pelbagai aspek. Ibu bapa, pendidik, pembuat dasar, dan syarikat teknologi mesti bekerjasama untuk memastikan bahawa kanak-kanak boleh mendapat manfaat daripada peluang yang ditawarkan oleh alat ini sambil kekal selamat dan dilindungi daripada bahaya. Ini termasuk mendidik kanak-kanak tentang sifat AI, mempromosikan kemahiran berfikir kritis, dan melaksanakan perlindungan yang mantap untuk menghalang pendedahan kepada kandungan yang tidak sesuai.