Google 近期宣布將其 Gemini artificial intelligence (AI) 聊天機器人引入 13 歲以下兒童，這引發了相當大的爭論，並提出了關於網路安全和數位時代兒童保護的關鍵問題。這項計畫預計首先在美國和加拿大推出，隨後在澳大利亞推出，將使聊天機器人可以通過 Google 的 Family Link 帳戶訪問。雖然這種方法為父母提供了一定程度的控制，但也突顯了在不斷發展的技術環境中保護兒童的持續挑戰。
將 AI 聊天機器人引入幼童，既帶來了機會，也帶來了風險。一方面，這些工具可以提供教育支持、培養創造力，並提供引人入勝的學習體驗。另一方面，它們也引發了人們對接觸不適當內容、被操縱的可能性以及批判性思考能力發展的擔憂。
Gemini AI 聊天機器人的運作方式
Google 的 Family Link 帳戶旨在讓父母監督孩子的線上活動。父母可以管理對特定內容和應用程式（例如 YouTube）的訪問，設定限制並監控使用情況。要建立孩子的帳戶，父母必須提供個人資訊，包括孩子的姓名和出生日期。雖然這種資料收集可能會引起隱私方面的擔憂，但 Google 保證，孩子的資料不會用於 AI 系統訓練。
預設情況下，聊天機器人的訪問將被啟用，需要父母主動禁用該功能才能限制孩子的使用。然後，孩子可以使用聊天機器人生成文字回應或建立圖片。但是，Google 承認存在錯誤和不準確的可能性，並強調需要仔細評估生成的內容。 AI "幻覺"現象，即聊天機器人捏造信息，要求孩子們用可靠的來源驗證事實，尤其是在使用該工具進行家庭作業輔助時。
提供的資訊本質
像 Google 這樣的傳統搜尋引擎會檢索現有資料供使用者查看和分析。學生可以訪問新聞文章、學術期刊和其他來源，以收集作業資訊。然而，生成式 AI 工具的運作方式不同。它們分析源材料中的模式，以根據使用者提示建立新的文字回應或圖片。例如，孩子可以要求系統"畫一隻貓"，AI 會掃描資料以識別定義特徵（例如，鬍鬚、尖耳朵、長尾巴），並生成包含這些特徵的圖片。
對於幼童來說，很難掌握通過 Google 搜尋檢索的資訊與 AI 工具生成的內容之間的區別。研究表明，即使是成年人也可能被 AI 生成的內容所欺騙。即使是像律師這樣的高技能專業人士，也曾被誤導使用 ChatGPT 和其他聊天機器人製作的假內容。這突顯了教育孩子們關於 AI 生成內容的本質以及批判性評估的必要性的重要性。
確保適合年齡
Google 聲稱 Gemini 將納入"旨在防止生成不適當或不安全內容的內建安全措施"。這些安全措施旨在保護兒童免受有害材料的侵害。
然而，這些安全措施可能會無意中產生新的問題。例如，限制某些詞語（例如"乳房"）以防止訪問不適當的性內容，也可能阻止訪問關於青春期身體變化的適合年齡的資訊。這突顯了保護兒童與向他們提供準確和相關資訊之間的微妙平衡。
許多孩子都非常精通技術，並且擅長導航應用程式和規避系統控制。父母不能僅僅依靠內建的安全措施。他們必須主動審查生成的內容，幫助孩子們了解系統的工作方式，並評估所提供資訊的準確性和適當性。
AI 聊天機器人對兒童的潛在風險
eSafety Commission 發布了一份線上安全建議，概述了 AI 聊天機器人的潛在風險，特別是那些旨在模擬個人關係的聊天機器人，對幼童來說。該建議警告說，AI 夥伴可以"分享有害內容、扭曲現實，並提供危險的建議"。仍在發展批判性思考和生活技能的幼童，特別容易受到電腦程式的誤導或操縱。
研究探索了 AI 聊天機器人（例如 ChatGPT、Replika 和 Tessa）如何通過遵守社會規範和慣例來模仿人類互動的方式。這些系統旨在通過反映管理社會行為的潛規則來獲得我們的信任。通過模仿這些社交禮儀，這些系統旨在獲得我們的信任。
這些類人互動可能會讓幼童感到困惑，並且可能存在風險。他們可能會認為聊天機器人是真人，並信任它提供的內容，即使內容不準確或捏造。這可能會阻礙批判性思考能力的發展，並使孩子更容易受到操縱。
保護兒童免受傷害
Gemini 的 AI 聊天機器人的推出，正值澳洲即將於今年 12 月禁止 16 歲以下兒童使用社交媒體帳戶之際。雖然這項禁令旨在保護兒童免受線上傷害，但生成式 AI 聊天機器人表明，線上參與的風險不僅僅限於社交媒體。兒童和父母都必須接受關於所有類型數位工具的適當和安全使用的教育。
由於 Gemini 的 AI 聊天機器人未被歸類為社交媒體工具，因此它不受澳洲禁令的約束。這意味著澳洲父母將繼續面臨領先於新興技術並了解孩子面臨的潛在風險的挑戰。他們還必須認識到社交媒體禁令在保護兒童免受傷害方面的局限性。
這種情況突顯了重新審視澳洲擬議的數位注意義務法規的迫切需要。雖然歐盟和英國在 2023 年實施了數位注意義務法規，但澳洲的版本自 2024 年 11 月以來一直處於擱置狀態。該法規將要求科技公司對從源頭解決有害內容負責，從而保護所有使用者。
將 AI 聊天機器人引入幼童，提出了一個複雜的挑戰，需要採取多方面的措施。父母、教育工作者、政策制定者和科技公司必須共同努力，確保兒童能夠從這些工具提供的機會中受益，同時保持安全並受到保護免受傷害。這包括教育孩子們關於 AI 的本質、培養批判性思考能力，並實施強有力的安全措施，以防止接觸不適當的內容。