人工智能的迅猛发展已不再局限于 Silicon Valley 的实验室和会议室；它正迅速进入最年轻一代的手中。数字领域的巨头 Google 似乎准备推出一个专为13岁以下儿童量身定制的强大 Gemini AI 版本。这一通过代码分析发现的进展，正值社会对复杂聊天机器人可能对年轻、发展中的心智产生影响日益不安，以及儿童福利倡导者发出明确警告之际。此举标志着一个重大转变，用远超以往、能力更强，但也可能更危险的技术取代了老旧、简单的技术。
势不可挡的浪潮：AI 进入游乐场
儿童的数字景观正在经历深刻的变革。相对直接、基于命令的虚拟助手的时代正在衰退。取而代之的是生成式 AI 的时代——这些系统旨在以惊人的逼真度进行对话、创作和模仿人类互动。天生好奇且日益数字化的儿童已经在与这些技术互动。正如英格兰儿童事务专员尖锐指出的那样，人们明显担忧年轻人可能会求助于 AI 聊天机器人即时、看似知识渊博的回应，而不是向父母或值得信赖的成年人寻求指导和答案。这位专员的恳切呼吁——‘如果我们希望孩子们体验生动多彩的生活……我们必须证明我们会比 Chat GPT 更快地回应他们’——凸显了这一挑战。儿童寻求信息和连接，而 AI 提供了一个无处不在、不带评判且反应迅速的来源。
正是在这种背景下，Google 开发 ‘Gemini for Kids’ 的举动浮出水面。一方面，这可以被视为一种积极主动、可能负责任的措施。通过创建一个专门的、大概是围墙花园式的环境，Google 可以为父母提供一定程度的监督和控制，而这在儿童访问网上可用的通用 AI 工具时是基本缺失的。其逻辑是，如果儿童与 AI 的互动不可避免，那么最好提供一个内置安全保障和家长管理功能的平台。
这一举措也是 Google 自身战略决策的必然结果。该公司正在积极淘汰其原有的 Google Assistant——一个熟悉的、很大程度上非 AI 的工具——转而采用远为先进的 Gemini。对于融入 Google 生态系统的家庭，特别是那些使用 Android 设备和通过 Family Link 管理 Google 账户的家庭来说，这种过渡并非可选。随着旧版 Assistant 的淡出，Gemini 成为默认选项。这种迁移要求为不可避免会接触到这种更强大 AI 的年幼用户创建保护措施。现有的家长控制功能是为更简单的 Assistant 设计的，需要进行重大调整以应对像 Gemini 这样的生成式 AI 带来的独特挑战。旧框架根本无法应对未来的复杂性。
Gemini 的优势：能力与担忧的放大
理解即将退役的 Google Assistant 和即将上任的 Gemini 之间的区别，对于把握风险的加剧至关重要。最初的 Assistant 主要基于预编程的响应和直接的命令执行。它可以告诉你天气、设置计时器或播放特定歌曲。它的能力虽然有用，但基本上是有限且可预测的。
Gemini 代表了一次量子飞跃。它基于大型语言模型 (LLMs)，其功能更像一个对话伙伴，而不是一个任务导向的机器人。它可以生成文本、写故事、进行对话、回答复杂问题，甚至展现出令其创造者惊讶的涌现能力。然而，这种力量是一把双刃剑，尤其是在涉及儿童时。
LLMs 的本质带来了固有的风险：
- 错误信息和’幻觉’： Gemini，像所有当前的 LLMs 一样，并非以人类的方式’知道’事物。它根据其训练所用的庞大数据集预测可能的词语序列。这可能导致它生成听起来合理但完全错误的信息，通常被称为’幻觉’。一个询问历史事实或科学解释的孩子可能会收到自信满满却不准确的回答。
- 偏见放大： 用于 LLMs 训练的数据反映了其吸收的现实世界文本中存在的偏见。Gemini 可能在不经意间固化刻板印象或对敏感话题呈现有偏见的观点，在缺乏批判性背景的情况下 subtly 塑造儿童的理解。
- 不当内容生成： 尽管无疑正在开发安全措施，但 Gemini 的生成性质意味着它可能产生不适合儿童的内容——故事、描述或对话——无论是通过误解提示还是找到内容过滤器的漏洞。
- 缺乏真正理解： Gemini 模拟对话；它不像人类那样理解意义或语境。它无法真正衡量孩子的情绪状态或理解敏感个人信息的细微差别。这可能导致在微妙情况下出现语气不当、无益甚至可能有害的回应。
- 过度依赖和拟人化： 像 Gemini 这样的 AI 的对话流畅性可能鼓励儿童将其拟人化——把它当作朋友或有感知能力的存在。这可能培养一种不健康的依赖，可能阻碍现实世界社交技能和情商的发展。
这些风险对于 Gemini 来说，比以往的 Google Assistant 要显著得多。这种转变要求采取远比简单移植现有家长控制更为强大和细致的安全方法。
代码中的低语：严峻警告浮现
最近，由与 Android Authority 合作的专家对 Android 上的 Google 应用代码进行的调查，揭示了 Google 内部为 ‘Gemini for Kids’ 所做的准备。在旨在用于用户界面的非活动代码字符串中，埋藏着一些能说明问题的片段，揭示了计划中的信息传递：
- 标题如：
Assistant_scrappy_welcome_screen_title_for_kid_users— 从 Google Assistant 切换到 Gemini - 描述如：
Assistant_welcome_screen_description_for_kid_users— 创作故事、提问、获取作业帮助等等。 - 关键的是，一条页脚信息：
Assistant_welcome_screen_footer_for_kid_users— Google 服务条款适用。Google 将按照 Google 隐私权政策和 Gemini 应用隐私声明中所述处理您的数据。Gemini 不是人类，可能会犯错，包括关于人的错误，所以请仔细核对。
这个明确的警告——‘Gemini 不是人类，可能会犯错，包括关于人的错误，所以请仔细核对。’——也许是揭示的最关键信息。它代表了 Google 自己承认 AI 的易错性，并将其直接嵌入到用户体验中。
然而，这个警告的存在引发了深刻的问题。虽然透明度值得称赞，但这种面向儿童的免责声明的有效性极具争议。核心挑战在于对孩子提出的期望：’仔细核对’ AI 提供的信息的能力。这预设了许多儿童，特别是13岁以下的儿童，尚未具备的批判性思维、媒体素养和研究技能水平。
- 对一个8岁的孩子来说，’仔细核对’意味着什么？ 他们去哪里核实信息？他们如何评估替代来源的可信度？
- 一个孩子能区分事实错误和关于’人’的细微错误吗？ 理解偏见、微妙的不准确性或对人物的错误描述需要复杂的分析能力。
- 这个警告是否无意中将责任负担过重地转移给了年幼的用户？ 虽然用知识赋权用户很重要，但依赖孩子不断核实 AI 输出的能力似乎是一种不稳定的安全策略。
对于最初的 Google Assistant 来说，这个警告远没有那么关键，因为它的事实错误通常更直接（例如，误解命令），而不是可能生成完全虚构的叙述或呈现为事实的有偏见的观点。为 Gemini 加入这个特定的警告，突显了这项技术的根本不同性质以及所涉及的新风险层次。这表明 Google 意识到了 Gemini 可能在重要方面出错，即使在讨论个人时也是如此，并试图通过用户提示来减轻这种情况。
家长控制的难题：必要但不完整的解决方案
将 ‘Gemini for Kids’ 与 Google 已建立的家长控制基础设施（很可能是 Family Link）整合起来，是一个合乎逻辑且必要的步骤。这为家长提供了一个熟悉的界面来管理访问、设置可能的限制（尽管对于对话式 AI 来说，这些限制的性质仍不清楚）以及监控使用情况。为家长提供开关和仪表板，无疑比像 ChatGPT 这样的平台具有优势，后者目前缺乏专门为在家庭生态系统内管理儿童访问而设计的、强大的、集成的家长控制功能。
这个控制层对于建立基本的安全和问责制至关重要。它使家长能够就他们的孩子是否以及如何与 AI 互动做出明智的决定。然而，至关重要的是避免将家长控制视为万灵药。
仍然存在几个挑战：
- 生成式漏洞： 传统的控制通常侧重于阻止特定的网站或关键词。生成式 AI 不依赖于访问外部被阻止的网站；它在内部创建内容。控制措施能多有效地阻止基于看似无害的提示生成不当内容？
- 跟上进化步伐： AI 模型不断更新和重新训练。今天实施的安全措施和控制可能会随着 AI 能力的发展而变得不那么有效。维持强大的保护需要 Google 的持续警惕和适应。
- 虚假安全感的风险： 家长控制的存在可能会让一些家长产生虚假的安全感，导致他们对孩子与 AI 互动的实际内容和性质不够警惕。
- 超越内容过滤： 风险不仅仅在于不当内容。关于过度依赖、对批判性思维的影响以及情感操纵的担忧，更难仅仅通过技术控制来解决。这些需要持续的对话、教育和家长的参与。
虽然 Google 利用其现有 Family Link 系统的能力提供了结构性优势，但这些控制措施在减轻生成式 AI 对儿童的独特风险方面的有效性仍有待证明。这是一个必要的基础，但并非安全所需的全部结构。
审查的漫长阴影：行业和监管机构密切关注
Google 进军以儿童为中心的 AI 并非发生在真空中。更广泛的技术行业，特别是 AI 领域，正面临着对年轻用户安全问题的日益严格的审查。英国儿童事务专员表达的担忧在全球立法者和监管机构中得到了呼应。
在美国，参议员 Alex Padilla 和 Peter Welch 已正式要求 AI 聊天机器人公司提供其所采用的安全措施的详细信息，特别强调了年轻用户与基于角色和人物的 AI 应用互动可能带来的心理健康风险。这项调查部分是由围绕 Character.ai 等平台的惊人报告引发的。据 CNN 报道，家长们提出了严重关切，声称他们的孩子因在该平台上的互动而受到重大伤害，该平台此前曾托管模拟有争议人物（包括校园枪击案凶手）的聊天机器人（尽管据报道这些特定的机器人已被移除）。
区分不同类型的 AI 平台很重要。Google 的 Gemini 定位为通用助手，不同于像 Character.ai 或 Replika 这样的应用，后者明确设计用于模拟个性、角色甚至浪漫伴侣。这些基于人物的 AI 带有与情感操纵、模糊现实与虚构界限以及潜在有害的准社会关系相关的独特风险。
然而，这些事件凸显的基本挑战甚至适用于像 Gemini 这样的通用 AI：当强大的、对话式的 AI 与脆弱的用户，特别是儿童互动时，存在潜在的伤害。无论 AI 的预期功能如何，生成类人文本并进行看似共情的对话的能力都需要严格的安全保障。
涉及 Character.ai 的事件突显了在 AI 领域进行有效内容审核和年龄验证的困难。Character.ai 声明其服务不适用于13岁以下的未成年人（在欧盟为16岁），而 Replika 则有18岁以上的年龄限制。然而，据报道，这两款应用在 Google Play Store 中仅带有’家长指导’评级，尽管下载量达数百万次，这突显了平台级执行和用户意识方面可能存在的差距。
核心问题依然存在：AI 系统将验证和批判性评估的重大负担置于用户身上。它们生成大量信息，有些准确，有些带有偏见，有些完全是捏造的。成年人常常难以应对；期望批判能力仍在发展的儿童能够始终如一地驾驭这个复杂的信息环境并进行勤勉的事实核查，是不现实且具有潜在危险的。Google 加入’仔细核对’的警告，含蓄地承认了这一负担，但提供的解决方案可能不足以满足目标受众的需求。
绘制未知领域：AI 与儿童的前行之路
‘Gemini for Kids’ 的开发将 Google 置于一个复杂且充满伦理争议领域的前沿。随着 AI 日益融入日常生活，完全屏蔽儿童可能既不可行，长远来看也不可取。熟悉这些工具可能成为数字素养的必要组成部分。然而，向年轻用户推广如此强大的技术需要非凡的谨慎和远见。
前方的旅程需要多方面的方法：
- 强大的技术保障： 除了简单的过滤器，Google 需要复杂的机制来检测和防止生成有害、有偏见或不当的内容，并特别针对儿童的认知和情感发展进行调整。
- 透明度与教育： 与家长和儿童就 AI 的工作原理、局限性和潜在陷阱进行清晰沟通至关重要。’仔细核对’的警告是一个开始，但需要通过更广泛的数字素养计划来补充。需要教导儿童如何批判性地思考 AI 生成的信息，而不仅仅是告诉他们去核实。
- 有意义的家长控制： 控制必须超越简单的开关，提供适合生成式 AI 的细致管理，可能包括敏感度级别、主题限制和详细的互动日志。
- 持续的研究与评估： 儿童与复杂 AI 互动的长期发展影响在很大程度上是未知的。需要持续研究来理解这些影响并相应地调整安全策略。
- 适应性监管框架： 现有的法规，如 COPPA (儿童在线隐私保护法)，可能需要更新，以专门应对生成式 AI 带来的独特挑战，重点关注数据隐私、算法透明度和内容生成保障。
Google 推出 ‘Gemini for Kids’ 不仅仅是一次产品更新；这是迈向未知领域的一步，对儿童发展和数字安全具有深远影响。代码揭示了对风险的认识，特别是 AI 的易错性。然而，依赖儿童’仔细核对’的能力凸显了未来的巨大挑战。成功驾驭这一挑战需要的不仅仅是巧妙的编码和家长仪表板；它需要对伦理考量的深刻承诺、持续的警惕，以及将年轻用户的福祉置于首位的意愿。赌注太高，不容有失。