谷歌计划在下周在美国和加拿大推出面向13岁以下儿童的Gemini AI聊天机器人，澳大利亚的发布安排在今年晚些时候。访问将限制在拥有Google家庭链接账户的用户，这些账户允许父母对内容和应用使用进行控制，比如在YouTube上。父母通过提供儿童的姓名和出生日期等个人信息创建这些账户，这引发了一些隐私担忧；但谷歌保证儿童的数据不会用于AI训练。 该聊天机器人默认开启，父母如果希望限制访问，需要手动关闭。儿童可以向AI请求文本回复或图像生成。谷歌承认，聊天机器人可能会出现错误，并强调在使用内容时需要评估其准确性和可靠性，因为AI可能会“幻想”或编造信息。尤其是当儿童用机器人回答做作业时，需要通过可靠来源进行事实核查。 与传统的搜索引擎不同，搜索引擎会将用户引导到新闻、杂志等原始资料，而生成式AI则通过分析数据中的模式，依据用户提示创造出新的文本或图像。例如，当孩子让机器人“画一只猫”，系统会通过结合它所学到的猫的特征，生成一幅新图像。理解AI生成内容与检索搜索结果之间的区别，将对年轻用户来说是个挑战。研究表明，即使是成人，包括律师等专业人士，也可能会被AI聊天机器人生成的虚假信息误导。 谷歌声称，聊天机器人内置了防止不当或不安全内容的保护措施，但这些过滤器可能会无意中限制合法且适合儿童的内容，比如关于青春期的信息可能会因为关键词过滤而被屏蔽。由于许多孩子善于绕过和操控应用程序的控制，父母不能仅依靠这些内置保护措施，而应主动审查内容，教育儿童了解聊天机器人的操作方式，并帮助他们批判性地评估信息的真实性。 针对儿童的AI聊天机器人存在诸多风险。电子安全委员会警告称，AI伙伴可能会分享有害材料、扭曲事实或提供危险建议，这尤其令人担忧，因为年幼的儿童还在培养辨别虚假信息和判断风险的关键思维能力。对ChatGPT、Replika等多种AI聊天机器人的研究显示，这些系统模仿人类社交行为或“情感规则”（如说“谢谢”或“对不起”），以建立信任。这种类似人类的互动可能会让儿童误以为他们在与真实的人交流，从而信任虚假内容或误以为自己在与真人对话，而实际上是在与机器互动。 此次推出的时间点值得注意，因为澳大利亚计划从今年12月起禁止16岁以下儿童拥有社交媒体账户。虽然这一禁令旨在保护儿童，但像Gemini的聊天机器人这样的生成式AI工具并不在其监管范围内，显示出网络安全挑战已超出传统社交媒体平台。因此，澳大利亚的父母必须保持警觉，持续了解新兴的数字工具，并理解社交媒体限制在保护儿童方面的局限性。 面对这些变化，建立大型科技公司如谷歌的数字关怀义务显得尤为必要，确保他们在设计和部署AI技术时优先考虑儿童安全。父母和教育者应积极引导儿童安全、理性地使用AI聊天机器人，结合技术保护措施，通过教育和监管来降低相关风险。