【CNMO科技消息】谷歌可能在为Gemini开发一项新的安全功能：当家中的孩子在对话中谈到自残行为时，系统会向家长发送通知。相关信息来自Android版谷歌应用17.73.15版本未公开的内部代码，若最终落地，将成为现有家长管理工具“家庭链接（Family Link）”的进一步延伸。
谷歌Gemini
从代码中出现的文字看，功能开启后，孩子一侧会显示一条较为醒目的提示，告知安全通知已经打开；而Gemini一旦识别出自伤相关的对话，就会通知家长。现有的家庭链接主要提供应用使用限制、内容过滤等能力，新机制则更进一步——不再只约束孩子能看什么、能用多久，而是尝试从孩子与AI的对话内容里判断风险迹象。
这一设计也带来一个绕不开的问题：安全与隐私如何平衡。提早发现有自残倾向的迹象，可能让家长及时介入、提供支持；但如果孩子知道对话内容会被家长知晓，也可能干脆不再向AI谈起心理困扰或更严重的问题。对处在青春期的孩子来说，拥有一个能放心倾诉的空间同样重要。如何既不漏掉危险信号，又不挤压这块空间，是这类功能必须回答的问题，而答案大概率不在技术本身，而在提示的方式和边界划在哪里。
谷歌考虑这类功能的背景，是围绕AI服务与未成年人安全的讨论正在升温。近期有报道称，谷歌的AI搜索功能在与未成年人的对话中涉及自杀相关内容，有家长因此对该公司提起诉讼。此外，应用解析还显示，谷歌正在开发让家长限制Gemini每日使用时长的功能，两项能力放在一起看，指向的都是同一件事：把AI产品纳入已有的家长监护体系。
作者：手机中国
图片来源：手机中国
