科技巨头谷歌近日宣布,对旗下人工智能助手Gemini进行重要升级,重点优化其在心理健康支持领域的功能。此次更新旨在让Gemini在面对用户心理健康相关问题时,能够提供更专业、更安全的回应。
当Gemini检测到用户对话中涉及自杀或自残等危机信号时,系统将立即激活"紧急援助"功能。该功能会在对话界面持续显示"一键连接"模块,用户可通过此模块直接拨打心理援助热线,或选择在线聊天、发送短信等求助方式。系统回应也将以鼓励寻求专业帮助为核心,避免任何可能强化危险行为的表述。
针对需要心理健康信息的用户,Gemini新增了"资源导航"模块。该模块可快速提供经过认证的专业支持渠道,包括心理咨询机构、在线互助平台等权威资源,确保用户获取信息的及时性和可靠性。在回应设计上,系统特别注重语言分寸,既保持共情又避免过度介入。
为防范潜在风险,谷歌为青少年用户群体设置了多重防护机制。更新后的Gemini将严格限制拟人化表达,避免使用可能引发情感依赖的亲密用语。系统会通过算法识别用户年龄特征,自动调整回应策略,确保交互过程符合心理健康支持的专业规范。
在技术伦理层面,Gemini的升级强化了事实核查功能。当用户表达存在认知偏差的观点时,系统会以温和方式区分主观感受与客观事实,既不直接否定用户情绪,又避免传播错误信息。这种设计平衡了情感支持与理性引导的需求。
配套此次功能升级,谷歌承诺在未来三年投入3000万美元(约合人民币2.07亿元)用于全球心理援助热线扩容。这笔资金将主要用于提升热线系统的并发处理能力,确保在用户需求激增时仍能保持服务质量。相关技术改进已通过国际心理健康组织的伦理审查。











