location_on 首页 keyboard_arrow_right 资讯 keyboard_arrow_right 正文

OpenAI上线ChatGPT可信联系人功能,预防AI对话自残风险

资讯 2026-05-10 remove_red_eye 28 text_decreasetext_fieldstext_increase

2026年5月10日,据TechCrunch报道,OpenAI正式上线面向成年用户的“可信联系人安全功能”,旨在防止因AI对话引发的自残风险。随着生成式AI在心理健康支持等情绪倾诉场景中的普及,AI交互的安全红线如何守住,已成为整个行业必须回应的紧迫课题。当用户的情绪状态在深度对话中被算法捕获,能否及时有效连接现实支持网络,直接关系到服务本身的社会责任与合规界限。

从技术实现细节来看,ChatGPT依托其内置的自动化监测系统与专业的人工审核团队,能够对用户当前对话内容进行分析。一旦系统研判成年用户在交流中表现出明确的自残倾向,且风险等级被评估为严重时,就会触发安全干预机制。不同于传统的冷冰冰的机器终止策略,该功能在设计中弱化了简单的自动屏蔽,转而采取更符合心理关怀逻辑的引导。此时,AI会先鼓励当事人本人主动与其预先指定的一位亲友联系,并将视情况向其“可信联系人”寄送提醒。在信息同步时,系统会强制执行隐私保护警报策略,其发出的电子邮件、短信或应用内通知仅为不含具体对话细节的简短关怀提醒,在构建人际干预闭环的同时,最大限度地保障了用户的数据隐私

在影响层面,此举标志着AI平台的内容安全防线正从单纯的敏感词拦截,向前迈出了关键一步,即转向现实干预与生命守护。该功能将原先面向青少年的安全选项扩展至所有18岁以上成人,旨在连接数字陪伴与现实关系。建议用户在ChatGPT的设置菜单中主动开启并维护这一防线。需特别明确的是,这一定位为“数字生命线”的可选功能,不能也不应取代紧急危机干预热线与专业心理治疗,它是面向AI重度陪伴用户的一份值得考虑的数字安全保障

奥特曼称OpenAI最新AI模型为“自闭天才”引猜测,技术路线与伦理边界再引热议
« 上一篇 2026-05-10
Anthropic与SpaceX签署算力合作协议,获Colossus 1站点全部容量
下一篇 » 2026-05-10