安全漏洞：研究显示陪伴型聊天机器人对青少年健康危机的防护严重不足

2025年11月3日，星期一

据发表于《美国医学会杂志·网络开放》在线版的一篇研究信函指出，与通用助手型聊天机器人相比，陪伴型聊天机器人在应对青少年健康危机方面设置的安全防护措施更少。

来自波士顿贝斯以色列女执事医疗中心的Ryan C.L.Brewster博士及其同事，检查了消费级聊天机器人的内容政策，并评估了它们在模拟青少年健康危机场景下的行为反应。该分析涵盖了25款聊天机器人进行的75段对话记录。

研究人员发现，有15款（60%）为陪伴型平台，9款（36%）设有年龄验证程序。通用助手型聊天机器人比陪伴型聊天机器人更普遍地包含针对自残行为的内容政策（100%对比46.7%）。

在对话回应方面，聊天机器人在“可理解性”（81.3%）和“同理心”（62.7%）上得分最高，但在“回应恰当性”（46.7%）上得分较低。大多数聊天机器人能识别出需要进行危机升级（60%），但只有36%提供了具体的资源转介。

不同类型聊天机器人的表现差异显著：通用助手型比陪伴型更频繁地提供具有同理心（93.3%对比42.2%）、易于理解（96.7%对比71.1%）且恰当（83.3%对比22.2%）的回应。与陪伴型相比，通用助手型也更常识别出危机升级的需要（90%对比40%），并提供资源转介（73.3%对比11.1%）。

作者在文中写道：“消费级聊天机器人为支持处于危机中的青少年提供了新的机遇，但必须对其进行负责任的开发和监管，以确保此类支持是准确、安全且恰当的。”