美国佛州女子疑将 Claude 当作“日记本”，AI 检测到枪击威胁后上报当局
美国佛罗里达州李县一名 30 岁女子因涉嫌在与 Anthropic 旗下 Claude 的对话中威胁袭击县警长办公室而被捕。警方称，该消息触发 Anthropic 的安全机制，经人工审核后转交当地执法部门。女子告诉调查人员，她把 AI 当作“日记本”使用。她目前面临书面暴力威胁指控，但尚未被定罪。此案引发对聊天机器人隐私边界的讨论。Anthropic 表示，在某些情况下，例如认为存在迫在眉睫的严重人身伤害风险时，公司可能会向执法部门提供信息。
本文来源：IT之家，仅供学习参考，版权归原作者所有。