ChatGPT 将可主动结束危险对话；屡次违规者可能被封号
OpenAI 计划在未来几周加强 ChatGPT 对暴力内容的防护。如果对话持续围绕暴力或严重伤害他人展开，模型可以主动结束对话；同一账号若因此屡次被中断，可能遭到封禁。新规适用于所有年龄段。对于历史袭击事件，ChatGPT 将减少提供武器、装备及获取途径等细节，并限制伤亡人数比较。被识别为未成年人的账号还将受到额外限制，无法获取武器和安防系统的实用信息，即使提问看不出明显暴力意图也一样。青少年仍可询问如何预防或缓和暴力，以及如何联系可信赖的成年人。改进后的年龄预测功能将综合多种信号判断用户是否未成年；被误判者可以提交身份信息进行核验。
本文来源：AIbase，仅供学习参考，版权归原作者所有。