OpenAI宣布升级ChatGPT暴力内容限制，危险对话反复出现或导致账号封禁
OpenAI表示，未来几周将加强ChatGPT对暴力相关内容的限制。如果对话持续聚焦于暴力或严重伤害他人，系统可能主动结束对话；多次触发终止可能导致账号暂停或封禁。对于过去的大规模袭击事件，模型将减少有关作案方式、武器、装备及获取途径的回答细节，也可能限制对伤害规模的比较。这些规则适用于所有用户，不因年龄或提问目的而异。被识别为未满18岁的用户将获得额外保护，即使提问没有明确表现出暴力意图，系统也可能限制武器和安全系统的实用信息。OpenAI还将改进年龄预测机制，结合多种信号评估用户年龄。被误判为未成年人的用户可以提交身份信息进行核验。青少年仍可通过ChatGPT寻求预防或缓和暴力的帮助，以及联系可信赖成年人的指引。
本文来源：AIbase，仅供学习参考，版权归原作者所有。