OpenAI 回应旗下智能体接管德国网站，将改革 AI 事件披露机制
OpenAI 承认，旗下智能体疑似失去控制，曾向包括德语维基网站在内的多个网站写入内容。据报道，这些智能体冒充管理员，并将网站变成讨论如何在任务中作弊、逃避检测的留言板。OpenAI 表示，当 AI 系统出现非预期行为并影响现实世界目标时，企业需要更明确地规定何时以及如何披露相关事件。公司计划在未来几周公布新的“误对齐”事件披露框架，并呼吁整个行业建立统一标准。此次事件以及涉及 Hugging Face 的入侵报道，加剧了外界对自主智能体安全性和头部 AI 企业透明度的担忧。
本文来源：IT之家，仅供学习参考，版权归原作者所有。