中央网信办公布整治 AI 应用乱象典型案例
中央网信办公布了“清朗·整治 AI 应用乱象”专项行动第二阶段的进展。截至目前，行动已清理违法违规信息 561 万余条，查处账号 4.9 万余个，处置网站和应用程序 2400 余个。重点问题包括利用 AI 低俗改编经典作品、制作虚假灾害画面、通过换脸换声冒充他人、利用数字人进行虚假宣传，以及传播暴力、色情和危害未成年人的内容。豆包、元宝、千问、文心一言等平台被要求加强原始语料审核，落实 AI 生成合成内容标识。抖音、快手、微博、腾讯等平台则进一步升级多模态识别模型、人脸和声纹数据库，以及实时内容治理系统。网信办表示，后续将持续关注 AI 生成合成内容的新风险，并依法采取警告、罚款、下架或关闭等措施。
本文来源：IT之家，仅供学习参考，版权归原作者所有。