网信办专项整治AI乱象：严控AI换脸、魔改名著，主流大模型全面合规升级

近期，中央网信办深入推进“清朗·整治AI应用乱象”专项行动第二阶段工作，重点针对AI换脸造假、AI魔改名著、虚假内容生成、恶意合成信息等乱象开展集中整治。同时明确要求豆包、元宝、通义千问、文心一言等主流AI大模型平台，严格管控内容输出，严把语料审核关口，从源头遏制AI技术滥用乱象，规范国内人工智能内容生态。 

一、本次AI专项整治核心重点

随着AI生成技术普及，低成本换脸、智能改写、内容合成功能被滥用，衍生出诸多网络乱象。本次专项整治聚焦两大高发违规场景，重拳肃清行业乱象。其一为AI换脸、换声造假行为，严查利用AI技术伪造公众人物影像、合成虚假对话、复刻逝者形象，以及制作低俗、造谣、仿冒类合成内容，杜绝借助AI技术实施诈骗、抹黑、侵权行为。

其二为AI魔改名著、恶意改写经典内容，整治随意篡改中外经典文学、影视名著剧情，歪曲主流价值观、恶搞解构经典、制造低俗猎奇内容的违规操作，守护优质文化内容传播秩序，杜绝AI技术消解经典、传播不良价值观。

二、主流大模型全面落实合规整改

针对专项整治要求，国内头部AI平台全面启动合规升级，豆包、元宝、通义千问、文心一言等大模型同步收紧内容输出规则。各大平台重点优化原始训练语料审核机制，全面清理违规、低俗、歪曲经典、侵权造假类语料资源，从源头杜绝违规内容生成。

同时，平台升级智能风控审核体系，针对AI换脸指令、名著恶意改写、低俗恶搞、虚假合成等违规Prompt，实现精准拦截、拒绝生成。此外，严格落实AI生成内容标识制度，所有AI合成内容明确标注来源，区分人工创作与智能生成内容，避免虚假信息误导公众，全面压实平台主体责任。

三、AI乱象整治的必要性与社会价值

此前，无门槛的AI生成功能，让网络侵权、网络诈骗、文化恶搞成本大幅降低。AI换脸极易滋生电信诈骗、肖像侵权、名誉诋毁等违法问题；AI魔改名著则扭曲经典文化内涵，误导青少年价值观，破坏网络文化生态。

此类乱象不仅扰乱正常网络秩序，还极易引发舆论乱象、文化乱象与安全风险。网信办专项整治与大模型合规整改，有效填补AI内容监管空白，遏制技术滥用，平衡AI创新发展与合规安全，为行业健康发展划定清晰红线。

四、AI行业长效合规发展趋势

本次专项整治并非限制AI技术创新，而是推动行业规范化、高质量发展。未来AI平台将形成“事前语料审核、事中智能拦截、事后溯源追责”的全流程合规体系。AI生成内容将实现可溯源、可管控、可追责，彻底杜绝技术滥用乱象。

同时，整治行动将引导AI技术正向赋能文化传播、内容创作、便民服务等领域，摒弃低俗恶搞、违规造假的粗放发展模式，推动人工智能产业走向合规化、标准化、良性化发展道路。

五、总结

网信办整治AI换脸、魔改名著乱象，主流大模型全面收紧内容输出规则，标志着国内AI行业正式进入强监管、重合规时代。技术创新不能突破法律与道德底线，各大平台、创作者需坚守合规准则，杜绝AI技术滥用，共同营造清朗、健康、正向的网络AI生态，助力人工智能产业稳健长效发展。