生成式人工智能在降低内容生产门槛的同时,也增加了虚假信息制作与传播的便利性。中国互联网络信息中心2026年2月发布的报告显示,截至2025年12月,我国生成式人工智能用户规模达6.02亿人,普及率达42.8%。面对加速普及的应用与随之而来的治理挑战,中央网信办在2026年9月通报清朗专项行动第二阶段工作情况,累计清理违法违规信息561万余条,查处账号4.9万余个。典型案例涉及利用AI魔改经典文学作品及合成虚假灾害画面等行为,反映出内容安全治理正面临生成机制与风险传播方式的变化。
在此背景下,中国移动网络与信息安全管理部联合卓望公司,依托既有技术与业务经验,探索从传统审核向综合安全治理延伸。鉴于生成式人工智能使风险前移至提示词输入、模型回答及素材合成环节,传统基于发布环节的识别拦截模式已难以应对。深度伪造技术使得冒用他人音容的视频不含违规关键词却具备高误导性,企业面临客服失实、营销违规等新场景,内容安全关注点需扩展至生成方式、使用目的及传播影响。
制度层面,我国于2025年9月1日正式实施《网络安全技术 人工智能生成合成内容标识方法》及《人工智能生成合成内容标识办法》,明确AI生成内容的显式与隐式标识要求。业界普遍认为,标识主要解决来源识别问题,不等于真实性认证,需结合事实核验与风险处置。平台实践中,TikTok通过创作者声明、自研模型及C2PA凭证标注AI内容,并于2025年11月测试不可见水印;Meta则指出部分隐式标记在传播中易被移除。当前单一技术手段难保绝对安全,安防产业正加速从被动审核转向全链条综合治理。
访谈
更多乌镇声音|郑启良:将安全防护前置,守住AI应用下载第一关
2026年世界互联网大会乌镇峰会期间,卡巴斯基大中华区总经理郑启良接受光明网采访,谈人工智能时代的安全防…
郭留成谈机器触觉:让材料成为传感器,提升感知能力
在2026年世界互联网大会乌镇峰会期间,触零科技申报的“AI赋能感知:面向物理智能的多模态触觉感知关键技术…
三大开源大模型负责人乌镇峰会探讨安全治理
11月3日,2026年世界互联网大会乌镇峰会在浙江桐乡乌镇举行,主题聚焦“开源开放 共建共享”。在主论坛“人…