近日,杭州市中级人民法院公布的一起案例显示,不法分子利用网络收集他人照片,通过AI生成包含点头、摇头、眨眼等动作的动态视频,并篡改相机数据,成功突破购物平台的人脸核验系统,导致账户内个人信息被窃取。这一事件表明,随着生成式AI技术的滥用,传统的信任秩序正受到冲击,AI在网络安全领域已成为一把双刃剑。


此次被攻破的是二维人脸识别技术,而非三维结构光技术。二维识别依赖平面图像,虽然加入了活体检测以识别真人动作,但面对能理解物理规律和光影变化的先进AI视频模型,其防护能力显得不足。早期的深度伪造技术难以还原真实的光线反射细节,容易暴露破绽,但当前顶级模型已能生成电影质感的逼真视频,使得通过公开照片伪造动态视频攻击成为可能。
随着AI视频模型向理解世界运行规律的世界模型演进,其生成内容的连贯性与逼真度大幅提升,非三维结构光的人脸识别系统面临的风险正在增加。由于社交媒体普及,个人照片暴露普遍,这种基于AI视频的社会工程学攻击已成为全社会需共同面对的挑战,而非仅针对少数特定群体。
技术迭代使得生物识别系统需持续对抗更高级的伪造手段,安防产业界应关注AI生成内容对身份验证体系的深层影响。
访谈
更多乌镇声音|郑启良:将安全防护前置,守住AI应用下载第一关
2026年世界互联网大会乌镇峰会期间,卡巴斯基大中华区总经理郑启良接受光明网采访,谈人工智能时代的安全防…
郭留成谈机器触觉:让材料成为传感器,提升感知能力
在2026年世界互联网大会乌镇峰会期间,触零科技申报的“AI赋能感知:面向物理智能的多模态触觉感知关键技术…
三大开源大模型负责人乌镇峰会探讨安全治理
11月3日,2026年世界互联网大会乌镇峰会在浙江桐乡乌镇举行,主题聚焦“开源开放 共建共享”。在主论坛“人…