杭州中院公布案例：AI生成动态视频绕过平台人脸核验

杭州市中级人民法院近日公布一起案例，两名不法分子利用网络收集他人照片，通过AI生成点头、摇头、眨眼等动态视频，并篡改相机数据，成功突破购物平台的人脸核验，盗取账户内个人信息。天翼安全科技有限公司高级专家危嘉祺解释，随着生成式人工智能技术发展，AI已能根据单张照片生成高度逼真的动态人脸视频，甚至结合虚拟摄像头、视频流注入等技术绕过真实摄像头采集环节，使系统难以区分真实人脸与合成内容。

针对此类风险，危嘉祺指出不能简单否定技术创新，也不能将安全风险转嫁给普通用户，需坚持发展与安全并重。在监管层面，应进一步健全人工智能安全治理体系，针对身份认证、金融交易等高风险场景，推动建立与业务风险相适应的分级分类安全要求，避免过度依赖单一生物识别手段。同时需完善深度合成内容标识、生成内容溯源和安全评估机制，建立新型攻击样本共享及动态测评制度。

在技术防护层面，建议坚持以攻促防，推动安全防护从被动检测向主动对抗升级。一方面利用先进生成式AI模型构建高逼真度攻击样本，开展人脸核验系统的红队测试；另一方面综合运用设备可信验证、视频流注入检测、生理活体特征分析及多因素身份认证等技术，构建多层次安全防护体系。安全测评需覆盖未知伪造手法和复杂攻击组合，将真实案例转化为测评场景，提升实战能力。

随着生成式AI在安防场景的普及，静态风险防范向动态攻防对抗转变已成为行业共识，构建多方协同的治理格局是保障生物识别技术可信应用的关键。