杭州中院审理AI换脸公益诉讼 揭示人脸识别安全挑战

据媒体报道，继演员吴越、温峥嵘被“盗脸”直播后，杭州中院今年公开审理的一起涉“AI换脸”个人信息保护公益诉讼案显示，“AI换脸”技术目前已能突破人脸核验。这一现象相关话题登上热搜，引发广泛关注。人脸识别作为登录、支付、开户等关键环节的身份证明方式，其安全性正面临前所未有的挑战。

业内技术人员表示，面对不断升级的攻击手段，目前似乎缺乏有效的应对办法。除了传统的诈骗案例，近期还出现了利用AI生成探店视频误导消费者、伪造亲人病重视频行骗以及名为“AI小海”的账号批量收割老年人等案例。这些事件表明，问题已不再局限于技术层面，更需从制度和治理层面进行系统性思考。

现行治理逻辑将标识、核验及审核责任主要赋予平台，但实践证明，仅标注“AI生成”未能有效拦截欺诈行为，反而可能成为某些账号的合规掩护。《国务院2026年度立法工作计划》提出加快推进人工智能综合性立法，专家建议，应明确将提供绕过安全核验的AI生成工具视为独立违法行为，并将治理核心从单纯的标识义务转变为对利用AI实施禁止行为的实质性拦截责任。

在技术迭代过程中，防守方往往滞后于攻击方的演进，这是行业面临的客观规律。解决这一困境的关键在于将制度设计的重心从修补转向实质性突破，通过明确责任主体和优化激励机制，构建更具韧性的安全治理体系，以应对持续变化的威胁环境。