IDC指出网络安全自动化面临人类判断力缺口

市场情报公司IDC副研究总监希尔皮·汉达在最近的文章中指出，人工智能在网络安全领域的大规模应用催生了对输出结果验证的巨大需求。她认为，当前行业讨论过度关注AI压缩服务收入的风险，却忽视了人工监督的必要。认知心理学家莉桑·班布里奇的研究表明，自动化程度越高，剩余的人类角色越复杂，长期依赖自动化会导致技能退化。1987年西北航空坠机事故即因机组人员过度依赖自动化系统且缺乏手动检查所致，这一案例警示了当前行业在采用AI工具时面临的类似风险。

汉达指出，这种“验证缺口”在初级专业人才中尤为明显。据称，2026年的调查表明，依赖AI辅助编程的初级工程师缺乏网络和协议基础功底，难以评估AI生成的代码安全性。在安全运营层面，系统正从助手模型转向自主运行，往往依赖供应商自报准确率而缺乏外部验证。与此同时，AI驱动的渗透测试工具虽然发现漏洞速度更快，但海量低质量报告已导致至少一个大型漏洞赏金平台暂停赏金计划，开源项目也因报告激增而叫停相关项目。

为应对这一挑战，汉达提出“AI验证即服务”和“AI判断商数”两个概念，前者强调独立人工验证，后者关注人类判断信任与质疑AI输出的能力。监管层面，欧盟《人工智能法案》将在关键基础设施中使用的网络安全系统列为高风险，要求实施真正的人类监督，相关合规截止日期已延至2027年12月。随着自主AI决策、人类专业能力变化及监管审查的交汇，一个处于市场空白期的新兴领域正在形成，未来将取决于谁先建立起可信的验证机制。