IDC专家：AI自动化下网络安全亟需人类验证机制

市场情报公司IDC副研究总监希尔皮·汉达分析指出，当前行业过度聚焦于AI压缩服务收入的风险，却忽视了验证AI输出结果这一新兴且被低估的需求。随着AI接管日常任务，人类角色反而愈发复杂，需应对罕见复杂情况并监督低故障系统，长期依赖自动化可能导致技能退化，正如认知心理学家莉桑·班布里奇在1983年研究所揭示的规律。

汉达以1987年西北航空底特律坠机事故为例，说明飞行员因过度依赖自动化而忽视手动检查导致悲剧，这一历史教训在当下法律和软件工程领域重现。初级律师依赖AI起草而未培养判断力，2026年调查显示初级开发者缺乏评估AI代码的架构与安全知识，盲目信任无法正确评估的输出结果，反映出自动化决策中人类判断力的缺失。

在网络安全领域，验证缺口问题尤为突出。安全运营平台向自主系统转型，往往依赖供应商自报准确率而缺乏外部验证，导致团队对AI建议采纳度低。同时，AI渗透测试工具虽发现漏洞速度快，但海量报告淹没了核实能力，至少一个大型漏洞赏金平台因AI提交激增暂停计划。汉达提出“AI验证即服务”与“AI判断商数”两个概念，强调人工独立验证及人类质疑AI的能力。

在AI自主决策深入安全运营的当下，建立独立的外部验证机制与培养人类批判性评估能力，已成为保障网络基础设施稳定性的关键产业议题。