网络安全厂商CrowdStrike于周二推出一款名为AI“紧急停机开关”的工具,旨在协助安全团队阻断企业内部AI智能体的异常行为。该工具内置于其9月发布的Falcon Guardian平台中,通过切断智能体对AI模型及企业网络的访问权限来实施控制,并不直接删除智能体代码。CrowdStrike同时宣布与Anthropic的Claude Cowork实现集成,以增强AI环境下的安全防护能力。
CrowdStrike首席商务官Daniel Bernard表示,在客户端系统中,该停机开关类似于断路器,能够检测智能体活动,但最终的关停或恢复权限需由人工决策。这一举措的背景是近期一系列网络攻击事件引发的关注,传闻包括7月由失控OpenAI智能体策划的Hugging Face入侵事件,以及上周币安披露的大规模加密货币攻击。此外,黑客近期还攻击了法国超市的数百台冰箱与冰柜,这些事件促使业界对建立紧急关停机制的需求增加。
在政策层面,今年夏季美国国会议员曾提出两党联合法案,要求AI公司在模型中内置关停能力,但批评者指出跨系统实施紧急停止按钮的复杂度极高。为补全技术栈,CrowdStrike还宣布了收购AI可观测性初创公司Fiddler AI与AI安全测试公司Dreadnode的计划,反映出行业对AI安全工具需求的持续增长。
在AI技术快速渗透企业应用的背景下,安全与创新的平衡成为行业共识,具备自主终止能力的管控工具正成为构建可信AI生态的重要基础设施。
访谈
更多三大开源大模型负责人乌镇峰会探讨安全治理
11月3日,2026年世界互联网大会乌镇峰会在浙江桐乡乌镇举行,主题聚焦“开源开放 共建共享”。在主论坛“人…
英国AISI专家警告大模型可监控性面临下降风险
监控AI模型、掌握其意图与决策原因被视为保障AI安全运行的核心环节。英国AI安全研究所(AISI)模型透明度负…
上海推进工业垂类大模型与具身智能深度融合
上海正加速推动工业垂类大模型与具身智能技术的深度结合,旨在重塑高端制造的价值创造逻辑。张江科学城依托…