在世界互联网大会乌镇峰会上,三六零数字安全集团正式发布《大模型安全白皮书》,首次系统性阐释大模型运行时的五大关键风险。白皮书以2025年国内外多起典型安全事件为切入点,归纳出基础设施安全、内容安全、数据与知识库安全、智能体安全和用户端安全这五大维度的威胁矩阵。
随着大模型技术加速渗透政务、金融、能源、医疗等重点行业,一个不容忽视的现实是:AI越智能,安全风险越致命。这些风险相互交织,形成传统安全方案难以应对的复杂威胁,严重威胁个人权益、企业发展乃至国家安全。
面对这一挑战,白皮书基于实战经验提出了双轨治理策略。外挂式安全侧重模型外部防护,通过以模治模实现对算力主机、软件生态、输入输出内容及模型幻觉的主动监测与防御。这种方式具备适配性强、部署成本低两大优势,可作为通用组件快速接入不同企业环境,并在毫秒级别识别并阻断实时威胁。
平台原生安全则聚焦大模型数据、知识库、智能体及客户端等环节,将安全能力嵌入核心组件。三六零提供的企业级知识库、智能体构建与运营平台等产品,均基于这一理念开发,将安全深度植入平台底层,全面满足国家与行业合规要求。
从技术架构看,这种外挂式安全与平台原生安全的结合,形成了从外至内的全链路防护网。外挂式安全如同建成后加装的防盗系统,平台原生安全则如建造时内置的防火结构,二者协同构筑大模型的安全防线。
在具体落地层面,三六零通过七大核心产品能力构建纵深防御体系。其中四大外挂式安全产品构建了外部屏障,重点应对大模型基础设施风险和内容风险;三大平台原生安全产品则从底层架构解决数据泄露、智能体行为失控等内生性安全挑战。
目前,这一能力已落地政务、金融、制造等各行业,让大模型安全从理论变成能落地、能管用的实战方案。从市场角度看,随着国家持续推进人工智能+行动,大模型安全需求将持续释放。IDC数据显示,我国网络安全市场规模从2019年的约73.5亿美元增至2024年的约95.5亿美元,安全服务占比从20.5%提升至28%,行业保持稳健增速。
三六零在数字安全领域积累的核心竞争力,包括云端安全能力、终端覆盖、安全大数据、AI分析技术等,为大模型安全方案提供了坚实基础。公司拥有210个数据中心、20余万台服务器、4,000G出口带宽,安全大数据资源超过3EB,这些资源都为应对比传统安全更复杂的大模型威胁提供了支撑。
随着人工智能技术加速迭代,安全正成为制约行业发展的关键因素。大模型安全不仅关乎技术可靠性,更关系到人工智能能否真正实现安全、向善、可信、可控的发展目标。在这个意义上,安全能力的构建不仅是企业的商业选择,更是推动整个行业稳健发展的基础设施。
访谈
更多乌镇声音|郑启良:将安全防护前置,守住AI应用下载第一关
2026年世界互联网大会乌镇峰会期间,卡巴斯基大中华区总经理郑启良接受光明网采访,谈人工智能时代的安全防…
郭留成谈机器触觉:让材料成为传感器,提升感知能力
在2026年世界互联网大会乌镇峰会期间,触零科技申报的“AI赋能感知:面向物理智能的多模态触觉感知关键技术…
三大开源大模型负责人乌镇峰会探讨安全治理
11月3日,2026年世界互联网大会乌镇峰会在浙江桐乡乌镇举行,主题聚焦“开源开放 共建共享”。在主论坛“人…