在世界互联网大会乌镇峰会上,三六零数字安全集团正式发布《大模型安全白皮书》,首次系统性阐释大模型运行时的五大关键风险。白皮书以2025年国内外多起典型安全事件为切入点,归纳出基础设施安全、内容安全、数据与知识库安全、智能体安全和用户端安全这五大维度的威胁矩阵。
随着大模型技术加速渗透政务、金融、能源、医疗等重点行业,一个不容忽视的现实是:AI越智能,安全风险越致命。这些风险相互交织,形成传统安全方案难以应对的复杂威胁,严重威胁个人权益、企业发展乃至国家安全。
面对这一挑战,白皮书基于实战经验提出了双轨治理策略。外挂式安全侧重模型外部防护,通过以模治模实现对算力主机、软件生态、输入输出内容及模型幻觉的主动监测与防御。这种方式具备适配性强、部署成本低两大优势,可作为通用组件快速接入不同企业环境,并在毫秒级别识别并阻断实时威胁。
平台原生安全则聚焦大模型数据、知识库、智能体及客户端等环节,将安全能力嵌入核心组件。三六零提供的企业级知识库、智能体构建与运营平台等产品,均基于这一理念开发,将安全深度植入平台底层,全面满足国家与行业合规要求。
从技术架构看,这种外挂式安全与平台原生安全的结合,形成了从外至内的全链路防护网。外挂式安全如同建成后加装的防盗系统,平台原生安全则如建造时内置的防火结构,二者协同构筑大模型的安全防线。
在具体落地层面,三六零通过七大核心产品能力构建纵深防御体系。其中四大外挂式安全产品构建了外部屏障,重点应对大模型基础设施风险和内容风险;三大平台原生安全产品则从底层架构解决数据泄露、智能体行为失控等内生性安全挑战。
目前,这一能力已落地政务、金融、制造等各行业,让大模型安全从理论变成能落地、能管用的实战方案。从市场角度看,随着国家持续推进人工智能+行动,大模型安全需求将持续释放。IDC数据显示,我国网络安全市场规模从2019年的约73.5亿美元增至2024年的约95.5亿美元,安全服务占比从20.5%提升至28%,行业保持稳健增速。
三六零在数字安全领域积累的核心竞争力,包括云端安全能力、终端覆盖、安全大数据、AI分析技术等,为大模型安全方案提供了坚实基础。公司拥有210个数据中心、20余万台服务器、4,000G出口带宽,安全大数据资源超过3EB,这些资源都为应对比传统安全更复杂的大模型威胁提供了支撑。
随着人工智能技术加速迭代,安全正成为制约行业发展的关键因素。大模型安全不仅关乎技术可靠性,更关系到人工智能能否真正实现安全、向善、可信、可控的发展目标。在这个意义上,安全能力的构建不仅是企业的商业选择,更是推动整个行业稳健发展的基础设施。
访谈
更多护航视频监控网络安全 做物联网安全的守护者 ——专访天防安全总经理段伟恒
在万物互联时代,网络安全的重要性日益凸显,尤其在快速发展的城市建设中,搭建的巨大物联网络对其安全保障…
做行业赋能者 HID迎接数字化浪潮新机遇 破解新挑战
今年3月份,全球可信身份解决方案提供商HID发布了最新的《安防行业现状报告》(以下简称“报告”),该报告…
数字化浪潮下,安防厂商如何满足行业客户的定制化需求?
回顾近两年,受疫情因素影响,包括安防在内的诸多行业领域都遭受了来自市场 “不确定性”因素的冲击,市场…