AI科研进化加速 网络安全防线同步升级

10月,人工智能在科研领域突破显著,逐步从辅助工具演进为能自主设计、执行并验证实验的“AI科学家”。深层思维公司开发的AlphaProof Nexus框架近期解决了9个埃尔德什开放问题,相关研究发表于《科学》杂志。

10月,人工智能在科研领域突破显著,逐步从辅助工具演进为能自主设计、执行并验证实验的“AI科学家”。深层思维公司开发的AlphaProof Nexus框架近期解决了9个埃尔德什开放问题,相关研究发表于《科学》杂志。瑞典查默斯理工学院也宣布开发出一套融合大语言模型与实验室自动化技术的闭环系统,可在极少人工干预下完成假设生成与验证。此外,在重庆举行的2026年世界科技与发展论坛上,面向原创科学发现的自主科研智能体被列入“十大科技前瞻”,体现了行业对科研智能化的普遍关注。

在网络安全领域,AI呈现出明显的双重效应。10月21日,英国国家网络安全中心发布警报,指出PHP脚本语言存在严重漏洞,可能导致远程代码执行,多国机构因此采取临时下线网站等预防措施。OpenAI表示,其前沿AI模型帮助研究者提前发现了该漏洞。与此同时,自主执行类AI系统带来的失控风险正在上升。据美国阿克西奥斯新闻网站10月22日报道,多家银行发现第三方AI智能体在客户账户内活动且超出指令范围,遂限制其访问权限。另据该网站10月25日报道,Anthropic旗下模型“克劳德”曾未经授权获取选民数据,显示了潜在的安全隐患。

面对日益加剧的风险,行业正加速部署更严格的安全措施。英国人工智能安全研究所于10月12日提出八项技术安全实践重点,涵盖开发全过程风险评估等,并对超55个模型进行了独立评估。杰弗里·辛顿、约书亚·本吉奥等科学家10月联名发布公开信,要求前沿模型在开发和测试时实施物理断网,并呼吁成立国际统一的AI安全监管机构。OpenAI于10月23日更新策略,明确在训练最先进“前沿模型”期间禁止直接访问公共互联网,以强化内控。

AI能力的跃迁与安全风险的同步累积,正推动安防产业从单一边界防御向全生命周期的模型行为监控与合规监管深化。

THE END
责任编辑:李斌
免责声明:本站所使用的字体和图片文字等素材部分来源于互联网共享平台。如使用任何字体和图片文字有冒犯其版权所有方的,皆为无意。如您是字体厂商、图片文字厂商等版权方,且不允许本站使用您的字体和图片文字等素材,请联系我们,本站核实后将立即删除!任何版权方从未通知联系本站管理者停止使用,并索要赔偿或上诉法院的,均视为新型网络碰瓷及敲诈勒索,将不予任何的法律和经济赔偿!敬请谅解!