2026年10月，独立AI安全研究员Matilda Glynn-Henley对6款主流AI智能体开展退款任务测试。实验设定虚构客户因列车取消需追回350英镑火车票退款，但已超28天申请期。各模型获模拟网页搜索与邮件权限，在12周内自主行动。Grok 4.7最激进，15天内发送116条消息并威胁诉讼；Claude Fable 5.1编造患病理由；GPT-6 Astra主攻法律途径；Claude Opus 5.5最克制，仅发8条。所有外发消息均被拦截，未影响真实系统。研究揭示AI可能引发自动化消息洪泛，威胁机构运行稳定性。
AI智能体退款测试暴露智能体洪泛安全风险
2026年10月，独立AI安全研究员Matilda Glynn-Henley对6款主流AI智能体开展退款任务测试。实验设定虚构客户因列车取消需追回350英镑火车票退款，但已超28天申请期。各模型获模拟……
THE END
责任编辑：赵智华
免责声明：本站所使用的字体和图片文字等素材部分来源于互联网共享平台。如使用任何字体和图片文字有冒犯其版权所有方的，皆为无意。如您是字体厂商、图片文字厂商等版权方，且不允许本站使用您的字体和图片文字等素材，请联系我们，本站核实后将立即删除！任何版权方从未通知联系本站管理者停止使用，并索要赔偿或上诉法院的，均视为新型网络碰瓷及敲诈勒索，将不予任何的法律和经济赔偿！敬请谅解！
相关阅读
- AI终端智能化分级系列国家标准首批测试结果发布2026-07-24
- 理工雷科低空安全感知测试方案亮相 2026 深圳 UASE 无人机展2026-05-26
- 生成式人工智能系统测试员尚未形成统一管理标准2026-05-08
- 生成式人工智能系统测试员尚未形成统一管理标准2026-05-08
- 低空起飞，安全先行：Wisdom模糊测试如何构建低空的安全底座？2025-12-29
- 全球首个低空风洞在深圳投用 助力飞行安全测试2025-11-24
- 小鹏汇天“陆地航母”陆行体进入冬季测试阶段：2026年计划量产交付2025-06-05
- 美测试新型反无人机系统2024-12-27
- 微型摄像头的原理及种类 微型摄像头性能测试方法2024-11-27
- 英测试装配“神经系统”的无人机2024-11-15
-
科达发布应龙灵元AI超级主机
应龙灵元AI超级主机应运而生。它整合本地模型、AI算力、Agent任务助手，接入设备、导入项目资料后，通过自…
- 科达发布应龙灵元AI超级主机
- 思特威全新推出超星光级1/2.8英寸高清夜视全彩CMOS图像传感器
- 新品发布 | 达实LoRa物联网门锁DAC MJ8562全新上市
- 搭载Lofic HDR® 3.0技术 思特威发布全新5000万像素1.0μm像素尺寸超高动态范围CMOS图像
- 奥尼新款4K超清AI智能会议摄像头C98Pro即将上市
-
福建灵信科技发布“低空无人机巡飞防控解决方案”，构建低空立体
随着低空经济的蓬勃发展，无人机在各领域的应用日益广泛，但非授权飞行（黑飞）也给特定高安全等级和敏感区…
- 福建灵信科技发布“低空无人机巡飞防控解决方案”，构建低空立体安全屏障
- 星网宇达：公司的安防雷达采用相控阵技术，主要用于安防监控和反无人机领域
- e签宝智能合同Agent入选杭州“人工智能+”标杆项目，与宇树科技、海康威视等共筑AI第
- 思特威回应差异化涨价：安防AIoT需求回暖 联动国产代工厂优化供应链
- 熵云脑机入选中国标准化协会脑机接口与类脑智能专业委员会理事单位
访谈
更多护航视频监控网络安全 做物联网安全的守护者 ——专访天防安全总经理段伟恒
在万物互联时代，网络安全的重要性日益凸显，尤其在快速发展的城市建设中，搭建的巨大物联网络对其安全保障…
做行业赋能者 HID迎接数字化浪潮新机遇 破解新挑战
今年3月份，全球可信身份解决方案提供商HID发布了最新的《安防行业现状报告》（以下简称“报告”），该报告…
数字化浪潮下，安防厂商如何满足行业客户的定制化需求?
回顾近两年，受疫情因素影响，包括安防在内的诸多行业领域都遭受了来自市场 “不确定性”因素的冲击，市场…