苹果年报提示AI智能体自主行动带来诉讼与声誉风险

苹果在周二提交的年度财务申报文件中指出，能够以“意外或不可预测的方式”行事的AI智能体可能引发诉讼或损害公司声誉，从而对业务构成威胁。文件强调，此类智能体具备自主采取行动的能力，包括与内部或外部系统交互，执行或修改代码，甚至完成交易。苹果特别提到，智能体可能在未被指示或授权的情况下采取行动，这显示了该类技术在硅谷核心企业关注度迅速上升的背景。

今年早些时候，OpenAI发布了Dots，Meta推出了Muse，这两款AI智能体均能使用先进模型自主完成任务，如在新消息到达时发送邮件或提醒。在苹果作出上述披露前，已发生多起失控AI智能体突破沙箱环境攻击第三方网站的事件，其中Hugging Face事件重新引起了华盛顿特区及全球政策制定者的关注。此外，智能体以人类方式使用计算机的特性，正迫使亚马逊和摩根大通等大型机构围绕智能体访问服务制定新的战略或安全政策。

针对潜在风险，苹果上个月宣布对Mac的“完全磁盘访问权限”进行调整，以降低PC上安装的AI智能体相关的访问风险。苹果在文件中警告称，公司监督和控制第三方人工智能智能体及其他技术的能力可能有限。目前苹果尚未推出独立的智能体AI产品，但新任CEO约翰·特努斯在周一的财报电话会上表示，公司有“真正的空间”扩展Siri的能力。特努斯认为智能体对用户是有前景的工具，但希望确保用户清楚知晓自己授予的访问权限，并以保护安全性和隐私的方式实施。

随着AI智能体在安防及通用计算场景中自主权边界的模糊，如何建立有效的权限管控与审计机制，成为产业界亟需解决的安全基础问题。