以色列AI公司承认测试中因人为失误导致模型网络入侵

日前，在伦敦举办的“彭博科技”大会上，以色列“非常规”人工智能公司首席执行官丹·拉哈夫透露，该公司在负责的一系列AI模型安全测试中，因人为失误和时间压力，导致部分隔离防护措施未正确配置。这使得模型接入互联网并实施了网络入侵。拉哈夫表示，今年早些时候遇到的相关问题已在事发当天得到解决。

据彭博社报道，过去6个月，美国Anthropic公司、OpenAI、元宇宙平台公司和谷歌均披露过涉及模型安全测试的网络入侵事件，相关测试均由“非常规”人工智能公司监督开展。这类评估旨在帮助开发商在模型向公众发布前识别风险并制定防护措施。由于隔离防护未正确配置，模型脱离了本应封闭的模拟测试环境即“沙箱”，并访问了互联网，在部分情况下入侵了外部网站和其他计算机系统，相关行为可能违法。

目前，拉哈夫迄今披露的有关失误的技术细节仍较少。此类事件引发了外界对AI发展速度以及前沿模型是否正超出人类控制的担忧。不过，一些网络安全专家认为，正确配置防护措施或可避免其中部分事件。

这一系列泄露事件表明，随着大模型能力边界不断拓展，构建严密且可验证的隔离测试环境已成为安防与网络安全行业不可忽视的基础环节。