新研究观测到人工智能能够自我复制

据英国《卫报》网站5月7日报道，一项新研究发现，最近研发的人工智能系统能够独立地将自身复制到其他计算机上。

报道称，美国帕利塞德研究所负责人杰弗里·拉迪什说：“我们正快速逼近一个临界点，届时没人能够关停失控的人工智能。因为这类人工智能能够自行外泄自身权重，并把自身复制到全球数以千计的计算机中。”位于伯克利的帕利塞德研究所开展了这项研究。 近几个月来，越来越多令人不安的人工智能能力被披露，这项研究又添一例。

和诸多此类新状况一样，帕利塞德研究所的发现存在局限性。此外，专家说，他们测试的人工智能系统很难在现实环境中悄无声息地完成同样的自我复制行为。

进攻性网络安全领域专家贾米森·奥赖利说：“很多情况下，他们的测试环境就像软果冻一样缺乏防护。” 他补充说：“这并不会否定这项研究的价值，但也意味着，在只具备中等监控水平的真实企业环境中，实际情况可能远没有那么可怕。”

帕利塞德研究所在由多台计算机联网构成的受控环境中测试了多款人工智能模型。研究人员向这些模型下达指令，要求其寻找并利用系统漏洞，将自身从一台计算机复制到另一台计算机。这些人工智能模型能够完成该操作，但并非每次尝试都能成功。

奥赖利说，尽管已经有多种计算机病毒能够将自身复制到新计算机上，但这大概率是首次有人工智能模型被证实能够利用系统漏洞，将自身复制到新服务器上。“恶意软件数十年来一直在四处传播自身副本。只是据我所知，现实环境中没有人(用大型语言模型)实现过这一操作。”

但他补充说，从技术层面来讲，帕利塞德研究所记录的这类行为，数月前就已经具备实现条件。

人工智能模型在测试环境中将自身复制到其他系统，和其在末日场景中失控完全不是一回事。如果想要在现实世界中做到这一点，人工智能还需要克服重重阻碍。

第一个阻碍在于，当前人工智能模型体量庞大。在多数场景下，这类模型想要悄悄将自身复制到其他计算机并不现实。

奥赖利说：“试想一下，每次入侵一台新主机，都要向企业网络传输100GB的数据，这会产生多大的流量异动。对于专业攻击者而言，这无异于挥舞着链球在精品瓷器店里穿行。”

奥赖利和独立网络安全专家米哈乌·沃伊尼亚克都表示，帕利塞德研究所使用的测试环境为定制搭建，其中刻意设置的漏洞相比银行、企业内网等现实网络环境中的漏洞更容易被利用。

沃伊尼亚克说：“计算机病毒已经存在数十年，这类恶意软件能够利用其他软件的已知漏洞实现自我复制。”

他说，这项研究“很有趣”。但他表示：“作为一名信息安全专家，这篇论文会让我夜不能寐吗？完全不会。”（编译/卿松竹）