为什么人工智能无法拯救世界

当科技巨头预测乌托邦时，你完全有权保持怀疑。不过，一切都还没有结束。

神译局是36氪旗下编译团队，关注科技、商业、职场、生活等领域，重点介绍国外的新技术、新观点、新风向。

编者按：人工智能被炒作得热火朝天。面对新的事物，有人欢欣鼓舞，有人大惊失色。人工智能究竟是福音，还是灾难？答案或许因人而异。遥想三十多年前，当互联网刚出现时，人们也面临着同样的迷思。新的技术可能将在某些领域带来质的飞跃，而有在另一些领域会带来倒退，对于普通人而言，大可不必抱有太高的期待。本文来自编译。

图片来源：

一切对人体有害的东西在美国都流行得太快了。因为那是最容易让人们投入的东西，那是简单又具有破坏性的东西，那是最不能激发人们积极性的东西。

——吉尔·斯科特·赫伦（Gil Scott-Heron）

当今社会的主导因素正是变化，持续不断的变化，不可避免的变化。明智的决定不仅要考虑世界的现状，还要考虑世界的未来。

——艾萨克·阿西莫夫（Isaac Asimov）

对于第一次我在哪里登录互联网的情形，至今我仍记忆犹新。当时就在波士顿郊外，在我叔叔家的办公室，那间办公室也用作客房。那天是1993年12月18日。我登录了美国在线（America Online，美国时代华纳的子公司，著名的因特网服务提供商）。经过了五分钟的等待，我听到了“欢迎！”然后，我点击了一个名为“体育”的菜单标题，又等了十分钟才加载比赛得分，可后来有人拿起电话，我这边就断线了。

事情的开始就是这样的；又过了几年，我家才接通互联网。到那时，它稍微有用一些。那会儿为了完成作业，我利用网景导航器（Netscape Navigator）作弊；有时我也访问所谓的网站，下载最喜欢的体育中心主播流行语的音频文件，下载电影脏话台词的音频文件，以便在空闲时听。我真的对它非凡的力量感到敬畏。

连接速度一路攀升：7K、14K、28K、56K。我们使用MSN、AIM、ICQ、Juno、AltaVista和Yahoo。让打电话见鬼去吧。我在玩Acrophobia游戏，在聊天室里和辣妹聊天，同时下载凯特·温斯莱特（Kate Winslet）和莎拉·米歇尔·盖拉（Sarah Michelle Gellar）的图片作为桌面壁纸。每隔一个小时左右，我还可以从Napster（编者注：Napster是一种在线音乐服务）上盗录重金属摇滚乐队石庙向导（Stone Temple Pilots）的mp3版音乐。

是的，当一项新颖的、能改变范式的技术出现时，十几岁的工薪阶层白人直男用它来做他们一直在做的事情：作弊，玩游戏，看美女，听脏话和听愚蠢的摇滚乐。不要对我翻白眼；我并不孤单。当时我们都是互联网的新手，想知道它是用来做什么的，它能做什么，而硅谷的新贵们却在《时代》和《新闻周刊》上告诉我们，万维网终将成为我们的一切。

我把这个感人至深的起源故事转述给你，是想告诉你，信息时代大约有三十年的历史。这个时代足够长，可以成为美国真正的“时代”，比如镀金时代或原子时代，但还没有长到让我这样的年轻人（傻笑）无法回忆起没有信息时代的生活。我还能记得没有互联网的那些日子，我确实记得。这也意味着，当登录 "网络 "或 "web "之类的东西还是新鲜事物的时候，我还记得人们是如何谈论它的，而在此后的三十年里，它又是如何没有像我们想象的那样得到真正的发展。

当然，互联网，无论好坏，彻底改变了一切。然而，Web 1.0 布道者所预言的无限技术乌托邦从未实现。我们仍然工作得太多，死得太早，为错误的事情争吵得太大声，为爱和同情而挣扎，无法决定周末晚上看什么节目。

但至关重要的是，我们也避免了被大肆炒作的网络灾难。我们挺过了“千年虫”困难。资本家们利用人性监控用户的数据。我们知道这事，心里也很平静。而且怎么说，我们最终还是接受了将信用卡信息和个人照片放到网上的做法。也许人们会觉得现在的世界一下子就崩溃了，但就像......殖民主义、种族主义、性别歧视、狂热、财富囤积、工业污染和资源开采并不是什么新鲜事。它们只是我们无法偿还的沉重债务——无论如何，都不会比账单上的利息复利更快。

现在是2023年，我们已经到达了过去的互联网时代和即将到来的人工智能时代之间的分界线。但请原谅我不会鼓掌欢迎。细节可能有所不同，舞台可能已经转移，利害关系可能已经加剧，我们对总体苦难的认识可能更加尖锐，但总的来说，我们的处境与 1993 年时差不多：全球严重分裂，营养不良，可能处于社会和经济毁灭的悬崖边上，对我们过去和现在的罪孽耿耿于怀，但仍有巨大的潜力来兑现我们的承诺，即建立一个体面、自由、公平的世界，让所有人都能生活，甚至是繁荣昌盛。

要是说我们从过去的三十年中学到了什么的话，我认为我们可以看到未来的三十年不会如我们想象的一样。新时代的到来不会阻止追求利润的预言家们做出大胆、愚蠢的保证，也不会阻止他们为自己带来的火灾敲响警钟。

综上所述，我不打算发表一个关于人工智能的长篇脏话，尽管我愿意用微弱的赞扬来诋毁它。坦率地说，我认为它将在某些领域给我们带来质的飞跃，而在另一些领域则会带来倒退，更多的小众长尾可能性会带来混乱和毁灭。尽管如此，我认为三十年后，我们仍会就产出、可负担性、平等、可持续发展、健康、幸福和地缘政治剑拔弩张等问题展开极为相似的重大而紧迫的对话。

我之所以写出这篇文章，是因为我读到了著名风险投资家马克·安德森（Marc Andreessen）《为什么人工智能会拯救世界》（Why AI Will Save the World）的文章，他显然是通过宣传来欺骗我们，为自己诱人的既得利益服务。他在最空洞的真空中吹捧人工智能。人工智能这片原始水域将为人类和技术领域开创全新的时代。我们应该对其进行适当的深入研究，以确保其可行性；现在，让我们深吸一口气，对其进行测试。

增强是错误的框架工具

我对乌托邦式人工智能福音主义的第一个批评在于使用“增强”（Augmentation）作为通用功能。安德森认为，人工智能将“增强”人类智力，从而提升成果。然而，增强意味着一种补充效用。

安德森以此为贯穿线，暗示我们将主要利用人工智能为人类提供目前个人和集体能力所无法提供的效用。人工智能将为我们提供一种近乎无限且不断发展的按需智能，它将提高决策的速度和质量，教育我们，与我们一起社交，与我们一起创新，不知疲倦地从事生产工作，消除（或大大抑制）我们最坏的冲动。从理论上讲，将人类的核心功能外包给基于人工智能的技术，可以“解放”人类从而减少工作、更好地工作，让人们可以从事更高层次、更独特的人类活动。这我懂，这在某些方面听起来是正确的，实际上也真的可能会实现，但专注于增强，我们会错失森林。安德森在他的论点中做了补充，犯了我们一直犯的同样的错误。

自奥杜韦文化（Oldowan，广泛分布于非洲大陆的旧石器时代早期文化）以来，人类一直在创造工具和技术来帮助维持生存。新的创新通常被认为是释放时间、减轻身体和精神压力、产生资本和开启更多创新的途径。现在还没有像“节省时间”、“省钱”、“缓解担忧”、“活得更长”、“找到爱情”、“约会”或 “快速致富”这样引人注目的广告文案。在个人层面上，这些都是夺人眼球的信息，我们只是不断寻找更具创造性的措辞方式和新的应用程序来帮助我们更好地满足需求。当然，这些都是互联网的承诺，也是美国、汽车、微波炉、商业航空旅行、加密货币和Bumble交友软件的承诺。

当然，自从我们的史前先辈制造出石制匕首，将粪便埋在泥土和灌木丛中，以免被乳齿象啃食之后，生活已经得到了不可估量的改善。然而，尽管我们在互联网时代取得了种种进步——确实是几个世纪以来令人震惊的创新——我们仍在与当初的基本担忧作斗争：人们过度劳累、焦虑、孤独、生病、暴力，难以支付账单。尽管有了这些增强功能，但我们仍然需要打两份工、投票淘汰法西斯分子、卖肾支付化疗费用，以及殖民火星以确保我们能继续生存下去。虽说有了核武器和自动武器，但谁又觉得更安全了呢？虽说有了沟通渠道，但人们仍然无法组织起来防止人权倒退。

技术并没有真正增强人类的潜力，而是加速和放大了人类的潜力。与过去的重大创新一样，人工智能将使我们能够做得更多（放大）、更快（加速）。我们不能保证我们用它做的所有事情都会是好的，人工智能也不会神奇地阻止我们做愚蠢或邪恶的事情。人工智能会出现故障或失灵，或者让我们做一些我们没有预料到的事情，产生我们无法预测的结果。ChatGPT让人产生幻觉，它不失为是一个更迷人、更温和的例子。人工智能威胁要做的，而且坦率地说，它将要做的，就是增加人类系统中可用的总熵。是的，我们也许能治愈大量无法治愈的罕见疾病，但流氓国家在冰岛上空引爆电磁脉冲的可能性也更大——即使是意外。

只有当我们不继续提高价格和压低工资、确保公平地获得权利、真的能用节省的时间做一些有价值的事，而不是解雇20%的员工来避免支付额外的带薪休假费用，那么节省时间和金钱、降低风险和压力、增加资本和机会、提供帮助和护理等福利才显得重要。从技术和经济的角度来看，仍有太多人生活在刀刃上，20世纪80年代的人们对这种生活方式应当并不陌生。

人工智能确乎会通过纯粹的随机机会 "拯救世界"，因为它让我们在末日轮盘上有更多的旋转。人工智能甚至可能让我们更擅长在末日轮盘上旋转。它没有降低负面影响的风险，没有完美地消除之前存在的偏见和不公平，没有防止人们操纵游戏。假定人工智能会像我们所希望的那样，为我们带来切实而持久的好处？假设有严重缺陷的人可以做出完美的东西——自从迈尔斯·戴维斯(Miles Davis，美国小号演奏家)创作了《Kind of Bule》以来，这种情况从未发生过。你还假设在人工智能赋能的地球上，最权贵的人会发现一种集体的无私精神。然而他们还没证能明有这种无私存在。

富贵之人如何看待你我

人是什么？人有价值观和目标，但人是在市场中活动的人。婚姻市场、就业市场、货币市场、思想市场，等等。人们什么是？人们是经济单位。我是30多米高的巨人。而人们是一群侏儒，但他们却形成了一个市场。

——罗根·罗伊（ Logan Roy），《继承之战》，第四季，第01集

迈克尔·金斯伯格（Michael Ginsberg）：我为你感到难过。

唐·德雷柏（Don Draper）：我一点也不会考虑你。

——《广告狂人》，第五季，第09集

2020年1月，我参加了在加州卡拉巴萨斯举行的智库峰会。在峰会上，一位亿万富翁揭露了富得流油的人是如何看待普通人的。他们没有单独地考虑人。他们只考虑大集体中的人：投票集团、市场、劳动力、暴徒、军队、国家、种族等。唯一能拨动他们感觉神经的人，是他们认为与自己平等的其他人。净资产是他们判断某人是否值得关注的主要标准。我并不是唯一一个注意到这一点的人；格拉斯·洛西科夫（Douglas Rushkoff）在他的《富者生存：科技亿万富翁的逃离幻想》（Survival of the Richest: Escape Fantasies of the Tech Billionaires）一书中作论同样地阐述。

超级富豪有两个主要目标：权力和保护。控制大集团的权力，以及保护自己不受他们控制。对于无法掌握的事物必须与之保持距离。私人碉堡、安全部队、岛屿、游艇、喷气式飞机、围地、汽车、学校、建筑、社区等。他们不会观看或阅读他们没有拥有或不曾委托的新闻。他们不会雇佣忠诚度存疑的人。他们直接游说民主机构，而不是提供纳税，或者在某些情况下也不投票。他们基本上不知道大众对他们的看法有多负面，因为耳边没有人会告诉他们，而且可以肯定的是，他们不会读你或我写的任何文字。暴富带来的最大奢侈就是可以避开所有人，除了那些他们选择碰到的人。

你会注意到，安德森的文章使用了大群体词，“歇斯底里”、“恐慌”、“世界”、“文明”和“社会传染”，他很少提及个人，而是提及复数亚群体和“冲突”等委婉语。安德森是从6万英尺的高空俯瞰人工智能，他太脱离了地面，以至于忘记了人工智能原本的样子。他也并不例外。在财富的估算中，进步就是一台发动机，里面装着面目全非、没有灵魂的大众，由伟人操纵踏板和方向盘，争先恐后地到达新的地方，这样他们就可以用自己的名字来命名地平线

没有一个财富具有十位数的、自尊自重的人会把控制权交给人工智能，他们也不会任由人工智能摆布。这就是为什么当你读到亿万富翁对人工智能的畅想时，他们经常把人工智能称为是理想、服从、顺从的帮手，让解放的个人超越世俗、摆脱不便和告别不完美。他们实际上并不是在谈论我们；我们不是为了超越而被选中的。

人工智能的宗旨是帮助人类推动进步。在大众破产、市场崩溃时收拾残局。确保合适的人首先到达理想的彼岸，并确保他们的名字命名体育场、河流和公司。

如果你把世界想象成一个棋盘，人甚至连棋盘上的兵都算不上。兵代表了数以百万计的人类。后线棋子代表资本、技术、政府、房地产和信息。但将就是将；受到行动和死亡的限制。这听起来很阴谋论，但这只是竞争。超级富豪们相互竞争——争夺地位、权力、金钱、配偶，最重要的是，争夺遗产。将的唯一目标是生存，由于将无法直接和对方将交手，所以它利用文明资源来确保自己安全通行，为自己和身后的遗产创造具有文明价值的资源。永生对伟人来说是一种实际的可能性，可对我们普通人来说则是一篇伦理文章。

人工智能是一种数字前沿、一种资源，是富贵之人以自己的方式瓜分、运用和塑造的未知领域。任何与此相反的论断都与自农业发明以来的每一次创新背道而驰。人工智能不会引领我们走向我们以为要去的地方，人工智能会带着我们走向所有者和大股东们指定的地方。或者，用《侏罗纪公园》中善良的伊恩·马尔科姆博士（Dr. Ian Malcolm）的话来说，“上帝创造了恐龙，上帝也毁灭了恐龙。上帝创造人类，人类毁灭上帝。人类创造人工智能。人工智能毁灭人类。人类成为上帝。”

但是我们有理由抱有希望

人工智能的大规模应用很可能不会导致我们的灭亡。工具只有在有意或无意的情况下才会变成武器，就像人工智能被视为防止灾难的护栏一样，下一个时代也会有人为护栏分配护栏。如果永生有赖于文明的延续，那么大规模灭绝文明就没有意义了。整个有记载的历史都证明，只要资本仍然需要劳动力，只要劳动力的数量足够大，那么随着时间的推移，情况大体上会继续逐步改善。

在全球范围内，贫困率处于历史最低水平，识字率和预期寿命处于历史最高水平。总的来说，我们的生活比以往任何时候都更加舒适，权利分配更加公平。我们可以将大部分进步归功于上个世纪。坦率地说，这并非一无所获。同时，这也远谈不上完美。

是的，我们的生存风险更高了；人类发展指数（Human Development Index）高的国家，民主正在倒退；但我们比以往任何时候都更有能力面对眼前的危险。撇开人工智能不谈，我们仍然拥有丰富多彩的工具、技术、价值观和行动，可以让所有人在更高的生存层面上运作。大多数的挑战都是因为太多权力滔天的人在很长的时间内做得太少，他们没有清晰的组合方案。只要齐心协力，只要众志成城，挑战并非无法解决。我们非常确信的是，我们可以保护地球免受彗星和小行星的攻击。坦率地说，这太疯狂了。

关于人工智能的法规和限制将会出台。要想确保摧毁彼此，就必须保持原子时代的那种令人不安而又持久的半敌视状态。人工智能将夺走一些工作，杀死一些人，使世界不那么平等，带来大规模的腐败和渎职。所有这些都是真的。人工智能还将创造新的就业机会，拯救生命，让人们摆脱贫困，带来司法上的制衡。人工智能可以做出这两方面的事。

是的，马克·安德森（Marc Andreessen）——或者更准确地说，是他的代笔——洋洋洒洒写了一篇文章来赞扬这一闪亮的新技术飞跃。他鼓励我们所有人都加入进来，加入他的行列，用我们不理解的工具建立一个勇敢的新世界，并将我们大多数人吓得半死。我们应该持怀疑态度。他的公司和其他几十家公司一起，向大量人工智能企业注入了数以十亿计的风险投资资金，因此他的公司和经济的一大块前沿领域都岌岌可危。如果他表现得不温不火，对他也没有好处。

然而，互联网时代虽然改变了我们的生活方式，但并没有从根本上改变生活的艺术和科学。我们花在手机上的时间越来越多，花在恋爱上的时间越来越少，花在见证21世纪疯狂的时间越来越多，但歌曲却依然如故。我们大多数人都有瓦遮头，有几近糊口的工作，对社会的治理有一定的发言权。我们比以往任何时候都面临着更大的风险，但我们比以往任何时候都有更多的人不必在树林里拉大便。

我们的床垫比以往任何时候都舒适，空调让我们能够在酷热难耐的气候中建造没有特色但引人注目的特大城市。较之三十年前，又新增几十个国家允许LG BTQ+群体结婚。进步就是进步，无论多么缓慢、多么不公平、多么受挫地从山上滚落下来。我们不应该满足，但很难不心存感激。[举一个非常私人的例子：如果我今天用1993年的吸入器治疗哮喘，那么我早就死了，但呼吸技术的进步（以及大量的有氧运动）意味着我已经能跑15场半程马拉松了。这真是太棒了；而我需要一份薪水稳定的工作和强大的处方计划才能负担得起每月的呼吸费，这可就没那么棒了]。

人工智能不会拯救世界，它确实可能会积极加速其内爆。事实上，我们给自己判死刑的可能性比以往任何时候都大。尽管如此，每当有重大事件将我们带入未知世界时，我们都曾来过这里——从长矛到核武器，从电报到互联网，从印刷机到流水线。虽然战争和天气比以往任何时候都更致命，我们应该对此感到愤怒，但我们仍然更善于做好准备和预防。也许这只是人类进步的推动力——我不是说这是理想状态，但也许社会比我们用来改变社会的工具更难改变。人工智能将汽油和木柴泼在人们点燃的火堆上，这些人可能只想看着世界燃烧，而有钱的技术征服者仍然想告诉你，这就是我们取暖的方式。我想说他们是在欺骗我们，但如果让我猜的话，我觉得他们不是在跟我们说话。我们到不了他们的私人岛屿。

无论发生什么，不管事好的还是坏的，都会比以前发生得更快、更可怕、更奇怪。不过，我有一种预感，三十年后，我们会在这里为这段历史写下押韵的对联......而我们中的很多人可能会痛恨其中的每一个字。

但在此之前，而且更有可能的是，我们大多数人会利用人工智能来 “节省时间”、“省钱”、“缓解担忧”、“活得更长”、“找到爱情”、“约会”或 “快速致富”。我们会成功吗？我不知道。其他人也不知道。