人工智能竞赛应设置“减速阀”吗？

　　美国《时代》双周刊网站8月17日刊登题为《想办法让人工智能竞赛慢下来的人》的文章，作者是比利·佩里戈，内容编译如下：

　　在英国北部城市设菲尔德一间不起眼的办公室的角落里，一台满载英伟达芯片的小型服务器正在嗡嗡运转。

　　这是全球各地如雨后春笋般涌现的大型数据中心的缩影：这些规模堪比城镇、能耗巨大的计算设施，是前沿人工智能（AI）模型在现实世界中的载体。

　　在设菲尔德，英国阿莫多设计公司的工程师们正在用8块芯片，测试一套监控系统。他们希望这套系统有朝一日能够部署到每一座数据中心，缓解AI研究者对自己开发的技术可能毁灭世界的担忧。

　　必要性

　　7月下旬，1300多名前沿AI企业的员工签署一封公开信，警告AI的飞速发展可能让人类不久后失去对它的掌控。他们在信中表示，人类必须放缓AI的发展节奏，这样才能争取更多时间开展安全研究，避免灾难性后果。但他们同时写道，受企业之间和国家之间激烈竞争的影响，放缓AI发展几乎无法实现。这些顶尖科学家表示，AI竞赛已经沦为军备竞赛，放慢脚步就意味着把胜利拱手让给不愿减速的竞争对手。

　　这封公开信的核心诉求，是希望美国政府支持一项国际行动，开发相关工具，让各方都能够放缓AI竞赛的脚步。这1300多名国际顶尖AI研究者认为，这一点至关重要，他们因此公开发出呼吁。

　　到目前为止，从事这方面工作的人员寥寥无几。阿莫多设计公司首席执行官汤姆·米尔顿估算，全球全职从事“AI验证”工具开发的工程师不足50人，其中9人任职于阿莫多公司；此外还有几十名政策研究人员分散在少数企业与科研机构。与此同时，全球顶尖科技企业正在全力以赴，投入数万亿美元资金，打造更强大的AI系统。开发减速工具的资金大多来自学术界和慈善捐赠。

　　28岁的米尔顿说：“从事这项工作的人如此之少，实在令人意外。”几年前，阿莫多公司接受委托，开始这方面工作。米尔顿本人也是在机缘巧合之下进入该行业的。

　　在设菲尔德，3名工作人员挤在计算集群旁，头顶的空调机组正在全速运转。他们这套小规模原型机运行时温度很高，尚未达到可用状态。技术层面仍存在重重阻碍，但还有一个更大的政治难题。米尔顿说，除非大国坐到谈判桌前，达成AI减速协议，否则这套系统就发挥不了实际作用。

　　至少就目前来看，达成这样一份协议的可能性微乎其微。但阿莫多公司的工程师们十分清楚，政治选择建立在技术可行性的基础之上。冷战时期能够达成限制军备竞赛的条约，正是因为卫星、测震仪等新技术，让双方可以验证对手是否遵守约定。米尔顿认为，AI领域也会迎来类似的时刻。等到那一天到来时，他希望自己已经做好了准备。

　　可验证

　　没有人知道AI减速条约具体可能有哪些内容。但阿莫多公司的工程师们认为，既然数据中心是AI运行的场所，条约大概率需要对数据中心开展监控。

　　米尔顿表示，阿莫多公司目前搭建的原型机，未来有望为数据中心提供两项关键验证保障。

　　第一，确认该数据中心仅用于推理运算。也就是运行已有的AI模型，而非训练新的、更强大的模型。

　　第二，确认数据中心正在运行双方约定好的模型。例如通过了特定安全测试的模型，这些安全规范甚至可能已经被写入法律。

　　为演示这套系统的工作方式，阿莫多公司的一名工程师登录嗡嗡作响的服务器，启动两套独立系统，这两套系统均搭载了OpenAI开发的开源模型。

　　他介绍说，第一套系统就相当于企业通常部署在数据中心内的AI模型。第二套系统则是“验证器”。它会从数据中心抽取数据片段，在自己的模型上重新运算，确认该数据中心实际运行的模型，是否与运营方声称的版本一致。

　　演示过程中，这套系统成功完成了验证。验证器对原始模型的输出结果进行运算，给出高置信度判定，确认该模型是GPT-OSS-120B，判定结果完全准确。

　　局限性

　　然而，还有几个重要问题，说明阿莫多公司的这套解决方案尚不具备落地条件。

　　现阶段，该系统仅能处理未加密数据，但绝大多数高敏感业务都以加密方式进行。米尔顿表示，下一版系统将采用“零知识”密码学技术，大幅减少系统所需的未加密数据量。

　　第二个局限是，部署这类系统，需要对现有数据中心进行改造，包含一个名为“网络监听”的操作，这需要把工作芯片的数据复制到同一建筑物内的其他验证设备上。一些数据中心位于全球安防等级最高的建筑内，那些地方存放着价值数万亿美元的知识产权与海量私人数据。至少目前，没有任何头部AI企业愿意开放这样的访问权限。

　　但米尔顿表示，这件事并不像听起来那么可怕。历史上已有军控先例，国际机构可以对敏感设施开展核查，包括核武器和化学武器。核查既能确认设施遵守国际法，又不会向对手泄露核心技术秘密。阿莫多公司希望借鉴这些原则，打造一套系统，向数据中心安全区域之外仅输出“验证通过”或“验证失败”这样的低信息量信号。

　　阿莫多公司表示，该公司计划把AI验证的全部工作开源，让各方都可以查询，了解系统是如何工作的，确认它不存在安全漏洞。

　　另一个局限是，验证系统本身也需要消耗算力。这会大大减少数据中心的整体可用算力，进而压缩其利润。记者实地看到的这套原型系统，需要消耗的算力达到被监控模型算力的三分之一到五分之一。阿莫多公司的工程师们表示，未来有望实现效率的大幅提升，因为理论上，系统无需监控每一次运算，只需要随机抽取部分计算样本，就可以达到验证目的。

　　米尔顿承认，该公司的技术至少目前还并不完美。他的设想是，技术随着时间取得巨大进步，最终实现干预最小，同时最大限度保护隐私。他说：“我们的观点是，验证机制会逐步完善，不会从第一天就做到绝对可信、绝对安全。假以时日，我们可以开发出能够开展深度验证的系统。”

　　米尔顿说，很多AI研究者一个人的收入，就已经超过他整个项目几百万美元的预算。如果按照公开信里AI从业者呼吁的那样，开展大规模研发，很快就能开发出更先进的工具。

　　他说：“说实话，我们能成为值得一提的参与者，已经很不可思议了，更别说参与规模最大的项目之一了。”

　　可行性

　　AI验证技术尚处在萌芽阶段，但近几个月AI能力飞速提升，让这一领域获得了大量关注。

　　美国进步研究所今年8月发布建议，呼吁美国政府联合前沿人工智能实验室、芯片厂商、超大型数据中心建设企业，以及其他国家政府，加快AI验证工具的研发。该研究所写道：“从核武器军控的历史经验来看，验证协议落实情况的能力，往往是各方愿意签署协议的前提。更完善的验证技术，能够解锁更多可行的合作协议。”

　　《人工智能2040》的作者们也持相同看法，这份报告是曾经广为流传的《人工智能2027》的续作。他们提出的人类安全应对超级AI到来的“A计划”，将数据中心监控技术作为重要实现手段。

　　Anthropic公司近期宣布，将投入资源“搭建一套可信的减速或暂停机制所必需的系统”。该公司在6月的一篇博客中写道：“这套系统可以让前沿AI开发者验证全球其他开发者是否真正暂停或放慢研发，同时防止别有用心者借集体减速的机会，暗中实现技术反超。”

　　米尔顿说，阿莫多公司已经和一些国家的政府就该技术开展初步沟通，但拒绝透露具体是哪些国家，也没有给出更多细节。

　　但至少目前，美国政府显然并不积极。白宫科技政策办公室主任迈克尔·克拉齐奥斯今年2月表示：“我们完全反对AI的全球治理。我们认为，如果AI受制于官僚机构与集中管控，就无法开创更美好的未来。”

　　当然，自这次发言之后，白宫对AI监管的态度略有缓和。受新一代模型展现出的网络战能力触动，美国开始在一些前沿模型发布前对它们进行测试。但白宫官员依旧强烈抵触对AI行业采取强硬干预。

　　尽管现阶段这套技术落地的政治条件并不成熟，但米尔顿并不气馁。他预计，更强大的AI模型很快就会问世，带来更加令人忌惮的能力。到那时，各国都会“足够警惕”，或许就会坐到谈判桌前。他表示，存在这种可能性，就“值得投入资金，为它打造一种可选的方案”。（编译/王栋栋）