诺奖得主达龙·阿杰姆奥卢：人工智能将世界推向“懦夫博弈”

　　参考消息网4月23日报道 西班牙《国家报》网站4月6日发表美国麻省理工学院教授、诺贝尔经济学奖得主达龙·阿杰姆奥卢的文章《未来人工智能的局限性》，内容编译如下：

　　无论我们是否做好准备，“人工智能代理”都正在到来的路上。虽然人工智能模型何时能够自主与数字平台、其他人工智能工具甚至人类互动仍存在很多不确定性，但毫无疑问，这种发展必将带来变革，无论是好是坏。然而，尽管围绕所谓的“人工智能代理”(一种机器无需人工干预即可作出决策的技术进步)有很多讨论和业界的炒作，但仍有许多重要问题有待回答，其中最主要的是科技行业打算开发什么样的人工智能代理。

　　采用不同的模式将产生大为不同的影响。如果采用人工智能作为顾问的模式，人工智能代理将向人类决策者提供经过个性化校准的建议，同时让人类决策者始终处于主导地位。但如果采用自主人工智能模式，机器将代表人类直接掌控决策权。这是具有深远影响的区别。

　　人类每天都要作出数以百计的决策，其中一些决策会对他们的职业、生计或幸福感产生重大影响。许多此类决策都是基于不完善或不完整的信息，更多取决于情感、直觉、本能或冲动。苏格兰哲学家、历史学家、经济学家大卫·休谟有一句名言：“理性是且只应当是激情的奴隶。”人类在作出大多数决策时，可能没有经过系统的推理，也没有充分考虑到所有的影响，但正如休谟在其名言中通过“应当”一词承认的那样，这并不至于那么糟糕。正是人性使然。激情反映了目的，它也可以在我们如何应对复杂世界的过程中发挥重要作用。

　　虽然人工智能顾问能通过提供个性化、可靠、情境相关且实用的信息优化重要决策，但人类的动机仍将占据主导地位。然而，自主人工智能代替我们作出决策会有什么问题？这难道不能进一步提升决策质量、节省时间并避免失误？

　　这种观点引出几个问题。首先，体验对于人类的学习和发展至关重要。作出决策和思考结果的行为本身(即使建议来自非人类代理)确认了我们自身的意义和目的。人类做的很多事情并不是通过计算或收集数据以决定最佳行动方案，而是探索发现的过程。如果将所有决策都委托给人工智能代理，那么这种体验将变得越来越稀缺。

　　另一方面，如果科技行业主要追求开发自主人工智能代理，那么更多人类工作被自动化替代的可能性将大大增加。然而，如果人工智能仅成为加速自动化的工具，任何关于广泛共享繁荣的期望都将化为泡影。

　　而且更重要的是，人工智能代理代表人类行事与人类自行行事之间存在根本区别。人类进行互动的许多环境既有合作的元素，也有冲突的元素。以一家企业向另一企业提供信息为例。如果这些信息对买方有足够价值，那么两家企业之间的交易就是互利的(通常也有利于社会)。

　　但要使这种交易达成，商品或服务的定价必然需要通过充满固有冲突的过程确定。价格越高，卖方相较于买方获得的收益就越大。这种讨价还价的结果往往是由规则(例如关于公平的规则)、制度(例如一旦违反就会付出代价的合同)和市场力量(例如卖方是否有向他人出售的选择权)共同决定。试想若买方以极端强硬著称，坚持不接受任何高于最低可能的报价。如果没有其他买家，卖方可能会被迫接受最低报价。

　　所幸的是，在日常交易中，这种强硬立场并不常见，部分原因是维护声誉对人们至关重要，更重要的是绝大多数人既无胆量也无意愿在日常生活中表现得如此激进。但现在想象一下，如果买方拥有自主人工智能代理，它无视人性的微妙之处，拥有钢铁般的意志，远离人之常情。人工智能可以被训练成始终采取这种不灵活的立场，而另一方将无法说服它达成互惠互利的结果。相比之下，在人工智能充当顾问的世界里，人工智能模型可能会推荐采取一种不妥协的立场，但最终会由人类决定是否遵循这条道路。

　　因此，在短期内，自主人工智能代理系统可能会让世界变得更加不平等，只有少数公司或个人能够获得能力强、可信度高的人工智能模型。但即使每个人最终都能获得同样的工具，情况也不会好到哪里去。我们的整个社会都将陷入“消耗战”式的博弈，而人工智能代理会把每个冲突场景都推向崩溃边缘。

　　这类对抗本质是危险的。就像“懦夫博弈”(两车相向加速，看谁先转向)那样，总存在双方都不退让的可能性。当这种情况发生时，双方驾驶员都会“赢”，也都会死。

　　为赢得“懦夫博弈”而进行训练的人工智能永远都不会转向。虽然人工智能可以成为人类的好顾问，实时为我们提供有用、可靠和重要的信息，但一个由自主人工智能代理主导的世界很可能会产生许多新问题，同时侵蚀该技术可能带来的许多益处。（编译/田策）

3月31日在汉诺威工博会开幕式上，参观者正在谈论展台上的仿人机器人。(法新社)