​曾毅：在人工智能发展过程中，没有任何一个国家和地区能够独善其身

　　9月3日，世界互联网大会国际组织在北京召开推动构建网络空间命运共同体迈向新阶段理论研讨会，总结推动构建网络空间命运共同体理念提出十年来的理论成果和实践经验，探讨携手构建网络空间命运共同体迈向新阶段的深刻内涵、重大意义和时代价值。联合国人工智能高级别咨询机构专家组成员、中国科学院自动化所人工智能伦理与治理中心主任曾毅在会上围绕“通过国际合作促进全球人工智能安全与治理能力建设”作主旨发言。主要发言内容如下：

联合国人工智能高级别咨询机构专家组成员

中国科学院自动化所人工智能伦理与治理中心主任 曾毅

　　作为一名研究人工智能技术的科研人员，我首先想讲的是，人工智能到底是什么。大家总讨论人工智能和机器学习的关系，人工智能和机器学习既有关，但又非常不同。人工智能不仅仅关系到机器学习，还有在学习、发育、演化等机制方面受自然智能的启发。人类的大脑在跟世界进行交互的过程当中，之所以有一个安全的框架、伦理和道德的框架，也是演化的结果。所以，我们要受到大自然的启发，研究人工智能学习、发育和演化的机制，使得人工智能以更安全、更具道德的方式逐步接近、甚至超越人类智能。对于社会、生态、文明，人工智能既可以产生积极影响，也有可能带来风险与安全隐患，但人工智能安全与治理的目的是确保人工智能稳健发展，而非掣肘人工智能的发展。

　　现在，人工智能技术仍是一个看似智能的信息处理工具，仍然会犯一些人不会犯的错误，所以要保证其内部机制的安全、可靠、可控和可治理。但实际上，我们在人工智能的设计、研发、部署、使用各个阶段，都要保障人工智能的安全，这样才能全周期、全链条地保证安全、可靠、可控，更关键的是可治理。要让“安全”成为人工智能发展的第一性原理，不可删除，成为人工智能发展的基因。我们现在应对人工智能的安全风险，更多是一种反应式的。能否变被动为主动地应对可能的风险，而非不停地给人工智能系统打补丁，这是非常重要的范式转变。

　　在人工智能发展过程中，没有任何一个国家和地区能够独善其身，我们有责任共护安全、共享发展。研究数据表明，人工智能越发达的国家出现人工智能风险的频次越高，而目前没有任何一个国家研发的人工智能可以确保绝对安全。人工智能科学技术与应用发达的国家能够更早地享受到人工智能带来的益处，却同时需要相对更早地应对人工智能潜在的风险。国际合作，是确保全球人工智能安全、可靠、可控的唯一途径。

　　今年7月，联合国大会通过中国作为主提国，140多国参与支持的“加强人工智能能力建设的国际合作”决议，这是近期人工智能领域非常重要的国际共识。反观当今，国际人工智能安全与治理体系，表现出明显的“小院高墙”“大院小门”的特点，目前还不具备行之有效、包容性足够广泛的国际治理体系，亟需建立以联合国为主渠道的全球人工智能安全与治理体系。我们不仅要通过国际合作建立相对完善、可相互借鉴的人工智能安全与治理体系，来应对近期人工智能的风险，更要未雨绸缪，集全球之智共同研究与应对前沿人工智能潜在的灾难性甚至是生存风险。系统化的安全与治理国际合作，将有力地促进人工智能在全球范围内的稳健发展与应用，赋能全球可持续发展目标与人类命运共同体的实现。