任贤良：构建全球人工智能安全与治理体系

　　近日，《人民论坛》杂志刊发世界互联网大会秘书长任贤良署名文章《构建全球人工智能安全与治理体系》。文章指出，人工智能是新一轮科技革命和产业变革的重要驱动力量，是能够造福人类的国际公共产品。当前，人工智能引发的风险挑战日益复杂严峻，单一国家或地区难以独立有效应对跨领域、跨区域、跨系统的复杂风险。凝聚共识，构建全球人工智能安全与治理体系刻不容缓。需从全球层面，加快构建系统前瞻、协调高效、普惠包容的全球人工智能安全与治理体系，提升各国参与治理与风险应对的能力，将人工智能的不确定性转化为共同发展的确定性，推动全球迈向更加公平、包容、可持续的数智未来。原文如下：

　　人工智能是引领新一轮科技革命和产业变革的重要驱动力，正深刻改变着人们的生产、生活、学习方式，推动人类社会迎来人机协同、跨界融合、共创分享的智能时代。在带来前所未有发展机遇的同时，人工智能所引发的风险挑战日益复杂严峻，全球人工智能安全与治理体系存在治理滞后、协同不足等结构性问题。习近平主席在二十国集团领导人第十九次峰会上指出：“要引领数字化转型、数字经济和实体经济深度融合、新兴领域规则制定，加强人工智能国际治理和合作，确保人工智能向善、造福全人类。”探索构建具有广泛共识、系统前瞻、协调高效、普惠包容的全球人工智能安全与治理体系，已成为关乎人工智能可持续发展的重要时代课题。

　　构建全球人工智能安全与治理体系刻不容缓

　　习近平总书记指出：“人工智能带来前所未有发展机遇，也带来前所未遇风险挑战。”随着人工智能技术加速迭代和规模化应用，其风险形态和影响范围正发生深刻变化。特别是以大模型、生成式人工智能、智能体和具身智能等为代表的技术快速发展，人工智能正深度嵌入经济社会运行体系，向更广泛、更深层次场景拓展，相关风险不再局限于技术层面，而是呈现出跨域传导、系统性外溢的显著特征。斯坦福大学“以人为本的人工智能研究所”发布的人工智能指数报告显示，2024年，人工智能风险事件呈激增态势，报告数量同比大幅增长56.4%至233起。人工智能领域安全挑战与治理压力相互交织，成为全球共同面临的现实考验。在人工智能风险事件频发、影响不断外溢的背景下，单一国家或地区已难以独立应对由技术扩散带来的系统性挑战，现有全球人工智能安全与治理体系面临明显的结构性难题。

　　人工智能技术的跨越式发展与快速扩散，正推动其风险系统性外溢。从技术层面看，人工智能模型和算法自身仍存在内生隐患。以深度学习为代表的主流算法体系结构复杂、运行机理不透明，模型决策过程难以解释和验证，在可预测性、可控性和可追责性方面存在明显不足。一旦系统出现异常行为或决策偏差，往往难以及时溯源和修正。与此同时，受限于训练数据质量、模型设计假设及现实环境复杂性，人工智能系统普遍存在偏见固化、鲁棒性不足和输出不稳定等问题，“幻觉”现象进一步削弱模型运行的可靠性。从应用层面看，人工智能风险在大规模部署和跨场景应用中进一步放大，会增加恶用滥用行为。随着生成式人工智能工具的普及，内容生成、信息传播和决策辅助等功能被广泛嵌入公共治理、商业运行和社会生活中，人工智能生成内容的全球传播与开源模型的快速扩散，使恶意利用门槛大幅降低，深度伪造、虚假信息操纵等滥用行为显著增加，对公共安全、社会治理、公共信任构成冲击。与此同时，人工智能正持续嵌入能源、交通、金融、通信等关键基础设施和高风险行业领域，其潜在失效、操控或攻击行为都具有跨领域连锁效应，任何漏洞都可能引发系统性危机。

　　人工智能风险的累积加剧治理层面的挑战。人工智能技术的内生风险暴露当前治理框架在确保技术可控、可信方面的不足。缺乏监督的算法可能延续甚至放大已有的社会偏见；数据使用过程中的个人信息滥用，也易引发用户信任危机；系统自动决策发生错误时，责任归属难以界定，加剧治理复杂性；在安全机制不完善的情况下，数字化存储信息可能转化为系统性风险。人工智能风险具有明显的跨国界、跨领域特征，数据流动、模型部署和技术扩散，可能使单一国家或地区的监管短板演化为国际性风险。

　　治理体系滞后于技术演进，难以形成前瞻部署与敏捷应对。人工智能技术呈现出高度不确定性和快速迭代特征，关键性突破的发生路径与时间节点难以预判，而现有国际规则的制定与更新通常以多年为周期，难以及时回应技术变革，存在“治理速度差”。在方向上，由于缺乏系统化的前沿风险识别与预警机制，治理措施往往难以进行先导性部署，更多停留在事后修补层面；在协同上，多边谈判与规则协商进程缓慢，各国监管举措不同步，客观上放大跨境风险传导的治理缝隙；在工具上，面向模型安全、应用风险的监测指标体系与评估平台尚不成熟，限制监管机构在风险识别、动态评估与精准干预方面的能力。

　　多方协作机制不足，治理碎片化趋势加剧。人工智能具有跨领域、跨行业、跨场景的显著特征，其治理涉及政府、国际组织、企业、科研机构与社会公众等多方主体。然而，现有的多利益攸关方治理机制在职责划分、责任边界与监督方式上仍不清晰，难以形成协同行动合力。与此同时，地缘政治博弈与技术竞争持续挤压国际合作空间，部分国家通过出口管制、技术封锁和“脱钩”策略谋求优势，客观上加剧规则碎片化，削弱全球层面对系统性风险的集体应对能力。全球人工智能治理体系面临协调不足、执行乏力的现实困境。

　　数智鸿沟持续扩大，制约全球共识形成与治理协同。随着人工智能深度融入经济社会运行体系，“数字鸿沟”正演化为“数智鸿沟”，从早期的“接入差距”演变为“素养差距”，并进一步向当前基于数据驱动的“智能差距”迭代，成为阻碍全球包容性发展的障碍。当前，全球人工智能发展呈现出高度不均衡态势，算力资源、核心技术与高端人才集中于少数国家和地区，多数发展中国家面临“算力贫困”与创新壁垒，部分国家在网络安全防护、风险预警和应急处置方面能力不足，容易成为网络攻击和技术滥用的薄弱环节，对全球数字生态稳定构成潜在威胁。国际电信联盟（ITU）《2024年事实与数据》报告显示，高收入国家网络已近全域千兆覆盖，低收入国家接入率仅27%，且资费负担沉重。技术领先国家更关注前沿突破与竞争优势，而广大发展中国家则更迫切需要能力建设、技术普及与风险防护支持。不同国家在技术基础、治理能力与风险承受水平上差距显著，不仅影响、阻碍发展中国家共享人工智能技术红利，也导致人工智能全球治理的诉求差异，难以形成共识，影响全球人工智能安全与治理体系的构建。

　　全球人工智能安全与治理的国际探索与中国方案

　　习近平主席指出：“人工智能对未来发展具有重大意义，应该使之为各国各地区人民造福。我们要以全人类福祉为念，推动人工智能朝着有益、安全、公平方向健康有序发展。”近年来，各方正通过多层次、多方向的努力，共同推进全球人工智能安全与治理体系的构建进程。国际社会在多边机制、区域规则、国家政策以及产业与学术实践等层面展开积极探索，其中，中国积极参与并推动全球人工智能治理进程，贡献出人工智能安全与治理的中国智慧。

　　❖ 人工智能全球治理的国际探索

　　国际社会在不同层面探索人工智能全球治理，但面临规则分散、协同不足、能力不均衡等问题。如何在此基础上进一步凝聚广泛共识，构建更加前瞻、协同和包容的全球人工智能安全与治理体系，是各方需要面对的共同议题。

　　国际多边与顶层机制。在国际治理顶层设计上，联合国正通过强有力的议程设置发挥核心协调作用。秘书长高级别咨询机构相继发布治理报告，指明全球人工智能治理方向；联合国大会密集通过多项关键决议并确立《全球数字契约》，为全球治理提供行动纲领；教科文组织、国际电信联盟等专门机构在伦理规范、应用导向及儿童保护等垂直领域细化治理维度，构建起全方位的规范体系。G20、G7、金砖国家及上合组织等国际多边机制，以及全球人工智能安全峰会（英国、韩国、法国）等平台，通过发布宣言、倡议，加速在安全管控、普惠发展及军事伦理等关键议题上凝聚全球共识。世界互联网大会成立人工智能专委会，发布《为人类共同福祉构建全球人工智能安全与治理体系》等报告成果，同时通过举办研讨会、开设研修班等方式，推动建立具有广泛国际共识的全球人工智能安全与治理体系。

　　区域与国家治理探索。各区域与主要国家立足自身发展阶段与制度背景构建人工智能安全与治理体系。欧盟出台具有法律约束力的《人工智能法案》，以风险分级为核心建立系统化监管框架；美国提出《人工智能风险管理框架》，强化前沿模型安全评估，并通过出口管制等措施突出国家安全导向；新加坡致力于培育可信创新生态；阿盟与非盟侧重于战略引领与政治共识的区域一体化；东盟聚焦技术形态的规范指引；拉美地区则强化高层对话与政策协调。这种“多点突破、协同共治”的格局，为全球治理体系的完善提供丰富的实践样本与制度储备。

　　产业自律与学术探索。作为人工智能技术创新和应用的直接参与者，产业界与学术界在全球人工智能安全与治理中，正发挥日益重要的基础性作用。学术界通过跨国研究网络和专家对话机制，不断深化对前沿技术风险、系统性影响和治理工具的理论研究，为政策制定提供科学支撑。产业界则通过建立内部安全框架、风险评估机制，遵循负责任研发原则，探索将安全要求嵌入技术设计、模型训练和产品部署的全过程。

　　❖ 中国的人工智能全球治理方案

　　在全球人工智能治理面临规则碎片化、发展失衡和协同不足等挑战的背景下，中国立足自身发展实践，逐步形成一套兼顾安全、防控风险与促进发展的治理理念与实践路径，为国际社会提供了具有重要参考价值的中国方案。

　　理念层面，中国发布《全球人工智能治理倡议》，提出以“以人为本、智能向善”为重点的人工智能治理价值取向，倡议各国“秉持共同、综合、合作、可持续的安全观，坚持发展和安全并重的原则，通过对话与合作凝聚共识，构建开放、公正、有效的治理机制，促进人工智能技术造福于人类，推动构建人类命运共同体”。

　　制度建设层面，中国围绕人工智能全生命周期，持续推进系统化的安全与治理框架构建。相继发布《人工智能安全治理框架》1.0版和2.0版，对人工智能技术内生风险、应用风险和衍生风险进行分类梳理，明确提出以风险分级分类管理为基础，将安全要求嵌入模型研发、部署和应用全过程。这一框架注重将前沿风险防控与现实应用治理相结合，强调统筹技术创新和应用实践，构建跨国界、跨领域、跨行业的协同治理格局，为各类治理主体提供相对清晰、可操作的政策指引。

　　实践探索层面，中国在算法、数据和应用层面同步推进。通过推进落实模型安全评测、算法备案、生成合成内容标识等制度文件，加强对高风险模型和应用场景的规范管理，提升人工智能系统的可控性和可追溯性。

　　国际合作层面，中国积极推动人工智能治理的多边化和机制化进程，强调以联合国为中心，通过国际组织和多边平台开展政策对话、经验交流与能力建设合作。2025年，中国发布《人工智能全球治理行动计划》，提出围绕前沿风险应对、治理规则对接和能力建设等重点方向，深化国际协作，倡议成立世界人工智能合作组织，旨在为各国特别是发展中国家参与全球人工智能治理提供平台。

　　应对人工智能风险，构建系统前瞻的安全与治理体系

　　面对全球人工智能风险挑战，单一国家、单一部门已难以有效应对跨领域、跨区域、跨系统的复杂风险。亟需从全球层面加快构建兼具前瞻性、系统性的人工智能安全与治理体系，提升对系统性风险的整体应对能力。

　　强化前瞻研判与风险预警，防范前沿技术失控风险。人工智能技术迭代速度快、突破路径不确定性高，模型能力与安全特性高度复杂，需坚持“科学、敏捷、协作”的原则，将前瞻研判作为构建全球人工智能安全与治理体系的重要起点，推动共识形成，加强机制建设，共建平台生态，推动治理模式由被动应对向主动防范转变。一是推动形成防范前沿人工智能系统性风险的国际共识。围绕前沿模型能力失控、规模化外溢风险等关键问题，加强政策层面对话与专家层面交流，将防范系统性和灾难性风险作为各国前沿技术发展的共同底线。二是完善前沿风险识别、评估与预警机制。依托多边合作平台，加强对前沿模型能力演进、安全特性及潜在风险的持续跟踪，探索建立覆盖模型训练、部署和演化全过程的风险监测框架，为提前识别和干预重大风险提供支撑，缩小治理与技术发展的“时间差”。三是探索共建人工智能安全评测的共性工具与平台生态。通过国际合作推动开发开放、可共享的安全测试工具、评测方法和基准数据集，开展前沿模型的联合评测与风险测试，逐步形成面向全球的人工智能安全技术工具箱，为治理决策提供支撑。

　　加强跨境规则协调，防范治理碎片化放大系统性风险。算法透明、隐私保护、内容安全等已成为全球共同议题，任何单一国家都难以独自应对。规则分化、标准割裂和监管不同步，容易形成治理“缝隙”，放大潜在风险。应在尊重各国国情和发展阶段差异的基础上，推动全球治理规则的协调衔接。其一，以发展负责任的人工智能为原则共识，提升模型透明度和可解释性，尊重隐私、加强数据治理，确保人工智能公平、安全、可靠。其二，加强重点领域治理规则的对接与互认。围绕人工智能生成内容、模型滥用、跨境应用等风险较为集中的领域，加强政策沟通与标准协同，逐步提升人工智能生成内容的可识别性、可追溯性。其三，完善跨境协作与执法协同机制。通过信息共享、联合研判和协同处置，提升对跨境滥用恶用行为的应对能力，防止局部风险通过技术扩散演变为区域性乃至全球性问题，减少治理碎片化带来的监管风险，增强全球人工智能安全与治理体系的整体韧性。

　　加强多方协作，构建协调高效的安全与治理体系

　　人工智能技术发展和实践应用涉及多方主体，包括政府、国际组织、企业、科研机构与社会公众等。实现全球人工智能安全与治理体系，除了需要全球各国形成共识，也需要不同主体的协同合作、共同参与。

　　明晰各方权责，构建协调有力的安全与治理体系。人工智能治理涉及政府、国际组织、企业、科研机构与社会公众等主体，角色差异、资源禀赋与目标取向的不同，导致在责任界定、规则落实和协同能力方面的结构性挑战。为破解责任模糊与执行困境，需构建权责明晰、协同有力的多利益攸关方治理体系。政府承担制度供给、监管执行和风险防控等职责，通过完善法律法规和政策框架，明确安全底线与合规要求，并提升对高风险模型和关键应用场景的监管执行与风险处置能力。国际组织在标准互认、规则对接、能力建设方面发挥协调与支撑作用，并支持发展中国家提升治理能力。企业切实履行安全与合规责任，在模型设计、数据治理和内容生成等关键环节强化风险管理，落实算法安全、透明度和责任追溯要求。科研机构提供前沿技术评估与风险研判的方法支撑，公众通过反馈、监督与参与提升治理包容性。

　　构建以联合国为中心的多边治理体系。构建以联合国为中心的多边治理体系，是构建全球人工智能安全与治理体系的重要方向。联合国在成员覆盖和议题整合方面具有不可替代的优势，是协调全球人工智能安全与治理资源的重要平台。需以联合国为中心，探索在联合国框架下推动多边合作从倡议性安排向制度化协作转型。一方面，在联合国框架下建立跨机构的人工智能治理协调机制，推动不同机构间议程对接与政策整合，提升全球规则的一致性与开放性；另一方面，通过跨机构合作网络、信息共享机制、跨境执法协作和能力建设平台，逐步形成覆盖风险评估、内容治理、模型测评、伦理审查等关键环节的制度化合作体系，推动形成更加稳定、分工合理、可持续的治理格局。

　　凝聚广泛共识，构建普惠包容的安全与治理体系

　　2024年6月12日，习近平主席在向联合国贸易和发展会议成立60周年庆祝活动开幕式发表视频致辞时指出，“坚持以人为本、智能向善，在联合国框架内加强人工智能规则治理”，为全球人工智能安全与治理提供建设性思路。践行“以人为本、智能向善”共识，弥合日益扩大的数智鸿沟，共建网络空间命运共同体，是全球人工智能安全与治理的重要任务。

　　落实“以人为本、智能向善”的全球共识。“以人为本、智能向善”是当前国际社会在人工智能治理领域具有广泛基础的价值共识。尽管各国在发展阶段、制度模式和利益诉求上存在差异，但维护公共安全、保障人的尊严、促进社会福祉始终是各国的共同目标。当前，地缘政治博弈和技术竞争正对全球治理合作造成冲击，以“小圈子”和排他性安排为特征的规则制定方式，削弱国际规则的开放性与协调性，侵蚀多边合作的广泛参与基础。某些西方国家将人工智能视为战略竞争工具，采取出口管制、技术封锁和供应链脱钩等措施，不仅损害长期积累的国际科技合作网络，也加剧全球治理机制的碎片化趋势。在此背景下，落实“以人为本、智能向善”的价值共识具有现实紧迫性和长远意义。无论技术路线如何分化，人工智能都应服务于公共利益和社会发展。在推进共识落地方面，联合国《未来契约》《全球数字契约》等文件，已在理念和规范层面形成广泛影响。可依托人工智能问题独立国际科学小组等机制，强化风险研判、政策咨询和科学传播方面的功能，在为联合国系统和各国政府提供专业支持的同时，为政策协商和风险沟通提供共同认知基础。

　　弥合数智鸿沟，构建普惠包容的安全与治理体系。需正视全球人工智能发展鸿沟与各国治理诉求的差异，通过技术共享与数智素养培育，提升发展中国家能力，解决发展中国家的利益关切。重视发展中国家在基础设施、算力供给、数据利用和治理能力方面的现实约束，通过技术援助、经验共享和能力对接，提升其自主发展与治理能力，使人工智能真正成为促进发展而非加剧不平等的技术力量。着力完善与各国技术能力及发展水平相适应的差异化责任体系，推动建立灵活务实、分层分类的国际协作与支持机制。根据各国发展水平、技术能力与治理基础，分类设定相应义务，在确保技术领先的开发主体切实承担前沿模型风险研判与治理责任的同时，保障受影响的各方有效行使监督权利。同时，将开放包容的多边协商平台制度化，确保各国在技术标准协调、政策框架构建与风险应对过程中享有实质性参与空间，在国际规则制定与议程设置中保障发展中国家的平等参与权和代表性，促进共同安全，提升全球数字生态韧性。通过加强跨国能力建设合作和公共产品供给，缩小不同国家在风险识别、应急响应和制度执行方面的差距，防止局部问题向系统性风险演化，为网络空间的长期稳定提供支撑。

　　携手共建网络空间命运共同体，应对全球人工智能安全与治理难题。2024年，为落实联合国大会关于加强人工智能能力建设国际合作的决议，中国提出“人工智能能力建设普惠计划”，倡导将发展置于全球人工智能治理的重要位置，推动更多资源投入发展中国家能力建设。一是助力基础设施建设，通过支持跨境通信网络建设、输出成熟的智能城市解决方案等方式，助力发展中国家在政务、交通、教育和医疗等领域实现数智化升级。例如，通过中非卫星遥感合作等项目，向多国无偿提供高分辨率数据资源，提升其在自然资源管理和公共治理中的自主应用能力。二是深化数字政策沟通与多边协作，依托《全球人工智能治理倡议》《全球数据安全倡议》等倡议文件，推动联合国层面就能力建设形成制度共识，并在中非、中国-东盟等合作框架下推进数字与人工智能合作行动计划落地，打造南南合作的重要实践平台。三是着力提升数智素养和人才能力，通过世界数字教育大会、数字研修项目和联合培训机制，围绕人工智能、数据治理、网络安全和数字经济关键领域，支持发展中国家培养兼具技术能力与治理意识的复合型人才。

　　构建具有广泛共识、前瞻系统、协同高效、普惠包容的人工智能安全与治理体系，是智能化浪潮下国际社会面临的共同课题。唯有秉持开放、公正、有效的治理理念，在统筹发展关切与安全目标的基础上推进规则协调与能力建设并行，才能不断夯实全球人工智能安全与治理体系的现实支撑。通过弥合数智鸿沟、提升各国参与治理与风险应对的能力，将人工智能的不确定性转化为共同发展的确定性，推动全球迈向更加公平、包容、可持续的数智未来。