世界互联网大会人工智能专委会召开“前沿人工智能安全风险的协同治理”研讨会

　

　　7月15日下午，由世界互联网大会人工智能专委会主办的“前沿人工智能安全风险的协同治理”研讨会在北京召开。世界互联网大会秘书长任贤良出席会议并致辞，联合国副秘书长兼数字和新兴技术特使阿曼迪普·辛格·吉尔发表视频致辞。

　　会议认为，当前，前沿人工智能加速发展，大模型、智能体等技术能力持续演进，正在深刻影响经济社会发展和全球科技创新进程。与此同时，模型滥用、网络安全、虚假信息、跨境扩散等风险交织叠加，前沿人工智能安全风险呈现出复杂性、跨域性和不确定性，对风险识别、评估、监测、预警、干预和预防等治理环节提出了更高要求。面对前沿人工智能带来的新型安全挑战，单一国家、单一机构或单一技术路线难以独立应对，亟须政府机构、国际组织、企业、高校、科研机构和智库等多方加强协同，推动形成更加开放、包容、有效的前沿人工智能安全治理体系。

世界互联网大会秘书长任贤良致辞

联合国副秘书长兼数字和新兴技术特使阿曼迪普·辛格·吉尔发表视频致辞

　　会议就加强前沿人工智能安全风险的协同治理提出三点建议：一是加强风险识别研判。围绕前沿人工智能能力演进和应用扩散带来的新趋势、新形态，持续提升风险的识别、评估、监测、决策能力，增强对重大风险、长远风险和跨领域风险的前瞻研判。二是强化制度规则衔接。推动政府治理、企业内部治理、行业自律和社会监督有效衔接，促进技术标准、评估方法、治理流程和责任机制相互支撑，引导人工智能技术在符合科技伦理、公共利益和安全要求的前提下创新发展。三是拓展国际合作路径。发挥国际组织平台作用，围绕前沿人工智能安全治理重点问题加强交流对话，推动各方在风险认知、治理机制、能力建设和协同应对等方面凝聚共识、深化合作。

　　国际人工智能治理协会主席约翰·希金斯；中国人民大学高瓴人工智能学院吴玉章讲席教授、北京前瞻人工智能安全与治理研究院院长曾毅；360集团首席科学家、高级副总裁潘剑锋；中国信息通信研究院人工智能研究所所长魏凯；微博COO、新浪移动CEO、新浪AI媒体研究院院长王巍在现场分别从全球人工智能治理互操作性、模型安全评估、智能体安全、人工智能原生安全体系、平台可信治理和国际协作等角度作主旨演讲，分享了观察与建议。剑桥大学智能未来研究中心教授肖恩·欧·海格缇通过视频发言参与研讨。

　　圆桌对话环节由曾毅教授主持，与会嘉宾围绕“前沿人工智能风险的协同应对”展开深入交流。联合国人工智能高层顾问机构专家、IQuilibriumAI常务董事兼首席执行官希梅娜·索菲亚·比维罗斯·阿尔瓦雷斯；经合组织人工智能未来专家组成员、AI Safety Connect创始人塞勒斯·霍兹；安恒信息副总裁林明峰；华为AI治理产业发展首席专家柳嘉琪参加讨论。嘉宾围绕智能体等新兴技术带来的风险、治理机制的可执行性与互操作性、企业安全实践和国际协作等方面进行了深入讨论。

　　本次研讨会由北京前瞻人工智能安全与治理研究院承办，360集团协办。世界互联网大会人工智能专委会成员、大会会员代表，以及来自政府部门、驻华使领馆、国际组织、科研院所、企业等机构的120余位代表以线上线下相结合的方式参加了会议。