世界互联网大会人工智能专委会开展前沿人工智能安全与治理专题调研

　　近日，世界互联网大会人工智能专业委员会依托安全与治理推进计划，先后赴华为、360集团、阿里云智能集团、安恒信息、奇安信集团、百度等专委会成员单位，就前沿人工智能的风险认知与协同治理主题开展实地调研。期间，调研组同相关企业座谈，围绕前沿人工智能的风险研判、安全与治理实践、协同治理需求等方面深入交流与探讨。

　　调研发现，随着前沿人工智能加快发展，各企业高度重视安全与治理，普遍构建覆盖开发、训练、部署到运营全生命周期的安全治理体系，将安全评估、红队测试、内容安全防护与价值观对齐等机制嵌入研发运营各环节，并积极探索智能体等新形态下的权限管控、行为监测和人机协同等安全实践。与此同时，相关企业也面临着前沿人工智能技术不断演进引发的新问题，亟待加强能力建设与治理协同来应对挑战。

　　世界互联网大会相关负责人表示，专委会将基于本次调研成果，推进前沿人工智能的风险认知与协同治理报告编写工作，深化前沿人工智能风险认知和治理就绪度研究，梳理各方关切，凝聚业界共识，评估关键风险，促进完善治理实践，推动提升国际社会对前沿人工智能风险的前瞻准备与应对能力。