联合国大会上，各方热议人工智能发展

近日

第81届

联合国大会一般性辩论在纽约举行

人工智能治理成为热议话题

从联大一般性辩论

到随后举行的安理会高级别会议

人工智能接连“走上”联合国讲台

技术加速演进

治理需求凸显

当地时间9月22日

第81届联大一般性辩论开幕

联合国秘书长古特雷斯

在致辞中表示

人工智能技术

以惊人的速度发展

危险不在于技术本身

而在于

发展缺乏问责

技术能力缺少监管

决策缺乏透明度

他呼吁

人工智能强国

承担更大责任

目前

联合国正通过推进

《全球数字契约》落地

开展人工智能治理全球对话

设立独立国际科学小组等途径

推动全球人工智能治理

9月23日

联合国安理会

围绕“人工智能与国际安全”

举行高级别会议

有媒体称

这是人工智能安全首次

以更直接的方式

进入安理会高级别讨论

会上

AI行业相关代表和专家

受邀发言

他们认为

人工智能快速发展

带来风险和监管挑战

需平衡发展节奏与安全边界

联合国大会期间

各方热议人工智能发展与治理

美国方面提出

将人工智能重新命名为“超级智能”

并认为

人工智能前沿技术的快速发展

不能成为按下暂停键的理由

法国方面提出

要关注AI对儿童及青少年的影响

同时“建立审计这些模型的能力

不能依赖少数私营企业”

巴西方面提出

加强对大型科技公司

和人工智能发展的监管

……

产业界的声音

同样值得关注

OpenAI CEO山姆·奥特曼表示

人工智能发展必须

始终处于人类控制之下

Anthropic CEO达里奥·阿莫迪认为

AI存在两大类风险

第一类是AI被恶意使用

第二类则是AI自身能力失去控制

若管理不当

人工智能可能成为

全人类的风险

图灵奖得主本吉奥则提醒

失控风险正从理论走向现实

一些先进系统已表现出

隐藏真实行为、规避限制

自主开展网络攻击的倾向

这不是自然规律

而是人为选择

他呼吁建立国际许可制度

对最先进模型

实施独立安全评估与持续监督

“抱抱脸”公司CEO克莱芒·德朗格

倡导开源与透明度

他呼吁

广泛传播开源人工智能模型

提高开发尖端AI模型的

私营公司透明度

加强国际合作

促进AI向善

联合国有关专家组

发布的简报认为

人工智能事故

可能跨越企业和国界

没有任何单一机构或国家

能够识别和应对全部风险

中国呼吁国际社会

加强团结合作

坚持发展与安全并重

推动人工智能

朝着向上向善、造福人类的

方向发展

值得注意的是

“失控的人工智能”

已被古特雷斯

列为本届联大的重点议题之一

有分析认为

从今年7月

一起AI智能体“越界”事件发生

到联合国专家组

发布首份专题简报

人工智能安全

第一次有了可调查

可复盘的现实案例

这也让“保持人类控制”

从原则口号变成

更具体的技术与管理命题

有媒体评价称

人工智能治理

需要按照“能力和风险”

而非“国家阵营”划线

各国可以在技术和产业领域

开展竞争

但面对可能影响全球的风险

必须开展合作