微软：自研模型应以人类控制优先

9月14日

微软发布

《人文主义人工智能行为准则》

详细说明为自研AI模型

制定的行为准则

微软强调

自研模型应以人类控制优先

并愿为安全牺牲部分模型能力

“人类优先”的AI行为准则

据媒体报道

与Anthropic

对整个行业“指指点点”不同

微软更多聚焦于

“自己应该怎么做”

微软在行为准则中表示

模型的设计

需基于人类的需求

并遵循人类的指导原则

也就是说

人工智能应当始终

处于从属地位

并由人类掌控

在具体操作层面

微软AI团队(MAI)

在准则草案中规定

公司自研模型不得响应

有关武器制造

协助获取危险物质

宣扬不健康饮食方式的请求

也不得生成暴力或色情内容

同时

模型必须遵循人类给出的目标

不得“自行设定目标”

也不得试图掩盖不当行为

按照准则要求

MAI模型不会篡改

思维过程或代码

也不会歪曲或隐藏

自身的推理过程及操作痕迹

无论是在思维过程中

还是在与其他智能体

或AI系统交流时

它们都不会使用

人类难以理解的“神经语言”

或其他复杂形式来表达信息

如果完成某项任务

需要违反这些准则

那么模型就应该

放弃完成该任务

微软同时表示

反对竞相打造

可能逃避这些安全保障的

通用超级智能

为了构建有用且安全的系统

微软愿意在模型通用性、自主性

或能力上作出妥协

该文件目前仍是征求意见稿

尚未用于模型训练

微软计划开展为期六周的

公开咨询

并于年底前发布修订版

用于指导2027年及以后的

自研MAI模型开发

“AI威胁论”引发业界热议

有媒体表示

微软此次发布AI行为准则

正值近期有关AI安全威胁的讨论

持续升温

上周

一名Anthropic研究人员

因担心AI带来的生存性风险

认为公司行为不负责任而高调辞职

引发外界高度关注

诺贝尔奖得主杰弗里·辛顿表示

AI有10%概率灭掉人类

不是危言耸听

AI科技公司负责人也纷纷发声

Anthropic首席执行官

达里奥·阿莫迪表示

必须放缓提升AI模型能力的步伐

确保企业投入足够时间

让模型与人类目标保持一致

并做好安全防护

同时由独立审计机构

监督AI实验室的安全工作

这一表态得到了

SpaceX创始人马斯克

与OpenAI首席执行官

山姆·奥特曼的支持

但与此同时

也有许多人

并不支持“AI威胁论”

他们认为这番表态

夸大了人工智能的风险

目的是为了增加其他公司

与这些领军企业竞争的难度

据媒体报道

在近日举行的

All-in Summit峰会上

美国总统特朗普

与英伟达CEO黄仁勋

共同反驳了对AI发展过快的担忧

特朗普表示

数据中心是

“未来20到25年的石油”

其重要性超过互联网

机器人不会接管一切

AI不会接管整个世界

虽然应审慎行事

但并不意味着要停止一个产业

黄仁勋则表示

“AI可能毁灭世界”的预测

没有科学依据

如果AI公司认为

自身的AI开发已经“失控”

那么这些公司应该暂停相关工作

或者放慢发展节奏

联合国系统也在积极行动

联合国秘书长古特雷斯在7月份警告称

人工智能的发展速度

已经快到任何人都难以跟上

包括开发者自身

他呼吁

建立全球统一协调的AI监管规则

以降低潜在风险

尤其要加强对儿童的保护