OpenAI在其最新的博客文章中提到

　　他们正在组建一个新团队

　　名为“集体对齐”（Collective Alignment）

　　该团队主要由

　　研究人员和工程师组成

　　专注于“规范”人工智能模型的行为

　　解决潜在的问题

　　OpenAI在博客中表示

　　其目标是打造一个系统

　　能够收集和“编码”

　　公众对其模型行为的看法

　　之后

　　将这些见解融入产品和服务中

　　使人工智能模型更好地

　　“与人类价值观保持一致”

　　过去一年

　　以ChatGPT为代表的

　　大语言模型集中爆发

　　生成式人工智能

　　让各界看到全新的可能性

　　展现出强大的生成创造能力

　　有望大幅提升社会生产力

　　加速千行百业的数字化进程

　　促进人类社会全面迈向智能化新阶段

　　技术突破不仅会创造发展机遇

　　也会带来数字鸿沟加剧

　　科技伦理失范等风险

　　为防止AI发展失序

　　“价值对齐”概念

　　重新成为一个热门话题

　　除OpenAI外

　　谷歌、微软等科技公司纷纷入局

　　成立类似的价值对齐部门或团队

　　有研究人员认为

　　价值对齐的本质是人类对AI的信任

　　某种程度上

　　让AI按照人类的价值观行事

　　有助于缓解

　　人类对AI能力快速增长的焦虑情绪

　　生成式人工智能的

　　演进速度之快

　　赋能范围之广

　　影响程度之深

　　前所未有

　　以负责任的态度

　　推动生成式人工智能发展

　　不仅十分必要

　　也愈发紧迫

　　统筹人工智能发展和治理

　　已逐渐成为全球共识

　　2023年8月

　　世界互联网大会成立

　　人工智能工作组

　　推动生成式人工智能

　　发展与治理协同共进

　　增进全人类共同福祉

　　在2023年世界互联网大会

　　乌镇峰会期间

　　人工智能工作组发布

　　发展负责任的生成式人工智能

　　研究报告及共识文件

　　提出了

　　发展负责任的生成式人工智能

　　十点共识

　　围绕人工智能

　　发展、安全、治理三方面

　　倡导以人为本理念

　　始终致力于增进人类福祉

　　推动人类经济、社会和生态

　　可持续发展

　　展望未来

　　人类应更好应对

　　数字科技发展带来的

　　规则冲突、社会风险和伦理挑战

　　让技术与人性同时闪耀

　　参考丨光明网、国际在线、腾讯研究院、网易科技