马斯克等千名科技人士联名呼吁:暂停训练比GPT-4更强大AI系统至少6个月

2023-03-30
来源:参考消息
分享

  参考消息网3月29日报道 据路透社3月28日报道,特斯拉首席执行官、推特“掌门”埃隆·马斯克与一众人工智能专家和行业高管在一封公开信中,呼吁暂停训练比开放人工智能研究中心(OpenAI)新推出的GPT-4模型更强大的人工智能系统至少6个月,理由是它们对社会和人类构成潜在风险。

  报道称,这封公开信由非营利组织“生命未来研究所”发布,共有1000多人签名,包括马斯克、“稳定”人工智能公司负责人伊马德·莫斯塔克、“字母表”公司旗下“深层思维”公司的研究人员,以及人工智能领域的重量级人物约舒亚·本乔和斯图尔特·拉塞尔。

  公开信呼吁暂停高级人工智能的研发,直到为此类设计制定、实施共享安全协议,并由独立专家审核。公开信写道:“只有在我们确信它们有积极效果且风险可控时,才应研发强大的人工智能系统。”

  据报道,这封公开信还详细介绍了与人类竞争的人工智能系统将可能以破坏经济和政治的形式对社会和文明造成的潜在风险,并呼吁开发者与决策者和监管机构展开合作。

  报道注意到,与此同时,欧洲刑警组织27日也表达了对聊天生成预训练转换器(ChatGPT)等先进人工智能在道德和法律层面的担忧。该机构警告称,ChatGPT可能被滥用于网络钓鱼、制造虚假信息和网络犯罪。汽车制造商特斯拉正在将人工智能应用于自动驾驶系统,而马斯克一直在直言不讳地表达对人工智能的担忧。(编译/刘白云)