俄媒:专家警告称人类未准备好与高级AI打交道

2023-04-04
来源:参考消息
分享

俄媒:专家警告称人类未准备好与高级AI打交道

  参考消息网4月4日报道 据今日俄罗斯电视台网站4月1日报道,知名计算机科学家艾利泽·尤德考斯基说,人类还没有做好与更高级人工智能(AI)打交道的准备,地球上的每个人都可能因此灭亡。

  尤德考斯基警告说,中止先进人工智能系统的研发并严惩违反禁令的行为,是使人类免于灭绝的唯一途径。

  作为美国机器智能研究所联合创始人,尤德考斯基3月29日在《时代》周刊发表一篇观点性文章,解释了为什么他没有在请愿书上签字的原因。这一请愿书要求“所有人工智能实验室立即暂时中止高级人工智能培训”。这种培训有可能生成比GPT-4更强大的系统。GPT-4是开放人工智能研究中心(OpenAI)3月早些时候发布的一种多模式大型语言系统。

  尤德考斯基辩称,由埃隆·马斯克和苹果的史蒂夫·沃兹尼亚克等人签名的请愿书“要求过少”,难以解决人工智能快速无序发展所带来的问题。

  尤德考斯基写道:“在当前环境下发展超级人工智能最有可能带来的后果是,地球上的每个人都将灭亡。”

  他认为,要与一个“既不关心人类,也不在意有知觉生命”的计算机系统打交道,人类需要“有精准的技术和准备,并具备新的科学远见”,人类目前尚不具备这些知识,而且在可预见的未来也不大可能具备。

  尤德考斯基警告说:“一个足够聪明的人工智能不会长期存在于计算机中。”他解释说,现在已经有这种可能性,即通过电邮将脱氧核糖核酸(DNA)信息串发给实验室,进行蛋白质制造,进而使人工智能“能够建立人造生命形式或建立前端系统,直接制造后生物时代的分子”,并最终进入现实世界。

  他说,必须立即在全世界无限期暂停新的大型人工智能训练。他强调:“这个禁令不能有任何例外,包括对政府和军队。”

  尤德考斯基坚称,应该签署国际协议,对训练人工智能系统时使用的算力设定上限。

  他还说,人工智能的威胁非常之大,因此,应该“在国际外交中明确规定,防止人工智能灭绝人类的优先等级应该高于阻止全面核战争”。