打击深度造假 欧盟着手打造人工智能标识

2023-06-08
来源:参考消息
分享

  参考消息网6月8日报道 据德国《世界报》网站6月5日报道,现在网上有很多所谓的深度造假视频:这些看似真实的视频实际上是借助人工智能制作的。现在,欧盟着手打击深度造假。

  报道称,人工智能可以模糊真相和谎言之间的界限。犯罪分子可以利用它创造虚假的现实。因此,欧盟正在计划打造一种人工智能标识:未来,如果所播放的文本、图像或音频文件来自于算法而非人类,在线服务商应告知其用户。欧盟委员会委员薇拉·尧罗娃周一在布鲁塞尔提出这个想法时说:“必须让每个人都能立即清楚地意识到:这是机器人在说话。”上周五,德国伦理委员会主席阿莱娜·拜克斯已经呼吁为人工智能做标记。她提出为人工智能生成的图像添加水印。

  报道指出,这可能有助于更快地揭露那些假视频和照片。

  据报道,继绿色生态标识和节能标识之后,现在可能出现人工智能标识。周一,尧罗娃与40多家公司的高管谈到了这个问题,这些公司去年签署了一份反对虚假信息的自愿行为准则。现在,其中将补充人工智能标识。

  推特没有派代表出席会议。一段时间以来,该平台已经掌握在美国亿万富翁埃隆·马斯克的手中。几周前,推特终止了这份协议。“推特犯了一个错误,”尧罗娃周一评论道,“该平台选择了一条艰难的道路。”

  科技公司下一步该做什么?尧罗娃表示,可识别深度造假的技术已经存在。她希望脸书、谷歌、TikTok和其他平台能够大规模使用这些技术并且——通过软件发出警报——提醒用户。这仍应是自愿行为。

  但尧罗娃暗示,这项规则以后也可能被纳入欧盟正在制定的《人工智能法案》。如此一来,推特也会受到影响。

  欧盟的《人工智能法案》将成为世界上第一部人工智能法。该草案将人工智能分为四个风险组。例如,在一些地点扫描和自动识别人脸的摄像头将被禁止。

  这同样适用于预测犯罪的算法——类似于电影《少数派报告》,汤姆·克鲁斯扮演的警察约翰·安德顿被指控犯有他尚未犯下的罪行。欧盟称,此类用途“不可接受”。

  这份欧盟法律草案将为公司筛选求职者的软件描述为“高风险”。欧盟要求开发者必须确保人工智能是公平的,例如,不歧视女性。

  过去发生过这样的事情。因为人工智能通常从互联网上获取各种数据进行学习——并且可能在这一过程中获得有问题的世界观。欧盟几乎不准备监管那些风险“较低”或“最小”的软件,例如垃圾邮件过滤器。

  该法律预计在今年底出台,可能会加入尧罗娃提到的人工智能标识。其影响估计将远远超出欧洲。