美媒:AI假照片泛滥为监管敲响警钟

2023-03-27
来源:参考消息
分享

  参考消息网3月26日报道 据美联社纽约3月23日报道,最近几天,美国前总统特朗普被全副武装的纽约防暴警察按倒在地的这种细节丰富、耸人听闻的图片淹没了推特网等社交媒体平台。

  报道称,但它们与事实一点都不沾边。这些图片——以及散布在社交媒体上的众多大同小异的类似照片——出自人工智能(AI)驱动的日益先进并广泛普及的图像生成技术。

  专家警告说,这些图片预示着一个新的现实:在重大新闻事件发生后,一波又一波虚假照片和视频充斥社交媒体,在关键时刻进一步混淆事实。

  报道称,关注错误信息传播的华盛顿大学教授杰文·韦斯特说:“这的确在危机事件中增加了噪音。也加剧了人们的愤世嫉俗程度。你会开始对这个体系以及你所接收到的信息失去信任。”

  报道认为,虽然处理照片并生成假图片的技术并不新鲜,但是如今各种AI图像生成工具变得更加触手可及。它们可以在用户发出简单指令后,迅速生成海量栩栩如生的图片。

  “见证”是设在纽约的一个注重视觉证据的人权组织,该组织的媒体技术专家希琳·汉伦说,很多时候,视觉资料在没有提供关键背景的情况下被快速地反复转发。事实上,社交平台Instagram上一个分享关于特朗普的虚假图片的帖子获得点赞数超过了7.9万。

  报道称,专家说,随着合成图像越来越难辨真假,对抗错误视觉信息的最佳方式是提高公众的意识并加强这方面的教育。社交媒体公司可以把重点放在开发能够辨别AI生成图像的新技术上,并将这种技术融入自己的平台。

  关注新兴技术的纽约卡内基国际事务伦理委员会的研究人员阿瑟·霍兰·米歇尔说,他担心这个世界还没有为即将到来的铺天盖地的虚假信息做好准备。他想知道的是,未来将如何管控涉及普通人的深度造假内容,例如给曾经的伴侣或同事造成伤害的虚假图片。