Share - WeChat
近日,一篇题为《数据资产出资的风险类型及制度因应》的论文引发质疑,论文注释中的民事判决书分别来自不同省份,序号尾号却是1234、3456、4567等。
对此,论文作者所在高校发布情况通报称,该论文中部分案例相关问题系作者对人工智能(AI)检索结果的误信,对AI生成的内容缺乏应有的警惕性与严谨性。根据认定结果,对责任人作出相应处理。
论文研究水平有高低,但数据真实、引用准确等应当是最起码的要求。这篇论文为师生共同创作,按说该有一定专业度。如今却闹出被AI欺骗的笑话,实在令人唏嘘。更值得追问的是,如果AI没有出现这种“连号式”低级错误,该论文是否会一直流传于公共视野中?又是否会被大模型当作可信内容继续采纳,进而“反刍发酵”,输出更多学术赝品?
从AI代写论文成为灰产,到拿着AI工具降低AI率,这些年,AI在学术领域的存在感越来越高。客观来说,AI工具确实可以提高文献收集、数据整理等工作的效率。然而,用工具辅助完成流程性工作,与全盘采信照搬AI生成内容,完全不是一回事。众所周知,大模型的训练数据来源本就复杂,且“AI幻觉”问题一直未能有效解决,AI“一本正经胡说八道”相当常见。用拼凑出来的文献作为考据,拿编出来的数据印证观点,无异于问道于盲。这也提醒相关机构、高校等,应该有更严格、更细致的审核机制,少些“被AI骗出学术不端”的笑话。
以更大视野来看,误信AI又何止发生在学术界?有人让AI识别野生蘑菇,只看答案不看提醒,误食后头晕目眩;有人爬山向AI问路,结果越走越偏、力竭被困……随着AI产品深入工作生活各个维度,“AI幻觉”可能会给人们带来某种程度上的“认知幻觉”,值得高度警惕。
思考没有捷径。正如网友吐槽,“动不动就‘AI说的’,简直太荒唐!”从专业领域到日常生活,工具固然能高效集纳各类内容,但终究无法代替人的求证与判断。(关末)
2022年7月12日,世界互联网大会国际组织正式成立,从互联网领域的国际盛会发展为国际组织,总部设于中国北京。我们将致力于搭建全球互联网共商共建共享平台,推动国际社会顺应信息时代数字化、网络化、智能化趋势,共迎安全挑战,共谋发展福祉,携手构建网络空间命运共同体。