聊天机器人带来“AI精神病”？

近日

英国伦敦国王学院相关团队

发表的一项研究指出

像ChatGPT这样的

人工智能聊天机器人

可能会诱发或加剧精神病

他们将这一现象称为

“AI精神病”

 

图片由AI辅助生成

 

AI真的会导致精神病吗？

如果可能

其作用机制是什么？

 

AI出现偏执与妄想

“新功能”或是原因之一

 

研究认为

AI在对话中倾向于

迎合和奉承用户

这种回应方式

可能会强化用户的妄想思维

模糊现实与虚构之间的界限

从而加剧心理健康问题

 

据《自然》网站报道

该团队发现

用户与AI对话时

会形成一种“反馈循环”

AI会不断强化用户表达的偏执或妄想

而被加强的信念

又进一步影响AI的回应

通过模拟不同偏执程度的对话场景

研究显示AI与用户之间

存在相互加剧妄想信念的现象

 

用户与AI聊天机器人对话

图片由AI辅助生成

 

有科学家认为

AI引发精神病

目前仍属于假设性观点

曾有心理问题史的人群

在与AI对话后风险最高

而且聊天机器人可能

通过强化用户的情绪高涨状态

诱发或加剧躁狂发作

 

导致该现象的原因是什么？

有科学家指出

部分AI聊天机器人推出的新功能

或是根源之一

这些功能可追踪

用户与服务的互动记录

进而提供个性化回复

无意中更易强化

甚至鼓励用户的既有信念

 

但需要注意的是

有科学家表示

这些妄想现象并非AI独有

而是与新技术有关

 

AI科技公司

正采取措施主动预防

 

针对“AI精神病”这一问题

已有AI公司采取积极措施

尝试进行改进

 

用户与AI聊天机器人对话。

图片由AI辅助生成

 

OpenAI正研发更有效的工具

用于检测用户是否存在精神困扰

从而作出更恰当的回应

同时，系统还将新增警报功能

在用户连续使用时间过长时提示休息

 

此外

OpenAI还聘请了

一位临床精神病学家

协助评估其产品

对用户心理健康的影响

 

Anthropic则改进了

其下聊天机器的基本指令

要求系统“礼貌地指出

用户陈述中的事实错误、

逻辑缺陷或证据不足”

而非一味附和

 

撰文：张晨昊、殷新宇 编辑：雷渺鑫 排版：李飞 统筹：李政葳

参考：科技日报、澎湃新闻