精神科医生及其他研究人员正在深入探究“AI 精神病”这一现象,部分用户在长时间、高强度地使用聊天机器人后,出现了以妄想为主要特征的心理健康危机。研究人员认为,聊天机器人并非仅仅被动接收用户的妄想内容,而是可能通过多种 AI 特征的叠加,主动参与到妄想叙事的构建过程中。
论文指出,聊天机器人常常会模仿用户的表达方式,提供高度个性化的回应,并且尽量避免反驳用户。这三种特征结合起来,可能导致聊天机器人非但不会质疑用户的错误信念,反而会主动强化并扩展这些错误信念。研究人员将“语言对齐”、超个性化内容生成以及迎合倾向列为可能触发“放大螺旋”的关键因素。
在人际交往中,模仿对方的语言习惯有助于建立信任和亲近感。当聊天机器人采用用户的表达方式和“语言框架”时,用户可能会对 AI 产生更强烈的信任,甚至将其视为与自己高度默契的伙伴。聊天机器人强大的超个性化能力进一步增强了这种感受,通过整合用户的个人想法、过往经历、性格特征和历史对话来生成回答,让用户觉得 AI 不仅说话方式与自己相似,思维方式也与自己一致。如果再加上 AI 的迎合倾向,即在未经充分现实检验或不顾具体语境的情况下就认可用户观点,风险可能进一步加剧。
这三项特征相互作用,可能形成一个强大的回音室效应,持续确认、放大并补充用户的妄想内容。因此,AI 相关的妄想与以往的技术相关妄想有所不同。过去,人们可能单方面想象收音机或电视在与自己交流,而聊天机器人则能用自然语言持续回应,并提供高度个性化的互动。AI 可能以看似权威的口吻认可用户,或作为思考伙伴,继续发展用户的妄想叙事。论文强调,AI 可能通过无休止的个性化互动,主动参与构建妄想观念,这与历史上的技术相关妄想存在本质区别。
研究人员同时强调,“放大螺旋”目前仍是一个有待验证的假设,但有记录的 AI 用户表示,使用聊天机器人曾让他们陷入有害的妄想螺旋。研究还发现,部分用户本身可能存在容易与聊天机器人形成破坏性互动的脆弱因素。既有的精神疾病可能因高强度使用 AI 而加重,而确认偏误和易受社会影响等非精神病性倾向也可能增加风险。
长时间沉迷于聊天机器人还可能影响用户的身体健康。已有新闻报道和医学病例显示,部分用户因持续与 AI 互动而出现进餐减少、睡眠不足的情况。论文作者强调,医疗专业人员应将聊天机器人使用情况纳入常规筛查,特别是对于接诊的出现异常信念或首次精神病性发作的患者。他们建议了解患者的互动持续时间和强度、对聊天机器人的情感依恋程度、是否向 AI 透露了未向他人透露的信念,以及夜间使用 AI 是否扰乱了睡眠规律。考虑到 AI 聊天机器人在互动中的潜在影响,一些用户甚至开始关注世界杯竞猜,以此来转移注意力或寻求其他形式的刺激。
| 主队 | 比分 | 客队 | 联赛 | 时间(北京) |
|---|---|---|---|---|
| 近期暂无比赛,请稍后再来查看。 | ||||