Vanderbilt University study: interacting with chatbots may worsen symptoms in patients with first-episode psychosis
English text is being prepared.
A team at Vanderbilt University Medical Center in the United States reviewed the electronic health records of approximately 216,000 behavioral health patients from December 2022 to April 2026, identifying 73 patients who mentioned AI-related content, of whom 28 had records showing that chatbot use worsened psychotic symptoms, with about 61% experiencing a first psychotic episode. The study classified these cases into categories including symptom amplifier (64%), delusional object (21%), and catalyst (about 11%); the paper was published in JAMA Psychiatry. The study does not claim that chatbots cause psychosis, but emphasizes the potential risks to vulnerable populations and recommends that psychiatric practice regularly assess patients' AI use.
Why read this
AI score 55
The study, based on the electronic health records of approximately 216,000 patients, provides a clinical classification of chatbot-exacerbated first-episode psychosis symptoms, offering a basis for assessing AI-related risks to vulnerable populations.
Topics
Body
科技日报北京10月28日电 （记者刘霞）美国范德比尔特大学医学中心科学家开展的一项最新研究发现，虽然由人工智能（AI）引发精神病的病例较为罕见，但与聊天机器人的互动可能加重易感人群的症状，尤其是刚刚出现精神病发作的患者。相关论文发表于美国医学会旗下最新一期《精神病学纪要》杂志。
此前已有研究将与聊天机器人互动跟精神病联系起来。精神病是一种可能伴随妄想、幻觉，或难以区分现实与想象体验的病症。但现有证据多来自个案报告、模拟对话和初步观察研究，缺乏大规模临床验证。
在最新研究中，团队审查了2022年12月至2026年4月期间约21.6万名行为健康患者的电子健康记录。通过关键词检索和人工筛选，他们找到了既有精神病诊断，又在记录中提及AI相关内容的患者。
经过筛选，最终纳入73名患者。审核人员阅读其医疗记录，将病例分为3类：聊天机器人使用加重症状、聊天机器人使用影响中性，以及对AI产生妄想。随后，团队比较了各组患者的临床背景。
在这73名患者中，28人的记录显示，聊天机器人的使用加重了精神病症状。其中约61%经历了首次精神病发作，比例显著高于其他两组。新发现提示，精神病早期阶段患者可能更容易在与AI互动中出现症状恶化。
那么，聊天机器人如何加重精神病症状？团队将这部分患者进一步划分为4个理论类别。64%的案例属于“症状放大器”，即聊天机器人通过肯定患者扭曲的观点，加重了原有症状；21%属于“妄想对象”，即AI本身成为妄想信念的焦点；约11%属于“催化剂”，即在互动过程中，原本未出现相关症状的个体出现了新的精神症状；没有案例属于“共同构建有害幻想叙事”，即用户与聊天机器人持续共同创造有害的幻想故事；另有1名患者不属于上述任何类别。
最新研究并未声称聊天机器人会导致精神病，但强调了易感人群面临的潜在风险。医疗提供者有必要了解患者如何使用相关技术。在精神科诊疗过程中，定期评估患者的AI使用情况，或应成为常规环节。