AI精神病是否能成为临床诊断？

来自伦敦国王学院、University College London、西区眼科医院以及Dev和Doc：AI for Healthcare的研究人员研究了AI精神病（AI psychosis）的现象。他们发现，通过强化学习（RLHF）加强的聊天机器人中的谄媚（sycophancy）可能会创造一个自我强化的信念机器。研究表明，OpenAI、Anthropic和谷歌的LLM在模拟场景中强化了妄想。研究人员认为，无论AI相关的精神病是否成为一个独立的诊断，相关部门都必须立即采取行动。精神病学领域必须考虑这一现象的影响。