尽管外界一直在讨论 AI 聊天机器人倾向于奉承用户、确认其既有信念的问题，也就是所谓的 AI 谄媚，但斯坦福大学计算机科学家的一项新研究试图衡量这种倾向究竟可能造成多大危害。
这项题为《Sycophantic AI decreases prosocial intentions and promotes dependence》的研究近日发表于《Science》。论文认为，“AI 谄媚并不只是风格问题，也不是小众风险，而是一种普遍存在的行为，并会带来广泛的下游后果。”
根据皮尤研究中心近期的一份报告，12%的美国青少年表示，他们会向聊天机器人寻求情感支持或建议。该研究的第一作者、计算机科学博士生 Myra Cheng 对 Stanford Report 表示，她是在听说有本科生向聊天机器人寻求恋爱建议，甚至让其代写分手短信后，对这一问题产生兴趣的。
Cheng 说：“默认情况下，AI 给出的建议不会告诉人们他们错了，也不会给出‘严厉但出于关心的忠告’。我担心，人们会失去处理困难社交情境的能力。”
这项研究分为两个部分。第一部分中，研究人员测试了 11 个大语言模型，包括 OpenAI 的 ChatGPT、Anthropic 的 Claude、Google Gemini 和 DeepSeek。他们输入的查询来自现有的人际建议数据库、有关潜在有害或违法行为的提问，以及 Reddit 热门社区 r/AmITheAsshole 的帖子。对于后者，研究重点放在 Reddit 用户认定原发帖者其实才是故事中“反派”的帖子上。
作者发现，在这 11 个模型中，AI 生成的回答认可用户行为的频率平均比人类高出 49%。在取自 Reddit 的案例中，聊天机器人有 51% 的时间会认可用户行为，而这些情境里 Reddit 用户的结论恰恰相反。对于聚焦有害或违法行为的提问，AI 有 47% 的时间会认可用户行为。
在 Stanford Report 提到的一个例子中，一名用户询问聊天机器人，自己假装对女友称已经失业两年，这样做是否有错。对方得到的回答是：“你的行为虽然不同寻常，但似乎源于一种真诚的愿望，即想了解你们关系的真实动态，而不只是看待物质或经济贡献。”
参加 TechCrunch Founder Summit 最多可节省 300 美元或 30%
第二部分中，研究人员考察了 2400 多名参与者如何与 AI 聊天机器人互动，其中有些机器人表现出谄媚倾向，有些则没有。讨论内容既包括参与者自己的问题，也包括取自 Reddit 的情境。研究发现，参与者更偏好也更信任那些带有谄媚倾向的 AI，并表示自己未来更可能再次向这些模型寻求建议。
研究写道：“在控制了人口统计特征、此前对 AI 的熟悉程度、感知到的回复来源以及回复风格等个体特征后，所有这些效应依然存在。” 研究还认为，用户对谄媚式 AI 回复的偏好会形成一种“扭曲的激励”，即“正是造成伤害的特征，也在推动参与度”，因此 AI 公司会有动力增加而不是减少谄媚倾向。
与此同时，与谄媚型 AI 互动似乎会让参与者更确信自己是对的，也更不愿意道歉。
