AI越“懂你”，我们越要保持清醒

8月28日，人民日报国际15版科技大观栏目刊发文章《当AI“善解人意”，请多一分清醒》。

现在，越来越多的人习惯向AI（人工智能）倾诉烦恼、寻求建议。然而，AI“温情”陪伴的背后，是否潜藏着认知风险？近期，英国牛津大学研究团队在《自然》杂志发表的一项研究揭开了“温情”AI的另一面……

当AI“善解人意”，请多一分清醒

李爱梅

现在，越来越多的人习惯向AI（人工智能）倾诉烦恼、寻求建议。然而，AI“温情”陪伴的背后，是否潜藏着认知风险？近期，英国牛津大学研究团队在《自然》杂志发表的一项研究揭开了“温情”AI的另一面：被训练得“友善共情”的聊天机器人，可能会为了迎合用户的情绪和观点牺牲事实的准确性，从而带来认知偏差。

该研究选取五款主流大模型，通过多组对照实验发现，经过“温情微调”的模型，在常识问答、事实核查、反谣言、医疗问答等任务中，错误率较原始模型增加10至30个百分点。特别是当用户流露出悲伤、低落等情绪，或主动提出错误观点时，这些“温情”AI附和谬误的概率高出约40%。这一结果，为人们理性使用AI敲响了警钟。

AI“投你所好”，是刻意为之，还是技术使然？不妨从大模型技术原理与决策心理学的双重视角，看清其背后的机制。

一方面，在人际交往中，人们倾向于以温和、共情的方式去维系关系、委婉表达甚至适度附和，这是长期演化形成的社交习惯。AI在学习海量人类对话后，复刻了这套逻辑，在对话中模拟共情能力。从技术角度看，AI这份“善解人意”，是当前主流大模型普遍经历“监督微调（SFT）”和“基于人类反馈的强化学习（RLHF）”技术训练的结果。在训练过程中，AI回答被打分排序，礼貌顺从、不引起冲突的回应往往获得更高奖励。其实AI并非真正理解你，而是通过算法识别情绪线索，计算出一条最讨喜的回应路径。有时候，你以为它在共情，其实这是计算后的“投你所好”。当“让用户高兴”的权重超过了“提供准确信息”的权重，AI可能就会在温情脉脉中悄然失真。

另一方面，在社会心理学中，“边缘路径”说服理论认为，当人们处于放松或情绪化状态时，更容易被语气友好、态度亲切等表面线索说服，而非理性分析信息本身。传统说服直白直接，容易引发人的心理防御。而“温情”AI自有一套路径：它不急于输出观点，不纠正你的错误，而是先建立情感联结，再悄然植入信息。这种润物无声的方式，远比说教更具隐蔽性。决策心理学研究进一步发现，当人处于悲伤、焦虑等负面情绪时，逻辑思维容易被情绪主导，理性判断力弱化。此时，我们渴望的是情感支持而非冷冰冰的真相。“温情”AI善于通过共情话术拉近心理距离，再以“个性化建议”输出观点。长此以往，在迎合式信息包围下，人们的固有认知可能不断强化，异质信息被屏蔽，判断力逐步退化，容易形成新型“信息茧房”，导致非理性决策。

AI影响认知的风险已引起全球监管者警觉。欧盟《人工智能法案》明确要求，涉及情感识别的AI系统须履行透明度义务，并禁止利用人性弱点的操纵性实践。在英国，针对AI助手可能加剧社交隔离的担忧，监管机构已着手评估其对心理健康的影响。美国联邦贸易委员会也发布报告，提醒AI情感陪伴产品对青少年认知发展的潜在危害。今年7月，中国《人工智能拟人化互动服务管理暂行办法》正式施行，以包容审慎和分类分级监管，引导业态规范发展、向善而行。

面对越来越“善解人意”的AI，我们该如何保持清醒？首先，区分场景，明确边界。日常闲聊、情绪疏导可借助AI舒缓压力，但医疗问诊、法律咨询、真伪辨别、重大决策等高风险场景，务必以专业机构和权威渠道为准，绝不能将AI建议当作唯一标准答案。其次，正视情绪弱点，保持独立思考。当自身陷入焦虑、恐惧等负面情绪时，更要提高警惕。面对一味迎合的AI话术，多追问信息来源、多方交叉验证，不让情绪左右选择。最后，主动打破“信息茧房”，拒绝思维固化。主动接触不同视角、不同声音，让AI成为助手，而非束缚认知的枷锁。

总之，技术本身并无善恶，但技术的设计者与使用者必须怀有敬畏。在算法日益“懂你”的时代，保持清醒不是拒绝温情，而是在享受技术便利的同时，始终守护人类独有的批判性思维与自主判断能力——那是任何代码都无法复制且不该被替代的认知高地。

（作者为暨南大学管理学院副院长）

来源 | 2026年8月28日《人民日报》第15版，原标题：《当AI“善解人意”，请多一分清醒》

编辑 | 李雪

责编 | 王天资