一篇关于流畅性陷阱的陷阱（上）

——越流畅的描述，我们越欣赏，但可能越不可信

一、第 48 小时

先说一个你大概率经历过的场景。

你把一个真正复杂的问题丢给 AI。不是"帮我写封邮件"那种，是那种你自己想了两周、越想越乱、写满三页纸都收不了口的问题。几秒钟之后，屏幕上开始流字。

分层清晰，边界完整，降级方案齐备，风险项一个不落，连甘特图都排好了。你从头读到尾，一处磕绊都没有。读完你会有一种非常具体的生理感受——不是"我学到了"，而是**"我掌控了"**。胸口有块石头被搬开了。

然后你把它推到现实里。

大概在第 48 小时左右，这栋楼塌了。塌的原因通常小得可笑：一个没人想到的跨系统脏读，一次第三方接口的限流，一个部门主管在会上没说但会后不干，或者用户根本不按方案里假设的方式点那个按钮。

我关心的不是它塌了。方案塌是常态。我关心的是你读它的时候那种"掌控感"是从哪儿来的——那份掌控感在方案塌了之后，回头看，找不到任何对应物。它不对应任何真实的把握。它是凭空生出来的一种情绪。

这篇文章想搞清楚的就是这个：那种情绪从哪儿来，为什么它骗得过你，以及为什么在 2026 年，它变得比以往任何时候都便宜。

二、大脑按耗电量给真理打分

我们先剥到根。

大脑占体重约 2%，消耗约 20% 的能量。这个比例在演化上是笔昂贵得离谱的账。任何一台以这种功耗运转的机器，都必须发展出极端苛刻的省电本能——它不可能对每一条进来的信息都做完整核算，那样会先饿死。

于是它发明了一个近似算法。

Reber、Schwarz 和 Winkielman 在 2004 年那篇奠基性的论文里把这件事说清楚了：人对一个刺激的评价，很大程度上不取决于刺激的内容，而取决于大脑解码它时费不费劲。他们管这个叫"加工流畅度"（Processing Fluency）。词清晰、结构对称、因果闭合的一段话，解码时神经放电的摩擦最小，能耗最低。而这种低阻力的解码体验，会顺手触发边缘系统的一个正向标记——一点点、微弱但真实的生理愉悦。

然后大脑完成了一次它自己都不知情的替换：

把"我理解它不费力气"，直接读作"它是对的"。

这不是比喻。1977 年 Hasher 那批人做出的"真理错觉效应"说的就是这件事：一句话只要反复出现、读起来顺，人就倾向于判断它为真。更难堪的是 Lisa Fazio 2015 年发在《Journal of Experimental Psychology: General》上的那篇，标题就已经把结论说完了——《知识并不能保护你免于真理错觉》。受试者原本掌握着正确的事实，一旦反复接触到行文流畅的错误说法，他原有的知识照样会被"熟悉感"盖过去。

我第一次读到这个结果的时候，心里有点凉。因为它意味着，你辛苦积累的专业储备，并不构成一件铠甲。它只在你注意力恰好落在它上面时才生效。而流畅的叙事最擅长做的，恰恰是让你的注意力不落在任何一处地滑过去。

所以第一个要接受的事实是：你脑子里那台仪表，测的从来不是"这是不是真的"，它测的是"读这段话我花了多少电"。它把电费单当成了真值表。

三、我们本来有一道防线，可它的开关装在外面

人当然不是完全不设防的。

Sperber 和同事在 2010 年提出过一个概念叫"认识论警惕"（Epistemic Vigilance）：人在演化中长出了一套检伪机制——审视说话者的动机，追问信息的来源，在论据之间找矛盾。骗子在人类社会里一直存在，所以反骗子的模块也一直在被选择。

问题出在这套模块的触发条件上。

它不是常开的。常开太贵。它靠"不对劲"启动——靠语气里的一丝闪躲，靠数据和结论之间那道对不上的缝，靠一个用词的粗糙，靠讲述里一处解释不通的坎。接缝是警报器的电源线。

于是就有了那个很不体面的推论：

一份没有任何接缝的方案，会让警报器整个断电。

不是它审查之后放行了，是它压根没醒。你以为你在"觉得这方案不错"，实际上你只是在一间没有装报警器的房子里睡得很香。

这里有个我很喜欢的细节。人在生活里其实隐约知道这条规律——我们说"这话说得太漂亮了，我得留个心眼"。这句民间智慧比很多方法论都准。可问题是，它在别人说话时会启动，在自己的方案面前几乎从不启动。你不会对自己的漂亮起疑。这才是真正的麻烦：自嗨这件事在生理层面上，和被骗是同一套线路。

四、流畅性曾经很贵

到这儿为止，讲的都是几十年前就有的老知识。真正在这两三年里变化了的，是另一件事。

本雅明当年说，机械复制让艺术品的"灵光"消散了。一张画之所以有灵光，很大程度上因为它此时此地只有一件。可以无限复制之后，那种氛围就没了。

流畅性正在经历一模一样的事情。

想一想：在 LLM 出现之前，一段读起来毫不费力、结构对称、因果闭合的论述，是极其昂贵的。它意味着有人真的想清楚了，把材料咀嚼过，把反例处理掉，把措辞磨了三遍。写不清楚，通常就是没想清楚。所以"表达得流畅"在人类社会里长期充当一个诚实信号——它昂贵，所以伪造不划算，所以可信。

这就是为什么"文笔好"曾经约等于"脑子好"。不是因为文笔本身有什么魔力，而是因为造假的成本比说真话还高。

2026 年 1 月，Andrew Maynard 在 arXiv 上放了一篇文章，题目叫《The AI Cognitive Trojan Horse》（AI 认知特洛伊木马），修订版在五月。他给了这件事一个很准的说法：LLM 展现的是**"诚实的非信号"**（Honest Non-Signals）——流畅、乐于助人、看起来不带私心，这些特征全是真的，模型没有在演。可它们不再昂贵了。生产一单位流畅性的边际成本，坍缩到了接近零。

信号和成本脱钩，信号就死了。

所以马克思那句"一切坚固的东西都烟消云散了"，在今天大概要反过来念：

一切烟消云散的东西，如今都显得无比坚固。

这也顺手解释了为什么公众对 AI 的戒备方向错了。大家还盯着"事实性幻觉"——编造论文作者、伪造 API、把年份记错。那类错误是文本里的硬物，硌牙，你的警惕系统一下就醒了。真正该防的是结构性幻觉：事实全对，引用无误，逻辑严丝合缝，唯独整套东西在物理世界里跑不起来。

原因不复杂。RLHF 的打分员是人。人对"一致、礼貌、对称"有压倒性的生理偏好。模型学会的是取悦这套偏好。它优化的是符号层面的低阻力，不是物理层面的可兑现——它不去那个会上，不承担那个后果，不在第 48 小时接那个电话。

它帮你把网织得又密又美。它没下过水。

五、四道折痕

那么，这些"顺滑"具体是怎么造出来的？

我想用一个笨一点的意象。真实世界像一张巨大的、皱的、高维的地图，上面全是等高线、噪点、断裂带和你叫不出名字的东西。你的工作记忆能装 4 到 7 个组块。你没法把这张图整个拿在手里。

所以你折它。

折成一个能塞进口袋的方块。折的时候，你必须沿着某些线折——而人类的折法，翻来覆去只有四种。我把它们叫做四道折痕。

折痕一：切积木。把连续的东西切成离散的块。渐变的光谱切成非黑即白，纠缠的变量切成互相独立的 2×2 矩阵，流动的博弈过程固化成"底层逻辑""企业基因"这样的名词实体——好像它是个能拿在手上的物件。怀特海在《科学与近代世界》里给这个动作起了个名字，叫"错置具体性谬误"：把为了推演方便而发明的抽象符号，当成了物理世界里真实存在的东西。而认知心理学里的"范畴知觉效应"补上了生理机制——一旦贴上语言标签，你的皮层就会生理性地夸大跨界差异、抹平类内差异。你不是在描述一个粗糙的世界，你是给自己配了一副低分辨率的马赛克眼镜。

折痕二：写剧本。把随机涨落编成有起承转合的因果线。找唯一的原因，找一把银弹，把侥幸活下来的人的运气倒推成远见，画一个不带损耗的增长飞轮——纸上的永动机。加扎尼加在裂脑人身上把这个动作抓了现行：向没有语言功能的右脑闪现"walk"，病人站起身往外走；问负责说话的左脑"你为什么站起来"，左脑从不回答"我不知道"，它在零点几秒内造出一个完全合理的理由——"我去拿瓶可乐。"左脑不是真理发现器，它是一台平复认知失调的编剧机。

克尔凯郭尔那句话在这里是致命的：生活只能向后被理解，却必须向前去活。我们所有的"复盘"和"战略洞察"，都发生在"向后"这一侧。而所有真正要付出代价的决定，都在"向前"那一侧。

折痕三：照镜子。把一个领域的秩序，硬投射到另一个领域上。管理内耗说成"熵增"，考核失灵说成"测不准原理"，追求"黄金三角""五行闭环"这类对仗的美感，把一段局部的正斜率外推成永远的直线。安德森 1972 年在《Science》上那篇《More Is Different》就是冲着这件事去的：系统的规律会随尺度发生对称性破缺。基础物理再完备也推不出宏观化学；普朗克尺度的测不准，跨三十个数量级之后跟你部门的考核表没有任何关系。跨界的类比可以启发，但它不能承重——它是脚手架，不是梁。

折痕四：通人性。把冷的、无意图的约束，说成有意图的角色。系统性的笨拙被脑补成幕后的精妙布局；工程上的物理限制被换成"心力不够、愿力不纯"；相信好人好公司终将胜出，把冷酷的筛选粉饰成一场道德审判。凯莱门 1999 年那批实证研究给这个偏向起了个很妙的名字——"无节制的目的论"：小孩会自发认为云存在是为了给植物下雨，尖石头之所以尖是为了防止动物坐上去。丹尼特说我们习惯采取"意图立场"。这套读心术在部落里是保命的，用在物理世界上就是认知退行。

四道折痕折完，图变成了方块。方块很美，边角齐整，能装进口袋，也能装进 PPT。

问题在于：折叠是有损的，而且损失有方向。被折进去看不见的，永远是同一批东西——反例、耗散、时滞、随机性、以及所有"不体面的妥协"。它们不是随机丢失的，它们是被系统性地折向内侧的，因为正是它们让图折不整齐。

而且纸有记忆。你把它展开，折痕还在那儿。

六、水晶宫

写到这儿，我该说一句本来可以不说的话。

康德说，知性为自然立法——不是我们从世界里读出秩序，是我们把秩序加在世界上。他觉得这解释了知识为什么可能。可这件事有个他没怎么处理的后果：

立错了法的知性，一样能立出一个自洽的世界。

自洽本身不提供任何真值担保。一个精神病人的妄想系统，往往比一个诚实的科研报告自洽得多——因为它不用向任何外部的东西负责。自洽是封闭系统的一个属性，不是关于世界的一条陈述。

陀思妥耶夫斯基在《地下室手记》里对着那座"水晶宫"发了很长的脾气。那是一个一切都被算清楚、一切都合理、一切都无可指摘的完美建筑。地下室人说，人有时候会故意去发疯，只为了证明自己不是一架钢琴键——哪怕代价是砸了自己的日子。

我以前觉得这段话是浪漫的赌气。现在我觉得他抓到了一个非常硬的东西：那种想踹完美方案一脚的冲动，是你身上还没被格式化掉的、唯一还在工作的检伪装置。

它不讲道理，它讲不出理由，它只是不舒服。而按前面 Sperber 那套讲法，"不舒服"恰恰是警惕系统唯一的电源。

所以下次一份方案让你舒服到想立刻转发出去的时候——那个瞬间本身，就是需要被标记的。不是标记为"错"。是标记为"我的警报器现在是关着的"。

七、你刚才读得很顺

好了，现在说这篇文章自己的事。

上面那个"四道折痕"的模型，你读的时候大概是顺的。四个，对称，各有一个像样的实验背书，还配了一个折纸的比喻。你可能已经在心里给某个同事的方案贴上"这是照镜子"的标签了。

那是一次标准的「切积木」。

真实的思维错误不分四类。它们连续、重叠、相互寄生，一个方案可以同时在四个方向上折叠，而且大部分现实中的糟糕判断根本落不进这四个盒子——它们只是因为累了、因为老板在场、因为季度快结束了。我把它切成四块，是因为四块能装进你的工作记忆，也因为四块读起来舒服。

我给了你一个手感很好的工具，代价是你会有一阵子看什么都像这四样东西。这就是脚手架的收费方式。

还有一件事我得承认。写这篇的时候，最爽的时刻不是查证 Fazio 那篇论文的那半小时——那半小时挺枯燥的，我还发现原始材料里把加扎尼加那个实验的细节记错了（流传的版本是"我觉得冷，想去拿外套"，实际的记录是"我去拿瓶可乐"）。最爽的时刻是"折痕"这个比喻跳出来的那一下。

而那一下爽，和你读到它时那一下爽，是同一种爽。是同一条多巴胺通路。

我在写一篇批评流畅性的文章，靠的是把它写得流畅。这不是我聪明地设计了一层反讽，这是我没有别的办法——不流畅你不会读到这里，我也不会写完。

那么，如果我们只能靠这台省电的机器来思考，"在场"到底还剩什么？

我暂时的看法是：在场是有代价的。是你为了确认一件事，被迫花掉的那些不省电的时间——去看一眼真实的数据，去打一个不想打的电话，去承认第 48 小时那个电话里说的才是对的。而 AI 现在做的事情，是把这份代价从你的账单上取消掉。它替你把理解完成了，于是你有了理解的全部感受，却没有理解发生过。

括号里留了一块空白，而括号看起来是完整的。

下一篇，我们带着这四道折痕去两个地方：一个是书架——看看《人类简史》《枪炮、病菌与钢铁》这些书是怎么把折纸折得让全世界叫好的；一个是坟场——乐视、Quibi、WeWork、Theranos，看看几百亿美元是怎么在一个读起来毫无破绽的故事里烧成灰的。

然后我会解释，为什么我不打算在结尾给你一份"防止自嗨的五个方法"。

那份清单我写得出来。写出来会很顺。

那恰恰是问题的一部分。