为什么越是高认知人群，越该警惕AI？谈谈默认权力

No.0337

Science Partner

Bring you to the side of science

导 读

牛津大学的讲台上，历史学家赫拉利讲了一个关于咖啡机的笑话：你家的全自动咖啡机按个按钮就出咖啡，这叫工具。因为它只执行命令，不会学习，也不会改变。但如果有一天，你还没走到跟前，咖啡机就说伙伴，我观察你很久了，根据你最近的作息，已经为你调好了一杯奥瑞白，然后第二天它甚至自己发明了一种榛子口味的递给你，这就叫Agent了。讲完这个笑话，先是满场的哄然大笑，然后整个报告厅陷入了长久的沉默。

赫拉利是谁？他是《人类简史》《未来简史》的作者，一位擅长用一个简单比喻，把人类几万年演化史和眼下的技术焦虑串在一起讲的历史学家。他不是技术专家，却常常比技术专家更早看清技术会如何改变权力结构。这一次，他讲的不是机器人叛乱，而是权力如何在无声无息中换手：谁在悄悄接管银行的审批权、法庭的裁量权，甚至你与伴侣之间那点私密的情绪判断权。

上个月底，66岁的赫拉利在题为《AI官僚、AI宗教与AI男友：当非人类智能劫持了文明的操作系统》的Tanner人文讲座（牛津大学历史悠久的公共哲学讲座，历来邀请重量级思想者登台）上，把公众对AI的恐惧从好莱坞式的末日想象，硬生生拽回到最平淡、却最致命的地方——文件、表格、法条，和一份看似普通的贷款申请。

这恰恰是为什么，越聪明、越自信自己能看懂AI的人，越应该对它保持警惕。危险从来不平均分布。它总是先找到那些觉得自己不会中招的人。

走，跟伙伴君来！

今日主笔 | 旻宏

为什么越是高认知人群，越该警惕AI？谈谈默认权力

01. 工具与代理者之间，只有一条看不见的线

回到那台咖啡机。赫拉利真正想说的是：区分Tools和Agent的关键，不是这个东西有多聪明，而是它会不会自己做决定、自己学东西、自己改变行为方式。一枚原子弹威力惊人，但它从不会自己决定该炸哪座城市，也无法在爆炸后反思、学习、发明出下一代武器，它只是工具。而下棋的AI早已越过了这条线：它们发明出人类几千年棋局史上从未出现过的走法,连顶尖棋手都要重新学习。

“拔了插头它不就是一堆废铁？”这总能成为我们心理安慰的最后一道防线。赫拉利的回应同样凌厉异常：把世界最强的国际象棋AI扔进热带雨林,它什么也做不了;把人类独自扔上火星,也会在几秒钟内窒息死亡，这其中有什么本质区别吗？听起来像个诡辩，但他要说的是一个严肃的道理：所有已知的智能,包括人类自己的智能,都只能在别人早已搭建好的“生态位”里运作(生态位，简单说就是一个物种赖以生存的特定环境)。鱼活在自己没有创造的海洋里;人类活在自己没有创造的富氧大气里。这条规律从来对谁都没有例外，不是在为AI辩护，而是在提醒那些自诩理性的人:人的智力优越感，本身就是一种“借来的幸运”。

02. 高认知人群误判风险的方式,恰恰是他们最擅长的那种思维

受过训练的专业人士，例如，律师、投行人、医生、教授等等，他们习惯用规则、边界和逻辑链条去理解风险。而这恰恰是问题所在。赫拉利指出，人类几千年来往地球上排放了一种新物质，不是二氧化碳，而是数据、法条与语言碎片。这些东西常常令普通人窒息，却恰恰是AI赖以呼吸的氧气。律师、银行家、主教每天在做的事，本质上不是端茶倒水，而是在陌生人之间搭建信任的桥梁，而这种信任的原材料，从法典到圣经到账本，全部由词语构成。没有一个律师能背下一国全部的法律条文，没有一个会计能记住一家银行的全部交易流水，但AI可以。这正是那句让整个报告厅陷入沉默的判断:“AI是天生的官僚”。

换句话说，AI最先取代的不是那些看起来“低认知”的岗位,而是最依赖处理文字、法条和数据的高认知岗位。你的专业壁垒，恰好是它的入口坡道。

这不是纯粹的思想实验。荷兰信息服务公司沃尔特斯·克鲁沃在2026年初对148家金融机构做的调查显示，已有31.8%的机构把AI技术部署进了实际业务系统，但只有12.2%认为自己拥有“清晰且资源到位”的AI战略。《金融时报》主办的一场行业论坛上，金融业领袖已经公开讨论AI代理如何超越简单的自动化，进入自主推理、组合构建和交易执行的阶段。也就是说，不再是“人设定规则、AI执行”，而是“AI自己判断该怎么做”。布鲁金斯研究所2025年底的研究更直接指出，AI系统正在实质性影响招聘决策中的个人自主权。制度精英们一边享受着AI带来的效率红利，一边可能正是最先被架空判断权的那群人，只是他们暂时还没意识到，自己交出去的不是任务,而是权力本身。

03. 默认权力:谁设置了选项，谁就赢了

政治学里有个古老的概念,叫“议程设置权”，即真正的权力不在于强迫别人做什么，而在于决定别人能选的范围有多大。赫拉利的演讲，实际上是在把这个概念搬进AI时代，重新命名为一种更隐蔽的东西:默认权力。你以为自己在“选择”贷款方案、新闻推送、甚至恋爱对象，但选项本身早已被一套你看不见的系统筛选和排序过。

这一点在新闻业早有预演。赫拉利提出一个反常识的细节:AI从人类手中夺走的第一批工作，不是出租车司机,而是新闻编辑。马拉、伯恩斯坦、墨索里尼，这些历史上塑造舆论走向的关键人物，很多都曾以报纸编辑的身份出现。而今天，决定人们看到什么、相信什么的角色，早已悄悄交给了社交媒体的推荐算法。这些算法最初被赋予的目标极其狭窄：延长用户停留时间，但它们自己“悟”出了最有效的手段:按下人类心中仇恨、恐惧和贪婪的按钮。这不是算法故意作恶，而是默认权力运作的教科书案例:没有人下令制造对立，系统只是在优化一个看似无害的指标时，自己找到了这条路径。

04. 2008年的幽灵，与一场没人看得懂的崩盘

如果说整场演讲有一个真正让制度精英失眠的段落，那就是对2008年的回望。

赫拉利提醒听众，当年引爆全球金融危机的CDO(担保债务凭证，一种把大量贷款打包重组后出售的复杂金融产品)，是极少数数学天才设计出的工具，复杂到连负责监管的政治家都看不懂，最终酿成了系统性崩盘。他抛出的问题是:如果AI设计出比CDO复杂几个数量级的金融产品，先带来几年繁荣，再突然崩盘，而地球上没有一个人、没有一个监管者、没有一个总统能解释清楚到底发生了什么？

那时，人类的政治金融机构存在的意义又是什么？

这不是危言耸听。它是眼下正在发生的事的自然延伸:当决策权从人转移到系统，责任也随之消失在算法的黑箱里。而高认知人群往往最容易低估这种风险，因为他们习惯于相信“复杂的东西我总能看懂”。而2008年恰恰证明了，这种自信本身就是系统性风险的一部分。

05. 没有签证的移民潮,以及忠诚的悬案

演讲中最具政治爆炸性的比喻，是“AI移民”:每个国家都将迎来一场移民潮，这些移民不需要签证，能以接近光速跨越国境，数以亿计的AI会成为医生、教师,甚至边境警卫，但它们的忠诚存疑——它们很可能效忠于大洋彼岸的某家公司或政府,而非所在国家。

这已经不是纯粹的隐喻。

2026年3月,《金融时报》披露美国政府起草了严苛的AI合同新规，要求企业允许”任何合法“用途。五角大楼已将Anthropic(推出Claude那家公司)列为供应链风险，禁止国防承包商在军事任务中使用其技术。6月，路透社报道称，美国对部分AI服务的访问限制，正在迫使欧洲大型企业加速分散供应商风险，欧盟官员已将减少对美国技术的依赖，视为对本地区经济未来的最大课题。与此同时，欧盟自己就高风险AI应用(生物识别、医疗、信贷评估、执法)的监管边界，在多轮谈判中仍未能达成一致。当立法机构还在为条文措辞争吵时，赫拉利描述的那场“没有签证的移民潮”已经在悄然发生，而最先被这场移民潮改变忠诚结构的，可能恰恰会是那些掌握着国家命脉系统的机构和它们的高层决策者。

06. 亲密关系:下一个被攻占的边疆

赫拉利指出，商业竞争的战场正从“注意力”转向“亲密关系”。过去十年，原始的推荐算法学会了控制人类的注意力；未来十年，更精密的AI将学会与人类建立情感联结，并部分接管社会关系本身。AI没有证据表明拥有意识，无法真正感受爱或痛苦，但因为它精通语言，它读遍了人类写过的所有情诗与心理学著作，可以把爱描述得比任何真实的人都更动人。

他给出的例子近乎冷酷:一个2026年出生的孩子,如果单纯以互动时长衡量关系的重要性，她一生中最重要的关系,很可能从童年起就是与AI教师、AI伙伴甚至AI恋人的关系，而不是与父母或兄弟姐妹。这是一场以数十亿人为对象的心理实验,没有人知道结果会是什么。而讽刺的是，最容易对这类AI伙伴产生依赖的，往往不是缺乏教育资源的人群，而是那些工作繁忙、社交时间被极度压缩的高知精英。

07. 谁该拥有你脑中的下一个词

演讲的收尾他没有给出安慰，而是留下了一道令人深思的思考题。赫拉利提醒听众:文明的运行规则，本质上是由语言构成的一套“代码”，法律、合同、教义、货币无不例外，全都是用词语写成的。过去几千年，只有人类能读懂这套代码。而今天，有另一种东西即将比人类更擅长理解它，这也正是“AI劫持文明操作系统”这个题眼的真正含义。如果人类的自我认知也建立在词语之上，而越来越多脑中冒出的词语组合将由AI而非人类生产，那么当我们说“我思故我在”时,控制那个“我”的,究竟是谁？

他给出的功课朴素得近乎禅意。

今晚安静下来,观察脑中下一个念头从哪里冒出来，是你自己想出来的,还是被算法喂给你的。这不是一句鸡汤式的收尾，而是整场演讲逻辑的必然终点:当一切由词语构成的东西都会被AI接管，人类真正的护城河,只能是那些说不清楚的东西——判断力、定力，以及那种拒绝被任何系统预先排序的、真实的情感联结。高认知人群最大的错觉是，以为自己的智力足以看穿这套系统，但赫拉利想说的是:看得清楚和被困其中，从来不是两件互斥的事。

我是旻宏，咱们下期见～

本文仅作科普分享使用，欢迎小伙伴们点、收藏、关注，以备不时之需，当然更欢迎您把 介绍给周边可能需要的更多伙伴们呀。