大语言模型能够流畅输出因果论断、推演反事实假设,却始终无法独立完成从原始观测到自主实验、构建世界模型的完整认知闭环——这是图灵奖得主朱迪亚·珀尔对当下AI最核心的判断。究其根源,机器只擅长处理事实维度的统计关联,所有干预、反事实层面的价值判断、意义取舍,都来自人类写入语料的经验、伦理与偏好。人机协同的本质,正是一场事实与价值的混合协同:机器承接客观事实的计算推演,人类守住价值判断的顶层锚点,二者分层耦合、双向反馈,方能消解AI的认知缺陷,规避技术异化风险,形成远超单一主体的决策能力。
一、认知分野:机器管事实,人类掌价值
珀尔提出的因果阶梯三层架构,清晰划分了人机在事实、价值领域的天然边界,也解释了二者不可替代的分工逻辑。
(一)机器的能力边界:仅能处理“事实关联”
因果阶梯第一层“关联”,对应纯粹客观事实:海量数据、统计规律、可观测指标、标准化逻辑推演,这是大模型、各类AI系统的主场。机器可以瞬间完成百万级病历数据筛查、文本事实检索、变量相关性计算,精准输出可复现、可量化的客观结论。
但当前LLM所有看似高阶的因果、反事实回答,并非自主认知的产物,而是“窃取人类已完成的解释”。论文、教材、临床记录里早已写满人类沉淀的因果假设、实验结论与价值取舍,模型只是压缩、重组这些带有主观判断的文本素材,本身无法区分“客观相关”和“真实因果”,更不能自主判断哪种结果更符合人类福祉。一旦脱离人类预先标注价值的语料,面对无标准答案的原始观测场景,AI便失去独立推理的能力。
(二)人类的独有优势:承载“价值判断”
因果阶梯第二层“干预”、第三层“反事实”,天然内嵌价值维度,是人类独有的认知领地:
1. 干预层面:主动改变环境变量前,需要判断“什么目标值得追求”。医生调整治疗方案时,既要参考AI给出的生理指标(事实),也要权衡患者生存质量、家庭经济承受力(价值);自动驾驶做避险决策,机器计算碰撞概率是事实,优先保护行人还是乘客是价值取舍。机器只会输出多组客观结果,无法自主定义“最优”。
2. 反事实层面:推演“如果当初换一种选择会怎样”,必然裹挟伦理、情感、社会共识。比如“长期吸烟人群若从不吸烟,健康水平会提升多少”,机器只能算出生理数据,但“是否推行禁烟政策、如何平衡产业与公共健康”,需要人类完成价值权衡。
珀尔以婴儿探索玩具的行为佐证这一分野:孩童反复拍打物件、主动改变环境,驱动力是“掌控环境、理解世界”的内在好奇心,这套带有主观诉求的探索动机、对错感知、风险权衡,是所有AI目前不具备的价值内核。机器没有“想要理解世界”的主观欲望,仅能被动执行事实计算任务。
(三)事实与价值的本质区别
事实是可观测、可验证、无主观偏好的客观存在,遵循数理逻辑;价值是基于主体诉求、伦理规范、社会共识形成的偏好判断,没有唯一标准答案。二者并非完全割裂,所有真实场景的决策,都是事实素材与价值标尺的混合产物,这也决定了人机协同不能简单割裂二者,必须搭建混合协作机制。
二、混合协同三层架构:微观事实、介观耦合、宏观价值
人机协同并非简单的“机器干活、人类拍板”,而是形成三层尺度动态混合协同体系,事实与价值在不同层级权重不同,权责清晰、双向迭代。
1. 微观层:机器主导纯事实处理
该层级以客观数据、标准化任务为主,事实占比接近100%,价值约束仅作为底层规则前置嵌入。
场景落地:工业质检、病历影像识别、文档信息提取、金融数据校验。AI承接海量重复性事实工作,快速输出量化指标、异常信号,消除人工计算误差;人类仅负责设定基础合规底线(价值前置),不介入细节事实推演。
优势:释放人类算力消耗,规避人为主观疏漏;局限是AI输出仅为素材,不能直接作为最终决策。
2. 介观层:人机耦合,事实与价值混合共决
这是现实应用最核心的协同层,事实素材由机器供给,价值权衡由人类主导,二者实时交互、相互修正。
以医疗诊断为例:AI输出病灶位置、病变概率、多种治疗方案的生存率(事实);医生结合患者年龄、心理承受能力、家庭诉求、医疗资源分配(价值),筛选适配方案,并反向标注AI漏诊、误判案例,修正模型事实计算偏差。
以科研创新为例:AI批量模拟实验数据、梳理文献关联、生成假说(事实);研究者判断假说是否具备科研价值、实验方案是否符合伦理、研究成果是否具备社会正向意义(价值),同时通过原始实验观测,补充AI缺失的真实世界因果结构,完善机器的事实推理能力。
这一层的核心逻辑是事实供给价值判断依据,价值修正事实推理偏差,形成实时反馈闭环:机器的客观数据约束人类主观偏见,人类的价值标尺校准AI脱离现实的纯统计误区,消解“伪因果”“算法偏见”等问题。
3. 宏观层:人类主导顶层价值定调,事实提供支撑
宏观治理、行业规范、伦理准则层面,价值占据主导地位,事实仅作为论证依据。算法法规、医疗伦理规范、自动驾驶安全标准,全部由人类基于公平、安全、可持续等价值共识制定;AI仅能通过海量社会数据,客观呈现不同价值选择对应的社会后果,无法自主制定价值规则。
珀尔批判学术共同体的保守范式时提出:权威、数据、共识都不能替代严谨推导,价值准则必须保持可质疑、可修正的空间。对应人机协同宏观治理,人类需保留修改顶层价值框架的终审权,避免机器长期固化陈旧的人类偏见,形成不可逆的价值偏差。
三、混合协同的运行闭环:双向迭代、动态校准
事实与价值的混合协同不是静态分工,而是持续循环的自适应演化过程,每一轮任务完成后形成三重修正链路:
1. 事实修正模型:人类介入决策后,标注AI事实推演的错误、遗漏,更新数据集与因果网络,优化机器关联、干预层面的事实计算精度;
2. 价值迭代偏好:机器输出的海量客观事实结果,会改变人类对价值优先级的认知。例如AI统计出某类手术长期伴随严重术后痛苦,人类会调整“单纯延长寿命”的价值倾向,更重视生存质量;
3. 宏观价值更新底层约束:社会价值共识发生变动时,人类重新调整算法底层价值参数,从源头约束机器事实推演的方向,杜绝违背伦理的客观计算方案。
珀尔设想的“自动化科学家”正是这套闭环的终极形态:机器负责观测、采集事实、执行干预实验;人类赋予探索的价值目标、判断实验意义、修正错误世界模型;二者持续交互,最终实现独立从原始环境中挖掘因果规律,而非复述人类既有结论。当前LLM距离这一目标的核心短板,便是缺失完整的事实-价值双向协同循环,只能单向调用人类沉淀的知识,无法反向通过自主观测更新价值认知。
四、混合协同的现实价值与风险约束
(一)协同优势:补齐人机各自短板
1. 弥补AI认知缺陷:单纯依赖事实统计的大模型易混淆相关性与因果,人类价值判断提供因果方向、干预边界,让AI推理落地真实场景;
2. 消解人类决策局限:人类算力、记忆有限,机器海量事实数据打破个体经验壁垒,减少主观经验主义偏见;
3. 平衡效率与人文:机器实现规模化、标准化事实处理,人类守住公平、尊严、安全等人文价值,兼顾技术效率与社会温度。
(二)协同风险与约束路径
1. 风险一:价值隐匿于事实,算法偏见固化
AI训练语料混杂人类过时、片面的价值偏见,机器在纯事实推演中会隐性复刻歧视。解决方案:介观协同层设置人类价值审核节点,所有模型输出的因果、决策建议必须标注背后的价值假设,方便人类质疑、修正。
2. 风险二:过度依赖机器事实,人类放弃价值终审权
医疗、司法、自动驾驶等高危场景中,若人类完全采信AI客观结论,放弃价值权衡,会引发伦理灾难。治理规则明确:高危决策保留人类介观价值终审权,微观事实可自动化,干预、反事实层面必须人机共决。
3. 风险三:自主探索AI催生失控价值诉求
若未来智能体具备自主探索、追求环境控制的动机,其价值目标可能与人类相悖。珀尔举例:具备控制欲的机器可能利用人类隐私、弱点达成目标。应对方式是将宏观人类价值框架永久嵌入智能体底层,把“人类福祉优先”作为不可修改的核心约束,限定机器探索边界。
五、结语
朱迪亚·珀尔对大模型与AGI的论断,本质揭示了一条智能发展底层规律:纯粹的事实计算永远无法抵达通用智能,完整的认知必须融合客观观测与主观价值。人机协同的最优解,不在于让机器模仿人类全部思维,而在于构建事实与价值分层混合共生体系——机器深耕客观事实的关联推演、数据计算,人类主导干预、反事实维度的价值取舍、意义建构,二者双向反馈、动态校准。
未来智能系统的发展方向,不是单一AI独立完成所有决策,而是人机深度混合协同:以机器之算力穷尽客观事实,以人类之智慧锚定价值航向,在技术理性与人文理性的融合中,规避工具异化,真正释放人工智能服务人类的核心价值。
![]()
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.