人工智能价值对齐：从价值原则走向可执行制度——对话信息伦理学创始人卢恰诺·弗洛里迪

卢恰诺·弗洛里迪（Luciano Floridi）是当代极具国际影响力的哲学家之一，也是信息哲学和信息伦理学的奠基人，著有《信息伦理学》《第四次革命：人工智能如何重塑人类现实》等代表作。他的研究深刻塑造了我们对数字时代人类现实与伦理挑战的理解。弗洛里迪教授现任耶鲁大学数字伦理中心创始主任。近日，本报记者就人工智能领域的价值对齐、伦理困境、全球治理等核心议题，对他进行了专访。

卢恰诺·弗洛里迪 受访者\供图

价值对齐目标原则与风险

《中国社会科学报》：

价值对齐，即确保人工智能系统与人类价值观、意图及伦理原则保持一致，已成为当下AI治理最核心的命题之一。它的核心目标和原则是什么？当价值对齐出现系统性偏差时，可能引发哪些社会风险？

卢恰诺·弗洛里迪：人们通常将价值对齐描述为一项确保人工智能系统与人类价值观保持一致的任务，但这种表述从一开始就作出了过多的让步，没有任何人工智能拥有人类意义上的“价值观”。人工智能系统所拥有的，是我所说的“无智能的能动性”（Agency without Intelligence）：它完全不理解世界，却有能力在世界中成功地采取行动。因此，这本质上是一个关于设计、约束与问责的问题，而非道德教育的问题。这一区分并非咬文嚼字，因为两种不同的理解会导向两种截然不同的制度安排、社会预期和立法路径。

一旦理解正确，价值对齐便有三个核心目标，而目前人们常常将它们混为一谈。其一是限制性：系统行为必须落在社会所划定的边界之内，某些输出和某些用途是绝对禁止的。其二是目的忠实性：一个被部署用于完成某项任务的系统，应执行该任务，而非其某个可度量的替代物。其三，也是最容易被忽视的可纠正性：系统的运营者必须能够随时中断系统、修改系统，并修复它所造成的任何损害。一个系统可能满足第一项要求，却完全无法满足第二项要求。任何以“注意力”为优化目标的推荐系统都足以证明这一点。

关于原则，2018年，我和同事考察了当时最具代表性的六套伦理原则框架，共计47条原则。六套伦理原则框架最终汇聚为五项原则：其中四项来自生物伦理学，即行善（beneficence）、不伤害（non-maleficence）、自主（autonomy）和正义（justice），第五项则是由数字语境所催生的可解释性。第五项原则使前四项原则具有了可操作性。如果无人能够说明一个系统是如何产生其输出的，或者谁应为这些输出负责，那么其余四项原则就无法得到检验，最终只能沦为空洞的修辞。

系统性偏差所带来的风险，比人们通常描述的更为隐蔽，因此也更加严重。在我看来，最紧迫的风险有三项。第一，代理指标（proxy）僭越了其本应追踪的价值：用参与度衡量福祉，用转化率来衡量收益。一次如此是错误，但日复一日百万次如此，便成为了社会结构的固有特征。第二，责任被稀释：“对齐”开始成为一张许可证明，弱化了损害发生时谁应该负责的问题。对此，我主张的方案是“人在指挥”（human-in-command），而非仅仅是“人在环路中”（human-in-the-loop）。第三，语义资本在被缓慢侵蚀：在某一个地区的人类语义环境中训练出来的系统，会将这一地区的表达方式作为默认模式带到世界各地。结果导致人们能够轻松表达的内容范围逐渐缩小。而最后一种风险，据我所知，尚无任何基准能够度量——而这也恰恰是我最不希望自己说中的。

价值多元下的对齐边界

《中国社会科学报》：

人类价值观本身是多元、动态、充满内在矛盾的。您如何看待“既然人类自身都无法就价值达成共识，因此价值对齐无解”这种观点？在您看来，人工智能系统应当如何划定“求同”的底线和“存异”的空间？

卢恰诺·弗洛里迪：这一论证从价值基础存在分歧推导出实践中无法达成一致，但这一推论并不成立。雅克·马里顿（Jacques Maritain）在《人与国家》（Man and the State）中曾记述过这样一次交流：在联合国教科文组织某国家委员会的一次会议上，与会者讨论人权问题，那些意识形态截然对立的参与者，竟然能在一份权利清单上达成一致。这种共识并非哲学上的窘境，而是持久的规范性共识在现实中得以达成的真实方式。上述反对观点的逻辑实则被过度延伸了，三个领域的实践足以证明这一点：医学界对何为“美好生活”并无统一学说，但分诊方案照样制定并执行；工程学没有统一的形而上学基础，但桥梁的荷载极限照样设定并用于检查；刑法每天都在被执行，而执行者可能对刑罚的正当性依据存在深刻分歧。一门实践所需要的，并非对其终极正当性的共识，而是对“该做什么”的共识。

这一切的背后隐藏着一个更深层的错误：对共识的要求被放置在错误的层面。价值对齐并不要求就“何为善”达成一致。它要求的是对“何为不可容忍、何为不可接受”达成一致，而禁止性规则比理想性原则更容易获得普遍认同。询问一百个拥有不同文化背景的人“何为美好生活”，你会得到一百种不同的回答；但如果问他们，一个系统是否应该协助实施对儿童的性剥削，所有回答都将趋于一致。这一区分给出了你所问及的“划界”方式，我会将其分为三个层次。最底层是绝对禁令，这类规则不允许任何本地化调整，也不接受任何商业例外，是系统无论在何处运行都绝对不能触碰的事项。其上是司法管辖层面，涉及不同社会之间存在正当性差异的问题，包括言论自由的边界、隐私与安全之间的平衡，以及对宗教和家庭事务的处理方式等。在这一层面，要求的不是给出唯一答案，而是明确披露“采用了何种答案、由谁采用、在何种权威之下采用”。再往上则是个人层面。在法律允许的范围内，由用户自行决定，因为系统不应当对用户进行道德说教。这种治理框架最典型的失效方式是偷换层级：把本该归属于第二层级的属地化规则，伪装成第一层级的禁令对外推广，但很多参与方都会这么做，而且在境外操作时，往往比在本土时更加肆无忌惮。防止这种情况发生的方法虽然枯燥，却颇为有效，即对于系统施加的每一项限制，服务提供商都应当能够说明其属于哪一个层次，以及为什么属于这一层次。

价值对齐挑战与法治转化

《中国社会科学报》：

除了价值多元性，您认为价值对齐还面临哪些紧迫的挑战？

卢恰诺·弗洛里迪：我认为有四个挑战，且其重要性依次递增。第一个挑战在于规范化的过程本身，因为价值观是以自然语言表述的，而系统只能依据被设定为其代理物的技术指标来运行。每一种价值观都必须被转化为可执行的技术替代指标（surrogate），而每一次转化都有损耗。古德哈特定律在这里格外适用，因为优化是无情的，而这些替代指标无法提出异议。凡是在规范化过程中被遗漏的内容，不仅会遭到忽视，更会被变相地消耗掉。

第二个挑战是验证问题。我们无法直接检验一个系统的内在倾向，只能对其行为进行抽样。评估只能在有限的样本上测试系统，而这些样本来自一个实际上无限的可能交互空间。因此，“这个模型是经过对齐的”这一说法更准确的表达应该是：“这个模型在测试过的范围内表现得可以接受。”但这两种说法经常被混为一谈。

第三个挑战是究竟与谁对齐？“人类价值观”这一说法掩盖了一个先于技术问题而存在的政治问题，因为一个与其部署者对齐的系统，可能与其用户不对齐；一个与其用户对齐的系统，可能与其他所有人不对齐。大多数被呈现为技术性对齐的问题，实际上是“系统服务于谁的利益”的问题，而这个问题并不能通过更好的训练来解决。

第四个挑战也是我认为最具深远影响的问题：对齐仍然被当作模型的一种属性来对待，而实际上它已经成为了基础设施的一部分。如今真正具有重大影响的模型已经不再是执行单一任务的单一系统。它们是被嵌入供应链、公共服务以及其他软件之中的通用能力，并且越来越多地采取实际行动而非仅仅生成文本。在这一层面上，真正重要的是我提出的“伦理基质”（infraethics），也就是那些规范、默认设置、激励机制和程序。它们会使某些行为成本更低，而另一些行为成本更高。一个表现完美的模型，如果被置于一个奖励反向行为的基础设施之中，其作用将微乎其微，即便再多的微调也改变不了这道算术题。

《中国社会科学报》：

您的学术观点为欧盟《人工智能法案》的设计提供了重要的哲学基础。在您看来，将“价值对齐”从抽象原则转化为具有可执行性的法律条款，最关键的一步是什么？当前的法律框架是否足以应对大模型时代的对齐挑战？

卢恰诺·弗洛里迪：真正关键的一步在于把价值转化为由明确责任主体承担的义务。当以下五个问题都得到回答时，一种价值观才真正具有可执行性：谁必须做什么、依据什么证据、在什么时候完成、由谁评估、如果失败将承担什么后果。任何条款若在这五个问题中有任何一项未予以明确，那便只是一条披着法律外衣的原则。这项工作并不引人注目，但恰恰是大多数伦理准则最终悄然失效的地方。“系统应当公平”这句话约束不了任何人。而一项规则若要求某个具名的服务提供商记录所使用的数据集、将该记录保存十年、在指定主管机关要求时予以提供，并且明确规定未履行义务所应承担的处罚，那么它就真正具有约束力。

欧洲刚刚展示了忽视这一点的代价。2026年7月8日通过的欧盟法规（EU）2026/1744，即《人工智能数字综合法案》（Digital Omnibus on AI），将《人工智能法案》附件III所列系统的主要高风险要求，从2026年8月2日推迟至2027年12月2日，延期了16个月；对于嵌入受监管产品中的高风险系统，相关要求则从2027年8月2日推迟至2028年8月2日，延期12个月。延期的原因并非价值观发生了变化。《人工智能数字综合法案》序言指出，相关标准和指导尚未准备就绪，而各国主管机关也尚未建立起来。价值观数年前就已达成共识，但将价值观转化为法律义务的工具却尚未建立起来。因此，一部没有相应执行工具支撑的法律，最终只能自我延期。

与中国的情况相比，这一点颇具启发意义。中国采取的是逐项应用监管的方式，《互联网信息服务算法推荐管理规定》于2022年3月1日生效；《互联网信息服务深度合成管理规定》于2023年1月10日生效；《生成式人工智能服务管理暂行办法》于2023年8月15日生效；《人工智能生成合成内容标识办法》则于2025年9月1日生效。它们的合规机制不同于欧洲模式，彼此之间也各有差异。备案义务主要针对具有舆论属性或社会动员能力的服务。在算法推荐规定下，备案应在服务开始后十个工作日内完成，而非在服务启动之前。安全评估同样具有针对性，但适用范围更广，因为深度合成规则涵盖了生成或编辑人脸、声音及其他生物识别信息的工具，也涵盖涉及国家安全、国家形象、国家利益或公共利益的内容。标识管理规定要求显式与隐式双重标识，并对平台和应用商店施加义务，但并未创设上市前的许可制度。

因此，中国与欧洲形成了鲜明对比：一边是针对具体应用的行政监管，另一边是横向的、依赖标准的立法模式。前一种监管方式的优势在于无需等待标准出台即可行动。

那么，现有法律框架，尤其是欧盟《人工智能法案》是否足以应对大模型时代带来的挑战？答案是否定的，原因有三个。其一，其高风险架构按预期用途对系统进行分类，而通用模型可服务于多种下游用途。这也是为什么关于通用模型的规则并未出现在欧盟委员会最初的提案中，而在谈判进程中才予以补充的原因。针对系统性风险，该法案以训练算力超过1025次浮点运算作为高影响力能力的可反驳推定标准，同时授权委员会基于其他理由进行认定，并可在日后调整该阈值。因此，算力只是一个代理指标，而非完整的法律测试标准；如果效率提升速度超过法律更新速度，这一标准可能很快失去效力。其二，执法依赖于专业知识，而监管机构必须与自己所监管的企业争夺这类人才。如果监管者必须依赖被监管方对相关证据的解释，那么这种监管者实际上就不能称为真正的监管者。其三，智能体部署是在使用环节由不同参与方提供的组件组装而成。该法案确实将义务分配给了提供者和部署者。《人工智能法案》第25条规定，当分销商、进口商、部署者或其他第三方对高风险系统重新贴牌、进行实质性修改，或者改变系统的预期用途从而使其成为高风险系统时，可以将其视为提供者。然而，当没有任何单一参与方控制整个部署时，举证责任与法律责任的分配仍然是个难题。以上种种，并非反对该法案，而是主张将其视作第一个版本，即一个需要迭代完善的起点，而非定论。

全球AI治理的制度建构

《中国社会科学报》：

当前，全球人工智能治理存在结构性失衡，表现为“全球北方输出规则”与“全球南方话语弱势”的格局。2026年7月，世界人工智能合作组织（WAICO）在上海成立，29个国家作为创始成员签署了协定，其成立代表着多边治理已经建立。在您看来，WAICO若要成为一个实质性的合作平台，最需要具有什么样的制度能力？更广泛而言，国际社会可以采取哪些制度设计，确保发展中国家平等参与人工智能治理并共同决策？

卢恰诺·弗洛里迪：这种失衡确实存在，但我会换一种方式来描述它：它首先是物质性的，然后才是话语性的。算力、能源、芯片制造、数据中心以及专业人才，其分布远比投票权不平等得多。因此，一个无法主管、训练或独立评估模型的国家，无论在标准委员会中拥有怎样的正式地位，其实际影响力都非常有限。在能力不平等的前提下追求程序平等，只能产生形式上的平等。这也是为什么虽然包容性治理倡议越来越多，依赖关系的基本格局却没有发生太多改变。

值得注意的是WAICO成立时中国作出的各项承诺。其中包括：未来五年为发展中国家提供5000个研修培训名额；与东盟、阿盟、非盟、拉共体、上合组织、金砖国家等共建国际人工智能应用合作中心；推动气象智能预警方案“妈祖”在30个国家落地应用。这些承诺之所以恰如其分，是因为它们直指能力建设的核心。而WAICO能否将国家承诺转化为可被第三方核查的规则、预算、共享资产和实际交付，则是其面临的制度性考验。

就WAICO的需求而言，其他国际组织的过往记录已清楚指明了哪些方面至关重要。那些能够持久存续的国际组织，都在管理着某种稀缺资源，例如国际电信联盟管理全球无线电频谱和卫星轨道资源。因此，第一个建议则是拥有一项实质性的业务领域：一笔基金、一套设施、一个登记系统或一项共享的评估服务。第二个建议是秘书处自身必须拥有技术能力，即独立评估能力。一个只能召集会议却无法进行评估的秘书处，永远只能依赖那些本应受其监督和问责的对象提供情况说明。第三个建议，或许也是最有挑战性的一项，关乎内部治理：须在预算分摊、领导权轮值及决策程序等方面制定明确的规则。第四个建议是与既有机制建立有效的工作联系。2025年8月26日，联合国大会第A/79/325号决议设立了人工智能治理全球对话。该对话的首届会议于2026年7月6日至7日在日内瓦举行。WAICO协定是在该轮会议结束九天之后于上海签署的。

WAICO相比联合国现有机制更有条件做的一件事情，是以其成员国的语言对模型进行共享评估。目前，模型评估语言仍然高度集中在英语以及少数语言。于是，一个系统可能通过了所有测试，却仍然在其实际使用者面前失效。多语言基准测试和协作评估项目正在建设之中，但据我所知，尚没有一个项目是真正以政府间机制的形式存在的，并为成员国提供以其本国语言进行的共享、独立测试。WAICO成员国所使用的语言更加多样化，因此可以解决上述问题。

总体而言，要使该组织更具实质意义，我建议推行以下具体制度设计。第一，决策规则应采用成员数量和出资份额的双重多数原则，以确保最大出资方与单纯的数量多数均无法独行其是。第二，参与技术标准化的经费应予以直接拨付，因为将法律义务转化为可操作规范的技术规格，正是在ISO/IEC JTC 1/SC 42和CEN-CENELEC JTC 21等委员会中制定的。在欧洲，经《欧盟官方公报》引用的协调标准可以赋予合规推定，而参与这些委员会的工作需要持续投入人力和物力，这恰恰是较贫穷的代表难以承担的。第三，算力与评估能力应通过区域性公共设施、在风险可控前提下适度开放权重，以及共享测试套件这三种方式加以统筹整合，因为能力建设是将席位转化为实际影响力的关键。第四，大规模部署应当以本地化评估为前提条件，而且评估能力的建设费用由部署方承担；所有面向公众规模化部署的系统，都不能在缺少本地语言与本地化环境测试方式的情况下贸然上线。最后这一点，将抽象的平等诉求转化成了一项可以审计的具体要求。

制度设计只是答案的一半。关于文明互鉴，我希望能看到的远不止目前通行的那种做法。实质性的文明互鉴意味着要相互承认：不同传统之间的差异不仅在于它们给出的答案不同，更在于它们所提出的问题本身就不尽相同。以角色相对义务为基础的框架，关注的是在既定的关系格局中，谁对谁负有何种责任；而以权利为基础的框架，追问的是对一个人，何事不可为。二者的出发点不同，后者绝不可能通过增补修饰性概念，就吸纳、消解前者的核心逻辑。这也意味着要在系统的实际使用语言和使用环境中对其进行评估，这是一项需要长期推进的研究计划。

有一点须提醒各方：文明互鉴不等于相互豁免。如果某种传统被搬出来，只是为了把某种做法置于免检地位，那么它便已不再是对话的参与者，而是在终结对话。我们之所以要认真对待其他传统的价值，恰恰是因为它们能提出那些我们凭自己永远也想不到的问题。

中国社会科学报记者 杨蓝岚

来源 ：中国社会科学报

责任编辑：赵琪

新媒体编辑：常畅

如需交流可联系我们