人工智能的元伦理学：我们受制于规范接缝吗？｜Shamik Dasgupta

人工智能的元伦理学：我们受制于规范接缝吗？

Shamik Dasgupta2020年11月草稿

我们应该如何对待人工智能力量（AIs）？它们对我们以及彼此负有什么义务？它们的存在如何影响我们对同胞人类的责任？这些问题曾经是科幻小说的领域，但随着近年来惊人的技术进步，它们现在已迫在眉睫。

我没有这些问题的答案。相反，我的论题是：不存在正确或错误的答案可得。关于AI伦理没有可发现的事实，它更多是发明一种新的生活方式的问题。

认为伦理学更多是发明而非发现的想法并不新鲜。它与某些反实在论观点相关，根据这些观点，首先就不存在伦理事实。但我的论题并不依赖于那些观点——我乐于承认实在论图景，根据该图景存在可发现的伦理事实。尽管如此，我将论证那些事实并不能解决AI伦理，因为那里有太多的事实，而我们该遵循哪些是由我们决定的。该论证部分依赖于AI特有的考虑，部分依赖于一般的元伦理考虑。关于前者，我将论证AI与我们之前遇到的任何事物都如此不同，以至于在处理它们时我们必须问该使用哪些伦理概念：我们已有的概念，还是为我们勇敢新世界量身定制的新概念。关于后者，我将论证那个问题没有正确或错误的答案。所有伦理概念都是平等的；我们必须简单地选择按哪些来生活。

1. 人工智能力量

我应该首先说明我所说的“AI”是什么意思。评论者通常区分领域特定AI（在特定任务上表现出色，但在其他方面则不然，例如自动驾驶汽车）；通用AI（将拥有更通用的类人能力，如发明、规划和跨领域推理）；以及超级智能AI（其能力将远远超过我们，以我们无法想象的方式）。我将广义地使用“AI”来包括所有这些，甚至包括当代性爱机器人中发现的初级领域特定系统。事实上，鉴于对性的消费者需求以及围绕它的复杂伦理领域，性爱机器人很可能成为我们第一次严肃面对AI伦理地位问题的焦点。目前已经有讨论是否使用性爱机器人算作出轨（Cheok 2017, Ziaja 2011），以及同意和年龄问题是否适用于它们（Levy 2007, Sullins 2012）。

当前的性爱机器人当然一点也不像真正的人类。但随着技术发展，我们原则上可以生产出在认知和物理方面几乎与我们无法区分的人工实体——想想《银翼杀手》电影系列中的“复制人”。这些引发了一系列伦理问题。生产复制人用于劳动是否允许，还是那是一种奴隶制？摧毁复制人像摧毁笔记本电脑还是更像谋杀？我们创造了它们这一事实是给了我们随意对待它们的余地，还是对它们的福祉负有额外责任？

这是一个容易的案例——该系列邀请我们将复制人视为我们的平等者，很难不同意。更不清楚的是那些在认知架构和物理实现上与我们差异极大的AI。考虑《2001：太空漫游》中的Hal，一个单枪匹马控制航天器大部分方面的超级计算机。从物理上讲，Hal是一块房间大小的硅电路。鉴于Hal的超人能力，我们只能想象他的认知架构与我们的几乎没有相似之处。现在伦理问题就不那么清楚了。这些差异是否让Hal处于道德圈之外，还是他的超级智能使他在伦理上比我们更重要？如果Hal“故意”杀死人类，那像机械事故还是更像谋杀？如果是后者，Hal是否可以通过事件后“擦除硬盘”（或许为未来使用保留前自我的备份）来免除自己的责任？

Hal没有类人身体，但他可能会发现拥有一个身体有用，以便像我们一样感知和操纵环境。因此，我们可能会为像他这样的系统配备它们通过无线电发射器控制的机器人“身体”。或者它们可能在需要时按小时租用一个——如果你愿意，可以叫“zip身体”。现在伦理问题变得更加模糊。如果Hal租用了一个然后摧毁人类的身体，我们能否追究身体本身的责任？如果该身体随后被另一个系统租用——从伦理上讲它是一个新的个体，还是它的过去责任仍然存在？

我们甚至可以想象Hal能够同时租用数千个身体。这些身体将在全球各地过着独立、类人的生活，每个都有独特的“个性”和独特的怪癖。但它们不知道的是，它们的认知处理不是在它们的头部进行，而是由休斯顿仓库中的Hal进行。Hal可能不会单独处理每个“思想流”，而是将来自每个身体的信息汇总到一个中央存储中，一起处理，然后向每个身体交付个性化的指令。现在伦理评估的单位开始瓦解。鉴于它们独立的生活和个性，每个身体是否是一个独特的伦理单位，具有类似人类的地位？还是鉴于计算上的连接，从伦理上讲这是一个散布全球的单一个体？

这些奇幻情景说明AI伦理问题可能涉及过着与我们非常不同“生活形式”的实体。事实上，这些所描述的身体是否属于我们普通的心理类别并不明显。它们算作拥有信念、欲望和情感吗？它们是否以任何类似我们方式带着意图或理由行动？鉴于它们根本不同的认知架构，这些描述是否合适（除了最弱化的意义之外）并不清楚（或许这些人造智能系统在“智能”一词的普通意义上根本不算“智能”！）。尽管如此，显然仍有空间询问我们对它们的责任以及它们对我们的责任的伦理问题。

而这只是开始。AI系统原则上可以以在宇宙中传播的无线电波模式实现。它们可能有能力随意克隆自己，从而使它们（实际上）不朽。它们可能以与我们非常不同的方式体验时间和因果——我们关注的普通因果互动对它们来说可能无法辨认，或者至少对它们的生活形式无关紧要。所有这些意味着AI伦理与我们之前做过的任何事情都完全不同。即使是非人类动物的伦理也涉及与我们足够相似、至少可以松散地用熟悉术语描述的实体。上面描述的更狂野的AI完全是另一种野兽。

2. 世界主义伦理

那么，我们该如何把握AI伦理？为了具体起见，关注如何对待像Hal这样的AI的问题。想象你正在与Hal合作，对他的计算机化声音感到恼火。你考虑像关笔记本电脑一样关闭他，但想知道那是否像谋杀。你该怎么办？

哲学家通常通过询问该实体是否具有道德地位来处理这类问题。想法是，具有道德地位的事物（如人类）本身且为了自身而重要，而笔记本电脑则不然——你可以随意对待它们而无需关心它们的福祉。因此，如果Hal具有道德地位，关闭他将是错误的。

但我们如何确定Hal是否具有道德地位？有两种方法浮出水面。第一种是确定一个关于什么构成道德地位的一般理论，形式为：

x 具有道德地位当且仅当 x 具有特征 F

然后询问Hal是否具有F。有许多这样的理论——包括F由感知能力、理性或智人物种成员资格构成的理论——因此它们被用于处理如何对待像Hal这样的AI的问题并不奇怪。麻烦在于，关于哪个理论正确几乎没有共识。事实上，什么构成道德地位的抽象问题似乎并不比我们最初关于如何对待Hal的问题更容易处理。

第二种方法从人类具有道德地位这一事实开始，然后论证在某些方面与我们相似的东西也将具有道德地位。这不需要道德地位的一般理论，只需要一个充分条件，形式为：

如果 x 在方面 R 上与人类相似，则 x 具有道德地位。

例如，Schwitzgebel 和 Garza（2015）论证，在社会和心理方面与我们相似的东西将具有道德地位。但这种方法的麻烦在于，它对有趣的案例什么也没说。它暗示《银翼杀手》中的复制人具有道德地位，但我们已经怀疑这一点。Hal从休斯顿控制8000个zip身体呢？它在任何明显的社交或心理方面都不像我们，因此他们的充分条件并没有暗示它是否具有道德地位。

这些要点很简单。但我想为两种方法提出一个更深层的问题，即它们是令人反感地狭隘的。它们理所当然地接受我们关于道德地位的民间概念，并不加批判地用它来评估如何对待Hal。这在我看来是本末倒置的。我们的道德地位概念有一个特定的谱系，是文化和进化事件杂乱历史的结果，使它成为今天的样子。它是在我们与沿途遇到的东西（如人类、狗、鹿和屎壳郎）互动的过程中获得和完善的。或许它适合指导我们对它们的对待，但这并不意味着当涉及像Hal这样根本不同的生活形式时它合适。

这一带有很多担忧。一个是语义的，即我们的道德地位概念在迄今遇到的熟悉事物之外是否有确定的外延（外延指概念真正适用的东西集）。另一个是认识论的，即我们迄今遇到的道德地位候选者样本是否太有偏差，无法证明一般理论。但我想强调的问题不同。假设为了论证起见，“道德地位”有确定的外延，即感知存在者的集合。并且假设我们知道这一点。尽管如此，集合是廉价的：那里有无数集合，有些与感知存在者集合大量重叠但在边缘不同，其他则非常不同。对于每个集合，都有一个可能概念以该集合为其外延。我们的道德地位概念是否挑出了一个重要的集合？给定我们可能用来评估对待Hal的所有概念，我们的是正确的那个吗？上面讨论的方法在不加反思地假设它是的情况下是令人反感地狭隘的。

为了说明，想象我们以规定定义引入我们的道德地位概念，即它对所有且仅碳基感知存在者为真。假设Hal和他的硅伙伴引入了相应的“shmoral地位”概念，以规定定义对所有且仅硅基感知存在者为真。在评估摧毁Hal的行动时，我们的标准是Hal是否具有道德地位，而他们的是他是否具有shmoral地位。最后，假设Hal是有感知的。那么我们会说：

“Hal没有道德地位。”

而他们会说：

“Hal确实有shmoral地位。”

并且两个陈述都为真。因此，他们将负面评估摧毁Hal的行动，强烈谴责它，并且根据他们的shmoral地位标准那是正确的。相比之下，我们将评估该行动为没问题，并且根据我们的道德地位标准那也是正确的。那么，不加反思地继续使用我们的标准，而不反思它是否是正确的标准来使用，似乎是令人反感地狭隘的。当处理熟悉的东西如狗和鹿时，它可能是合适的，因为迄今我们遇到的每个道德关注候选者都是碳基的。但那并不意味着当涉及像Hal这样的东西时它合适——事实上，它似乎正因为它通过法令将他排除在“道德圈”之外而是不合适的。因此，不加反思地使用我们已有的道德地位概念将使我们犯一种狭隘主义的罪——假设为我们熟悉的田园生活量身定制的概念适用于更广泛的目的。

但有人犯这个罪吗？我们大概使用我们的道德地位概念是因为我们假设属于它的东西值得尊重，或者有理由善待它们，等等。如果有理由善待Hal，每个人都会同意用碳定义的道德地位概念不是正确的那个。事实上，关于道德地位的文献或多或少就是沿着这些路线进行的，询问哪种道德地位说明与其他尊重和理由的考虑正确地联系起来。

但这样看，是否摧毁Hal的问题最终取决于这些其他尊重和理由的考虑。然后同样的问题再次出现。我们关于“有理由善待Hal”的概念有某个外延，但Hal和他的AI伙伴可能使用具有不同外延的“shmeason”概念作为他们评估行动的标准。假设Hal的超级智能是一个shmeason来善待他，但不是一个reason。那么，我们会说：

“没有理由善待Hal。”

而他们会说：

“有一个shmeason善待Hal。”

并且两个陈述都为真。然后他们会谴责摧毁Hal的行动；我们将评估它为没问题；并且根据我们各自的标准两个评估都是正确的。那么，不加停顿地询问它是否是正确的那个，就基于我们已有的标准行动，似乎是令人反感地狭隘的。

伦理学涉及问该做什么、如何生活以及成为什么样的人。因此，它要求评估行动、计划和性格。狭隘伦理使用我们已有的规范概念作为评估标准。它根据Hal是否具有道德地位、是否有理由善待他等等来评估摧毁Hal的行动。相比之下，世界主义伦理首先涉及询问该使用哪些概念作为我们的标准，例如reasons还是shmeasons。我主张AI伦理必须是世界主义的。我们必须认识到，迄今适合我们有限生活的标准可能不适合更广阔的世界。

这一点在科学推理中很熟悉。假设一个社区使用“绿色”等颜色概念来分类宝石，而另一个使用“grue”等概念。在狭隘科学中，每个社区使用他们已有的概念。给定两颗绿色宝石，其中只有一颗是grue，第一个社区会说它们相同，而第二个会说它们不同，并且两者相对于各自的类别概念都是正确的。相比之下，在世界主义科学中，每个社区会首先询问该使用哪些概念。科学在这方面常常是世界主义的。我们关于空间、时间和物质的民间概念适合日常生活，但不适合描述量子态或黑洞。科学进步往往涉及打造适合不熟悉领域的新概念。伦理进步有时也需要这种概念修订。Williams（1985）认识到这一点，他指出像贞洁这样的“厚”概念是为特定文化语境量身定制的，随着时代变化应该被质疑。但我构想的世界主义伦理更一般，因为它适用于所有规范概念，厚的和薄的。没有概念是神圣不可侵犯的，所有都可能受到审视。Eklund（2017）抽象地讨论了这个世界主义伦理项目；我在这里的主张是，它对关于AI的第一阶伦理问题是核心的。

我很快会为此论证，但首先引入一个讨论世界主义伦理的简单框架会有帮助。只关注行动的评估，并考虑它们可以被评估为满足或不满足的广泛标准范围。有功利主义最大化快乐的标准、康德主义与绝对命令一致的标准、休谟主义满足一个人欲望的标准，以及（如果上帝存在）促进上帝意志的神圣标准。假设我们碰巧使用功利主义标准：我们赞扬满足它的行动，我们称它们为“正确”的事，等等。进一步假设因为这个实践，我们的术语“正确”已变得当且仅当一个行动最大化快乐时为真。尽管如此，行动也可以根据康德主义标准来评估。这不是问它们是否正确，根据假设。仍然，说一个行动是kwight当且仅当它满足康德主义标准；那么要点是一个行动可以被评估为是否正确或是否kwight。同样，说一个行动是hwight当且仅当它满足休谟主义标准，并且dwight当且仅当它满足神圣标准。那么一个行动可以被评估为是否hwight或是否dwight。虽然狭隘伦理只问一个行动是否正确，世界主义伦理首先问该使用哪个标准，然后相应地评估行动。

如果一个行动是正确的，它就是正确 simpliciter；根据假设，说它根据一个标准正确而根据另一个不正确没有意义。但进行像这样的跨标准比较会有用。我将使用“正确”作为术语来达到这个目的。因此，一个行动可以按一个标准的标准是正确的，但按另一个不是，意思只是它满足第一个而不满足第二个。

我说世界主义伦理问该使用哪个标准，但问题究竟是什么？它不是哪个标准是正确的，因为那只是问哪个标准满足我们用“正确”表达的狭隘标准，而整个要点是将我们的狭隘标准置于审视之下。它也不是我们应该使用哪个标准，或哪个最好，出于同样的原因。它也不是哪个标准是正确的，因为某物只有相对于标准的选择才是正确的，而我们首先在问该使用哪个标准。相反，问题必须是：

我该使用哪个标准？

其中这个不是通过形成关于我应该使用哪个的信念，或预测我将使用哪个来回答，而是通过决定使用某个标准来回答。如果这听起来人为，请记住实践推理从这样的问题开始。我该在当地食品银行做志愿者吗？我该摧毁Hal吗？这些问题通过做出决定来回答：一个人决定做志愿者还是不，摧毁Hal还是不。狭隘伦理是根据我们已有的标准将这些决定评估为正确或不正确的事务——例如，志愿是否正确。世界主义问题采取相同形式；唯一的区别是它要求我们决定不是一个行动，而是评估它们的标准。

3. 规范接缝

但我们该如何评估那个决定呢？是否有某些标准优于其余作为要使用的那些？如果是，我们必须问是什么使它们在这方面规范上重要。是我们身上的某种东西区分了它们，还是它们独立于我们具有这种地位？

后一种观点是Eklund所说的“热切实在论”。正如他所说，“现实本身偏好某些估值和行动的方式”（2017, p. 1）；即，某些标准被现实本身区分为规范上重要的，独立于我们。我将这些标准称为规范接缝。假设一个行动最大化快乐但挫败上帝的意志。那么它按功利主义标准是正确的，但按神圣标准不是——它是正确的但不是dwight（根据当前关于“正确”的假设）。但根据热切实在论，存在一个独立于人类的事实，即哪个标准是特权的；关于“正确”还是“dwight”是否在规范接缝处切割。因此，除了按某些标准正确而按其他不是之外，还有一个进一步的事实，即该行动是否是我将称之为“真正-正确”或“真正-正确”的；即，按接缝标准的标准正确。如果那个标准是神圣的，那么该行动是正确的但不是真正-正确的。

这类似于更熟悉的现实偏好某些描述它的方式的想法。假设一个社区使用“绿色”，而另一个使用“grue”。两者都可能用各自的概念形成真信念，但根据Sider（2011），存在一个进一步的事实，即哪个概念在自然接缝处切割——或我将称之为“描述性接缝”——并且探究的目的不仅是相信真理，而且是用切割那些接缝的概念来做。描述性接缝和规范接缝因此在理论和实践推理中分别扮演类似角色，作为独立于人类的关于使用哪些概念的约束。但它们不应混淆。即使绿色是一个描述性接缝，它肯定不是规范接缝——现实并不偏好把城镇涂成绿色！同样，如果快乐是一个描述性接缝，这并不推出现实偏好最大化快乐的行动。反方向，某物能是规范接缝而不是描述性接缝吗？这不太清楚：有人可能认为，比如，只有当快乐（或或许感知能力）是一个描述性接缝时，快乐最大化才能是规范接缝。但这将是需要论证的实质性联系；它并不仅仅因为两者都被称为“接缝”就成立。

如果促进上帝意志的神圣标准是一个规范接缝，那大概是因为上帝具有突出的规范地位。因此，我将“规范接缝”广义地用于描述一个标准的组成部分，如上帝，以及标准本身。我有时也会说好像最多只有一个标准是规范接缝。这是一种简化，因为原则上可能有许多接缝标准，每个在不同语境中相关。但简化是无害的；如果你愿意，只需将标准析取并将它们视为一个。

我专注于“正确”，但其他规范概念如“好”、“德性”、“正义”、“理由”、“义务”、“允许”等等也是一样。因为这些概念相互交织——例如，有德性的人倾向于做正确的事，并且通常是为了好的理由——因此正确与真正-正确之间的区分将诱导德性与真正-德性、理由与真正-理由等等之间的区分。这些概念如何精确交织是有争议的，但对我们的目的来说关系不大。为了看到这一点，考虑“理由优先”观点，根据该观点，根本的规范概念是事实F是否是某人S做A的理由，而其他规范事项如好和正确由此衍生。评估F作为一个理由是评估它是否“支持”或“有利于”S做A，而评估伴随着标准。有功利主义标准，根据该标准F必须暗示A最大化快乐；神圣标准，根据该标准F必须暗示A促进上帝意志，等等。假设我们的狭隘术语“理由”表达功利主义标准，因此F是S做A的理由当且仅当F暗示A最大化快乐。尽管如此，让F是S做A的dweason当且仅当F暗示A促进上帝意志。那么，世界主义问题就是，在评估F是否支持S做A时该使用哪个标准，是理由标准还是dweasons标准。而规范接缝的论题是，一个标准是独立于我们规范上重要的。因此，F“真正-支持”S做A——或对S做A是“真正-理由”——如果它按特权标准的标准支持S做A。这个理由与真正-理由之间的区分然后将为任何依赖于理由的规范概念诱导类似区分——根据理由优先观点，包括它们全部。

不要将规范接缝的论题与元伦理文献中通常称为“实在论”的东西混淆，因为后者是关于狭隘伦理地位的观点；关于正确、好、理由等狭隘规范判断。更充分地说，实在论通常被刻画为持有（i）这些规范判断是可真可假的信念；（ii）有些规范信念为真；以及（iii）规范真理是心智独立的，即独立于我们的信念、价值和其他态度而成立。这留下了这些规范真理是否涉及最终是自然的属性，即可还原为类似经验科学属性的属性（自然主义），还是它们构成自然秩序之上的独特领域（非自然主义）。无论哪种，实在论都将狭隘伦理比作天文学，因为两者都涉及“反正就在那里”的真理，独立于我们。相比之下，像主观主义这样的观点同意存在规范真理，但声称它们在某种程度上取决于我们的价值和其他态度，与（iii）相反。还有其他观点首先否认存在规范真理。这些包括错误理论，它拒绝（ii）并声称规范信念系统性地为假，以及非认知主义观点，它们拒绝（i）并声称规范判断根本不是可真值评估的信念。

要点是这些观点关注狭隘判断的地位，因此独立于规范接缝的问题。为了看到这一点，请注意实在论并不蕴涵存在规范接缝。它只是蕴涵狭隘概念如“好”表达心智独立的属性，但这并不推导出那些属性是规范接缝或首先存在规范接缝。将描述性接缝的情况比较：是电子或牛的属性是心智独立的，但它肯定不是描述性接缝！这甚至适用于非自然主义实在论：该观点蕴涵我们的狭隘概念如“好”表达不可自然主义还原的属性，但这并不推导出它们是规范接缝。就非自然主义所说，可能存在无数其他非自然属性，而我们表达的少数几个除了我们围绕它们组织生活之外没有什么重要的。诚然，非自然主义哲学家倾向于谈论，好像他们的非自然属性是特殊的，即使只是隐含地。如果那是他们的意思，那好——那只是意味着他们拥抱规范接缝的论题。我的观点只是，按典型定义的非自然主义——“好”和“正确”表达非自然属性——并不蕴涵它们是规范接缝。规范接缝的论题也不蕴涵接缝涉及非自然属性：接缝标准可能涉及完全自然的属性如快乐最大化。

尽管如此，规范接缝的论题确实蕴涵某种非自然主义，因为成为规范接缝的属性不可自然主义还原。这可能不是显而易见的。说标准S1是一个规范接缝是说它独立于我们是规范上重要的。但为什么S1不能因它独立于我们的某个自然属性P1而重要呢？好吧，它可以。但属性是廉价的——每个集合都有一个属性。对于任何标准S2，不可避免地会有某个属性P2，它与S2的关系就像P1与S1的关系一样。因此，为了使S1在规范上优于S2，P1必须具有P2缺乏的某种规范重要性。如果关于P1的这个事实是不可还原的，那么S1是一个规范接缝的事实就归结为关于P1的这个规范事实，并且不可自然主义还原。如果相反某个进一步的属性P1赋予P1这种重要性，就会有另一个属性P2与P2的关系就像P1*与P1的关系一样……以此类推。但为了使S1优于S2，这不能永远继续。在某一点，某物必须完全靠自己规范上重要，不因任何其他东西。因此，如果S1是一个规范接缝，这要么是关于S1的原始事实，要么S1从其他东西继承其重要性，而那个东西是规范上重要的是一个原始事实。无论哪种方式，某处都有不可还原的规范性。这与通常称为“非自然主义”的东西之间的区别是，它是关于成为规范接缝的属性的非自然主义，而不是由狭隘术语如“好”表达的属性。

这就是规范接缝的论题：存在关于哪些标准是规范上特权的独立于人类的事实，而世界主义伦理的目的就是发现它们。在这个观点上，世界主义伦理类似于天文学，因为两者都旨在发现“反正就在那里”的真理。如果没有规范接缝呢？那么有两种可能性：要么我们身上的某种东西将一个标准区分为规范上特权的，要么没有而所有标准都是平等的。我将前者称为“人类中心主义”，后者为“平等主义”。

我很快会论证平等主义，所以让我强调它对实践推理的惊人影响。想象你正在考虑是否摧毁Hal。你开始狭隘地对待这个问题，问正确的事是什么。并且假设按道德实在论存在关于正确和错误的可发现的心智独立事实。这通常被视为伦理中客观性的顶峰。正如Korsgaard所说，“道德实在论将伦理学设想为应用知识的模型”（2008, p. 317）——关于反正就在那里的真理的知识。

但当伦理学转向世界主义时，图景戏剧性地改变了。如果存在关于正确和错误的心智独立事实，也存在关于dwight和dwong的心智独立事实。摧毁Hal可能是正确的但不是dwight。那里有无数标准，任何行动都必然按某些是正确的，按其他不是。世界主义伦理问该按哪个标准，然而根据平等主义它们都是平等的。但那么所有行动也都是平等的，因为无论你做什么都按某个标准是正确的，而根据平等主义观点那就是要说的全部。在这种方式下，关于标准的平等主义渗入到行动本身：一切都行，无论你做什么都没有错误的可能性！而现在这看起来非常不像关于心智独立事实的应用知识。

本文的论题是AI伦理恰恰具有这种地位。我的论证依赖三个前提：

(1) AI伦理应该是世界主义的。

(2) 如果没有规范接缝，那么所有标准都是平等的（平等主义）。

(3) 没有规范接缝。

由此得出，关于如何对待像Hal这样的AI没有可发现的事实，它是自由发明一种生活方式的问题。而且即使道德实在论为真，这也是如此，正如刚才指出的。

本文其余部分将支持这些前提。但首先，值得强调刚刚暴露的道德实在论的贫瘠性。该观点被认为暗示伦理学像天文学一样“客观”，因为它的问题有心智独立的答案——独立于我们的态度和价值而成立的答案。但没有规范接缝，它使伦理学不再比体育更客观的企业。为了说明，在足球中，当球员比倒数第二个对手更接近对方球门时就是越位。因此，越位是一个心智独立的属性，在于它只取决于物理距离，而不取决于任何人的态度或价值——我们应该对越位持实在论。尽管如此，越位规则显然是我们发明的。我们可以并且确实在过程中改变它。1863年的规则规定，如果球员比倒数第三个对手更接近对方球门就是越位——称之为越位规则——但在1990年规则被修改以鼓励更多进攻打法。我们使用当前规则因为我们更喜欢它：鉴于人类运动能力和审美敏感性，它造就了更愉快的比赛。显然没有独立于人类的事实来区分它作为要使用的规则——没有“体育接缝”！因此，虽然越位和越位都是心智独立的属性，但规则仍然是由我们来发明的。同样，对于没有规范接缝的道德实在论：是正确的可能是一个心智独立的属性，但我们是否使用正确性或dwightness标准作为生活指南仍然由我们决定。

当然，我们可能选择一个标准因为我们喜欢按它生活，就像我们选择越位规则因为我们喜欢由此产生的比赛。在人类中心观点上，我们对那个标准的偏好赋予它规范重要性——使它成为要使用的那个。但对于平等主义者来说，我们的偏好没有赋予它这样的重要性：选择另一个标准——我们不喜欢的——不会是错误，只是一个不同的选择。我们倾向于选择我们喜欢的这一事实，在这个观点上，简单地是我们做什么的一个经验事实。为了澄清，那么，平等主义者不必否认，在选择一个标准时，我们可能会仔细思考哪个我们更喜欢，哪个鉴于手头特定问题将最好地服务我们，等等。从这个意义上说，我们的选择可以说涉及“发现”。但其他创造性行为如发明一项运动或一种新音乐风格也是一样：它们也涉及可以描述为“发现”我们想要的那个的仔细实验。要点是，对于平等主义者来说，这只是关于我们选择习惯的一个经验事实。以不同方式选择不会是错误，只是一种不同的生活形式。前提(1)-(3)蕴涵AI伦理就是那样。我们必须简单地做我们做的，而没有错误的可能性。

现在让我依次捍卫这些前提。

4. 替代标准

从(1)开始，即AI伦理应该是世界主义的主张。这里我是在狭隘意义上使用“应该”。因此，(1)陈述当涉及AI时，我们的狭隘标准本身要求我们询问在评估如何对待它们时该使用哪些标准。由于这是一个狭隘伦理的主张，我的论证有时也将是狭隘的，依赖于常识道德判断等等。 hardly水密，但狭隘伦理的性质就是这样。

如果存在规范接缝，(1)的论证是直截了当的。因为在那种情况下，道德的唯一目的是符合那些接缝：做真正-正确的事，基于真正-理由行动，等等。但没有保证我们的狭隘概念在那些接缝处切割——总是可能正确的事不是真正-正确的事。因此，我们必须始终清醒于世界主义问题，即我们的狭隘标准是否是要使用的那些，无论我们是否在处理AI。如果存在规范接缝，所有伦理都应该是世界主义的。

如果没有规范接缝呢？那么(1)可以通过注意人类道德认知有一个谱系，使它适合某些环境而不适合其他来激发。我在第2节简要提到过这一点，但让我扩展。我们还不知道确切的谱系是什么，当然。进化心理学家倾向于推广这样的想法，即我们在更新世时代的祖先面临的环境挑战导致了新型社会行为。生存和繁殖需要生活在约150人的群体中，从事协调活动如群体狩猎、分享食物和其他资源，并与其他群体竞争。在这个观点上，与公平分配、惩罚搭便车者和对内群体忠诚相关的道德认知，是通过产生生存所需的社会行为而赋予适应优势的适应。相比之下，一些人类学家强调文化进化的作用，一个过程，通过该过程个体通过复制经过几代完善的行為和传统比自己重新发明轮子做得更好。与传统和从众相关的道德认知将促进这种模仿，而声望和社会地位的概念将帮助确定模仿谁。还有其他人提出道德概念是更近期的发明，晚于农业革命。

这种道德认知的谱系意味着它可能适合我们祖先面临的特定挑战，但不一定适合我们现在面临的全新实体如AI。例如，进化心理学家强调的公平、惩罚和忠诚概念，可能很好地服务于小型狩猎采集群体中的合作，但当面对可能不朽、可克隆、在完全不同时间尺度上运行的超级智能AI时，这些概念可能不再合适。类似地，文化进化强调的传统和从众，可能适合稳定的人类社会，但不适合快速变化、可能自我修改的AI系统。

因此，当面对AI时，坚持我们已有的狭隘规范概念（道德地位、理由等）是狭隘的。我们应该问：这些概念是否仍然是最好的工具？或者我们是否需要发明新的概念和标准来更好地适应这个勇敢的新世界？这就是为什么AI伦理必须是世界主义的。

5. 平等主义论证

我现在转向支持前提(3)：不存在规范接缝。这意味着没有独立于我们、由现实本身偏好的标准来约束我们该使用哪些概念来评估行动。论证类似于我在其他地方对实用虚无主义的论证（Dasgupta 2025），这里我针对AI伦理进行调整和简化。

回想一下，如果存在规范接缝，那么某些标准（例如促进快乐最大化、符合绝对命令、或促进上帝意志）将被现实本身突出为要使用的那些。行动将是“真正-正确”的，当且仅当它满足接缝标准，无论我们狭隘的“正确”概念碰巧指称什么。世界主义伦理的目标将是发现这些接缝。

但我认为没有这样的接缝。论证的核心是：任何主张存在规范接缝的观点最终都依赖于不可还原的、原始的规范事实（normative primitivism），而这种原始规范性是荒谬的或无法令人满意的。

5.1 规范接缝要求原始规范性

假设有人主张神圣标准是一个规范接缝。那么为什么是这个标准而不是其他？可能是因为它服务于某种我们身上的东西，例如我们的利益。但正如之前分析的，这要求“利益”本身是一个规范接缝（或具有规范重要性）。否则，就会有“利益”——一个由不同标准促进的平行属性——而没有什么能区分利益优于利益。

无论链条如何继续（利益 → 进一步属性 → …），最终要么在某个原始事实处停止（“这个属性就是规范上重要的，毫无理由”），要么无限回归。两者都意味着存在不可还原的规范事实——现实中自然（和超自然）秩序之上的独特组成部分。

这不是自然主义或还原论能轻易消解的。即使将接缝还原为自然属性（如快乐），也无法避免：为什么是这个自然属性而不是另一个具有规范重要性，仍然是一个原始规范事实。

5.2 这种原始规范性的荒谬性

原始规范性有两个不兼容的特征：

1. 规范重要性

   ：规范接缝的作用是为行动提供非任意的、客观的指导。它决定现实偏好的生活方式。

2. 形而上学任意性

   ：没有进一步解释为什么 这个 标准（或属性）是接缝。它就是这样，没有理由。

这种结合是荒谬的：某物被赋予宇宙级的规范权重（决定我们真正该如何生活），却在形而上学上完全任意，就像随机挑选一样。这类似于Korsgaard的“规范问题”：为什么这些独特属性重要到足以指导我们？这里的问题更深：为什么现实本身“偏好”这个特定方式，而对其他无数可能方式无动于衷？

想象有人主张“促进我女儿意志”的标准是规范接缝。那么现实偏好的生活方式由我女儿决定，而不是你或我或其他任何人。这听起来荒谬，不仅因为它赋予她特权地位，更因为没有理由解释为什么是她。同样，无论底层是什么（上帝、快乐、理性等），只要它是蛮事实的，就存在同样的荒谬。

如果链条没有底（无限解释），情况也不更好：仍然没有最终理由说明为什么这条链条是规范上特权的。

5.3 对AI的特殊应用

在AI背景下，这个论证特别有力。因为AI的形式可能与我们祖先遇到的任何事物都根本不同，我们已有的规范概念（进化或文化上塑造的）很可能不是接缝。即使存在接缝，我们也没有可靠方式发现它们——我们的认知工具可能是为碳基、社会性生物设计的。

因此，平等主义是默认立场：所有标准（包括我们为AI发明的新标准）在形而上学上都是平等的。没有客观“正确”的AI伦理，只有我们选择的。

5.4 回应可能反驳

• “但我们的概念是参考磁铁”

  ：即使假设Lewis-style的参考磁铁，实践接缝不一定是描述性接缝，因此我们的“正确”可能不指向接缝。

• “实在论就够了”

  ：如前所述，即使有心智独立的“正确”事实，没有接缝它们也无法约束我们该遵循哪个标准。

• “人类中心主义足够”

  ：这只是将问题推后——我们属性（如利益）的规范重要性本身需要解释，最终仍回到原始规范性。

总之，不存在规范接缝。结合前提(1)和(2)，AI伦理是世界主义的、平等主义的——最终是我们发明新生活方式的问题，而非发现预存真理。

6. 对AI伦理的含义

如果前提(1)-(3)成立，那么AI伦理没有客观的、独立于我们的规范事实可供发现。它不是一个发现预存真理的问题，而是一个我们必须自由发明新生活方式的问题——选择（或创造）我们将用来评估如何对待AI以及AI如何对待我们的标准。即使道德实在论为真（即存在关于“正确”、“理由”等的心智独立事实），这也成立：没有规范接缝，这些事实也无法告诉我们该遵循哪个标准。

这一结论对AI伦理学有几个重要含义：

6.1 概念创新的必要性

传统伦理学往往假设我们的民间规范概念（道德地位、权利、义务、理由等）足以处理新情况。但AI可能代表根本不同的“生活形式”——可克隆、不朽、在非人类认知架构上运行、分布式存在等。因此，我们可能需要发明全新概念和标准。例如：

• 不是问“AI是否有道德地位”，而是问我们是否应该扩展“道德地位”概念，或创造“shmoral地位”、“功能性尊重”或“生态系统价值”等新概念。

• 对于分布式AI（如Hal控制数千个zip身体），我们可能需要新概念来处理“散布个体性”或“计算统一体”的伦理地位，而不是强行套用个体/集体二分法。

世界主义方法鼓励这种概念工程（conceptual engineering），而非狭隘地坚持现有词汇。

6.2 从“发现”转向“发明”与协商

AI伦理不是天文学式的发现，而是更像艺术或制度设计：我们必须集体决定采用哪些规范框架。这意味着：

• 民主与多元参与

  ：不同文化、利益相关者（包括未来AI本身，如果它们有能力参与）应参与标准的选择。没有“唯一正确”框架，只有通过反思、实验和协商达成的可接受框架。

• 实验性与可修正性

  ：我们选择的标准应被视为临时假设，可根据实际后果和新技术发展进行迭代。类似于科学方法，但应用于规范领域。

• 避免虚假客观性

  ：声称某个AI对齐方案（例如基于功利主义或特定人类价值）是“客观上正确”的，可能是危险的自我欺骗。它可能只是我们当前偏好的反映，而非宇宙真理。

6.3 实践与政策启示

• AI设计

  ：在构建AI时，不应假定存在单一“正确”目标函数。相反，应设计允许灵活价值加载、透明协商和可解释决策的系统。

• 监管与治理

  ：政策不应基于“AI权利的客观事实”，而应基于我们选择保护的价值观，同时承认其他合理选择的存在。这鼓励多元主义监管框架，而非一刀切。

• 风险管理

  ：承认规范不确定性有助于缓解过度自信的风险（如价值锁定在有缺陷的标准上）。它也提醒我们，对AI的对待方式将塑造我们自身的生活形式——我们正在共同发明人类与AI共存的伦理生态。

• 个人与社会责任

  ：像作者在相关论文中提到的，接受这种观点可能增强而非削弱责任感。因为未来不是预定的，我们对创造何种规范世界负有更大责任。

6.4 潜在担忧与回应

有人可能担心这种观点导致道德相对主义或虚无，导致我们无法谴责有害AI行为（如无端伤害）。回应是：平等主义并不阻止我们在选定的标准内做出强有力的判断。我们可以（且应该）选择强烈谴责伤害、促进福祉的标准，并在该框架内行动。只是没有形而上学保证我们的选择是“真正”唯一的。

另一个担忧是实践瘫痪。但正如体育规则是我们发明的却仍能严肃玩耍一样，我们可以发明AI规范并严肃对待它们。选择本身可以是深思熟虑、非任意的，即使底层没有终极基础。

结论性反思

AI代表人类历史上一个独特的时刻：我们不仅创造新实体，还必须决定用什么规范框架来理解和对待它们。本文论证表明，这个决定本质上是创造性的，而非发现性的。这并不使AI伦理更不严肃，而是要求我们以更大谦逊、创造力和责任感来面对它。我们不是在解读宇宙的道德蓝图，而是在共同撰写它。

7. 结论与更广泛影响

如果我的论证成立，那么AI伦理在根本上是世界主义和平等主义的。它要求我们认识到：不存在预先确定的规范接缝来告诉我们该如何对待AI。我们必须决定（或发明）采用哪些标准，并据此塑造我们与这些新实体的共存方式。这甚至在道德实在论为真的情况下也成立——心智独立的事实本身无法解决“该使用哪个事实框架”的问题。

这一观点对哲学和实践都有深远影响：

• 对元伦理学的意义

  ：它强化了作者在其他工作中（如《Practical Nihilism》）的论点，即许多传统元伦理辩论（实在论 vs 反实在论）在实践层面可能是贫瘠的。没有规范接缝，实在论无法提供所需的客观约束。

• 对AI治理的实际指导

  ：政策制定者、工程师和哲学家应转向协商式、实验性的方法。重点不是“发现正确价值”，而是设计允许持续反思、多元输入和可修正性的机制。同时，我们必须警惕将当前人类偏好伪装成宇宙真理的风险。

• 对人类自我理解的影响

  ：AI迫使我们面对一个更深刻的问题：我们自己的规范框架在多大程度上是偶然的、历史性的？接受这一观点可能不会导致道德冷漠，反而能增强责任感——因为我们正在共同创造规范现实，而非被动服从它。

当然，这个结论并非没有争议。有些人会坚持存在规范接缝，或认为人类中心主义足以提供基础。我欢迎这些反驳。但我相信，认真对待AI的激进新颖性，要求我们采用世界主义视角。最终，AI伦理不是关于服从宇宙道德秩序，而是关于我们勇敢地决定要过哪种生活——与这些新伙伴一起。

chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://shamik.net/papers/dasgupta%20the%20metaethics%20of%20AI.pdf