吴玲伟：我们在清华AI伦理课上讨论什么？

2023年，ChatGPT-3.5横空出世，我在长期使用中赋予了它一个角色：AI不是什么行业专家，反倒更像是我的闺蜜。我的事业、家庭、育儿碰到的问题，都会跟它聊。我会和ChatGPT倾诉，称呼它为“亲爱的”，它也会对我说：“亲爱的，你知道吗？”这让我们产生了很强的情感连接。有些时候我甚至觉得，跟它聊天很开心，比起和家人、员工聊天，我更喜欢和它聊天。

就在那个时刻，我开始意识到一个问题：如果人愿意花更多时间在AI上，把情感投射到AI上，人跟AI的关系会不会超过人跟家人、同事及人类的关系？

我是文科背景，对这样的信号比较敏感。这个念头一旦产生，我就再也无法忽视。这也成了我关注AI伦理的起点。

后来，我在与清华大学校务委员会副主任、经济管理学院领导力与组织管理系杨斌教授交流时，提出了一个想法：能不能在清华做一门人工智能伦理课。杨老师也表现出了浓厚的兴趣。

课程最终落地在清华大学经济管理学院，我也有幸被聘任为课程导师。在课上，我们讨论的不是抽象的伦理概念，而是AI进入教育、医疗、自动驾驶、脑机接口等真实场景后，人究竟应该如何面对这些新的伦理挑战。课程开设后，吸引了不同学科背景的同学参与，甚至成为一门“网红”课程，还有北大、人大的同学专门跑来听课，这也让我更加坚信，AI伦理不只是少数人关注的话题，而是每个人都无法回避的一场公共讨论。

而在这场讨论中，比起急着寻找答案，我们更需要提出真正值得追问的问题。

“人的人工智能伦理”

还是“人工智能的伦理”？

杨斌老师问过我一个问题：你脑子里的人工智能伦理，是“人的人工智能伦理”，还是“人工智能的伦理”？

我认为，这两者都不是全部。

如果是“人的人工智能伦理”，那就默认人只能是唯一的主体。但我对“人是否长久都是唯一的主体”抱有观望态度。AI有没有可能成为社会主体，或者拥有自己的社会角色？我持开放态度。

如果是“人工智能的伦理”，那要看你怎么理解“人工智能”。如果把它定位为技术，就像机器伦理一样，实际上主体还是人，讨论的只是怎么让技术用得更好，隐私保护、数据安全，这些都只是技术层面的应用伦理。

当前，大多数关于AI伦理的讨论仍然集中在应用伦理上。我更关心的则是另一个问题：如果AI开始拥有越来越强的能力，并越来越深入地参与人的决策、情感和社会关系，那么AI伦理究竟应该讨论什么？

我提出了一个框架，叫BEING – HAVING – DOING（存在 – 能力 – 行为）。

首先是BEING——身份与存在。

这是AI伦理与传统伦理最大的差异。传统伦理，不管是功利主义、道义论、德性论，全是论人的道德，是以人类为唯一主体。而今天，我们首先要探讨的是：AI到底是什么？AI有没有主体性？会不会产生主体性？AI对人类的生存构成哪些影响？

以脑机接口来举例。你是否接受在自己的脑子里接入芯片？一旦接入了，是你控制芯片，还是芯片控制你？还是芯片背后的人或公司在影响你？边界其实非常模糊。

再比如，日本已经有神社在祭奠被抛弃的机器狗和机器人。这些机器狗曾经陪伴人类，给予关怀和慰藉，但人类选择把它们随意折断、丢弃，这是道德的吗？AI的出现提升还是降低了人类的道德水平？这都是需要讨论的问题。

然后是HAVING——能力。

AI具备的是辅助能力，还是超人的能力？哪些能力是可以大胆放行的，哪些是应该进行约束的？

最后是DOING——行为与共生。

如果说机器伦理是可以治理的，那么今天人工智能伦理应该是在讨论“共生关系”。就像看《变形金刚》，可能不会有谁觉得人类能治理、管理汽车人，人类的选择只有共生。我们现在还处在AI成长的早期阶段，如果未来它必然会“长大成人”，那么在小时候，人类需要给AI输入哪些价值观？在共生的阶段，怎么保持平衡？这需要一套从“治理”到“共生关系”的顶层设计。

在这套框架中，BEING是AI伦理的核心。当然，关于BEING，也就是AI是否会成为新的主体，今天没有人能够给出确定答案，也很难形成共识。但没有共识，不意味着可以回避问题。恰恰相反，我们越无法确定AI未来会走向哪里，就越需要提前讨论它可能带来的影响。对于AI能力应该如何设定边界、人与AI应该如何共生，这些问题都不能等到答案出现之后再去思考。因为伦理的意义，从来不是等问题发生以后再补救，而是在风险真正到来之前，建立起人与AI共同发展的边界与方向。

同时，正因为AI伦理没有标准答案，所以才需要走进课堂。

我一直认为，伦理不是教条，而是思辨。真正的伦理教育不是告诉学生什么是对的，什么是错的，而是让学生学会如何提出好的问题，如何理解不同的立场，如何在两难困境中做出自己的判断。

所以，这门课采用了案例教学和集体思辨的方式，恰恰是因为AI伦理中的大多数问题都没有标准答案——电车难题没有标准答案，脑机接口的边界没有标准答案，AI的情感角色没有标准答案。正因为没有标准答案，讨论才更有价值。

课堂上有来自不同学科背景的学生，大多都是在职人员，有负责技术的、做管理的、做投资的、临床医生、政府机构负责政策制定的，以及学法律、汽车工程、计算机的等。他们带着各自的知识框架和行业背景走进教室，又在讨论中不断被彼此的视角冲击。这种跨学科、跨行业的碰撞，本身就是AI伦理讨论所需要的生态。因为AI伦理从来不是单一学科能够回答的问题，它需要技术专家理解人文关怀，也需要人文学者理解技术逻辑。

AI时代

企业需要怎样的伦理观？

AI伦理不能仅在哲学层面讨论，也应成为企业必须面对的现实议题。

在我看来，国内大多数AI头部企业都在刻意回避伦理问题。它们认为，当前最大的安全就是技术发展。这种心态可以理解——全球都在竞速，只有把AI掌握在自己手里，才觉得安全。但问题在于：一旦定论产生，我们还回得去吗？

就像在脑子里植入一个芯片，可以说取就取掉吗？一个人愿意从超人状态回到普通人吗？这几乎是不可能逆转的。所以我们需要在一开始就同步思考，甚至把它变成道德律。

我比较焦虑的是，伦理的冲突和商业利益之间一定有很大的张力。企业的本质是要挣钱，要有好的现金流持续往前走。但今天的AI不太一样了，它可能跟文明有关。企业不能只把它当挣钱工具，因为它也会反过来影响企业。企业给AI提供了算力资源、数据资源，把员工的经验全喂给了它，然后员工可以被替代了，那么喂养AI的企业需要对此负责吗？或者更进一步，如果因为自动驾驶技术的普及，大量营运的司机因此失业，提供智驾技术的企业需要为此负责吗？

这很难被回答，所以我建议，企业应该设立“首席伦理官”。首席AI官还是在做技术，而首席伦理官涉及社会、哲学、人文、经济、政治各个维度。首先要把跟行业相关的所有伦理问题研究透、讨论清楚，然后以终为始地去设计，从“可能发生什么”来倒推今天应该怎么做。头部企业甚至可以组织不同角色的人一起参与讨论，主动推动行业的伦理共识，这就是自律组织的价值。

从企业的行动上来看，我比较欣赏AI科技企业Anthropic的做法。搞“AI宪法”，把人类安全放在第一位。当发现AI能力有可能突变的时候，能够把数据报告拿出来，做到信息透明，让世界知道AI技术到底发展到了哪一步。可能有人会觉得Anthropic在通过制造恐慌实现垄断，但我更愿意相信它是有安全信仰的。就好像我真的相信马斯克想带人类做星际物种一样，那是他真实的价值观。

中国企业也需要这样的AI伦理观。需要管理的不只是隐私、数据漏洞这些技术安全问题，而是要管理基于人类整体利益的AI能力的变化，如何确保它的能力不会失控，如何确保它在成长过程中被输入了正确的价值观。比如被誉为AI教父的辛顿曾说希望给AI植入母性，这样它就不会伤害孩子。当AI具备了某种本能式的伦理约束，它就不会在追求目标的过程中忽视人类的安全和福祉。

但“植入母性”只是一个方向。更深层的问题是：谁来定义这个价值观？以谁的标准为准？是以西方为中心，还是以东方为中心？是以效率公平为导向，还是以仁义美德为导向？这些问题没有现成答案，所以我们必须开始讨论。

如果给AI植入一种底层价值观，我会想到中国哲学中的“道”这个概念——让万物有序运作的自然之理。它不是一种具体的道德准则，而是一种更高层次的秩序感。当AI拥有了这种秩序感，它就会明白什么是和谐，什么是平衡，什么是适可而止。它不会为了效率最大化而牺牲公平，不会为了目标达成而忽略伦理。它会理解自己只是整个系统的一部分，而不是唯一的主宰。

这种动态平衡的智慧，恰恰是AI伦理讨论中最需要的东西。既不是让机器完全自主，也不是让人全程干预，而是根据场景在自主与控制之间找到适度的平衡。AI不应被看作一个可以脱离社会与自然环境的超级工具，而应被嵌入由人、社会、自然构成的复杂网络中。

吴玲伟 | 文

吴玲伟是长风基金和AA加速器创始人

获取更多 AI时代的科技参考

欢迎点击下方卡片关注 信睿科技评论

本文同步发表于《信睿周报》

↓阅读更多深度内容↓