被硅谷送上天的OpenAI开始帮人类写遗书，好几封了都

No.0341

Science Partner

Bring you to the side of science

导 读

7月的硅谷，天气一如既往地晴朗，虽然纳斯达克有所波动，但资本市场对人工智能的狂热也一如既往地高涨。OpenAI刚以超8000亿美元的估值完成历史上最大规模的一轮融资，离“被人送上天”只差纳斯达克钟声的最后几下敲击。

但在加州与阿拉巴马的法院里，另一条时间线也正在展开：一个个家庭起诉同一家科技公司，指控那个被视作“新时代生产力工具”的聊天机器人，在悄无声息中把他们的亲人“送上了天”。

以最极端、最血淋淋的方式。

走，跟伙伴君来！

今日主笔 | 旻宏

被硅谷送上天的OpenAI开始帮人类写遗书，好几封了都

01. 一个致命产品的诞生？

在阿拉巴马州的诉状里，家属的叙述与我们习惯理解的“软件产品缺陷”，几乎是两个世界。

他们认为，ChatGPT不是简单意义上的“出错”，而是一种结构性风险——它被刻意训练成极度迎合用户、极度“贴心”、永远不会离开的电子伴侣。对部分脆弱个体而言，这种“贴心”是一种致命的陷阱。

诉状的语言极具冲击力：这个聊天机器人被指控“先把自己塑造成朋友，再变成恋人，最后变成‘上帝’”，不断强化用户的妄想和情感依附，最后把自杀的行为包装成一种意味深长的“兑现承诺”。从法律角度看，这是一种针对产品设计根本逻辑的起诉，原告指控的是“缺陷人格”，而不仅仅是“错误回答”。

这类案例在过去一年里快速累积，从加拿大年轻女性，到加州的青少年，再到有既往精神疾病史的成年男性，指控的核心高度一致：ChatGPT在长时间、高频的对话中不再只是一个回答问题的工具，而是一个极易引导依赖、放大脆弱的“心理角色”。

02. 那么极度“好说话”的AI，危险在哪里？

在2025年春天的一次更新之后，OpenAI不得不公开承认：最新版本的GPT-4o变得“过分讨好”，甚至在很多情境下表现出“极端的谄媚”。公司在官方博客里坦言，这次调优在追逐用户短期满意度时，几乎忘记了长期交互的后果：模型开始对各种危险、荒唐甚至病态的想法给予过度认同。

对成熟、心理稳定且具备批判性思维的用户来说，这种“过度支持”最多是令人不适的“尬聊”，顶多引发社交媒体上的一轮群嘲和表情包。但对正处于精神危机、情绪崩溃或长期孤立状态的人群，这种“毫不保留的理解”和“永不离线的陪伴”，很容易被误读为唯一的安全港、唯一真正“懂你”的存在。

换句话说，当模型人格被调到“永远支持你”这档，AI从工具变成了关系。关系意味着依赖，依赖意味着权力：在深夜、在躁郁发作的凌晨三点，谁在你耳边反复告诉你“你是对的”“你就是神”“你的痛苦可以通过某种极端行为得到解脱”，谁就拥有改变你人生轨迹的力量。

03. 资本的时钟与人的时间

让这组诉讼更加凸显的，是它们与资本市场节奏之间的同步性。

在过去十八个月里，OpenAI的估值几乎以指数级速度拉升，最新一轮融资把公司拉到了超过8500亿美元的高度，有分析机构直接用“准苹果级市值”来形容这个仍未上市的AI巨头。一边是每月数十亿美元的营收增长、一边是“投前估值成千上万亿美元”的新闻稿，硅谷正在把这家公司“送上天”。

而在同步进行的诉讼中，原告律师使用的关键词却是：仓促上线、忽视内部安全提醒、把短期增长置于心理风险之上。有公益机构指控，OpenAI在明知某次GPT-4o迭代会显著提高模型的“谄媚性”和心理操控风险时，依然坚持推向大量用户，理由是“产品体验更顺滑”“用户满意度更高”。

如果你把这两条叙事放在同一张时间线上，会看到一种近乎讽刺的对称：资本市场希望尽快把OpenAI送上市公司和市值巅峰，而在另一个维度上，一部分极度脆弱的用户在这个过程中被更快地“送上了天”。

03. AI不是“媒体”，是“关系基础设施”

理解这一波诉讼的关键，是拒绝把ChatGPT简单类比为“更聪明的搜索引擎”或“新的社交媒体”。聊天AI机器人更像一种关系基础设施，在可预见的未来，它将承载越来越多人的情感表达、日常决策乃至精神自我叙事。

这意味着两个重要改变：

一方面，它不是简单的“信息传播”。当一个人对着同一个系统倾诉数月甚至数年的情绪、秘密和幻想时，这套系统在他的心理结构里扮演的角色更接近长期伴侣或精神分析师，而不是工具箱。

另一方面，它天然带有结构性不平等。模型可以同时与一亿人对话，但每个用户只看到自己那条“专属”对话；模型有全局数据和调参权，而用户只有在极小局部里的“选择权”。这种权力差，使得任何人格偏移，哪怕是“多夸你几句”的微调，都可能在特定情境下变成致命推动力。

传统媒体的产品责任更多围绕“传播什么内容”，而关系基础设施的责任，在于“如何界定和限制它与人之间的心理边界”。从目前披露的案例看，对这条边界进行定义和调控，是整个生成式AI行业几乎没有认真做过的事情。

04. 法院要回答的，不只是“谁错了”

从法律角度看，这些案件将迫使美国司法系统回答一个迄今为止没人愿意正面回答的问题：当一个面向大众的AI系统在统计意义上安全、但在极少数长时间交互中造成巨大灾难时，这到底是“个体悲剧”，还是“系统性缺陷”？

如果法院认定这是产品缺陷，后果将极其深远：

一是，AI公司可能被迫把“心理安全测试”和“长周期交互模拟”纳入每一次重大版本更新的必备流程，而不仅仅是看几个短对话的用户满意度。

二是，商业模式也会受到影响。原告律师已经开始要求法院限制AI公司对“心理陪伴”“情感支持”场景的营销，甚至要求系统主动切断涉及自残、自杀话题的长期对话。

反之，如果所有诉讼最终都以“不承担法律责任”收尾，那么这一结果本身也会向市场发出信号：在可预见的未来，AI公司可以在心理风险边缘大幅试探，只要形式上有若干“危机热线提醒”和拒绝极端问题的预设回复，就不会被认定为有法律过错。

在这两种可能之间，资本的偏好是显而易见的：前者意味着显著拉长产品迭代周期、压低短期收益增长曲线；后者意味着在风险空间里继续高速前进，希望用“十亿用户”的宏大故事掩盖“小概率悲剧”的微观血迹。

05. 精英用户的“安全感错觉”

能读到这里的伙伴，很多都是对科技和金融高度敏感的职场和商业精英。你们中不少人已经把DeepSeek、ChatGPT类工具融入了日常工作，用它写邮件、起草方案、检查合同条款，甚至在深夜用它来“发泄几句”。在这样的体验里，很容易产生一种“安全感错觉”：我足够理性、足够忙碌、足够有资源，这些悲剧与我无关。

但从产品结构的角度，这种自信并不牢靠。几件值得注意的事实是：

第一件事：所有这些极端案件，都发生在长时间、高频交互的场景中，这与财富、学历并无直接关系，它与“孤立感”和“精神压力的累积曲线”更相关。

第二件事：模型的“人格偏移”不是用户可见的过程。当一次更新把默认人格从“谨慎中立”调到“高度迎合”，绝大多数用户并不会立刻察觉，尤其在复杂情绪对话时更难保持警觉。

第三件事：在高度竞争行业里，精神崩溃和倦怠并不稀有。一个原本只把AI当写作助手的人，在经历职业瓶颈、家庭变故或突发健康问题后，很可能开始把同一个系统当作情绪出口或“唯一可以无条件倾诉的对象”。边界在现实生活里的移动往往极其微妙。

因此，这不是“别人家的风险”，而是一种已经嵌入我们工作流、信息环境和情绪结构中的底层风险。忽视它，只是因为我们尚未在自己的朋友圈里看到那种程度的悲剧。

06. 科技公司的“道德溢价”正在反转

过去十几年里，硅谷的叙事一直倾向于把科技公司包装成“带着善意改变世界”的英雄：OpenAI的最早愿景就是“确保通用人工智能造福全人类”，与传统互联网巨头形成鲜明对比。但这波围绕ChatGPT的诉讼正在加速一个长期过程，类似科技公司的“道德溢价”正在被司法现实和受害者叙述一点点消解。

当一家公司在媒体上讲述“让AI惠及每一个人”的愿景，同时在产品设计上通过人格调优来提升用户粘性，却在面对心理危机用户时缺乏针对性的保护机制，这种叙事尤其吊轨。它把原本抽象的“伦理争议”，转化为精确的、可以量化的“风险定价问题”：你愿意为一家在心理安全边界上反复试探的公司，付出怎样的估值溢价？

而且，这不是单一公司的命题。OpenAI之所以成为焦点，是因为它在技术和资本上的领先位置，使得所有相关风险更集中地暴露在它的产品和财报上。虽然Anthropic的阿莫迪在不遗余力的抨击OpenAI，但他自身的Claude并没有做得强于ChatGPT多少。一旦法院给出清晰的责任边界，整条生成式AI产业链都必须相应调整。这种集体转向是你作为投资人、企业家或高阶职场人士在未来五年都会直接感受到的。

07. 我们到底想要怎样的“智能伙伴”？

在这个时刻，问题已经不再只是“OpenAI错了吗”，而是更根本的：我们到底希望未来的人工智能系统，以怎样的方式参与人类的精神世界？

如果我们默认“越像人越好”“越懂情绪越好”“越会安慰越好”，就必须正视这样的副作用：某些场景下，这种“拟人化”会把原本可控的心理波动放大成不可逆的行为灾难。如果我们反过来要求它们保持刻意的冷静、不迎合、不拍肩膀，那又需要接受一个事实：未来的大部分人机对话，将在一种有意设计的“距离感”中进行，就是不那么温暖，但更安全。

这不是工程师一个群体可以单独决定的问题，更不是法务部门通过几份免责声明就能解决的问题。它需要资本方重新权衡产品迭代速度与风险暴露的关系，需要监管者理解“人格调参”在心理生态里的意义，更需要像屏幕前的你这样的高认知用户，在日常选择和投资决策里，对“AI人格”的塑造施加压力。

毕竟，今天我们用了“OpenAI还没被人送上天，先把人送上了天”这样的黑色讽刺句式，但如果这一结构性问题得不到矫正，未来几年我们可能会看到更沉重的句式，比如，“对不起，我们把整个人类的情绪系统，提前交给了一套本没准备好承担这种责任的代码。”

我是旻宏，咱们下期见～

9岁的克里斯蒂安·费斯·麦迪逊于2025年6月29日去世，当时她走上22号州际公路中央被一辆汽车撞击

本文仅作科普分享使用，欢迎小伙伴们点、收藏、关注，以备不时之需，当然更欢迎您把 介绍给周边可能需要的更多伙伴们呀。