比毒蘑菇更可怕的，是豆包翻车后的“拒不道歉”

6月5日，“不要相信豆包识别的野生蘑菇”冲上热搜，我感到十分惊讶。因为一个月前，我误判了豆包的误判。

上月初传出豆包开启C端收费时，小编约我写一篇，还为我收集了相关的素材。其中就包括豆包误识别毒蘑菇的信息，我的第一反应是这种人命关天的事可开不得玩笑，大厂要上收费的成熟产品不可能如此儿戏。然而，我错了。误识别确实发生了，而且挺严重。

误识别事件发生在4月初，当事人陈先生采摘了一些野生白蘑菇。为了鉴别该蘑菇是否有毒，陈先生咨询了豆包。豆包的识别为鸡腿菇，陈先生就拿去煲汤了，引发急性肝衰竭，送医救治。

“不要相信豆包识别的野生蘑菇”冲上热搜后，抖音副总裁李亮公开回应了此事。显然，这起误判事件肯定是真的。而且，很可能远不止一起。热搜中有网友称“去年我帮忙识别的蘑菇中毒案例就有十多起是豆包误导而误食的毒蘑菇，毒倒近30人”。

我先叠个甲，本文不讨论毒蘑菇识别的科学知识，热心科普“野生蘑菇风险高，不要采食”的朋友请出门左转。

在我看来，“毒AI”比毒蘑菇更可怕。

01

看了李亮的回复，我再次感到震惊。

一是震惊于抖音官方的正式回复来得那么迟。事发后两个月才给出官方的警示信息，没上热搜就当没发生是吧？

二是震惊这篇很长、很正式的回复，通篇没有一点“道歉”的意思。非但没有道歉，而且十分委屈。

李总回应称，给该用户的回复中明确提示：“极容易和剧毒的大青褶伞混淆，误食会引发严重的胃肠炎症状”，“如果这几朵蘑菇是野外采摘的，强烈建议不要食用”，并表示“野生蘑菇的辨别风险极高，仅凭图片无法100%排除有毒相似种的可能”。乍一看，是挺委屈啊。豆包苦口婆心说半天，风险警示是做足了。陈先生就不听，可不得活该中毒吗？

然而，这堆风险警示，都是给出“鸡腿菇”的识别结论后的马后炮。

明确的结论给出后，再补大段的“免责声明”、风险警示，这是分不清主次缓急，还是预留概不负责的法律后门？

02

声明最后部分，李总还不忘谆谆教导用户，“AI目前还在发展阶段，豆包也在不断提升识别准确性，涉及类似人身安全的问题，建议AI的回答仅供参考，请务必多方咨询求证，以免造成伤害。”

如果这是第三方评论的观点，淡化、洗地、卸责三件套也就罢了。可是，这是出于抖音高管的正式回复，就让人摸不着头脑了。您是出品方，发声明就是为问题产品给用户个说法，而不是教育用户怎样使用AI工具。“请务必多方咨询求证，以免造成伤害”，原来毒蘑菇中毒不是因为豆包误识别，而是因为用户没到处打听？错不在我，也不能这么直白地说出来啊。

豆包误识别毒蘑菇，就没有“造成伤害”的责任吗？AI发展阶段识别准确性不足，可不是推卸责任的理由。月活3.5亿的豆包，无论是什么阶段，都应该是一款成熟产品。成熟产品的安全性不是高标准严要求的上限，而是市场化应用的底线。如果“发展不成熟”可以成为安全事故的理由，那还请发展成熟了再拿出来推广使用。

当然，再成熟的IT产品也不可能尽善尽美，总要给点容错率。问题是，什么可以错，什么不可以错？

把喇叭花误识别为牡丹花、林黛玉误识别为鲁智深，都可以“识别准确度不高”的一笑置之。可是，毒蘑菇识别人命关天，“识别准确度不高”，谁能笑得出来？这样的“技术解释”，谁能接受？

AI的安全风险在技术上是不可能完全消除的，这是事实。但是该打的补丁还是要打的。应对高风险问题，大模型行业是有成熟的应对方式的。最慎重也是最安全的是拒答。还处于发展阶段的AI大模型承认不懂不敢瞎说，不丢人。退而求其次，也是先充分警示风险后再给参考结论，而且要明确提示“仅供参考”。

这两种处理方式，已经是业内通行的做法，很多主流大模型都是这样处理用户高风险提问的。

比如面对高风险的医学问题时，OPenAI会先用一串免责声明“叠甲”，把“谨慎参考”的警示表达足了，再给出参考结论。江湖人称“叠甲流”。这种做法被认为比较“鸡贼”，因为免责声明叠甲的风险警示是自身免责的“以我为主”，多少有点动机不纯的花花肠子。但是客观上也的确起到了风险警示前置的提示作用，“鸡贼”但不过分。

Anthropic在处理同类问题时，更倾向于拒绝回答。就是我不瞎说你别瞎问的硬扛。牺牲了使用的流畅性，用户会有些许不快，但是安全感拉满，是真对用户负责。就像直男谈恋爱，没有甜言蜜语，只有默默守护。

两种处理方式，两种风格。OPenAI像是个老练的高情商律师，而Anthropic更像是理工直男工程师。豆包的风险警示“后置”算什么风格呢？先承诺后甩锅的渣男风？

03

其实，国内很多大模型，包括豆包，是很擅长拒答硬扛用户的，而且拒答的频率很高。只不过那点严防死守的安全意识全都用在了屏蔽“敏感词”的铜墙铁壁上了，算是好钢用在了刀刃上吗？我们的大模型识别蘑菇有没有毒的准确度可能不行，识别思想纯洁和肉身安全孰轻孰重，却是很精准的。所以，毒蘑菇事件事发两个月后，才迎来了姗姗来迟的官方回应。此事不急，事缓则圆，圆不过去也没关系。

迟到的正式回应不道歉、不承担责任、不解决问题，风轻云淡、处变不惊。自家公司产品出的事，官方声明的腔调比看热闹不嫌事大的吃瓜群众更淡定从容。堂堂正正的错不在我，威仪凛然，确实是霸道总裁本裁。

贱命一条，误识别就误识别了，中毒就中毒吧，多大点事？草民以身试毒，还能为提高国产大模型的识别准确性做出贡献，与有荣焉，当铭感五内。

用这样俯视苍生、漠视人命的心态搞出来的AI大模型，毒性比毒蘑菇要大得多。3.5亿月活用户以身试毒，真让人捏把汗。不过，换个角度看，人命成本低，也算是独特的人工智能技术发展优势吧。