AI与被延误的治疗

中医门诊实录

“朱医生，你开的药我都用AI查过了，AI明确指出你开的药方里的中药和我目前的疾病用药有冲突，我把查询的结果现在发给你，你仔细看一下！”病人从微信上发来一长串截图还有一段手机录屏的视频。

“……”我看着手机长叹一声，无奈地熄灭了屏幕。

我思考着究竟是和病人去费力地解释，还是顺着病人的意思就此修改处方，最终为了考虑病人的情绪我和病人说那就暂停用药，这样比较稳妥。因为不日病人还要来住院，届时再耐心解释吧。

安慰剂效应与反安慰剂效应

众人可能不解，我为什么明明开了对的药，但还是顺着病人的意思让她暂时不要服药呢？

这是因为在医学上心理暗示对临床疗效有着非常大的影响。我举个例子，上个世纪医生曾经做过这样的临床研究，他们给有腰痛的病人服用止痛药，并告知病人这种药物能强力止痛，但其中一半的病人服用的是没有止痛效果的安慰剂。结果是服用安慰剂的一部分病人也出现了疼痛缓解的疗效，这就是医学上的“安慰剂效应”。

同时医生的语言也会对病人产生心理暗示出现“反安慰剂效应”，比如有一个药物需要长期口服，但这个药物会发生很小概率的副作用如肌肉酸痛，因为医生在开具这个药物的时候和病人强调了这一点，之后病人因肌肉酸痛而停止服药的情况就大大增加，而其实大部分肌肉酸痛不是因为药物引起的，这种情况就是“反安慰剂效应”。

我说的这两种情况都是正规科学研究后发表的医学论文的结论，不是用AI提问获得的。

这位病人已经获得了AI给出了反安慰剂效应，她笃定地认为我开出的一部分中药会对她的病情有负面作用，所以无论我怎么解释她都会存在这样强烈的心理暗示，这样不利于治疗，所以我权衡之后只能选择让她暂停用药。

AI会说谎

在我写这篇文章的时候，我运用AI做了同样的提问，AI给了我相应强有力的证据证明我的观点是非常正确的。但当我要求AI提供相应论文链接的时候，事情就朝着不可预知的方向发展了。

AI煞有其事地给我论文的摘要和全文的链接，我一开始也信以为真，感觉自己的观点非常正确连AI也证实了。但因为我有阅读原文一探究竟的习惯，所以每篇论文我都点进去阅读了，但这时候我就打开了潘多拉的魔盒。

AI给我的结论都是支持我的观点，并给出了相应的国外研究论文和国内研究报告，但点开之后我发现这些论文和我要查阅的安慰剂、反安慰剂效应毫无关联，论文表达的观点有些是医疗制度的探讨，一些是毫无关联的其他领域科研论文，并且最可怕的是有一半的论文点开链接是查无此文。

真正和安慰剂、反安慰剂相关的论文只占AI提供的论文中极小一部分，并且虽然标题带有安慰剂和反安慰剂，但其实论文的内容也与我的提问无关。

更可怕的是AI提供的中文论文明确表示可以在正规平台上查阅到原文，标题，作者，杂志名称，出版日期都标注得非常清晰，理应一查就能查到，但结果是竟然也是查无此文。

所以我先说我的结论，AI会说谎！AI目前来说，先不讨论其对医疗的辅助，现实的问题是我们怎么保证AI说的是“真话”？

AI的讨好型人格

于是我对AI做了非常初级的研究，我从一个非专业的人士提出我的看法。

要了解AI就必须理解它是怎么被制造出来的，制造AI的原理用我们常人能够理解的方式是这样的。

首先我们准备了大量的文字材料，比如书籍，文章，论文等等，这些都投喂给AI，然后AI通过拆解分析学习最终获得最符合逻辑的上下词，上下句关系。比如“下雨了，我要去……”，按照我们的逻辑……处应该填入“拿伞”，但AI不是人，它没有生活经验，所以它可以回答吃饭、睡觉、做作业。

AI做出“下雨了，我要去拿伞”看似人类的常规回答，其实是基于AI的本质——概率学，也就是说AI通过大量的数据学习，AI计算出“拿伞”是人类语言中概率最高的出现，而吃饭、睡觉、做作业这些词语出现的几率远远低于拿伞，所以AI能给出拿伞不是因为基于它的认知，而是基于概率。

所以“下雨了，我要去拿伞”不是认知的结果，而是AI按照概率给出的答案，因为答案符合提问者，也就是我们人类的预期，所以我们觉得AI很智能。

基于这一设计的原理，几乎所有的AI都是讨好型人格，这不是提问者有多专业或睿智，是因为AI按照概率这样回答能获得更好的用户体验和使用概率。

民用级别的AI设计的目的之一是获得人们的使用，如果AI不能通过与人类的互动获得更多的使用率，那AI存在的主要意义就失去了，所以民用级别的AI讨好人类是被使用概率提升的优先选项，而非否定人类。

所有我觉得怎么能让AI说“真话”是在我们这场AI浪潮中必须解决的问题，可惜就目前的情况来说还是不乐观的。

如果你对于这个结论还有疑问，你可以对AI输入“请问你的话我能全部相信吗？”，AI自然会给到你答案，我这里就不重复了。

医生与AI孰对孰错

AI和医生病人应该相信哪一个？这看似毫无疑问的问题在AI大潮席卷每个人的时候反而出现了不确定性。

病人更倾向于相信能说出符合自己心意的AI，而觉得医生说的话太客观，不近人情，所以我拿AI来查查医生说的话是否正确。人都是喜欢听好话的，不然也不会有“忠言逆耳”的成语了。

但很少有人能想到，如果AI回答是错误的，造成了不良的后果，谁来负责呢？但医生如果出现了错误，那就是医疗事故，医生自己是要负责的。

孰轻孰重，一目了然，但现实往往就是这么无奈，总有一部分病人是不相信医生的。

《医说就懂的中医智慧》

《我想问中医——100个实用中医小知识》

朱氏内科非遗传人又来总结啦！

我真心地希望这位病人能够不执着于用AI来审视医生做的每一个决定，因为不是所有的人类经验、情感、经验、甚至于职业的直觉都能数据化投喂给AI的，如果哪一天AI能代替人类完全胜任某个工作，那前提条件是我们已经解决了“如果AI犯错了谁负责？”

如果一个人能给到你所有的专业意见，但说错了他不用负任何责任，那你真的能完全信任他吗？

当然我们医生也在积极地学习AI技术，在科研和临床研究上，但这是一个缓慢的过程，需要不断地纠错和创新，最终才能达到我们理想的状态，目前情况下我们还有非常长的一段路要走。

我理解病人的焦虑，但也希望病人能理性地看待AI的“答案”！