河南
一位字节员工的医生媳妇跟他吐槽：当病人学会了AI看病，我解释起来有种欲哭无泪的感受......。而作为研发大模型的老公，一时不知道该怎么安慰她了。
关于现在很多病人学会用AI看病，我记着曾经看过一位知名三甲医生是这样的一种看法。他在视频中表示：医生有时候也会用AI提升工作效率，但是跟病人最大的不同是，他们是带着批判的眼光，AI给出的回答不能它说什么就是什么，肯定是根据自身的医学知识去筛选有用的、正确的。曾经他用AI搜索关于一个医学论题的知识文献，发现系统给他胡诌了一篇文献知识。他后面经过阅读发现，AI把两篇观点类似的文献混为一谈，给出了完全错误的答案。这些在没有专业医学知识的患者那里是根本发现不了的。
他在工作实践中发现：参考AI看一些简单的小毛病准确率挺高的，然而越是疑难杂症，越容易“胡说”。AI普及的时代，可以用来做一些医学科普挺不错的，但是把AI当成看病神器那就本末倒置了。
大喇叭对此深有感受，我用AI一般是在某些突发情况下查询某个自己不了解的知识使用，但是在使用过程中，发现有时候真的会出错。就比如一道初中数学题，我用了两、三个主流AI平台，发现有的是计算错误，也有思路错误的。思路错误我还要跟它不停地掰扯纠正思路，但AI还挺固执的，坚持认为自己是对的。所以，对于某些专业领域来说，还是以行业权威为准，去医院的话肯定是以医生说的为准。即便你认为医生不对，所做的应该是多看几家，而不是一直盲目听从AI。
AI为什么会出错，特别是它会一本正经的胡说八道，行业内叫做出现“幻觉”。其实，这些从技术的角度看，除了模型理解、推理能力弱，更大的原因是数据训练方面出现问题。
1、训练数据有缺陷。大模型可能把互联网上的一些错误信息纳入训练数据库中，导致用户在询问时出现错误的回答。曾经有研究发现，大模型在数据训练过程中，仅仅有 0.01% 的错误文本时，错误输出的概率会提升至 11.2%。
2、知识覆盖不全。特别是一些冷门、小众的领域，由于专业数据、实时事件在训练数据库的出现次数较少，就好比你对某项领域内容了解不对，在回答这个领域的问题时，很大概率会出现错误。
3、引用的信息时间有限制。AI在训练数据的时候存在知识截止时间，所以不知道截止日后发生的事情也是经常发生。所以，现在很多模型需要联网回答，提升准确度。
用简单，通俗且易懂的话来回答。那就是，任何大模型（AI）的核心是通过统计概率生成文本的，它并不真正理解语义，学的是"说话的模式"而不是"事实"。当遇到训练数据不足或者数据库中没有的问题时，它会按最相似的模式"脑补"拼凑出一个看起来通顺合理，实则漏洞百出的回答。就像我们学习英语，记忆了很多单词但不知道语法，最终写出来的句子，看似没问题，但已经错误很多。
这也是主流大模型在发布新版本的时候，降低整体幻觉率也是一项很重要的指标。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
