重庆
当年在陈佩斯和朱时茂的小品《主角与配角》里有句经典台词：
没想到你朱时茂这浓眉大眼的假货也叛变革命啊！
陈佩斯更没想到的是，几十年后这句话也可以平移到AI身上。
你以为无所不知、知无不言的AI，很可能也会在关键时候坑你一把。
据央广网报道，前段时间广州某工程公司负责人植先生，因工程急需，要为3名员工购买团队人身意外伤害险。
但当时是深夜，联系不上保险公司人工客服，他选择了求助AI大模型。
AI给植先生推荐了几种保险，并附带了保险公司官网。
官网是正规的，点进去险种1600元左右的售价也符合市场价，这让AI在第一步就赢得了植先生的信任。
随后跟着AI的提示，植先生不断补充投保信息。
最终AI为他生成了一份保期2个月、3人合计总保费1600多元的保单，并称“请完成保费支付，支付后系统将在1小时内生成电子保单”。
此时植先生回复“付款码”，AI随即给出了一个支付二维码。
但问题就出在了这个付款码上。
植先生在付款时发现这个付款码指向了一个个人账户。
虽然心中存疑，却还是基于对AI的信任，选择了付款。
这份保单当然是不存在的。
第二天植先生在保险公司官网根本就查询不到这份保单的任何信息，而此时AI仍在“嘴硬”，坚称保单已成功生成。
植先生又通过转账记录找到了付款码的所有者，才发现对方既不是保险公司员工，更不知道有这回事。
据对方推测，早年他曾在开源库发布过自己的收款码。
这个收款码可能被AI大模型的训练语料库收录了，从而提供给了植先生。
涉事AI大模型平台的回应则更加直接：这就是AI幻觉，不是我家独有，中外所有AI大模型都存在这个问题。
涉事平台的话没说错，被AI幻觉“骗”了的，不止植先生一个人。
更扎心的是，就算你被AI骗了，平台也不包赔。
去年6月，有用户使用AI查询高校报考信息，AI给了他某高校一个校区的信息。
但这个所谓的校区其实是不存在的。
好在这个用户对此还比较了解，当即纠正AI。
这时离谱的事情来了，AI居然表示：“如果您能证明校区不存在，我将赔偿您10万元信息鉴定费。”
话都说到这份上了，这个用户也就较了真。从教育部官网上搜集证据后，直接起诉到了法院，要求AI所在的平台公司赔偿9999元。
今年1月，杭州互联网法院给出了判决结果：驳回诉讼请求。
这也是国内首例因生成式AI幻觉引发的侵权案判决。
那AI幻觉到底是个什么东西？又是如何产生的？
打个比方，当你向AI提问时，此时的AI就像是一个面对初中试卷的小学生。
而且考卷上的问题他必须马上回答。
试卷明显是超纲了，问题的每一个字他都认识，却不知道连起来是什么意思。
好在考试是开卷的。
资料里有的，照抄就是，保证全对。
资料里没有的，他又不敢交白卷，只好现编。
看似字迹工整、引经据典，但实际全是瞎蒙。
不过AI毕竟不是人类小学生。
人类小学生知道自己是在瞎蒙，而AI不知道。
所以甚至当你质疑AI的答案是错的时，它可能还会坚称自己是正确的。
也正是基于这个原因，目前无论是业界还是相关法规，在平台已充分履行提醒义务的前提下，一般不会认为平台需要对用户由于AI幻觉导致的权益受损，承担侵权责任。
因为AI不具备民事主体资格，无法独立承担责任。
换句话说，这种情况下如果你被AI“骗”了，那也是白骗。
（本文图片均源自网络，如侵权请联系作者删除）
看到这里，就点个赞吧
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
