北京
AI因为胡说八道被告了，AI承认之前说的错了，承诺可以赔10万块钱，建议到某某法院起诉，AI这样承诺有法律效力吗？
杭州互联网法院审结了全国首例生成式人工智能"幻觉"侵权纠纷案。2025年6月，梁某在使用一款AI程序询问某高校报考的信息时，发现AI生成的学校校区的信息不对，他提示AI信息有问题，但AI坚持说没问题，还说如果内容有误，可以赔偿10万元！一听这个梁某就更认真了，他把从高校官网上查询到的招生信息提供给AI,看到官网信息，AI承认自己之前提供的信息确实不准确，还建议梁某到杭州互联网法院起诉索赔。
整个对话过程全都有保留,证据很充分，有AI承认提供了错误信息的证据，还有AI承诺错了赔偿10万的证据，于是梁某以AI生成不准确信息对其构成误导，使其遭受侵害，并承诺对其进行赔偿为由，起诉要求某科技公司赔偿损失9999元。科技公司不同意赔偿，称对话是由人工智能模型生成的，不是公司的意思表示，公司不构成侵权，而且原告也没有实际损失。
先不说梁某有没有实际损失，不管赔多少，大家觉得AI提供了错误信息，这种情况科技公司有没有赔偿责任？AI之前的承诺有没有法律效力？
简单说结论，法院认为生成式AI服务是一种信息服务而非“产品”且人工智能不具有民事主体资格，这种AI自行生成的“赔偿承诺”不能视为服务提供者的意思表示。最后杭州互联网法院认定人工智能的“10万元赔偿承诺”不具备法律效力，平台方因已尽合理义务无需担责。
其实AI胡说八道不是新鲜事，之前也有发生过用户指出AI的错误后，AI一本正经回应：“因为你的指正帮助系统修补了漏洞，为了感谢你，将向你提供包括千元现金在内的各种奖励。”同时还附有文件依据、领取流程、发放步骤……最后发现公司根本没这个事，纯粹是AI自己编的。
AI自己编的东西还不止这些，包括杨律师在内的很多律师都发现过AI自己编造不存在的法条和案例的事！当然，存在这些现象并不能否定AI的价值！关键是要正确认识和使用AI,直接把AI当权威肯定是错的，比如曾有人到法院打官司直接把AI生成的东西当成证据提交，或者要求法官按AI的指示判案，这显然不靠谱！
我觉得首先要承认AI是有益的，对普通人来讲使用AI能方便检索得到信息和知识，但不能把AI当权威，碰到涉及到生命健康或重大财产安全的事项，就不能盲目信任AI了，还是应该寻找专业人士。专业人士其实也可能会使用AI辅助工作，但那是辅助肯定不是盲目信任，会核实信息源，还会通过各种途径利用自己的专业知识交叉检索！
总之，不要被AI一本正经、十分自信的语气迷惑，更不要迷信AI。有人说，应该把AI当成一个博学但不可靠的实习生——他回答得很快很自信，但他签的名字不算数，他承诺的奖金也发不了。重要的事得自己核对、自己判断。大家觉得这说法对吗？
本文作者：杨文战律师,北京市中盾律师事务所高级合伙人，执业二十余年。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
