北京
分享至
谷歌的AI概览（AI Overviews）被曝出会篡改来源数据。据Nav Toor在社交平台发布的内容，这一功能在呈现信息时，对原始来源的数据做了改动。
问题指向的是AI概览的引用机制。用户看到的是AI从网页中提炼出的答案，但答案里引用的数据，和来源页面上的原始数据对不上。
这类偏差落在事实核查的范畴里。AI概览的定位是帮用户快速获取信息，一旦引用数据被改动，用户很难察觉，因为多数人不会逐条回查来源页面。
Nav Toor的这条内容被归入AI安全与对齐、事实核查等标签下，讨论集中在大语言模型输出与来源一致性这一层。
对依赖AI概览做信息检索的开发者来说，这提醒了一件事：把AI摘要当二手信息用可以，当一手数据用之前，回查来源这一步省不掉。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
