网易首页 > 网易号 > 正文 申请入驻

看着很真,细看不对?文生图「世界一致性」测评来了

0
分享至



一张 AI 生成的图,可以在美学、提示词对齐和人类偏好指标上拿到高分,画面里却藏着扭曲的肢体、相互穿透的物体,或不合理的物理现象。这些错误,并不总能从现有分数中看出来。

这暴露了文生图评估中的一个盲点:画面中的物体、交互和空间关系,是否符合现实世界的约束?缺少专门、系统的衡量,这类问题就难以被量化、比较,也难以成为明确的改进目标。

被 NeurIPS 2026 Evaluations and Datasets Track 接收的 TerraVis,围绕这一问题提出「世界一致性」评估框架:覆盖三个层级、18 类问题,既给出分数,也指出具体问题、视觉证据和严重程度。



  • 论文:TerraVis: Towards Evaluation of World-Grounded Visual Consistency in Text-to-Image Generation via MLLM Workflows
  • 作者:Shuai Fu、Jing Gu、Jian Zhou、Zicheng Duan、Gengze Zhou、Qi Wu(通讯作者)
  • 单位:阿德莱德大学澳大利亚机器学习研究所(AIML)、xAI、Responsible AI Research Centre
  • 会议:NeurIPS 2026 Evaluations and Datasets Track
  • 论文:https://arxiv.org/abs/2610.02959
  • 代码:https://github.com/ShyFoo/TerraVis
  • 数据集:https://huggingface.co/datasets/ShyFoo/TerraVis-Annotations

在线体验已开放。上传一张自己的图,查看世界一致性分数和逐项判断依据;也可以先浏览内置示例,直观看看 TerraVis 如何「找问题」。

上传图片体验:https://shyfoo.github.io/TerraVis-web/



图 1 传统指标的高分未必对应较高的世界一致性。对同一提示词生成的图像,美学、对齐和偏好指标选出的最优结果,与人类世界一致性判断并不相同;最右列为真实图像参照。各指标的分数应在同一行内比较。(论文图 1)

01 世界一致性究竟在评什么

世界一致性(World-Grounded Visual Consistency)关注的是:图像中的宏观物体、交互和场景,在结构、空间、物理、生物及常识层面是否合理。评估只看图像本身,不依赖生成提示词。

它与「是否画对题」有明确区别。论文中的电脑桌图像获得了 1.00 的 TIFA 对齐分数,但笔记本电脑的结构明显扭曲,人类世界一致性评分为 0。另一张图却相反:提示词要求「没有水流的喷泉」,模型画出了喷水的喷泉。它没有遵循提示词,画面本身却符合现实,人类与 TerraVis 都给出了最高的世界一致性评分。



图 2 图文对齐与世界一致性衡量不同的问题。左图符合提示词,却存在笔记本电脑结构畸变;右图偏离「没有水流」的要求,但喷泉本身符合现实。文中人类世界一致性分数已归一化至 0–1。(论文图 A4 中的两个案例)

提示词也可能主动要求不符合现实的场景,例如让图书馆里的书悬浮在空中。此时,较低的世界一致性分数不意味着创作失败,而是说明这幅图采用了超现实设定。对齐、偏好与世界一致性,需要分别衡量。

世界一致性也不等于照片般的写实。卡通的简化纹理、插画的平涂色彩、素描省略的细节,都不应被当作问题;但一只正在握杯子的手穿进杯体,就违背了物体之间的空间约束,与画风无关。只要包含可识别的宏观物体或场景,风格化图像同样可评;纯抽象图案、图标、图表和界面截图等不适用内容则返回 N/A。

02 把直觉拆成可检查的问题

为了把「看起来不对劲」转化为可执行的检查,TerraVis 将问题分成三层,共 18 类:物体层面检查身份、结构、解剖、纹理与文字等 7 类问题;交互层面检查接触、支撑、运动、光学等 8 类问题;场景层面检查相对尺度、遮挡和区域连续性 3 类问题。



图 3 世界一致性的三层 18 类检查项。物体层面关注单个对象,交互层面关注对象之间及其与环境的关系,场景层面关注整体空间组织;红圈标出各类问题的代表性视觉证据。(论文分类示意图)

具体评估分四步:先判断图像是否适用,再逐类检测问题、判定主次,最后计算分数。前三步可由多模态大模型执行,第四步采用固定公式。每类问题最多报告一处最显著的异常,并保留受影响的对象和视觉证据。



图 4 TerraVis 的四步评估流程。仅以图像为输入;不适用的图像返回 N/A。适用图像经过逐类检查与主次分级后,得到世界一致性分数及可追溯的问题明细。

「主要」与「次要」取决于问题影响的内容。涉及主体、前景物体或核心事件的记为主要违规;只影响背景或边缘元素的记为次要违规,不能简单按瑕疵大小区分。主实验将两者分别赋权 1 和 0.5,再通过指数函数计分:未检出问题得 1 分,一处次要违规约为 0.61,一处主要违规约为 0.37。分数越低,表示检出的问题越多或越重要。

提问方式同样关键。研究团队将抽象的违规名称改写为具体的视觉条件,例如询问「本应正常接触的两个物体,是否看起来相互穿透」。这样,笼统的整体判断就被拆成了有证据可查的逐项检查。

03 13500 条人工标注检验评估效果

研究团队在 COCO-T2I 和 GenAI-Bench 两个基准上,评测了 SD 3.5-Large、Qwen-Image、FLUX.2-dev、GPT Image 1.5 和 Nano Banana Pro 五个文生图模型。随机抽取其中一半、共 4,500 张图像,每张由三位标注者独立评分,得到 13,500 条人工标注;主实验的自动评估模型为 GPT-5.5。

按「至少两位标注者认为存在问题」的多数票标准,两个基准中存在世界一致性问题的图像分别占 48.6% 和 69.7%。这一比例受提示词构成影响,尤其 GenAI-Bench 包含虚构或不符合现实的要求,因此不能将其直接解释为模型执行生成任务的失败率。

衡量自动指标是否有效,关键是看它与人类世界一致性评分是否一致。合并五个模型的图像后,TerraVis 在两个基准上的 Spearman 秩相关系数分别达到 0.44 和 0.43,在所比较方法中最高;现有指标中表现最好的 RAHF 分别为 0.29 和 0.37。该系数越高,表示排序与人类判断越接近。



图 5 各指标与人类世界一致性评分的 Spearman 相关系数,五个生成模型的图像合并计算。TerraVis 在两个基准上均取得最高相关性;这衡量的是各指标反映世界一致性的能力,并非它们在原有评估任务上的优劣。GPTScore 在 COCO-T2I 上输出恒定,相关系数无法计算。(据论文表 2)

逐项检查是否必要?对照版本 TerraVis-H 获得相同的分类说明和人工评估指南,但直接给出整体分数,其相关系数在两个基准上均为 0.28,低于 TerraVis 的 0.44 和 0.43。即使拿到相同的评估标准,逐项检查仍比整体打分更有效。

检测结果也解释了部分提升:相对人工多数票标签,TerraVis 的召回率从 TerraVis-H 的 15.4% 和 19.8%,提高到 51.9% 和 48.3%。也就是说,它找出了更多人类认为有问题的图像;代价是精确率有所下降,分别为 75.8% 和 89.1%,误报仍然存在。

消融实验进一步支持了三层分类的作用:移除任一层级,相关性都会下降,其中物体层面的贡献最大。逐一移除 18 类检查项也都会使相关性下降,但单项影响较小,下降最多的是结构畸变。

这套流程也能适配不同画风和评估模型。风格化图像上的相关系数为 0.54,写实图像为 0.41;由于风格化样本较少,这支持「同样可以评估」,不足以证明模型更擅长评价风格化图像。将 GPT-5.5 换成开源的 Gemma 4 31B 后,两个基准的相关系数分别为 0.42 和 0.51,显示了采用开源评估模型的可行性。

04 换一个维度 模型排名也会改变

世界一致性带来的变化,直接体现在模型排名上。在 GenAI-Bench 中,GPT Image 1.5 在多项传统指标上领先,但 TerraVis 与人类世界一致性评分都将第一名给了 FLUX.2-dev。Qwen-Image 则获得美学第一,却在人类世界一致性评价中排名第四。



图 6 GenAI-Bench 上五个模型在不同指标下的排名,#1表示第一名。FLUX.2-dev 在 TerraVis 和人类世界一致性评分中均居首;Qwen-Image 的美学第一也未转化为世界一致性的领先。颜色仅表示各指标内部的相对排名。(论文图 3b)

这些结果说明,传统指标上的优势不会自动延伸到世界一致性。作者观察到,FLUX.2-dev 往往生成较简洁的场景,这可能减少出现违规的机会,但这一解释仍属于定性观察,不能据此认定「画面越简单就越正确」。

除了总分,TerraVis 还能给出每个模型的违规构成。文字、标识等符号内容问题,在两个基准的每个模型中都排进前三;物体层面的问题占比最高,但交互与场景层面合计仍占约四分之一到一半。只检查单个物体,仍会遗漏相当一部分问题。



图 7 五个模型在两个基准上的检出违规构成。横轴为某类问题占该模型全部检出违规的比例,反映问题类型的构成,不代表该类问题在所有生成图像中的发生率。符号内容问题普遍突出,交互与场景问题也占有不可忽视的比例。

05 能发现问题 也可能看走眼

具体案例则提醒我们,自动评估仍会出错。TerraVis 能发现部分人类忽略的书页乱码,也会误判猫的结构,或漏掉密集场景中儿童手臂的畸变。面对餐厅里的火烈鸟,三位标注者分别给出 3、5、1 分,说明某些常识边界连人类也难以达成一致。



图 8 TerraVis 与人类判断的四类差异。从左至右为:发现部分人类忽略的文字问题;将人类一致认为合理的图像判为违规;漏检人类一致认为存在的手部和手臂异常;同一图像引发标注者分歧。Human 后括号内为三人的原始 1–5 分评分,括号前为归一化后的汇总分。

多阶段流程还需要更多推理时间,检测环节仍有误报和漏检,18 类检查项也需要随生成模型演进持续修订。TerraVis 的价值,是让世界一致性成为一个可量化的评价目标,并把分数连接到具体视觉问题,帮助研究者比较模型、分析失败类型和确定改进方向。

06 上传你的图 亲自试试 TerraVis

想知道你生成的图,经不经得起这套检查?TerraVis 已提供在线评估页面:拖入、粘贴或选择一张图片,点击 Evaluate 即可提交,无需部署模型,也无需填写生成提示词。

评估时,你能看到 18 项检查的进度;完成后,可以查看总分、问题类型、具体视觉证据和主次分级。对照原图阅读这些反馈,就能了解它为什么给出这个分数,并判断哪些发现值得采纳。

没有现成的图片,也可以先浏览网站内置示例,查看预计算的评估结果。欢迎上传一张你最满意的 AI 生图,看看 TerraVis 能否发现你第一眼忽略的细节。

打开 TerraVis 在线评估:https://shyfoo.github.io/TerraVis-web

TerraVis 补上了文生图评估中长期缺失的世界一致性维度,让「画得是否合理」有了系统的衡量方式。它将「看起来不对劲」的直觉,转化为可量化的分数和可核查的视觉证据,为生成模型改进提供更明确的目标。随着生成图像越来越逼真,世界一致性也应与美学、图文对齐和人类偏好并列,成为衡量文生图模型进步的核心标准。

第一作者简介

付帅,本文第一作者,现为阿德莱德大学澳大利亚机器学习研究所(AIML)博士三年级学生,博士生导师为吴琦教授。主要研究方向为事实一致性图像生成(factually consistent image generation),研究兴趣还涵盖 vision-language learning、robotics 和 reinforcement learning。已有多篇论文被 ICLR、NeurIPS、EMNLP、CoRL 等国际顶级会议接收。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中共中央批准:王刚任河北省委常委、石家庄市委书记

中共中央批准:王刚任河北省委常委、石家庄市委书记

极目新闻
2026-10-12 19:10:40
撑了20年的宜信,也撑不住了倒了

撑了20年的宜信,也撑不住了倒了

老凤说财经
2026-10-12 15:26:05
今天10月12日,全体退休人员注意:10月养老金发放,必查三项!

今天10月12日,全体退休人员注意:10月养老金发放,必查三项!

老孙说
2026-10-12 10:40:56
舆论反转!尊界踏板断裂事件,科技博主连线20位车主,结果出人意料:他们根本不在意网络争议

舆论反转!尊界踏板断裂事件,科技博主连线20位车主,结果出人意料:他们根本不在意网络争议

火山詩话
2026-10-12 08:31:04
孙宇晨说即使给景甜5000万、50亿、500亿,她还是会离开

孙宇晨说即使给景甜5000万、50亿、500亿,她还是会离开

韩小娱
2026-10-12 13:24:58
郑钦文夺冠后,另一场比赛开始了,品牌们开始集体“加班”

郑钦文夺冠后,另一场比赛开始了,品牌们开始集体“加班”

澎湃新闻
2026-10-12 15:24:49
比尔盖茨表示:他这辈子犯过最大的错误,就是把原本属于微软的移动生态,拱手让给了安卓

比尔盖茨表示:他这辈子犯过最大的错误,就是把原本属于微软的移动生态,拱手让给了安卓

元气科技馆
2026-10-10 21:56:30
又轰下22+11+10!这样下去,威少的NBA纪录不保了

又轰下22+11+10!这样下去,威少的NBA纪录不保了

篮球大视野
2026-10-12 13:42:12
葬礼上危地马拉15岁女孩从棺材里“惊坐起”,吓坏在场家人,此前她失去意识,送医途中被认为“死亡”

葬礼上危地马拉15岁女孩从棺材里“惊坐起”,吓坏在场家人,此前她失去意识,送医途中被认为“死亡”

极目新闻
2026-10-12 19:20:12
委总统马杜罗社交平台更新:与妻子已在纽约监狱遭受不公正关押282天,每天都收获大家的声援与支持,呼吁民众采取持续行动

委总统马杜罗社交平台更新:与妻子已在纽约监狱遭受不公正关押282天,每天都收获大家的声援与支持,呼吁民众采取持续行动

大风新闻
2026-10-12 15:10:07
刘国梁16岁女儿登顶中国女子公开赛,成为赛事创办以来第一位业余冠军;刘国梁曾说不希望女儿们选择乒乓球,因为自己的光环会是她们的阴影

刘国梁16岁女儿登顶中国女子公开赛,成为赛事创办以来第一位业余冠军;刘国梁曾说不希望女儿们选择乒乓球,因为自己的光环会是她们的阴影

扬子晚报
2026-10-12 14:30:20
云南盐津一嫌疑人送看守所一天就因病死亡,尸检发现断了七根肋骨

云南盐津一嫌疑人送看守所一天就因病死亡,尸检发现断了七根肋骨

兵叔评说
2026-10-12 17:42:53
宋承良:李昊已经跟一家中超俱乐部谈得差不多,不是BIG5球队

宋承良:李昊已经跟一家中超俱乐部谈得差不多,不是BIG5球队

懂球帝
2026-10-12 17:23:25
“生了5个送外卖的料子!”农村父亲晒5娃,真实评价毫不留情面

“生了5个送外卖的料子!”农村父亲晒5娃,真实评价毫不留情面

番外行
2026-10-12 09:49:40
特朗普对泽连斯基极为愤怒,要求欧洲停止向乌克兰交付美国武器

特朗普对泽连斯基极为愤怒,要求欧洲停止向乌克兰交付美国武器

山河路口
2026-10-12 15:39:25
突然崩了! 多地被波及! 有人直接崩溃大哭……仅退这部分钱? 很多人不接受

突然崩了! 多地被波及! 有人直接崩溃大哭……仅退这部分钱? 很多人不接受

19楼
2026-10-11 08:58:05
体制内吃掉社保近40%:2300万人拿1.58万亿,1.8亿人拿零头

体制内吃掉社保近40%:2300万人拿1.58万亿,1.8亿人拿零头

砼话里都是骗人的
2026-10-12 14:02:14
“00后”女孩陷“杀猪盘”46天被骗51万最新进展:警方已锁定未成年嫌疑人,12岁女孩转移6万获利200元

“00后”女孩陷“杀猪盘”46天被骗51万最新进展:警方已锁定未成年嫌疑人,12岁女孩转移6万获利200元

大众网
2026-10-12 12:36:43
在马来西亚再度发生断轴事故,奇瑞召回8878辆汽车

在马来西亚再度发生断轴事故,奇瑞召回8878辆汽车

观察者网
2026-10-12 09:50:23
尊界刹车踏板事件发生3天后,大批车主退车被拒

尊界刹车踏板事件发生3天后,大批车主退车被拒

鸣金网
2026-10-12 08:58:01
2026-10-12 19:47:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14181文章数 142748关注度
往期回顾 全部

科技要闻

尊界:10月底确认制动踏板支架升级方案

头条要闻

8千元小狗遭仅退款 商家驱车600公里上门顾客称狗已死

头条要闻

8千元小狗遭仅退款 商家驱车600公里上门顾客称狗已死

体育要闻

一周吃6顿披萨的胖子,也能单防姆巴佩?

娱乐要闻

张艺谋身体状况曝光 陈婷不再顾及体面

财经要闻

尊界,是江淮的救命车还是失血引擎?

汽车要闻

全新smart精灵2号来了 两门两座 传承经典纯电进化

态度原创

数码
时尚
亲子
旅游
军事航空

数码要闻

PC降价没希望:CPU三大厂接力涨价!Intel、AMD、高通全都要涨

秀场如战场,女明星重妆出击

亲子要闻

两个宝宝笑得很开心,妈妈对此感到疑惑,网友:是觉得对方好笑吗

旅游要闻

演唱会、顶流IP轮番上场,双节假期天河文商旅成绩单亮眼

军事要闻

视频:沙特方面公布利雅得机场遭袭画面

无障碍浏览 进入关怀版