网易首页 > 网易号 > 正文 申请入驻

300多组控制实验、70万余TPU小时,普林斯顿团队给出全开放文生图配方i1

0
分享至



近来文生图模型发展迅速,但每篇工作多是独立地引入一整套模型、数据和训练设计,然后用私有的数据训出来了一个亮眼的模型。

由于缺少充分的消融实验、可复现的训练配方和可以复用的数据配方,研究者往往很难判断优异的模型表现究竟是来源于哪里:是更优质的训练数据,还是某个特定的模型或训练设计?

如果存在一个性能出色,同时从训练代码到训练数据完全公开可复现的模型的话,研究者们就可以在统一起点上做更多拓展和控制消融实验,从而更准确地分析、理解不同设计带来的实际影响。

最近,普林斯顿大学刘壮团队发布的 i1 模型就回应了这一需求。



  • 论文标题:i1: A Simple and Fully Open Recipe for Strong Text-to-Image Models
  • 论文链接:https://arxiv.org/abs/2606.11289
  • 项目主页:https://zlab-princeton.github.io/i1/
  • 代码:https://github.com/zlab-princeton/i1
  • 模型:https://huggingface.co/zlab-princeton/i1-3B
  • 数据集:https://huggingface.co/datasets/zlab-princeton/i1-captions

团队开展了 300 多组控制实验,总计使用超过 70 万 TPU v6e 小时,系统研究了文生图扩散模型中的模型与数据设计。基于这些实验结论,他们最终训练出一个参数量为 3B 的文生图模型 i1。

在 GenEval、DPG-Bench、PRISM-Bench、CVTG-2K 和 LongText-Bench 五项基准上,i1 平均领先此前最好的全公开模型 29.5 个百分点。在这些主要关注提示词遵循和文字渲染能力的自动评测中,i1 的综合表现也接近部分参数量更大、仅开放权重的模型,如 20B 的 Qwen-Image。



五项文生图基准上的平均表现。i1 平均领先此前表现最好的全公开模型 29.5 个百分点,并接近多款仅开放权重的领先模型



i1 在通用图像生成任务上的精选示例



i1 在文字渲染任务上的精选示例

控制实验

团队的探索基于一个简单且具有代表性的文生图基线:在模型方面,用浅层融合的方式由冻结的文本编码器提取特征,并输入到一个从头用 flow matching 训练的 DiT 网络;在数据方面,组合 12 个公开的图片数据集,并重新用 VLM 生成长 caption。

所有控制实验都从这个相同的 256×256 分辨率预训练基线出发,每次只改变一项设计,来评估不同模型和数据设计的影响。



i1 从一个统一基线出发,对一系列模型和数据设计开展控制实验

在模型方面,团队的发现包括:

(1)同时使用多个文本编码器可以提升模型表现,但增大单个文本编码器的 adapter 也能获得类似效果,而且计算成本更低。



稍微增大文本编码器的 adapter 大小就能够在不同 backbone 上稳定提升表现

(2)AdaLN 占有大量参数,但用 AdaLN 输入 timestep embedding 和 pooled text embedding 带来的额外收益有限。



用 AdaLN 输入 timestep embedding 和 pooled text embedding 带来的额外收益十分有限

(3)在主干网络设计方面,相同参数量下,dual-stream 模型优于 single-stream 模型,single-stream 模型优于 cross-attention 模型。U-ViT 式的长跳跃连接在控制参数量或 FLOPs 时都能稳定提升性能。



控制参数的情况下,加入 U-ViT 式长跳跃连接能稳定提升表现



控制参数的情况下,dual-stream 优于 single-stream 优于 cross-attention

在数据方面,团队的发现包括:

(1)在短 caption 上训练会整体削弱模型表现;而虽然长 caption 可以训出更强的模型,但这样的模型在短 prompt 上表现欠佳。推理时使用 prompt rewriter 扩写 prompt 可以弥补这一问题。



使用不同比例的长、短 caption 训练后,模型在不同类型的 prompt 上的表现

(2)数据集足够多样时,在较小规模的数据上重复训练不会严重影响文生图表现。



在数据集 subsample 到不同规模后,模型的表现

(3)高分辨率训练不需要广泛的 data coverage,也能保留甚至提升低分辨率训练阶段学到的能力(如文字渲染)。



仅保留特定数据子集进行 512×512 分辨率训练时的模型表现。即使不使用专门的文字渲染数据,模型的文字渲染能力仍能得到显著提升

最终的 i1 模型



i1 的整体模型框架。i1 没有引入复杂的新模块,而是组合了多项经过控制实验验证的简单设计

基于控制实验的结论,团队融合多项简单有效的设计,训练出 3B 参数的 i1。它在五项主流文生图基准上的综合表现接近多款参数量更大、仅开放权重的模型。i1 也是第一个能做到较准确的生成文字渲染的全公开模型,在 CVTG-2K 和 LongText-Bench 上分别得到了 0.8531 和 0.922 的分数。



i1 在文生图评测上的表现

总结


i1 表明,训练一个有竞争力的文生图模型并不一定依赖难以获取的私有数据、不透明的训练配方或复杂的模型组件:仅使用公开数据集,并基于经过系统控制实验验证的设计构建一个简洁的配方,同样可以在提示词遵循和文字渲染等能力上达到较强水平。

同时,i1 可复现的训练配方也给文生图研究提供了一个统一的起始点,使研究者能够在受控条件下评估新的模型或数据设计,更准确地理解不同改动真正带来的影响。

作者介绍


i1 第一作者曾博亚是普林斯顿大学一年级博士生,本科毕业于宾夕法尼亚大学,研究方向为视觉生成模型。

通讯作者刘壮是普林斯顿大学助理教授。他的研究致力于构建能够更好地感知和理解世界的 AI 系统,分析模型的工作原理,并使用 AI 加速科学研究。代表作包括 DenseNet、ConvNeXt,曾获 CVPR 最佳论文奖。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
周三、四陪上司睡,周五上海睡丈夫,朱某真面目被老公揭开:下流

周三、四陪上司睡,周五上海睡丈夫,朱某真面目被老公揭开:下流

江山挥笔
2026-09-06 15:51:56
比井盖?韦世豪疑似地域攻击河南!全家遭河南球迷辱骂+死亡威胁

比井盖?韦世豪疑似地域攻击河南!全家遭河南球迷辱骂+死亡威胁

念洲
2026-09-07 07:01:20
0-0!中国女足U20发挥低迷,2次空门不进,对方门将“身材肥胖”

0-0!中国女足U20发挥低迷,2次空门不进,对方门将“身材肥胖”

汪星人哟
2026-09-07 21:47:34
细节曝光!江西低保女生赴港追星,返程后全家2000元补助被清零,女方家庭情况曝光后全网吵翻

细节曝光!江西低保女生赴港追星,返程后全家2000元补助被清零,女方家庭情况曝光后全网吵翻

李晚书
2026-09-07 07:40:43
极右翼德国选择党选举胜利,默茨回应:深感震惊,没想到会这样,德国需要根本性改革

极右翼德国选择党选举胜利,默茨回应:深感震惊,没想到会这样,德国需要根本性改革

环球网资讯
2026-09-07 21:24:44
“高速公路收费期限届满后由政府统一管理,可收取车辆通行费”

“高速公路收费期限届满后由政府统一管理,可收取车辆通行费”

观察者网
2026-09-07 18:03:38
给胖东来供货十七年的牟强说,这里一边是天堂,一边是地狱。天堂是账期短,货款七天左右就能到账,地狱则是...

给胖东来供货十七年的牟强说,这里一边是天堂,一边是地狱。天堂是账期短,货款七天左右就能到账,地狱则是...

背包旅行
2026-09-07 18:50:04
蔡澜说,刘銮雄追女明星,都是先送3000万,这样90%港姐可以拿下

蔡澜说,刘銮雄追女明星,都是先送3000万,这样90%港姐可以拿下

晓銊就是我
2026-09-07 12:39:23
湖南经济为什么掉队了?当地县中医药主任轻飘飘的一句话,让人寒毛倒竖

湖南经济为什么掉队了?当地县中医药主任轻飘飘的一句话,让人寒毛倒竖

回旋镖
2026-09-07 12:45:44
破冰之旅!时隔两年台官员顶着中国台北四个字登陆,国台办亮底线

破冰之旅!时隔两年台官员顶着中国台北四个字登陆,国台办亮底线

面包夹知识
2026-09-07 18:24:48
中美紧张,中日紧张,中英紧张,中加紧张,中印紧张,中韩紧张,中欧紧张…… 各类消息看多了,怎么感觉每天都在过得很紧张?

中美紧张,中日紧张,中英紧张,中加紧张,中印紧张,中韩紧张,中欧紧张…… 各类消息看多了,怎么感觉每天都在过得很紧张?

回京历史梦
2026-09-07 17:48:31
郭德纲歪曲篡改抗战歌曲《弹起我心爱的土琵琶》,官方发布处理通报

郭德纲歪曲篡改抗战歌曲《弹起我心爱的土琵琶》,官方发布处理通报

观察者网
2026-09-07 18:03:38
心理学发现个特别惊人的现象:现在离了婚的女人抢得最凶的,不是小鲜肉,也不是四十岁的成熟男人,而是退休金拿得高的老男人

心理学发现个特别惊人的现象:现在离了婚的女人抢得最凶的,不是小鲜肉,也不是四十岁的成熟男人,而是退休金拿得高的老男人

心理观察局
2026-09-07 06:12:09
这条无耻新闻,终于引起公愤了!

这条无耻新闻,终于引起公愤了!

胖胖说他不胖
2026-09-07 11:50:18
华为时隔六年再次发布高性能芯片

华为时隔六年再次发布高性能芯片

新华社
2026-09-07 15:08:32
中科院:江浙沪血液有害物质浓度爆表!

中科院:江浙沪血液有害物质浓度爆表!

生命科学前沿
2024-03-27 17:38:51
百万粉丝吃播网红“干饭莹莹”去世,年仅24岁,直播卖皮蛋一场要吃六七十个

百万粉丝吃播网红“干饭莹莹”去世,年仅24岁,直播卖皮蛋一场要吃六七十个

上观新闻
2026-09-07 20:17:01
大瓜?网传梁宏达也移民了,将在9月15日顺利离境

大瓜?网传梁宏达也移民了,将在9月15日顺利离境

小徐讲八卦
2026-09-06 13:06:15
昔日巴萨“子弹”退役:86场20球 曾上演帽子戏法 梅西3助攻

昔日巴萨“子弹”退役:86场20球 曾上演帽子戏法 梅西3助攻

叶青足球世界
2026-09-07 15:12:40
女性长期使用情趣用品,身体可能出现哪些不适?不少人缺乏认知

女性长期使用情趣用品,身体可能出现哪些不适?不少人缺乏认知

看世界的人
2026-08-07 09:22:50
2026-09-08 00:03:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
13940文章数 142729关注度
往期回顾 全部

科技要闻

小米澎程N90 Max定价26.99万元

头条要闻

伊朗试验特殊武器爆炸场面如同地狱 美军舰直接跑了

头条要闻

伊朗试验特殊武器爆炸场面如同地狱 美军舰直接跑了

体育要闻

中超争冠形势:成都蓉城下轮打平夺冠

娱乐要闻

热搜第一,演员李沐宸致歉

财经要闻

证监会原副主席王建军一审被判无期徒刑

汽车要闻

智能可变大空间SUV 小米澎程系列车型上市 20.99万起

态度原创

健康
艺术
旅游
手机
家居

同样是脑梗,为何康复结局大不同?

艺术要闻

Denisenko Olga:俄罗斯当代女画家

旅游要闻

外籍游客同比增长37.9% 看成都开放能级何以一路“扶摇直上”|成都发展

手机要闻

10999 小米18 Fold发布,新形态中折叠 首发玄戒O3

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版