网易首页 > 网易号 > 正文 申请入驻

SIGGRAPH 2026 | VeraRetouch:多任务推理式照片修图框架

0
分享至

vivo BlueImage Lab团队联合浙江大学CAD&CG全国重点实验室、之江实验室与中国科学院大学提出了 VeraRetouch,一个轻量、全可微分、可移动端部署的多任务推理式照片修图框架。

VeraRetouch 不仅能自动修图,还能听懂用户想要的风格描述,甚至能执行精确的参数式调整。通过将 0.6B 视觉语言模型作为“修图大脑”,并设计全可微分的 Retouch Renderer 作为“修图执行器”,VeraRetouch 能够把高层语言意图转化为低层像素级调整,在保持图像结构和细节的同时完成专业化色调与色彩优化。


论文题目: VeraRetouch: A Lightweight Fully Differentiable Framework for Multi-Task Reasoning Photo Retouching 论文链接: https://arxiv.org/pdf/2604.27375 代码链接: https://github.com/OpenVeraTeam/VeraRetouch 项目主页: https://apollo-yi.github.io/VeraRetouch/

在手机摄影已经成为日常表达方式的今天,拍照只是第一步。真正让一张照片“好看起来”的,往往是后期修图:提亮暗部、压住高光、校准肤色、调出某种胶片感,或者让整张照片更通透、更有氛围。

但问题也随之而来:专业修图软件门槛高,普通用户很难准确知道该调曝光、对比度、色温,还是局部色彩;一键滤镜虽然方便,却常常“味儿太重”,要么破坏细节,要么把所有照片修成同一种风格。近年来,多模态大模型和图像生成技术开始进入修图场景,但不少方法仍依赖 Lightroom、Photoshop 等外部工具,模型只负责“下指令”,真正的像素级调整并不在可微分框架内完成,因此很难端到端优化;且采用的多模态大模型参数量过大,不利于移动端部署。

我们团队联合浙江大学CAD&CG全国重点实验室、之江实验室与中国科学院大学联合发布了一项新的研究工作 VeraRetouch,面向多任务推理式照片修图,提出了一个轻量、全可微分、可移动端部署的修图框架。它不仅能自动修图,还能听懂用户想要的风格描述,甚至能执行精确的参数式调整。

通过将 0.6B 视觉语言模型作为“修图大脑”,并设计全可微分的 Retouch Renderer 作为“修图执行器”,VeraRetouch 能够把高层语言意图转化为低层像素级调整,在保持图像结构和细节的同时完成专业化色调与色彩优化。

一、全新框架:让大模型真正“会修图”,而不只是会说怎么修

传统自动修图方法大多像一个黑盒:输入照片,输出结果,中间缺少明确的审美分析与调整逻辑。后来的推理式修图方法引入多模态大模型,让模型能够分析照片问题、给出修图步骤,再调用外部工具执行调整。

这条路线更接近人类修图师的工作方式,但也带来一个核心瓶颈:外部修图软件通常不可微分。模型生成的参数能否真正带来更好的像素结果,很难通过端到端训练直接优化。

VeraRetouch 的关键创新在于,它不再把专业修图工具当作外部黑盒,而是用一个全可微分的 Retouch Renderer 替代传统软件中的调色与调光操作。这样一来,模型不仅能“推理出该怎么修”,还能通过图像监督直接学习“怎样修才真的好看”。

研究团队将修图空间拆解为三个相对独立的控制维度:

  • Lighting:曝光、阴影、高光等光照相关调整

  • Global Color:色温、色调、整体颜色倾向等全局色彩调整

  • Specific Color:针对红色、橙色、蓝色等特定颜色通道的精细调整

这种拆解方式与专业修图流程高度一致,也让模型的输出更可解释、更稳定。


图 1:Retouch Encoder 从参考图像对中提取光照、全局色彩和特定色彩控制 latent,Retouch Renderer 再将这些控制信号映射到像素级修图结果。

二、三种任务:从“一键变好看”到“按你说的修”

VeraRetouch 面向真实用户需求定义了三类修图任务。




图 2:VeraRetouch 支持自动修图、风格修图与参数修图三类典型工作流,让用户可以快速从“这张图需要怎么修”理解到“模型正在做什么”。

第一类是 Auto-Retouch。

用户只需要输入一张照片,模型自动分析画面中的光影和色彩问题,并生成修图方案。这对应最常见的“一键优化”场景,但目标不是套滤镜,而是在保留原图内容的基础上提升整体观感。

第二类是 Style-Retouch。

用户可以用自然语言描述想要的风格,比如“温暖秋日感”“冷调日系透明感”“暗调情绪胶片风”。模型会结合图像内容和文本意图,推理出具体的调色方向,并生成符合风格描述的结果。

第三类是 Param-Retouch。

模型可以根据明确的参数指令进行修图,例如对比度、曝光、色温、饱和度等。

换句话说,它既能“自己看图修”,也能“听懂你想要什么风格”,还能“按参数执行”。

三、数据问题怎么解决?构建百万级专业修图数据集

高质量修图模型离不开高质量数据。然而,专业修图数据非常稀缺。已有数据集规模有限,且很难覆盖真实用户复杂多样的风格需求。

为此,研究团队构建了 **AetherRetouch-1M+**,这是一个百万级多任务专业修图数据集,覆盖 Auto-Retouch、Style-Retouch 与 Param-Retouch 三类场景。


图 3:AetherRetouch-1M+ 覆盖自动修图、风格修图与参数修图三类任务,为多任务推理式修图提供大规模训练数据。

对于自动修图,团队采用了一个很有意思的“反向退化”思路:先从高质量照片出发,把它们视作“已修好”的结果,再基于专家修图对中的色彩与光照变化,反向生成更像原始照片的“未修图”版本。这样可以在保留真实内容结构的同时,构造大量具有真实缺陷的训练样本。

对于风格修图,团队整理了 5,030 个在线风格预设,覆盖 11 个大类和 193 个细分子类,并借助视觉语言模型为图像匹配合适风格,再生成多样化用户指令。

对于参数修图,团队围绕光照、全局色彩和特定色彩三类操作随机采样参数组合,生成可用于精确控制训练的数据。

更进一步,数据集中还加入了结构化推理过程:模型不仅学习“输入到输出”,还学习为什么要这样调整,包括画面内容分析、原图问题诊断,以及对应的修图计划。


图 4:AetherRetouch-1M+ 的数据构建流程,包括自动修图的反向退化、风格预设匹配与参数采样三条数据生成路径。

四、技术核心:小模型,也能做专业推理修图

VeraRetouch 基于 FastVLM-0.5B 构建。输入图像经过视觉编码器转成视觉 token,用户指令经过文本编码器转成 prompt token,随后多模态语言模型生成结构化推理内容。


图 5:VeraRetouch 整体框架。输入图像与用户指令经过轻量 VLM 生成结构化推理与控制 latent,再由 Retouch Renderer 输出最终修图结果。

为了让推理结果真正驱动像素调整,研究团队设计了专门的 retouch tokens,分别对应光照、全局色彩和特定色彩三个控制维度。模型最后一层 hidden state 会被送入 MLP Retouch Adaptor,对齐到 Retouch Renderer 可理解的连续控制 latent,再由 Retouch Renderer 输出最终修图结果。

这套设计带来两个重要优势。

首先,它避免了模型推理时对外部修图软件的依赖。整个修图过程可以在模型内部完成,并支持端到端像素级训练。

其次,它比大型生成式图像编辑模型更轻量。VeraRetouch 的总参数规模约为 0.63B,远小于 Flux.1 Kontext、Qwen-Image-2509、MonetGPT、JarvisArt 等基线方法,更接近移动端实际部署需求。

为了进一步提升审美表现,团队还提出了DAPO-AE后训练策略,通过格式奖励、图像相似性奖励和审美奖励,引导模型在保持指令一致性的同时生成更自然、更符合人类美学偏好的修图结果。

五、实验结果:质量、速度和可部署性同时提升

实验显示,VeraRetouch 在多个基准上取得了领先表现。

在 FiveK-Bench 自动修图任务上,VeraRetouch-DAPO-AE 达到 26.85 dB PSNR,相比 Flux.1 Kontext 提升 1.08 dB,同时在 SSIM、LPIPS 和多项直方图一致性指标上表现突出。


在 Aether-Bench 的风格修图任务中,VeraRetouch 在 PSNR、SSIM、LPIPS、DISTS、GMSD 和 Texture Distortion 等指标上均取得最优或领先表现,说明它不仅能跟随风格指令,也能更好地保留原图结构与纹理细节。

在参数修图任务中,VeraRetouch 的 PSNR 达到 30.18 dB,明显超过微调后的扩散模型基线,展现出对精确修图参数的强执行能力。然而作者也在论文中提到,由于构造训练数据时采用联合高斯分布进行参数采样,模型在执行分布外参数时可能会出现一些不一致的情况。


从三个任务视频可以看到,VeraRetouch 的修图结果并不是简单改变整体滤镜强度,而是会根据任务类型分别处理画面亮度、色彩倾向、局部颜色与风格氛围。对于自动修图,它更强调自然观感;对于风格修图,它更关注语言描述与视觉风格的一致性;对于参数修图,它则强调调整结果的可控性和可复现性。

速度方面,VeraRetouch 在 H20 GPU 上处理一张 512p 图像仅需 6.90 秒,快于 Flux.1 Kontext 的 16.78 秒和 JarvisArt 的 14.31 秒。更重要的是,模型在消费级设备上也具备部署潜力:未经量化的版本在 MacBook Air M4 上约 7.46 秒,在 iPhone 16 Pro 上约 13.56 秒 即可完成自动修图。

用户研究同样验证了这一点。38 名参与者的盲评结果显示,VeraRetouch 在视觉美感、指令一致性和纹理保持方面都获得了最高评分。DAPO-AE 后训练也带来更明显的人类偏好提升,在对比实验中获得 61.62% 的偏好率。

六、技术核心:小模型,也能做专业推理修图

VeraRetouch 的意义不只是提出了一个新的修图模型,而是把推理式修图从“模型生成参数、外部工具执行”的松散流程,推进到一个轻量、可微分、可端到端优化的统一框架中。

它让模型能够同时理解图像内容、用户意图和专业修图逻辑,并通过可解释的光照、全局色彩、特定色彩控制 latent 完成像素级调整。配合百万级 AetherRetouch-1M+ 数据集,VeraRetouch 展示了小模型在专业影像任务中的巨大潜力。

这项工作有望服务于多种真实影像场景:

  • 日常拍摄:一键获得更自然、更耐看的照片效果

  • 社交分享:根据语言描述快速生成符合内容氛围的风格图

  • 移动影像:为端侧智能修图和手机影像后处理提供新的技术路径

当然,论文也指出,当前模型在局部修图能力上仍有提升空间。未来若进一步引入像素级 mask 机制,VeraRetouch 有望支持更灵活的区域化编辑,例如只提亮人物面部、只调整天空色彩,或只优化背景氛围。

从“一键滤镜”到“推理式专业修图”,照片后期正在从工具门槛走向自然交互。VeraRetouch 提供了一个值得关注的新方向:让手机真正理解一张照片该怎么变好看。

Illustration From IconScout By IconScout Store

6 位不同来路的具身创业者闭门聊天局

北京时间8月25日(周二) 晚20:00截止报名

详情点击图片跳转


9月28日晚@美国匹兹堡

「IROS 2026 群星闪耀 精英晚宴」

免费报名,期待线下见面!

北京时间9月25日(周五) 12:00截止报名

-The End-


扫码观看!

本周上新!

“AI技术流”原创投稿计划

TechBeat是由将门创投建立的AI学习社区(www.techbeat.net)。社区上线700+期talk视频,3000+篇技术干货文章,方向覆盖CV/NLP/ML/Robotis等;每月定期举办顶会及其他线上交流活动,不定期举办技术人线下聚会交流活动。我们正在努力成为AI人才喜爱的高质量、知识型交流平台,希望为AI人才打造更专业的服务和体验,加速并陪伴其成长。

投稿内容

// 最新技术解读/系统性知识分享 //

// 前沿资讯解说/心得经历讲述 //

投稿须知

稿件需要为原创文章,并标明作者信息。

我们会选择部分在深度技术解析及科研心得方向,对用户启发更大的文章,做原创性内容奖励

投稿方式

发送邮件到

yimingzhang@thejiangmen.com

或添加工作人员微信(aceyiming)投稿,沟通投稿详情

关于我“门”

将门是一家以专注于数智核心科技领域的新型创投机构,也是北京市标杆型孵化器。 公司致力于通过连接技术与商业,发掘和培育具有全球影响力的科技创新企业,推动企业创新发展与产业升级。

将门成立于2015年底,创始团队由微软创投在中国的创始团队原班人马构建而成,曾为微软优选和深度孵化了126家创新的技术型创业公司。

如果您是技术领域的初创企业,不仅想获得投资,还希望获得一系列持续性、有价值的投后服务,欢迎发送或者推荐项目给我“门”:

bp@thejiangmen.com


点击右上角,把文章分享到朋友圈

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
云南5天连创11月全国最高温,活久见:不排除在副高内部降雪! 热到37.3度!云南11月连创5天全国最热后,立冬后或直接下雪

云南5天连创11月全国最高温,活久见:不排除在副高内部降雪! 热到37.3度!云南11月连创5天全国最热后,立冬后或直接下雪

风云圈天气
2026-11-09 23:41:24
天气渐冷!心内科主任苦劝:吃氨氯地平,冬天尽量少做这8件事

天气渐冷!心内科主任苦劝:吃氨氯地平,冬天尽量少做这8件事

高中医健康说
2026-11-09 21:40:05
在蒙古工作的华人感慨:不要听媒体吹牛,蒙古相当于我国二线城市

在蒙古工作的华人感慨:不要听媒体吹牛,蒙古相当于我国二线城市

铭记历史呀
2026-11-08 20:11:00
广东省纪委监委驻省农业农村厅纪检监察组原一级调研员温清华严重违纪违法被开除党籍

广东省纪委监委驻省农业农村厅纪检监察组原一级调研员温清华严重违纪违法被开除党籍

环球网资讯
2026-11-09 18:49:12
曼晚:曼联选帅受阻,三名潜在新帅均拒绝执教邀约

曼晚:曼联选帅受阻,三名潜在新帅均拒绝执教邀约

懂球帝
2026-11-10 01:04:24
二级警卫26人、食物专供不能随便吃:王亚平到底有多重要?

二级警卫26人、食物专供不能随便吃:王亚平到底有多重要?

墨策史
2026-11-05 18:36:24
广州同学聚会吃了16万6,请客的人付完钱先走,剩下的人却翻脸了

广州同学聚会吃了16万6,请客的人付完钱先走,剩下的人却翻脸了

诡谲怪谈
2025-06-09 08:45:42
夺冠仅1天,央视4次“点名”大连英博,范志毅的话终于有人信了

夺冠仅1天,央视4次“点名”大连英博,范志毅的话终于有人信了

观察鉴娱
2026-11-10 09:55:56
今年退休养老金开始补差,有人补904、有人仅154,差距源于这4点

今年退休养老金开始补差,有人补904、有人仅154,差距源于这4点

明天后天大后天
2026-11-09 12:13:13
藏南民众开始团结起来,拒绝跟印度当局谈判,局势正在悄然改写

藏南民众开始团结起来,拒绝跟印度当局谈判,局势正在悄然改写

面包夹知识
2026-11-09 15:28:21
徽剑案曝出胆寒细节:主犯是个98年无业青年,却请得起出场费几十万的顶尖律师

徽剑案曝出胆寒细节:主犯是个98年无业青年,却请得起出场费几十万的顶尖律师

小徐讲八卦
2026-11-01 15:54:44
荣威家越07正式上市:豆包座舱助手+家用大五座SUV,11.98万元起

荣威家越07正式上市:豆包座舱助手+家用大五座SUV,11.98万元起

且听Phone吟
2026-10-23 19:18:11
青岛楼市开始离谱了!黄岛区金沙滩板块从2.8万变成1.4万

青岛楼市开始离谱了!黄岛区金沙滩板块从2.8万变成1.4万

说故事的阿袭
2026-11-10 00:34:57
风向突变,以德为首的西方国家发声:中国早已在换电关键领域崛起

风向突变,以德为首的西方国家发声:中国早已在换电关键领域崛起

壹知眠羊
2026-11-04 07:11:38
告诉你一个心理学秘密:千万不要提前焦虑,事情会以奇特方式解决

告诉你一个心理学秘密:千万不要提前焦虑,事情会以奇特方式解决

松果正念袁老师
2025-03-11 20:52:18
媒体曝光全是假货!利润高达2400%,消费者还抢着购买,为什么?

媒体曝光全是假货!利润高达2400%,消费者还抢着购买,为什么?

侃故事的阿庆
2026-11-10 06:59:44
国际乒联最新世界排名公布:男单松岛辉空、张本智和包揽前二,王楚钦位列第四,林诗栋位列第十;王曼昱、孙颖莎位列女单前二

国际乒联最新世界排名公布:男单松岛辉空、张本智和包揽前二,王楚钦位列第四,林诗栋位列第十;王曼昱、孙颖莎位列女单前二

台州交通广播
2026-11-09 19:35:26
彻底露馅!库明加上限已定,大合同没戏,终究撑不起NBA主力身价

彻底露馅!库明加上限已定,大合同没戏,终究撑不起NBA主力身价

畅评篮球
2026-11-09 14:06:48
波兰枪手穿防弹衣、持自动步枪扫射人群,致6死15伤

波兰枪手穿防弹衣、持自动步枪扫射人群,致6死15伤

观察者网
2026-11-08 07:37:27
以色列游客趁导游喝水推其入海,哈哈大笑引不满后称“我们都是好孩子,不应该遭受这样的仇恨”

以色列游客趁导游喝水推其入海,哈哈大笑引不满后称“我们都是好孩子,不应该遭受这样的仇恨”

扬子晚报
2026-11-10 07:37:15
2026-11-10 10:43:00
将门创投 incentive-icons
将门创投
加速及投资技术驱动型初创企业
2538文章数 597关注度
往期回顾 全部

科技要闻

最强Claude来了!8天从零写出电脑系统

头条要闻

陕西一民办小学卖惨骗捐被查封 女校长等多人被抓

头条要闻

陕西一民办小学卖惨骗捐被查封 女校长等多人被抓

体育要闻

大连足球这些年的起落,都从他身边经过

娱乐要闻

整个内娱为了她俩“画地为牢”?

财经要闻

72岁王健林重回“一号位”

汽车要闻

雨中的埃安Ray7,有点上头

态度原创

健康
游戏
艺术
手机
公开课

痘痘长到25岁还没完?查查内分泌

速通玩家用无限跳突破《塞尔达:时之笛 重制版》

艺术要闻

点开前以为只是玫瑰,点开后:这画得也太美艳了!

手机要闻

iPhone Duo屏幕开裂原因确认 苹果不会进行召回

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版