一句话: VLM-CC 这篇论文有意思,不是因为它又做了一个 AWB 网络,而是因为它把色彩恒常从“一次性估计光源”改成了“先修一下,再让大模型评审颜色还偏不偏”的反馈闭环。

传统 AWB/Color Constancy 通常从 RAW 图像里直接估计场景光源,然后做线性校正。这个路线在单一相机上可以做得很强,但跨相机时容易掉性能:不同 sensor 的 spectral sensitivity、CFA、color matrix 和 ISP rendering 都会把同一个场景变成不同的颜色分布。模型学到的不是“光源”,而是某台相机的颜色习惯。
VLM-CC 的转向很清楚:不要让 VLM 直接吐一个精确光源 RGB。作者先用当前估计做一次 white balance,把 RAW 渲成 pseudo-sRGB;再让 LoRA 微调过的 VLM 看这张图,判断残余色偏主要是 red、green 还是 blue;最后把这个判断映射成 chromaticity space 里的更新方向,进入下一轮迭代。

这个设计的关键,是把大模型放在“感知评审器”的位置。它不是替代 ISP 的低层估计器,而是利用语义和常识去判断:纸张是不是还发黄,天空是不是不自然,皮肤是不是还带绿,画面里的中性物体是否真的中性。人手动调白平衡时,本来也不是盯着 RAW RGB 数字调,而是不断看“这张图还偏不偏”。VLM-CC 把这个人类调色动作工程化了。

从应用上看,它最值得发散的地方不是手机里又多一个 AWB 模块,而是跨设备色彩一致性。比如多机位直播、手机/相机混拍、博物馆数字化、电商商品图、医疗/工业记录影像,这些场景都不只需要“单张图好看”,更需要不同设备拍出来的颜色能互相对齐。传统做法依赖标定、灰卡、color checker 或 camera-specific tuning;VLM-CC 暗示了一条新路线:让模型在渲染后的公共视觉空间里做语义反馈,减少对单台相机响应曲线的绑定。

当然,它还不能被神化。VLM 对精细颜色的数值判断并不天然可靠,论文也指出必须做针对性的 LoRA 微调;而且 red/green/blue 三类残余色偏还是比较粗的控制信号。复杂混合光、局部照明、强材质反射、舞台灯、夜景霓虹这些场景,远不是一个全局 illuminant 能覆盖的。
但这篇论文给了一个很好的方向:大模型进入影像系统,不一定要从端到端替代 ISP 开始。更现实的方式,是先进入“判断、反馈、解释、选择”的环节。对于色彩还原尤其如此:未来的系统可能仍然由传统 ISP 做高效、可控、物理一致的底层处理,而由 VLM/MLLM 判断画面是否符合语义颜色、用户意图和跨设备一致性,再把反馈交还给 ISP 或后期 pipeline。
这才是“大模型 + 影像”真正值得跟的地方:不是把每个低层模块都换成大模型,而是让模型成为影像链路里的感知控制层。
论文信息
- 论文:White-Balance First, Adjust Later: Cross-Camera Color Constancy via Vision-Language Evaluation
- 作者:Shuwei Li, Lei Tan, Robby T. Tan
- 机构:National University of Singapore; ASUS Intelligent Cloud Services
- arXiv:2605.19613
- 代码:论文页面标注将发布在 NothingIknow/VLM-CC