AesCode:基于解耦跨模态奖励的美学代码生成
摘要
AesCode 提出一个框架,通过将基于内容的代码生成与来自参考图像的美学引导相结合,以代码形式生成视觉制品(幻灯片、海报、仪表盘),并利用强化学习优化解耦的跨模态奖励。AesCode-8B 和 AesCode-32B 相比 Qwen3-VL 基线分别将视觉质量提升 31.1 和 22.4 个百分点,达到与前沿闭源模型相当的水平。
查看缓存全文
缓存时间: 2026/10/14 06:51
论文页面 - AesCode:基于解耦跨模态奖励的美学代码生成
来源:https://huggingface.co/papers/2610.18860 作者:
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
摘要
以代码形式生成信息丰富的视觉制品,例如幻灯片、海报和仪表盘,非常有吸引力,因为其输出是结构化、可编辑且可验证的。然而,代码模型无法看到其布局和颜色选择在画布上的最终组合效果,这往往限制了空间规划和美学质量。图像生成器擅长视觉设计,但可能无法正确渲染所请求的内容,使其输出不适合作为直接复现的目标。因此,我们提出了 AesCode,它基于内容提示生成代码,同时以同一提示生成的图像作为美学引导。为此,AesCode 将目标表示为一个设计图(design graph),描述整个画布并使每个属性可归属。从该图中,我们推导出互补的跨模态奖励:确定性验证器为可从代码和渲染中解析的属性打分,而 VLM 评判器则通过与图元素和关系绑定的样本特定视觉图评分标准(Visual Graph Rubric,VGR)来评估不可解析的属性。我们通过带有逐通道归一化的强化学习优化这些解耦的奖励,以共同提升空间规划、美学质量和可验证的正确性。为了评估这一设定,我们构建了一个分别对可验证正确性和视觉质量进行打分的基准,其中视觉得分与人类判断高度一致。我们发现参考图像能显著提升现有模型所生成代码的视觉质量,消融实验表明 AesCode 既能从参考图像作为模型输入中获益,也能将其作为视觉奖励来源获益。相较于在相同参考图像条件下同等规模的 Qwen3-VL 基线,AesCode-8B 和 AesCode-32B 分别将视觉质量提升了 31.1 和 22.4 个百分点,达到了与 GPT-5.5 和 Claude Opus 4.8 等闭源前沿模型相当的水平。
查看 arXiv 页面 (https://arxiv.org/abs/2610.18860) 查看 PDF (https://arxiv.org/pdf/2610.18860) 项目页面 (https://microsoft.github.io/AesCode/) GitHub42 (https://github.com/microsoft/AesCode) 添加到合集 (https://huggingface.co/login?next=%2Fpapers%2F2610.18860)
在你的代理中获取此论文:
hf papers read 2610.18860
还没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用此论文的模型0
暂无模型关联此论文
在模型 README.md 中引用 arxiv.org/abs/2610.18860 即可从此页面链接。
引用此论文的数据集0
暂无数据集关联此论文
在数据集 README.md 中引用 arxiv.org/abs/2610.18860 即可从此页面链接。
引用此论文的 Spaces0
暂无 Space 关联此论文
在 Space README.md 中引用 arxiv.org/abs/2610.18860 即可从此页面链接。
收录此论文的合集0
暂无合集收录此论文
将此论文添加到合集 (https://huggingface.co/new-collection) 即可从此页面链接。
相似文章
超越NL2Code:多模态代码智能的结构化综述
本综述论文系统性地回顾了从截图和图表等视觉输入中生成和推理代码的多模态代码智能系统,将方法归类到图形用户界面、科学可视化、结构化图形以及新兴框架中,同时提出了以验证为中心的未来研究方向。
Code2Video: 一个以代码为中心的教育视频生成范式
Code2Video是一个以代码为中心的代理框架,用于生成教育视频,相比直接代码生成,提高了连贯性和可解释性。它包括一个多代理系统和一个新的评估基准。
microsoft/AesCode 8B 和 32B
微软发布 AesCode-8B 与 AesCode-32B 模型,可依据图像美学参考生成信息丰富的可视化产物(如幻灯片、海报、仪表盘)为结构化 HTML/CSS 代码,通过图结构监督与解耦的跨模态奖励解决视觉布局与内容准确性的权衡。
视觉AI的下一个前沿是代码(11分钟阅读)
文章认为,视觉AI的下一个前沿是生成代码(例如SVG、HTML/CSS、React组件),而非原始像素,从而实现了可编辑性、迭代性以及与专业设计和开发工作流程的集成。
CodeMidas:从代码本身扩展智能编程强化学习环境
CodeMidas 是一个智能管道,它从源代码创建强化学习环境,扩展编程代理的训练,并在问题修复和程序构建等基准测试中展示性能提升。