AesCode:基于解耦跨模态奖励的美学代码生成

Hugging Face Daily Papers 论文

摘要

AesCode 提出一个框架,通过将基于内容的代码生成与来自参考图像的美学引导相结合,以代码形式生成视觉制品(幻灯片、海报、仪表盘),并利用强化学习优化解耦的跨模态奖励。AesCode-8B 和 AesCode-32B 相比 Qwen3-VL 基线分别将视觉质量提升 31.1 和 22.4 个百分点,达到与前沿闭源模型相当的水平。

以代码形式生成信息丰富的视觉制品(如幻灯片、海报和仪表盘)极具吸引力,因为其输出是结构化的、可编辑的、可验证的。然而,代码模型无法看到其布局和颜色选择在画布上的整体效果,这往往限制了空间规划和美学质量。图像生成器擅长视觉设计,但可能会错误呈现所需内容,使其输出不适合作为直接复刻的目标。因此,我们提出 AesCode,该框架生成以内容提示为依据的代码,同时使用由同一提示生成的图像作为美学引导。为此,AesCode 将目标表示为设计图(design graph),描述整个画布并使每个属性可归因。从该图中,我们推导出互补的跨模态奖励:确定性验证器对可从代码和渲染中解析的属性进行评分,而 VLM 评判器则通过与图元素及关系绑定的样本特定视觉图评分标准(Visual Graph Rubric, VGR)评估不可解析的属性。我们通过带有逐通道归一化的强化学习来优化这些解耦奖励,以协同提升空间规划、美学质量和可验证的正确性。为评估这一场景,我们构建了一个分别对可验证正确性和视觉质量进行评分的基准,其中视觉评分与人类判断高度一致。我们发现参考图像能显著提升现有模型所生成代码的视觉质量,消融实验表明 AesCode 同时受益于参考图像作为模型输入和作为视觉奖励来源两方面。与在相同参考条件下同规模的 Qwen3-VL 基线相比,AesCode-8B 和 AesCode-32B 的视觉质量分别提升 31.1 和 22.4 个百分点,其得分与 GPT-5.5 和 Claude Opus 4.8 等闭源前沿模型相当。
查看原文
查看缓存全文

缓存时间: 2026/10/14 06:51

论文页面 - AesCode:基于解耦跨模态奖励的美学代码生成

来源:https://huggingface.co/papers/2610.18860 作者:

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

摘要

以代码形式生成信息丰富的视觉制品,例如幻灯片、海报和仪表盘,非常有吸引力,因为其输出是结构化、可编辑且可验证的。然而,代码模型无法看到其布局和颜色选择在画布上的最终组合效果,这往往限制了空间规划和美学质量。图像生成器擅长视觉设计,但可能无法正确渲染所请求的内容,使其输出不适合作为直接复现的目标。因此,我们提出了 AesCode,它基于内容提示生成代码,同时以同一提示生成的图像作为美学引导。为此,AesCode 将目标表示为一个设计图(design graph),描述整个画布并使每个属性可归属。从该图中,我们推导出互补的跨模态奖励:确定性验证器为可从代码和渲染中解析的属性打分,而 VLM 评判器则通过与图元素和关系绑定的样本特定视觉图评分标准(Visual Graph Rubric,VGR)来评估不可解析的属性。我们通过带有逐通道归一化的强化学习优化这些解耦的奖励,以共同提升空间规划、美学质量和可验证的正确性。为了评估这一设定,我们构建了一个分别对可验证正确性和视觉质量进行打分的基准,其中视觉得分与人类判断高度一致。我们发现参考图像能显著提升现有模型所生成代码的视觉质量,消融实验表明 AesCode 既能从参考图像作为模型输入中获益,也能将其作为视觉奖励来源获益。相较于在相同参考图像条件下同等规模的 Qwen3-VL 基线,AesCode-8B 和 AesCode-32B 分别将视觉质量提升了 31.1 和 22.4 个百分点,达到了与 GPT-5.5 和 Claude Opus 4.8 等闭源前沿模型相当的水平。

查看 arXiv 页面 (https://arxiv.org/abs/2610.18860) 查看 PDF (https://arxiv.org/pdf/2610.18860) 项目页面 (https://microsoft.github.io/AesCode/) GitHub42 (https://github.com/microsoft/AesCode) 添加到合集 (https://huggingface.co/login?next=%2Fpapers%2F2610.18860)

在你的代理中获取此论文:

hf papers read 2610.18860

还没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型0

暂无模型关联此论文

在模型 README.md 中引用 arxiv.org/abs/2610.18860 即可从此页面链接。

引用此论文的数据集0

暂无数据集关联此论文

在数据集 README.md 中引用 arxiv.org/abs/2610.18860 即可从此页面链接。

引用此论文的 Spaces0

暂无 Space 关联此论文

在 Space README.md 中引用 arxiv.org/abs/2610.18860 即可从此页面链接。

收录此论文的合集0

暂无合集收录此论文

将此论文添加到合集 (https://huggingface.co/new-collection) 即可从此页面链接。

相似文章

超越NL2Code:多模态代码智能的结构化综述

Hugging Face Daily Papers

本综述论文系统性地回顾了从截图和图表等视觉输入中生成和推理代码的多模态代码智能系统,将方法归类到图形用户界面、科学可视化、结构化图形以及新兴框架中,同时提出了以验证为中心的未来研究方向。

microsoft/AesCode 8B 和 32B

Reddit r/LocalLLaMA

微软发布 AesCode-8B 与 AesCode-32B 模型,可依据图像美学参考生成信息丰富的可视化产物(如幻灯片、海报、仪表盘)为结构化 HTML/CSS 代码,通过图结构监督与解耦的跨模态奖励解决视觉布局与内容准确性的权衡。

视觉AI的下一个前沿是代码(11分钟阅读)

TLDR AI

文章认为,视觉AI的下一个前沿是生成代码(例如SVG、HTML/CSS、React组件),而非原始像素,从而实现了可编辑性、迭代性以及与专业设计和开发工作流程的集成。