Paper page - Rank-Aware Hyperbolic Alignment for Vision-Language Dataset Distillation

Source: https://huggingface.co/papers/2606.29464

摘要

一种使用Rank-Aware Hyperbolic Alignment的视觉-语言数据集蒸馏方法，通过优化合成图像-文本对实现高效的对比模型训练，同时保留模态特定的多样性。

视觉-语言数据集蒸馏（VLDD）将大型图像-文本配对数据集压缩为一小组合成对，这些合成对可以在严格的数据和计算预算下高效地训练对比性视觉-语言模型。大多数现有方法匹配专家轨迹或跨模态统计，但仍然在欧几里得嵌入空间中强制执行全维对齐。由于图像-文本相关性的秩不足，这通常过于严格，共享语义集中在低维范围内，剩余变化分布在弱相关的残差子空间中。LoRS通过低秩分解在相似性层面上放松对齐，但没有明确控制表示空间中的主导对齐能力和结构。因此，我们提出了一种Rank-Aware Hyperbolic Alignment（RAHA），它将层次几何与显式对齐能力控制相结合。RAHA将多模态表示提升到双曲空间，并优化带有不对称目标的蒸馏对，这些目标在共享范围内强制测地线对齐，同时正则化残差子空间以保留模态私有多样性并提高迁移鲁棒性。在基准上的实验表明，RAHA在固定预算下展示了有竞争力的跨模态检索和改进的迁移指标。

查看arXiv页面 (https://arxiv.org/abs/2606.29464) 查看PDF (https://arxiv.org/pdf/2606.29464) 项目页面 (https://andyj1.github.io/raha) GitHub0 (https://github.com/andyj1/raha) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2606.29464)

在你的Agent中获取此论文：

hf papers read 2606\.29464

没有最新CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型0

没有链接此论文的模型

在模型的README.md中引用arxiv.org/abs/2606.29464，以便从此页面链接到它。

引用此论文的数据集0

没有链接此论文的数据集

在数据集的README.md中引用arxiv.org/abs/2606.29464，以便从此页面链接到它。

引用此论文的Spaces0

没有链接此论文的Space

在Space的README.md中引用arxiv.org/abs/2606.29464，以便从此页面链接到它。

包含此论文的收藏0

没有包含此论文的收藏

将此论文添加到收藏 (https://huggingface.co/new-collection) 以从此页面链接到它。