论文页面 - ZooClaw-FashionSigLIP2：用于稳健时尚检索的蒸馏微调

来源：https://huggingface.co/papers/2606.27708

摘要

一个专用于时尚领域的视觉语言模型，通过结合知识蒸馏与权重插值的全量微调，在新基准上实现了优于现有方法的检索性能，同时解决了已有数据集中的结构偏差问题。

将基础视觉语言编码器（https://huggingface.co/papers?q=vision-language%20encoder）适配到专门检索任务时会产生一个根本性权衡：目标分布上的提升以牺牲基础模型的广泛泛化能力为代价，而时尚检索（https://huggingface.co/papers?q=fashion%20retrieval）正是这一问题的典型实例。我们提出 ZooClaw-FashionSigLIP2，一个专用于时尚领域的 SigLIP2-base（https://huggingface.co/papers?q=SigLIP2-base）模型，通过一个简单方案——在精心策划的域内数据上进行全量微调（https://huggingface.co/papers?q=full%20fine-tuning）与知识蒸馏（https://huggingface.co/papers?q=knowledge%20distillation），随后与基础模型进行权重插值（https://huggingface.co/papers?q=weight%20interpolation）（参考 wortsman2022wiseft）——解决了这一权衡，并优于 LoRA（https://huggingface.co/papers?q=LoRA）、更大的骨干网络（高达 1B 参数）以及外部训练数据。在公平评估下，ZooClaw-FashionSigLIP2 在我们的测试套件中每个基准上都优于所有基线。此外，我们发布了 ZooClaw-Fashion，一个高质量的新时尚检索（https://huggingface.co/papers?q=fashion%20retrieval）基准，以及对广泛使用基准的系统性质量分析，该分析揭示并缓解了其公开真值（https://huggingface.co/papers?q=ground%20truth）中存在的结构性偏差。我们开源模型权重及所有评估工件，以促进未来研究。

查看 arXiv 页面（https://arxiv.org/abs/2606.27708）查看 PDF（https://arxiv.org/pdf/2606.27708）添加到收藏（https://huggingface.co/login?next=%2Fpapers%2F2606.27708）

在您的代理中获取此论文：

hf papers read 2606\.27708

没有最新的 CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用本文的模型0

暂无模型链接此论文

在模型 README.md 中引用 arxiv.org/abs/2606.27708 可将其链接到此页面。

引用本文的数据集0

暂无数据集链接此论文

在数据集 README.md 中引用 arxiv.org/abs/2606.27708 可将其链接到此页面。

引用本文的 Space0

暂无 Space 链接此论文

在 Space README.md 中引用 arxiv.org/abs/2606.27708 可将其链接到此页面。

包含本文的收藏集0

暂无收藏集包含此论文

将本文添加至收藏集（https://huggingface.co/new-collection）可将其链接到此页面。