小红书（RedNote）不只是在发布模型，他们也在开展严肃的研究 https://huggingface.co/papers/2610.14709…

论文页面 - Vela：以用户行为为监督信号，激发大语言模型智能

来源：https://huggingface.co/papers/2610.14709 作者：

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

摘要

Vela 将真实世界的用户行为记录转化为训练任务和轨迹，通过监督微调和强化学习，提升大语言模型在用户相关任务及通用基准上的表现。

大语言模型 (https://huggingface.co/papers?q=Large%20language%20models)正日益广泛地部署在基于用户长期行为历史采取行动的应用中，从个人助理到推荐和广告系统。这些应用要求大语言模型具备用户维度的智能：从数周乃至数年的行为数据中推断一个人的偏好、意图及可能的未来行动。然而，当前模型使用静态文本或合成数据进行训练，两者都无法捕捉用户行为随时间演变的过程。内容平台和个人助理智能体中已大规模积累的真实世界行为记录，提供了一种天然的监督信号。我们提出以用户行为作为监督信号，并推出 Vela (https://huggingface.co/papers?q=Vela)，一个将真实用户行为数据转化为可训练任务和轨迹的框架。基于 100,000 名用户的匿名化行为记录，Vela (https://huggingface.co/papers?q=Vela)利用 91 种真实世界任务模板生成了 100,000 个任务；通过基于难度的筛选 (https://huggingface.co/papers?q=difficulty-based%20filtering)和轨迹接受标准 (https://huggingface.co/papers?q=trajectory%20acceptance%20criteria)，保留了约 75,000 个任务及其选定的训练轨迹。在这些轨迹上对 Qwen3.6-35B-A3B (https://huggingface.co/papers?q=Qwen3.6-35B-A3B)进行微调 (https://huggingface.co/papers?q=Fine-tuning)，相较基础模型，在用户相关任务上的表现最多提升 11.5 分，在通用基准上平均提升 4 分。使用更多用户行为数据进行训练，可进一步提升用户相关任务的表现；在微调 (https://huggingface.co/papers?q=fine-tuning)后进行强化学习 (https://huggingface.co/papers?q=reinforcement%20learning)，相比直接从基础模型开始进行强化学习 (https://huggingface.co/papers?q=reinforcement%20learning)，表现最多提升 7.7 分。这些提升表明，真实世界的用户行为是一种可规模化的监督来源，既能增强以用户为中心的能力，也能提升大语言模型更广泛的智能水平。

查看 arXiv 页面 (https://arxiv.org/abs/2610.14709)查看 PDF (https://arxiv.org/pdf/2610.14709)项目页面 (https://allspark-research.github.io/Vela/)GitHub19 (https://github.com/AllSpark-Research/Vela)添加到收藏集 (https://huggingface.co/login?next=%2Fpapers%2F2610.14709)

在你的智能体中获取这篇论文：

hf papers read 2610\.14709

还没有最新版 CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用这篇论文的模型0

没有模型链接到这篇论文

在模型的 README.md 中引用 arxiv.org/abs/2610.14709，即可从此页面链接到该模型。

引用这篇论文的数据集0

没有数据集链接到这篇论文

在数据集的 README.md 中引用 arxiv.org/abs/2610.14709，即可从此页面链接到该数据集。

引用这篇论文的 Spaces1

收录这篇论文的收藏集0

没有收藏集收录这篇论文

将这篇论文添加到收藏集 (https://huggingface.co/new-collection)，即可从此页面链接到该收藏集。

Yang Xiao (@Yang_Xiao_nlp)： 1/10 匿名化的用户行为能否提升大语言模型的智能？

很高兴分享 Vela：将真实世界场景中的行为转化为训练信号。

我们的 35B 模型在全部 10 项基准上均优于其基础模型：VelaBench 提升 11.5 分，通用基准平均提升 4.0 分。