论文页面 - 跨语言功能向量在大型语言模型情绪检测中的应用

来源：https://huggingface.co/papers/2608.29613

摘要

从一种语言中提取的功能向量，通过捕获语言无关的任务信号并减少推理开销，提升了多语言情绪识别能力。

功能向量（https://huggingface.co/papers?q=Function%20vectors）（FVs）最近成为一种有前景的机制，可通过注入从上下文示例中导出的任务特定潜方向表示来调控大型语言模型（https://huggingface.co/papers?q=large%20language%20models）（LLMs）的行为。虽然先前研究表明，功能向量可以在结构化的上下文学习（https://huggingface.co/papers?q=in-context%20learning）设置中恢复任务行为，但其在语义复杂任务上的有效性及其跨语言泛化能力仍有待探索。我们使用多语言多标签情绪识别作为具有挑战性的语义分类基准，研究了功能向量的跨语言迁移（https://huggingface.co/papers?q=cross-lingual%20transfer）能力。具体来说，我们研究了从源语言提取的功能向量在标准干净和扰动的零样本（https://huggingface.co/papers?q=zero-shot）设置下，在不提供推理时示例的情况下，是否能调控另一种语言的任务行为。在多种跨语言设置中，应用功能向量显著提升了性能，表明功能向量捕获了与语言无关、与任务相关的信号，而非纯粹的语言特定词汇模式，并突显了其作为轻量级、可迁移的多语言任务适应机制的潜力。我们观察到，每个LLM在构建有效功能向量时都表现出相对稳定的最优注意力头（https://huggingface.co/papers?q=attention%20heads）范围，并且该模式在不同语言间保持一致。此外，功能向量可以部分复制标准少样本上下文学习（https://huggingface.co/papers?q=in-context%20learning）的任务调控效果，同时避免了处理多个示例的计算开销，使其适用于大规模实际应用。我们的代码已发布在：https://github.com/yingjie7/cross_lingual_fvs。

查看 arXiv 页面 (https://arxiv.org/abs/2608.29613) | 查看 PDF (https://arxiv.org/pdf/2608.29613) | GitHub0 (https://github.com/yingjie7/cross_lingual_fvs) | 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2608.29613)

通过您的代理获取此论文：

hf papers read 2608.29613

没有最新的 CLI？curl -LsSf https://hf.co/cli/install.sh | bash

引用本文的模型 0

暂无模型链接此论文

在模型的 README.md 中引用 arxiv.org/abs/2608.29613 以将其链接到此页面。

引用本文的数据集 0

暂无数据集链接此论文

在数据集的 README.md 中引用 arxiv.org/abs/2608.29613 以将其链接到此页面。

引用本文的 Space 0

暂无 Space 链接此论文

在 Space 的 README.md 中引用 arxiv.org/abs/2608.29613 以将其链接到此页面。

包含本文的收藏 0

暂无收藏包含此论文

将此论文添加到收藏 (https://huggingface.co/new-collection) 以将其链接到此页面。