将示例提炼为任务指令:面向真实B2B对话的增强型上下文学习

arXiv cs.CL 论文

摘要

本文介绍了用于分类真实B2B对话的Call Playbook数据集,并提出将示例提炼为紧凑、可解释的任务指令的方法,相比传统上下文学习实现了99%的Token压缩和高达7%的AUC提升。

arXiv:2606.15641v1 公告类型:新 摘要:上下文学习(ICL)是低资源分类的标准方法,但其在专业领域的有效性仍未得到充分探索。我们解决了语义复杂、多方B2B对话的分类挑战,传统ICL在此面临显著限制,尤其是当拼接多个少样本示例导致上下文长度增加时。我们引入了\texttt{Call Playbook}数据集,包含基于真实B2B对话的五种分类任务,针对核心销售概念。为了弥合性能与实际效用之间的差距,我们提出了新颖的知识提取方法,将冗长的示例提炼为结构化分类标准和精确任务描述的紧凑、可解释表示。我们的方法实现了99%的Token用量减少,并且相比传统ICL,宏观平均AUC提升了高达7%。值得注意的是,随着上下文增长,我们的方法保持稳健,而先进的Token压缩基线则下降超过9个F1点。重要的是,我们的框架能够直接优化分类逻辑,满足了真实NLP应用中对透明度、效率和用户交互的关键需求。
查看原文
查看缓存全文

缓存时间: 2026/06/16 11:49

# 将示例提炼为任务指令:增强现实世界B2B对话中的上下文学习
来源:https://arxiv.org/abs/2606.15641
查看 PDF (https://arxiv.org/pdf/2606.15641)

> 摘要:上下文学习(ICL)是低资源分类的标准方法,但其在专业领域的有效性仍鲜有探索。我们解决了对语义复杂、多方参与的B2B对话进行分类的挑战,传统ICL在此场景中面临显著局限,尤其是多个少样本示例拼接导致上下文长度增加时。我们引入了\\texttt{Call Playbook}数据集,包含从真实世界B2B对话中衍生出的五项分类任务,聚焦于核心销售概念。为弥合性能与实际效用之间的差距,我们提出了新颖的知识提取方法,将冗长示例提炼为结构化分类标准与精确任务描述的紧凑、可解释表示。我们的方法实现了99%的令牌使用缩减,并在宏观平均AUC上比传统ICL提升了高达7%。值得注意的是,与高级令牌压缩基线相比(后者F1分数下降超过9个点),我们的方法在上下文增长时仍保持稳健。更重要的是,我们的框架支持分类逻辑的直接修正,满足了现实世界NLP应用对透明度、效率和用户交互的关键需求。

## 提交历史

来自:Guy Rotman [查看邮件](https://arxiv.org/show-email/69457733/2606.15641) **\[v1\]** 2026年6月14日(周日)07:07:52 UTC(472 KB)

相似文章

掩码蒸馏:将思维链内化到语言模型中

arXiv cs.AI

掩码蒸馏是一种知识蒸馏框架,它训练学生大语言模型仅预测解决方案令牌,同时推理教师提供反馈,旨在将思维链计算内化到模型参数中。该方法显示任务相关的成功,在GSM8K上有效,但对于像Countdown这样更困难的任务需要小型脚手架。