将示例提炼为任务指令:面向真实B2B对话的增强型上下文学习
摘要
本文介绍了用于分类真实B2B对话的Call Playbook数据集,并提出将示例提炼为紧凑、可解释的任务指令的方法,相比传统上下文学习实现了99%的Token压缩和高达7%的AUC提升。
arXiv:2606.15641v1 公告类型:新
摘要:上下文学习(ICL)是低资源分类的标准方法,但其在专业领域的有效性仍未得到充分探索。我们解决了语义复杂、多方B2B对话的分类挑战,传统ICL在此面临显著限制,尤其是当拼接多个少样本示例导致上下文长度增加时。我们引入了\texttt{Call Playbook}数据集,包含基于真实B2B对话的五种分类任务,针对核心销售概念。为了弥合性能与实际效用之间的差距,我们提出了新颖的知识提取方法,将冗长的示例提炼为结构化分类标准和精确任务描述的紧凑、可解释表示。我们的方法实现了99%的Token用量减少,并且相比传统ICL,宏观平均AUC提升了高达7%。值得注意的是,随着上下文增长,我们的方法保持稳健,而先进的Token压缩基线则下降超过9个F1点。重要的是,我们的框架能够直接优化分类逻辑,满足了真实NLP应用中对透明度、效率和用户交互的关键需求。
查看缓存全文
缓存时间: 2026/06/16 11:49
# 将示例提炼为任务指令:增强现实世界B2B对话中的上下文学习
来源:https://arxiv.org/abs/2606.15641
查看 PDF (https://arxiv.org/pdf/2606.15641)
> 摘要:上下文学习(ICL)是低资源分类的标准方法,但其在专业领域的有效性仍鲜有探索。我们解决了对语义复杂、多方参与的B2B对话进行分类的挑战,传统ICL在此场景中面临显著局限,尤其是多个少样本示例拼接导致上下文长度增加时。我们引入了\\texttt{Call Playbook}数据集,包含从真实世界B2B对话中衍生出的五项分类任务,聚焦于核心销售概念。为弥合性能与实际效用之间的差距,我们提出了新颖的知识提取方法,将冗长示例提炼为结构化分类标准与精确任务描述的紧凑、可解释表示。我们的方法实现了99%的令牌使用缩减,并在宏观平均AUC上比传统ICL提升了高达7%。值得注意的是,与高级令牌压缩基线相比(后者F1分数下降超过9个点),我们的方法在上下文增长时仍保持稳健。更重要的是,我们的框架支持分类逻辑的直接修正,满足了现实世界NLP应用对透明度、效率和用户交互的关键需求。
## 提交历史
来自:Guy Rotman [查看邮件](https://arxiv.org/show-email/69457733/2606.15641) **\[v1\]** 2026年6月14日(周日)07:07:52 UTC(472 KB)相似文章
掩码蒸馏:将思维链内化到语言模型中
掩码蒸馏是一种知识蒸馏框架,它训练学生大语言模型仅预测解决方案令牌,同时推理教师提供反馈,旨在将思维链计算内化到模型参数中。该方法显示任务相关的成功,在GSM8K上有效,但对于像Countdown这样更困难的任务需要小型脚手架。
利用轮次交替动态增强多方对话中的意图识别
本文提出了一种多任务学习方法,通过利用轮次交替动态来增强多方对话中的意图识别,其性能优于忽略交互模式的现有方法。
Conv-to-Bench: 通过用户-助手对话评估语言模型在代码任务中的表现
Conv-to-Bench 是一个多阶段框架,能够自动将多轮用户-助手对话转化为结构化的、可验证的需求清单,用于评估大型语言模型在代码任务上的表现,以较低的计算成本实现了与人工编写的基准近乎完美的对齐。
更少上下文,更智能代理:面向长周期工具使用的LLM代理的高效上下文工程
本文评估了企业工具使用工作流中LLM代理的上下文工程配置,表明选择性修剪的摘要化相比全上下文基线实现了91.6%的准确率,同时将令牌使用量减少了60%以上。
通过交互作用统一解释大型语言模型知识蒸馏的方法
本文提出了一种基于博弈论交互的统一方法,用于解释大型语言模型中的知识蒸馏,发现蒸馏会稀疏化交互,并引入了一种损失函数CIP来提升性能。