inference-time

标签

Cards List
#inference-time

通过门控激活重定向的推理时机器遗忘

arXiv cs.LG ↗ · 2026-05-14 缓存

本文介绍了GUARD-IT,一种无需训练的机器遗忘方法,该方法在推理时使用输入相关的激活引导来从大型语言模型中移除目标知识,而无需修改权重,其性能匹配或超过基于梯度的基线方法,同时保持效用和对量化的鲁棒性。

0 人收藏 0 人点赞
#inference-time

SkillGen:经过验证的推理时代理技能合成

arXiv cs.LG ↗ · 2026-05-13 缓存

本文介绍了 SkillGen,这是一个多智能体框架,通过对比成功和失败的轨迹来合成和验证可复用的推理时大语言模型(LLM)代理技能。该方法确保技能可审计,并通过实证验证其对代理性能具有净正面影响。

0 人收藏 0 人点赞
#inference-time

NoisyCoconut:通过潜在空间推理实现反事实共识

arXiv cs.LG ↗ · 2026-05-12 缓存

本文介绍了 NoisyCoconut,这是一种在推理阶段通过向潜在轨迹注入噪声以生成多样化推理路径从而提高大语言模型可靠性的方法。该方法使模型能够在不确定时选择拒答,从而在无需重新训练的情况下显著降低数学推理任务的错误率。

0 人收藏 0 人点赞
#inference-time

超越引导向量:用于推理时干预的基于流的激活引导

arXiv cs.CL ↗ · 2026-05-08 缓存

本文介绍了 FLAS,这是一种基于流的激活引导方法,通过学习概念条件化的速度场,在推理时引导语言模型的激活。在 AxBench 基准测试中,FLAS 是首个无需针对特定概念进行微调,即可在未见概念上持续优于上下文提示(in-context prompting)的学习型方法。

0 人收藏 0 人点赞
#inference-time

通过分阶段自奖励缓解多模态幻觉

Hugging Face Daily Papers ↗ · 2026-04-20 缓存

PSRD 框架通过分阶段自奖励解码和蒸馏轻量奖励模型,无需额外监督即可将 LVLM 的多模态幻觉降低一半。

0 人收藏 0 人点赞
← Previous
← 返回首页

提交意见反馈