标签
本文表明，在推理时将 GPT-2-XL 中 729 个对任务而言冗余的注意力头置零，可使逐字记忆减少 91.5%，同时略微改善 WikiText-103 上的困惑度，为缓解大语言模型的隐私泄露提供了一种无需训练的方法。
本文识别并形式化了“推理时模型偏移”——一种由量化、温度等推理配置的变化而非数据分布变化引起的共形分数分布变化——并通过对8个语言模型和4个有限标签基准的研究表明，这种偏移会破坏分割共形预测的可交换性假设，并导致对部署时覆盖率的高估。
提出首词元提示行为探针，发现大模型许多闭卷事实问答错误源于无法生成正确的首词元，而仅提供该首词元即可让模型完成并识别出正确答案，说明大量错误来自可恢复的首步解码失败而非知识缺失。
ConicFlow 将流匹配模型的约束采样建模为推理时的最优控制问题，采用滚动时域原对偶算法在满足硬终端约束的同时高奖励生成并少偏离预训练轨迹，理论上给出了次优性保证并在实验中优于现有基线。
REDaCT提出一种面向大型推理模型的推理时无遗忘框架，通过二元泄漏检测器与纠正性嵌入优化，在彻底移除遗忘集信息的同时完全避免推理链崩溃，实现近乎完美的答案与CoT遗忘并显著保留推理能力。
Nullify 提出一种免训练、非破坏性的激活引导方法，用于 LLM 的知识遗忘：在推理时，通过满足零空间约束的引导向量对隐私相关激活进行重定向，在 TOFU 和 MUSE 基准上达到或超越现有基线，同时近乎无损地保留模型效用。
AAMAS 2027 论文提出将 LLM 智能体持久记忆的治理分为「准入」与「呈现」两个决策，并提出两种免重训练的推理时设计（FC 与 PS），在外部基准上分别降低 6.7 与 8.8 个百分点的失败率，同时显著减少跨领域信息泄露，但均加剧个性化失败，表明准入选择可带来任务特定的安全收益而有益记忆的保留仍未解决。
该论文提出两种闭式投影算子，可在推理时直接修正 AlphaFold3 风格扩散模型输出中的物理无效结构（链间碰撞、键长畸变、非平面环、手性翻转），无需重训练或额外网络评估，在 Boltz-2 与 OpenFold-3 上实现完美的物理有效性同时保持结构精度。
OmniConfess 提出了一种无需训练的推理时方法：在通道层面的证据干预下，对固定的候选响应在 Token 粒度上重新评分，从而暴露并缓解 OmniLLM 中的全模态幻觉。论文还提出了 OmniHalluBench，一个包含 3,540 个样本的基准，涵盖文本、图像、音频和视频任务。
Amazon 与 UCF 的研究人员提出了 SatisDive，这是一种无需训练的推理时方法。该方法将文本到图像的生成建模为“满意化”（satisficing）问题——要求每个候选样本都达到一个奖励下限，同时整个批次还需满足一个多样性阈值。研究表明，通过调节奖励下限，可以描绘出最差候选样本奖励与批次多样性之间的 Pareto 前沿；并且在使用 FLUX.1-dev 和 SANA-1.6B 的 Pick-a-Pic 数据集上，SatisDive 在 Pareto 意义上优于 FK steering。
本文表明，PPFG（PRM-Pruned Fragment Grafting，一种成本极低的推理时跨轨迹迁移技术）在三个推理语言模型和六个基准测试上与独立并行的 CoT 在统计上无法区分；这种失效性可归因于注入定位不佳以及由选择主导的剪枝动力学。
Meta Superintelligence Labs 提出 agentic meta-reasoning（智能体元推理），这是一种推理时的调度框架，由控制器决定长时智能体运行中下一步该执行什么任务。在相同的 worker 和预算下，配合 GPT-5.5，ProgramBench 成绩从 63.7% 提升至 71.5%。在 ProofBench、ARC-AGI-2 和 LongCoT-mini 上，对前沿模型取平均后，增益稳定在 3.6 至 4.2 个百分点。
Amazon Science 提出 Demographic Pluralism，这是一个推理时框架，通过在具有人口统计学依据的群体内生成多种观点来估计人口层面的意见分布。在 GlobalOpinionQA 和 VITAL 两个基准上，该方法在四种模型基座上相比 Modular Pluralism 将 Jensen-Shannon 距离降低了 8.4%-26.4%，且无需意见分布训练数据。
论文提出 Temporal Activation Injection (TAI)，通过分析 VideoLLM 中帧序反转引发的层间表征差异（temporal divergence vector），在推理时沿实测衰减曲线重新注入时序信息，无需训练即可在三个 VideoLLM 和四个基准上一致提升时序推理能力。
论文提出了 Coffee 框架，它是一个即插即用的方案，在推理阶段利用编译好的有限状态目标来引导离散扩散模型，避免了对词元补全进行指数级枚举，同时支持硬约束与学习得到的软目标，并在符号、语言和生物学基准上进行了验证。
LocUS 是一种新型的大语言模型定向激活引导方法，通过将干预限制在特定的注意力头和反嵌入矩阵的子空间中，在保持通用能力的同时提升性能。
本文介绍了目标说话人遗忘ASR（TSU-ASR），并提出了一种新颖的注册条件门控模块，用于在基于LLM的ASR中推理时动态退出说话人，以增强在线会议的隐私性。
本文评估了使用Chain-of-Thought推理的大型语言模型的能力和效率，发现随着模型大小的增加，能力增益减弱，而效率改善甚微。
论文介绍了 MIRAGE，这是一个推理时框架，通过使用强化学习引导动态切换视角来增强 LLM 推理，在各种基准测试中优于现有的提示方法。
本文提出AREA，一种无需训练的推理时方法，自适应分配多模态大语言模型中的证据高亮，提升在基于知识的视觉问答和标准多模态基准测试上的性能。