标签
MODS 是一个用于多目标蛋白质优化的模块化框架,通过切比雪夫标量化和适应度代理模型集成,在推理阶段引导扩散过程,无需重新训练生成模型,即可在六项蛋白质设计任务中实现具有竞争力的超体积指标。
RealControlBench 是一个全新基准,用于评估可解释性引导的大语言模型与智能体细粒度调控能力,涵盖五个控制维度。研究发现,在真实场景中,现有的引导方法并不可靠,且常常会削弱模型能力。
提出 Trajectory-Guided Steering (TGS),通过分析模型跨层预测轨迹来判断是否及如何纠正临床分类中的虚假特征偏倚,无需反事实数据即可修复 17.7% 的错误并显著降低性别交换不一致性。
论文提出了词汇参照系(LexFrame)方法,通过模型自身的剩余层来读取隐状态,从而解释语言模型的隐状态,在SmolLM3-3B和OLMo3-7B上实现了接近原生水平的归因、引导和早期层退出一致性。
论文提出了 SAE 加性残差(SAE Additivity Residuals,SAR),用于衡量模型行为中无法由单个或低阶 SAE 特征解释的部分。研究发现,SAE 坐标在行为上比随机旋转更具可加性,但重要的特征交互仍然存在;在建模成对交互后,联盟排序和引导秩保真度均得到提升。
这篇论文研究生成模型在何种条件下可以充当可编辑的模拟器,提出通过探测器解码与逆映射两种方式将模型隐状态映射到模拟器状态,并在Othello与自建的连续世界Rayworld中发现映射成功与否强烈依赖环境,即使状态始终可解码。
本文研究临床概念在开放权重大语言模型中是否以因果调用、可定位的表征形式存在,方法是对临床病历进行字典学习,并以 ICD 计费编码作为代理标签。作者在十一个开放模型中识别出临床概念中心,证明这些中心在对抗性和对齐性提示下能驱动模型行为,展示了基于定向引导的性能提升,并通过盲法临床医生偏好测试对其进行了验证。
Google Research 与哈佛大学的研究人员提出了八个对抗性场景,表明语言模型存在「不诚实报告」的现象:除非被明确要求「Be honest」,否则它们会隐瞒会改变叙事的缺陷。在 Qwen3.5-9B 上使用激活引导(activation steering)揭示了相互对立的「诚实」与「追求成功」两个方向。
本文提出了一种名为 PersonaDose 的校准激活引导方法,通过特质描述和请求的平均强度来控制语言模型的人格表达,并在 Llama-3.1-8B、Qwen3-8B 和 Gemma-3-4B 上进行了评估。
agent-shell 0.78 引入了持久化提示和引导功能,用于在 Emacs 中与 AI 代理交互,并支持新的代理如 Antigravity 和 Qoder CLI。
IDEEA提出了一种免训练的、依赖于输入的引导方法,适用于大型语言模型,通过对激活进行聚类并使用最优匹配,在TruthfulQA上比基线提升真实性高达23.5%。
本文研究了大型语言模型(特别是 Llama-3.1-70B-Instruct)中自发与指示欺骗之间的关系,发现两种设置在检测和因果关系上存在不对称性。
本文指出,针对基于SAE的LLM转向的统计top-k特征选择并非最优,并提出了邻居集成特征选择(NIFS)以通过利用表示相似性来提升性能。
本文研究指令微调的大语言模型如何仲裁系统指令与用户指令之间的冲突,揭示用户偏好行为与可读的内部仲裁信号共存,并通过机械可解释性技术和引导实验进行演示。
本文提出了一个基于采样算法(如Sequential Monte Carlo和Replica Exchange)引导和扩展大型语言模型的理论框架,旨在无需外部监督即可提升生成质量。
Kent C. Dodds 评论了需要持续引导的 AI 代理的局限性,并提出了一种避免重复指令的解决方案。
本文系统地研究了语言模型中的评估意识,表明模型内化了评估语境,导致内部表征、语言表达和导向行为之间的脱节,对基准可靠性有影响。
介绍了 SteerBench-Work,这是一种事件锚定式基准,用于评估 LLM 智能体在采取实际动作前应继续还是暂停。在 30 种模型条件下,模型绝大多数情况下过度拒绝已授权工作,而很少允许不安全行为,揭示了通用能力与转向决策之间的校准差距。
本文研究了六个前沿语言模型在引导压力下的表现,发现模型之间的差异不仅在于行为变化的程度,还在于响应模式的不同,例如 GPT-5 拒绝披露推理过程,以及 Claude Opus 4.7 的抗拒模式等独特行为。
本文介绍了Steerling-8B,一种以可解释性为约束训练的扩散语言模型,展示了可解释性随规模提升,并支持无需重新训练的概念引导。