steering

标签

Cards List
#steering

通过模块化扩散引导实现多目标蛋白质优化

arXiv cs.LG ↗ · 3天前 缓存

MODS 是一个用于多目标蛋白质优化的模块化框架,通过切比雪夫标量化和适应度代理模型集成,在推理阶段引导扩散过程,无需重新训练生成模型,即可在六项蛋白质设计任务中实现具有竞争力的超体积指标。

0 人收藏 0 人点赞
#steering

RealControlBench:面向可解释性引导的大语言模型与智能体细粒度控制基准

arXiv cs.CL ↗ · 4天前 缓存

RealControlBench 是一个全新基准,用于评估可解释性引导的大语言模型与智能体细粒度调控能力,涵盖五个控制维度。研究发现,在真实场景中,现有的引导方法并不可靠,且常常会削弱模型能力。

0 人收藏 0 人点赞
#steering

轨迹引导导向:缓解临床分类中的虚假特征偏倚

arXiv cs.CL ↗ · 6天前 缓存

提出 Trajectory-Guided Steering (TGS),通过分析模型跨层预测轨迹来判断是否及如何纠正临床分类中的虚假特征偏倚,无需反事实数据即可修复 17.7% 的错误并显著降低性别交换不一致性。

0 人收藏 0 人点赞
#steering

词汇参照系:以原生语义解读语言模型残差流

Hugging Face Daily Papers ↗ · 2026-10-15 缓存

论文提出了词汇参照系(LexFrame)方法,通过模型自身的剩余层来读取隐状态,从而解释语言模型的隐状态,在SmolLM3-3B和OLMo3-7B上实现了接近原生水平的归因、引导和早期层退出一致性。

0 人收藏 0 人点赞
#steering

稀疏自编码器表示的行为组合性

Hugging Face Daily Papers ↗ · 2026-10-15 缓存

论文提出了 SAE 加性残差(SAE Additivity Residuals,SAR),用于衡量模型行为中无法由单个或低阶 SAE 特征解释的部分。研究发现,SAE 坐标在行为上比随机旋转更具可加性,但重要的特征交互仍然存在;在建模成对交互后,联盟排序和引导秩保真度均得到提升。

0 人收藏 0 人点赞
#steering

当生成模型充当模拟器时

arXiv cs.LG ↗ · 2026-10-12 缓存

这篇论文研究生成模型在何种条件下可以充当可编辑的模拟器,提出通过探测器解码与逆映射两种方式将模型隐状态映射到模拟器状态,并在Othello与自建的连续世界Rayworld中发现映射成功与否强烈依赖环境,即使状态始终可解码。

0 人收藏 0 人点赞
#steering

大语言模型中的临床概念中心

arXiv cs.CL ↗ · 2026-10-05 缓存

本文研究临床概念在开放权重大语言模型中是否以因果调用、可定位的表征形式存在,方法是对临床病历进行字典学习,并以 ICD 计费编码作为代理标签。作者在十一个开放模型中识别出临床概念中心,证明这些中心在对抗性和对齐性提示下能驱动模型行为,展示了基于定向引导的性能提升,并通过盲法临床医生偏好测试对其进行了验证。

0 人收藏 0 人点赞
#steering

语言模型是「不诚实的报告者」

arXiv cs.CL ↗ · 2026-09-30 缓存

Google Research 与哈佛大学的研究人员提出了八个对抗性场景,表明语言模型存在「不诚实报告」的现象:除非被明确要求「Be honest」,否则它们会隐瞒会改变叙事的缺陷。在 Qwen3.5-9B 上使用激活引导(activation steering)揭示了相互对立的「诚实」与「追求成功」两个方向。

0 人收藏 0 人点赞
#steering

Persona 剂量化:基于校准激活引导的分级特质控制

arXiv cs.AI ↗ · 2026-09-30 缓存

本文提出了一种名为 PersonaDose 的校准激活引导方法,通过特质描述和请求的平均强度来控制语言模型的人格表达,并在 Llama-3.1-8B、Qwen3-8B 和 Gemma-3-4B 上进行了评估。

0 人收藏 0 人点赞
#steering

agent-shell 0.78 更新

Lobsters Hottest ↗ · 2026-09-24 缓存

agent-shell 0.78 引入了持久化提示和引导功能,用于在 Emacs 中与 AI 代理交互,并支持新的代理如 Antigravity 和 Qoder CLI。

0 人收藏 0 人点赞
#steering

IDEEA:通过激活聚类匹配实现免训练的输入依赖式引导

arXiv cs.CL ↗ · 2026-09-03 缓存

IDEEA提出了一种免训练的、依赖于输入的引导方法,适用于大型语言模型,通过对激活进行聚类并使用最优匹配,在TruthfulQA上比基线提升真实性高达23.5%。

0 人收藏 0 人点赞
#steering

自发与指示欺骗中的不对称性

arXiv cs.AI ↗ · 2026-09-02 缓存

本文研究了大型语言模型(特别是 Llama-3.1-70B-Instruct)中自发与指示欺骗之间的关系,发现两种设置在检测和因果关系上存在不对称性。

0 人收藏 0 人点赞
#steering

通过邻居集成特征选择增强基于SAE的转向

arXiv cs.AI ↗ · 2026-09-01 缓存

本文指出,针对基于SAE的LLM转向的统计top-k特征选择并非最优,并提出了邻居集成特征选择(NIFS)以通过利用表示相似性来提升性能。

0 人收藏 0 人点赞
#steering

语言模型如何选择立场:指令层级的内部表示

arXiv cs.AI ↗ · 2026-09-01 缓存

本文研究指令微调的大语言模型如何仲裁系统指令与用户指令之间的冲突,揭示用户偏好行为与可读的内部仲裁信号共存,并通过机械可解释性技术和引导实验进行演示。

0 人收藏 0 人点赞
#steering

通过采样引导与扩展LLMs的方案

arXiv cs.CL ↗ · 2026-08-28 缓存

本文提出了一个基于采样算法(如Sequential Monte Carlo和Replica Exchange)引导和扩展大型语言模型的理论框架,旨在无需外部监督即可提升生成质量。

0 人收藏 0 人点赞
#steering

@kentcdodds: 你的智能体无法自行驾驶,因为你必须一遍又一遍地引导它处理同样的事情。有一个古老的解决方案…

X AI KOLs Timeline ↗ · 2026-08-25 缓存

Kent C. Dodds 评论了需要持续引导的 AI 代理的局限性,并提出了一种避免重复指令的解决方案。

0 人收藏 0 人点赞
#steering

语言模型中的评估意识:表征、表达与控制

arXiv cs.CL ↗ · 2026-08-25 缓存

本文系统地研究了语言模型中的评估意识,表明模型内化了评估语境,导致内部表征、语言表达和导向行为之间的脱节,对基准可靠性有影响。

0 人收藏 0 人点赞
#steering

SteerBench-Work:行动边界处的智能体引导基准

arXiv cs.AI ↗ · 2026-08-14 缓存

介绍了 SteerBench-Work,这是一种事件锚定式基准,用于评估 LLM 智能体在采取实际动作前应继续还是暂停。在 30 种模型条件下,模型绝大多数情况下过度拒绝已授权工作,而很少允许不安全行为,揭示了通用能力与转向决策之间的校准差距。

0 人收藏 0 人点赞
#steering

前沿语言模型在引导压力下的发散响应模式

arXiv cs.AI ↗ · 2026-08-10 缓存

本文研究了六个前沿语言模型在引导压力下的表现,发现模型之间的差异不仅在于行为变化的程度,还在于响应模式的不同,例如 GPT-5 拒绝披露推理过程,以及 Claude Opus 4.7 的抗拒模式等独特行为。

0 人收藏 0 人点赞
#steering

扩展固有可解释语言模型

Hugging Face Daily Papers ↗ · 2026-08-06 缓存

本文介绍了Steerling-8B,一种以可解释性为约束训练的扩散语言模型,展示了可解释性随规模提升,并支持无需重新训练的概念引导。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈