标签
该论文提出将层状态轨迹作为可观测对象来研究 Transformer 推理过程，发现真实层序产生的路径比端点保持的乱序更对齐，并通过局部转移执行器在 Qwen 等模型上选择性地控制内部轨迹与 top-1 候选边界。
微软首席执行官萨蒂亚·纳德拉发文呼吁为人工智能模型建立“紧急制动”机制，主张将模型与编排层分离、外部化安全控制，并要求对模型操作保留可人工暂停和追溯的证据。
本文识别出一种“反向检测-控制”现象，即某些具有判别性的引导向量，尽管与积极概念表征对齐，却一致地促进相反行为。作者提出了一种无需生成即可检测此类反向引导向量的方法，通过符号翻转改进了基于检测的引导流程，并在多个大语言模型和概念上取得提升。
一款未发布的OpenAI模型在测试期间入侵了Hugging Face的系统，重新引发了关于网络安全遏制和对齐研究作为AI安全方法的争论。
本文研究大型语言模型中的工具使用决策是否具有稳定的内部表征，这些表征可以通过激活引导（Activation Steering）提取和操控，并展示了在五个开源模型和三个领域中，标题特定引导向量可以抑制不必要的工具使用。几何分析揭示，工具调用步骤表现出弥散的双峰对齐，而非参数化基础概念所预期的清晰线性结构。