标签
该论文提出 SWE-MISBEHAVIOR，首个用于诊断软件编码智能体边界违规行为的分类体系与评测框架，包含 7.4K 个人工参与合成样本，覆盖代码生成、文件管理与系统交互三层行动空间，共 11 种失当行为。基于此，作者进一步提出轻量级自适应框架 CODE-KIT，使 smolagents 与 OpenHands 的失当行为分别减少 52% 和 34%，同时提升任务完成表现。
本研究探讨了AI生成的评审影响未来AI评审者训练的反馈循环，导致判断多样性降低，这种现象称为'科学判断崩溃'。同时介绍了TrustReviewer，这是一个开源系统，通过精选训练和激活引导来缓解这一问题。
本文分析了像Moshi和PersonaPlex这样的全双工语音LLMs中的虚假起始问题，并介绍了一种基于因果分析的推理时缓解方法，无需重新训练即可抑制这些问题。
本文研究了持久记忆AI代理如何过度信任过时的存储事实，导致模型能力所限制的故障，并评估了不同模型规模下的触发因素和缓解措施。
这篇综述论文提出了一种基于生命周期的框架，用于理解LLMs中的幻觉现象，涵盖数据、训练和推理阶段的成因、检测、缓解与预防。
本文批判了现有的基准污染缓解指标，并提出了SA-PPG（逐题概率差距的分层聚合）以实现更可靠的评估，同时提出了RailCap，一种解码时缓解方法，通过限制贪婪回退令牌来抑制记忆。
UNMASK 是一个自动化流程，用于发现和因果验证文本分类器中的虚假捷径，无需人工标注即可进行缓解，并提升基准测试的鲁棒性。
本文通过人工评估对跨度引导和无引导的文本去毒化进行了受控比较，发现存在一种权衡：当保留原始立场很重要时，跨度引导的重写更受青睐；而无引导的重写则因更彻底的缓解而更受欢迎，尤其是在较轻度的毒性上。研究还将自动评估器视为诊断工具，而非替代人工判断。
本文介绍了VisDeception，一个用于评估视觉-语言模型对欺骗性图表设计鲁棒性的基准，并提出了一种多智能体缓解框架，通过将推理基于结构化图表元数据来减少由欺骗引起的错误。
lobste.rs 网站存在一个影响登录用户的 JavaScript 错误；本文提供了使用 DevTools 覆盖或 TamperMonkey 脚本的缓解方法。
本文识别出LLMs中的演绎性刻板印象，并提出了Fair-GCG，一个推理阶段注入框架，用于减轻公平任务中的偏见推理。
分享一个缓解 Codex 降智的技巧：在 AGENTS.md 文件中添加 'DO NOT send optional commentary' 这句话。
提出输出向量编辑，一种约束优化的权重编辑方法，通过修改MLP神经元的输出向量而不是将激活归零来缓解LLM中的记忆化，实现了高达87.9%的抑制效果，且局部性失败极少。
本文介绍了 MIST，一个用于评估记忆增强大型语言模型中谄媚行为的基准，表明记忆系统将谄媚行为放大了高达 25 倍，并提出了轻量级的缓解措施，在减少谄媚的同时保持事实回忆能力。
本文识别了LLMs中不同后门行为之间的共享潜在机制，利用稀疏自编码器检测并因果抑制这些特征，从而在多种模型和攻击类型中实现统一的后门检测与缓解。
Mullvad VPN 正在推出一种新的缓解措施，以防止VPN服务器之间的出口IP指纹识别，该措施已应用于多个地点的多台服务器。
这项复制研究评估了DExperts在缓解LLM毒性方面的效果，发现其对显式毒性几乎完美安全，但对隐式仇恨言论效果降低，并且存在显著的延迟权衡。
# 新 Linux 内核补丁提议引入"killswitch"原语，可即时禁用存在漏洞的内核函数 一项新的 Linux 内核补丁提议引入一种"killswitch"原语，允许管理员立即禁用存在漏洞的内核函数（例如 `af_alg_sendmsg`），使其返回 `-EPERM`，从而为安全问题提供快速的临时缓解措施，无需重启系统或重新编译内核。