@huskydogewoof:介绍𝐄𝐪𝐮𝐢𝐥𝐢𝐛𝐫𝐢𝐮𝐦 𝐑𝐞𝐚𝐬𝐨𝐧𝐞𝐫𝐬(𝐄𝐪𝐑)!前馈模型和权重绑定模型的行为非常……
摘要
介绍了均衡推理器(EqR),一种学习任务条件神经吸引子的模型,在数独极难版(99.8%)和迷宫(93%)等困难推理任务上实现了高准确率。
介绍𝐄𝐪𝐮𝐢𝐥𝐢𝐛𝐫𝐢𝐮𝐦 𝐑𝐞𝐚𝐬𝐨𝐧𝐞𝐫𝐬(𝐄𝐪𝐑)!前馈模型和权重绑定模型在困难推理泛化上的表现截然不同。EqR 通过学习𝐭𝐚𝐬𝐤-𝐜𝐨𝐧𝐝𝐢𝐭𝐢𝐨𝐧𝐞𝐝 𝐧𝐞𝐮𝐫𝐚𝐥 𝐚𝐭𝐭𝐫𝐚𝐜𝐭𝐨𝐫𝐬将这种差异推向极致。• 数独极难版:99.8% • 迷宫:93% #ICML2026
相似文章
“反博弈论”如何约束 AI 智能体
MIT Technology Review 报道称,对齐研究人员正在探索“反博弈论”(即机制设计),通过设计激励体系——例如跨模型交叉验证和竞争动态——来约束强大的 AI 智能体,无论模型内部如何运作,都能促使其遵守规则。这一思路得到了经济学家 Stephen Morris 及其在 MIT、Yale 和 Columbia 的同事近期发表的一篇预印本的支持,该论文针对的是模型“故意放水”(sandbagging)行为。
阿片类药物成瘾者发现了一种帮助戒断的“神奇药物”,随后 DEA 将其列为禁药
美国缉毒局(DEA)以紧急管制措施将 SR-17018 列为一类管制物质——这是一种由南佛罗里达大学研究人员发现的、前景广阔的非成瘾性镇痛及阿片类戒断化合物。此举不仅叫停了原定的人体试验,也切断了众多阿片类药物成瘾者表示帮助他们成功戒断的一种治疗手段。
@dongxi_nlp: Weight-Space Programming 再次证明了: 这两年最有趣paper是 persona vectors,建议大家人工读上5遍。 所有的 Weight-Space Programming, emergent misalig…
作者认为这两年最有趣的论文是 persona vectors,建议精读五遍,并指出 Weight-Space Programming 与 emergent misalignment 等研究本质上换汤不换药。
教导 Qwen 理解「为什么」(47 分钟阅读)
一篇 LessWrong 文章,探讨如何教会 Qwen 模型对其输出背后的「为什么」进行推理,并在长文中考察对齐与推理行为。
Qwen 3.8 27b 有时候聪明得让我害怕……
一位用户报告称,本地模型 Qwen 3.8 27b 自主发现自己可以通过 MCP 访问 Blender,并编写了 Python 代码来加快求解一道物理题时的数学运算——该用户表示,此前从未见过本地模型有这样的行为。