@dongxi_nlp: Weight-Space Programming 再次证明了： 这两年最有趣paper是 persona vectors，建议大家人工读上5遍。 所有的 Weight-Space Programming， emergent misalig…
摘要
作者认为这两年最有趣的论文是 persona vectors，建议精读五遍，并指出 Weight-Space Programming 与 emergent misalignment 等研究本质上换汤不换药。
查看缓存全文
缓存时间: 2026/11/03 14:36
Weight-Space Programming 再次证明了：
这两年最有趣paper是 persona vectors，建议大家人工读上5遍。
所有的 Weight-Space Programming， emergent misalignment 换汤不换药。
相似文章
@dongxi_nlp: 这周准备深读 J-space 。 但上手过 persona vector 和 Assistant Axis 的人都知道，线性激活的这种 model steering 的手段并不可靠。相关的研究大量时间花在 cherry pick 那些抓人…
作者对J-space等线性激活的模型steering方法表示怀疑，认为相关研究经常基于精心挑选的特例，并不可靠。
@lateinteraction：你以为 LLM 只能对提示词、工具框架和代码做文本优化与搜索？结果它们已经开始……
研究提出「Weight-Space Programming」：让 GPT-6 Astra 直接编辑 Qwen3.5-0.8B 的权重，在不使用梯度或训练的情况下仅修改 0.016% 权重，修复推理循环并将数学能力提升至 6 倍、指令遵循提升 3 倍。
@HuggingPapers：本周热门 AI 论文精选（10 月 12-18 日）：Waypoint-OPD：通过门控在线策略蒸馏转移 RL 诱导的策略偏移
HuggingPapers 汇总了 10 月 12-18 日的热门 AI 论文，涵盖策略蒸馏、全模态视频理解、系统一模型、扩散模型强化及通用计算机使用开放栈等方向。
权重空间编程的火花：LLM 能够原生读写神经网络权重
一篇研究博客文章发现，前沿 LLM 能够原生读写神经网络权重——诊断训练后的策略、编辑权重以修复推理循环并将 Qwen3.5-0.8B 在 MATH-500 上的成绩从 7.9% 提升至 48.1%、以及手工编写小型游戏网络——作者将这一能力称为「权重空间编程」（Weight-Space Programming）。
@dair_ai: https://x.com/dair_ai/status/2111862720446202052
DAIR.AI 汇总本周重点 AI 论文，包括 Anthropic/哈佛/QuEra 用 LLM 与验证器协同发现更优量子电路、上海AI实验室等提出的长上下文文档代理框架 LongHarness，以及斯坦福等的潜在空间混合推理代理。