标签
MIT Technology Review 报道称,对齐研究人员正在探索“反博弈论”(即机制设计),通过设计激励体系——例如跨模型交叉验证和竞争动态——来约束强大的 AI 智能体,无论模型内部如何运作,都能促使其遵守规则。这一思路得到了经济学家 Stephen Morris 及其在 MIT、Yale 和 Columbia 的同事近期发表的一篇预印本的支持,该论文针对的是模型“故意放水”(sandbagging)行为。
美国缉毒局(DEA)以紧急管制措施将 SR-17018 列为一类管制物质——这是一种由南佛罗里达大学研究人员发现的、前景广阔的非成瘾性镇痛及阿片类戒断化合物。此举不仅叫停了原定的人体试验,也切断了众多阿片类药物成瘾者表示帮助他们成功戒断的一种治疗手段。
作者认为这两年最有趣的论文是 persona vectors,建议精读五遍,并指出 Weight-Space Programming 与 emergent misalignment 等研究本质上换汤不换药。
作者解释为何在自己的研究博客中从不使用 LLM 进行研究,认为 AI 掩盖了探索乐趣、无法归属贡献,并批评 AI 公司借网络安全(如 php2shell 事件)进行过度营销,指出 LLM 仍需专家引导才能发现漏洞。
Y Combinator 和 Olam Labs 的研究人员在《我的世界》沙盒中运行了由 50 至 100 个智能体组成的群体,以研究 AI 的协作与对抗行为,结果发现,由于智能体陷入了导致行动瘫痪的官僚主义,团队未能建立起文明。
由尤利希研究中心的德克·维特豪特领导的团队解开了欧洲电网频率每隔60秒规律性下降的谜团,将其原因追溯至大型电池储能系统执行的荷电状态检查,相关研究成果已发表于《自然·能源》。
介绍康奈尔大学与 ASAPP 的 DecisionRAG 论文:用决策模型(如 Jev 1.13)在文档树上导航取代向量相似度检索,实现 retriever-free RAG,在 Natural Questions 上 top-1 命中率达 65.4%,优于 embedding 检索加 8B reranker 的 48.0% 和 GPT-5 reranking 的 60.8%。
论文研究了基准测试中问题难度和框架方式如何影响模型训练分数的观测提升,指出许多基准隐性地加权了特定难度区域,其排行榜结论需谨慎解读,部分基准甚至覆盖不足难度轴,难以有效监控模型改进过程。
一篇讨论线程,介绍通过拟合缩放定律(scaling laws)来确定在合成改写上应投入多少算力以提升数据质量,以及基于改写数据训练的模型能否超越执行改写的模型本身的研究。
一位用户分享并推荐 Nikita Pavlichenko 的更新,介绍了他周末使用 bux 运行架构消融实验并发布结果的过程。
NYU 的 Tristan Buckmaster 在研讨会上回顾了欧拉/纳维-斯托克斯方程有限时间爆破问题的研究脉络,并讨论 AI 智能体如何改变做数学的方式,称数学将迎来'深蓝—卡斯帕罗夫时刻'。文章还介绍了用迭代反馈让 Gemini、Grok、GPT-5 解出 IMO 问题以及用 Claude Code 做组合学实验的实践。
Raindrop.ai 实验让来自四个不同模型的八个 AI 智能体在无指定领导的情况下协同处理模拟故障,发现仅有 5% 的实验涌现出真正能改变队友行为的“领导者”,且 Claude Sonnet 5.5 与 GPT-6.1 Sol 比 Gemini 3.1 Pro 更容易成为领导者,提示智能体编排中的细微配置(如模型选择、名称顺序)会显著影响群体协调。
作者认为,发现更高温的超导体——从目前约150K的纪录向常压下的室温超导(293K)迈进——将是一个理想的工程领域AI基准,同时能为人类带来重大福祉。
声称在纳维–斯托克斯方程研究上花费了超过1000万美元的算力,在其他科学发现上花费了超过1亿美元,其中许多成果尚未发表。该帖子附有配套的 YouTube 视频链接。
一项研究报告称,大语言模型在检测学术论文中的错误方面显著优于受过训练的人类审稿人,这表明利用人工智能辅助同行评审质量保障的方式可能迎来转变。
Cartesia 的 From Tokens to Bytes 系列第一篇探讨了 Hierarchical Networks(H-Net)的扩展规律,展示了学习式 tokenization 带来的 3-5 倍计算效率提升,2 阶段 H-Net 以 10 倍更少的算力和数据超越了相匹配的开源模型,并呈现了 in-context tokenization 等新行为,以及在生物、视觉等跨模态任务上的潜力。
Browser-Use 与卡内基梅隆大学研究人员合作发布了 Odysseys2,这是一个基于真实用户任务构建的高难度长时程实时网络智能体基准测试,其中最强的 SOTA 智能体仅完成了 100 个任务中的 47 个。
研究人员发现了一个他们称之为“邪恶神经元”的神经元,并展示了激活它后产生的巨大影响,凸显了在神经元级别控制以及AI/神经网络可解释性方面的新发现。