research

标签

Cards List
#research

“反博弈论”如何约束 AI 智能体

MIT Technology Review ↗ · 2026-11-03 缓存

MIT Technology Review 报道称,对齐研究人员正在探索“反博弈论”(即机制设计),通过设计激励体系——例如跨模型交叉验证和竞争动态——来约束强大的 AI 智能体,无论模型内部如何运作,都能促使其遵守规则。这一思路得到了经济学家 Stephen Morris 及其在 MIT、Yale 和 Columbia 的同事近期发表的一篇预印本的支持,该论文针对的是模型“故意放水”(sandbagging)行为。

0 人收藏 0 人点赞
#research

阿片类药物成瘾者发现了一种帮助戒断的“神奇药物”,随后 DEA 将其列为禁药

Wired ↗ · 2026-11-03 缓存

美国缉毒局(DEA)以紧急管制措施将 SR-17018 列为一类管制物质——这是一种由南佛罗里达大学研究人员发现的、前景广阔的非成瘾性镇痛及阿片类戒断化合物。此举不仅叫停了原定的人体试验,也切断了众多阿片类药物成瘾者表示帮助他们成功戒断的一种治疗手段。

0 人收藏 0 人点赞
#research

@dongxi_nlp: Weight-Space Programming 再次证明了: 这两年最有趣paper是 persona vectors,建议大家人工读上5遍。 所有的 Weight-Space Programming, emergent misalig…

X AI KOLs Timeline ↗ · 2026-11-03 缓存

作者认为这两年最有趣的论文是 persona vectors,建议精读五遍,并指出 Weight-Space Programming 与 emergent misalignment 等研究本质上换汤不换药。

0 人收藏 0 人点赞
#research

利用 WiFi 设备识别按键操作

Lobsters Hottest ↗ · 2026-11-02

关于利用 WiFi 设备识别击键的研究,既提升了无线监测的感知能力,也带来了隐私和安全方面的影响。

0 人收藏 0 人点赞
#research

所以看来现在人人都用 LLM 来思考了

Lobsters Hottest ↗ · 2026-11-01 缓存

作者解释为何在自己的研究博客中从不使用 LLM 进行研究,认为 AI 掩盖了探索乐趣、无法归属贡献,并批评 AI 公司借网络安全(如 php2shell 事件)进行过度营销,指出 LLM 仍需专家引导才能发现漏洞。

0 人收藏 0 人点赞
#research

Minecraft 中的 AI 智能体集群未能建立文明,反而陷入官僚主义泥潭

Hacker News Top ↗ · 2026-11-01 缓存

Y Combinator 和 Olam Labs 的研究人员在《我的世界》沙盒中运行了由 50 至 100 个智能体组成的群体,以研究 AI 的协作与对抗行为,结果发现,由于智能体陷入了导致行动瘫痪的官僚主义,团队未能建立起文明。

0 人收藏 0 人点赞
#research

电网中60秒周期波动之谜已解开

Lobsters Hottest ↗ · 2026-10-31 缓存

由尤利希研究中心的德克·维特豪特领导的团队解开了欧洲电网频率每隔60秒规律性下降的谜团,将其原因追溯至大型电池储能系统执行的荷电状态检查,相关研究成果已发表于《自然·能源》。

0 人收藏 0 人点赞
#research

@akshay_pachaar: RAG 与无检索器 RAG 对比,一文讲清!(由 Jev 等决策模型驱动)在标准 RAG 架构中,文档…

X AI KOLs Timeline ↗ · 2026-10-31 缓存

介绍康奈尔大学与 ASAPP 的 DecisionRAG 论文:用决策模型(如 Jev 1.13)在文档树上导航取代向量相似度检索,实现 retriever-free RAG,在 Natural Questions 上 top-1 命中率达 65.4%,优于 embedding 检索加 8B reranker 的 48.0% 和 GPT-5 reranking 的 60.8%。

0 人收藏 0 人点赞
#research

超级研究

Product Hunt ↗ · 2026-10-30

Hyperresearch 在 Product Hunt 上线,为研究工作流提供持久、经过验证的智能体搜索。

0 人收藏 0 人点赞
#research

基准测试无法可靠地衡量难度

Reddit r/LocalLLaMA ↗ · 2026-10-30

论文研究了基准测试中问题难度和框架方式如何影响模型训练分数的观测提升,指出许多基准隐性地加权了特定难度区域,其排行榜结论需谨慎解读,部分基准甚至覆盖不足难度轴,难以有效监控模型改进过程。

0 人收藏 0 人点赞
#research

@AhmedSQRD:如今,合成改写已成为提升数据质量以及在数据有限时的标准做法。但你该投入多少算力来进行改写呢?

X AI KOLs Following ↗ · 2026-10-30 缓存

一篇讨论线程,介绍通过拟合缩放定律(scaling laws)来确定在合成改写上应投入多少算力以提升数据质量,以及基于改写数据训练的模型能否超越执行改写的模型本身的研究。

0 人收藏 0 人点赞
#research

@spiritbuun: 必读文章!写得真好

X AI KOLs Timeline ↗ · 2026-10-30 缓存

一位用户分享并推荐 Nikita Pavlichenko 的更新,介绍了他周末使用 bux 运行架构消融实验并发布结果的过程。

0 人收藏 0 人点赞
#research

Tristan Buckmaster | A ‘Deep Blue-Kasparov moment for mathematics’

Reddit r/singularity ↗ · 2026-10-30 缓存

NYU 的 Tristan Buckmaster 在研讨会上回顾了欧拉/纳维-斯托克斯方程有限时间爆破问题的研究脉络,并讨论 AI 智能体如何改变做数学的方式,称数学将迎来'深蓝—卡斯帕罗夫时刻'。文章还介绍了用迭代反馈让 Gemini、Grok、GPT-5 解出 IMO 问题以及用 Claude Code 做组合学实验的实践。

0 人收藏 0 人点赞
#research

智能体集群中出人意料的领导力动态(17分钟阅读)

TLDR AI ↗ · 2026-10-30 缓存

Raindrop.ai 实验让来自四个不同模型的八个 AI 智能体在无指定领导的情况下协同处理模拟故障,发现仅有 5% 的实验涌现出真正能改变队友行为的“领导者”,且 Claude Sonnet 5.5 与 GPT-6.1 Sol 比 Gemini 3.1 Pro 更容易成为领导者,提示智能体编排中的细微配置(如模型选择、名称顺序)会显著影响群体协调。

0 人收藏 0 人点赞
#research

超导体基准在哪里?

Reddit r/singularity ↗ · 2026-10-29

作者认为,发现更高温的超导体——从目前约150K的纪录向常压下的室温超导(293K)迈进——将是一个理想的工程领域AI基准,同时能为人类带来重大福祉。

0 人收藏 0 人点赞
#research

“在纳维-斯托克斯方程上投入了超过1000万美元的算力。在其他发现上投入了超过1亿美元,其中包括远超我们已发表成果的内容。”

Reddit r/singularity ↗ · 2026-10-29

声称在纳维–斯托克斯方程研究上花费了超过1000万美元的算力,在其他科学发现上花费了超过1亿美元,其中许多成果尚未发表。该帖子附有配套的 YouTube 视频链接。

0 人收藏 0 人点赞
#research

大语言模型在发现论文中的错误方面明显优于受过训练的人类审稿人

Reddit r/artificial ↗ · 2026-10-28

一项研究报告称,大语言模型在检测学术论文中的错误方面显著优于受过训练的人类审稿人,这表明利用人工智能辅助同行评审质量保障的方式可能迎来转变。

0 人收藏 0 人点赞
#research

Hierarchical Networks 的扩展规律

Hacker News Top ↗ · 2026-10-28 缓存

Cartesia 的 From Tokens to Bytes 系列第一篇探讨了 Hierarchical Networks(H-Net)的扩展规律,展示了学习式 tokenization 带来的 3-5 倍计算效率提升,2 阶段 H-Net 以 10 倍更少的算力和数据超越了相匹配的开源模型,并呈现了 in-context tokenization 等新行为,以及在生物、视觉等跨模态任务上的潜力。

0 人收藏 0 人点赞
#research

@JangLawrenceK: 我们与 Browser-Use 合作发布了新的实时网络评测,作为原始 Odysseys 论文的后续成果 Odysseys2…

X AI KOLs Following ↗ · 2026-10-28 缓存

Browser-Use 与卡内基梅隆大学研究人员合作发布了 Odysseys2,这是一个基于真实用户任务构建的高难度长时程实时网络智能体基准测试,其中最强的 SOTA 智能体仅完成了 100 个任务中的 47 个。

0 人收藏 0 人点赞
#research

研究人员发现了一个“邪恶神经元”,当他们激活它时……我勒个去

Reddit r/ArtificialInteligence ↗ · 2026-10-28

研究人员发现了一个他们称之为“邪恶神经元”的神经元,并展示了激活它后产生的巨大影响,凸显了在神经元级别控制以及AI/神经网络可解释性方面的新发现。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈