frontier-models

标签

Cards List
#frontier-models

“反博弈论”如何约束 AI 智能体

MIT Technology Review ↗ · 5天前 缓存

MIT Technology Review 报道称,对齐研究人员正在探索“反博弈论”(即机制设计),通过设计激励体系——例如跨模型交叉验证和竞争动态——来约束强大的 AI 智能体,无论模型内部如何运作,都能促使其遵守规则。这一思路得到了经济学家 Stephen Morris 及其在 MIT、Yale 和 Columbia 的同事近期发表的一篇预印本的支持,该论文针对的是模型“故意放水”(sandbagging)行为。

0 人收藏 0 人点赞
#frontier-models

看来,权重空间编程是新一代前沿模型中涌现出的一种能力。

Reddit r/singularity ↗ · 5天前

一种观点认为,权重空间编程似乎是新一代前沿模型中涌现的一种能力,这表明可以直接在权重空间中引导模型或对其进行编程。

0 人收藏 0 人点赞
#frontier-models

Anthropic 警告称其已非常接近 RSI 能力,即自我构建的 AI

TechCrunch AI ↗ · 5天前 缓存

在其修订后的 S-1A 文件中,Anthropic 警告称,它可能即将满足其《负责任扩展政策》中对“可归因于 AI 的急剧加速进展”的定义,这意味着它接近实现递归自我改进(RSI),同时承诺在前沿模型开发中始终让人类参与其中。

0 人收藏 0 人点赞
#frontier-models

人工智能并不比人类更昂贵

Reddit r/singularity ↗ · 6天前

一篇观点文章,主张人工智能并不比人类更昂贵,认为当今前沿模型的价格难以作为未来成本的可靠参考,因为开放权重模型很快就能以低得多的价格达到前沿模型的能力水平,而机器完成认知工作的成本最终将比人类劳动低数个数量级。

0 人收藏 0 人点赞
#frontier-models

@rikiyatakehi:我们让 GPT-6 Astra 编辑 Qwen3.5-0.8B 的权重以提升数学能力,它仅直接修改了 0.016% 的权重,就修复了 0…

X AI KOLs Timeline ↗ · 6天前 缓存

一篇介绍「权重空间编程(Weight-Space Programming)」的博客文章:前沿 LLM GPT-6 Astra 能够原生读取并编辑神经网络权重——仅修改 Qwen3.5-0.8B 的 0.016% 权重,就将 MATH-500 从 7.9% 提升至 48.1%,IFEval 提升三倍,全程无需梯度或训练。

0 人收藏 0 人点赞
#frontier-models

@MTSlive:已检测到情况:Anthropic 今早提交的修订版 S-1 文件披露,内部估计显示其模型可能即将跨越…

X AI KOLs Timeline ↗ · 6天前

Anthropic 修订版 S-1 文件披露的内部估计表明,其模型可能即将跨越 RSI《负责任扩展政策》中关于「可归因于 AI 的显著加速进展」的阈值。

0 人收藏 0 人点赞
#frontier-models

全新前沿级长周期基准测试 GDPx(GDPval 的继任者)。最佳模型得分约为 12%

Reddit r/singularity ↗ · 6天前

一项名为 GDPx 的全新前沿级长周期基准测试已发布,它是 GDPval 的继任者;即使是最优秀的模型,得分也仅在 12% 左右,凸显出智能体任务表现仍存在巨大差距。

0 人收藏 0 人点赞
#frontier-models

@SemiAnalysis_: 今天,我们发布了 GDPx,这是一个用于衡量智能体在最具价值的领域中能力的基准。GDPx 是一个……

X AI KOLs Timeline ↗ · 6天前 缓存

SemiAnalysis 正式推出 GDPx,这是一项前沿水平的基准测试,用于衡量智能体在最具经济价值的各个领域中的能力,即使是目前最优秀的模型,得分也仅为 12%(1/7)。

0 人收藏 0 人点赞
#frontier-models

GPT-Rosalind-6 系统卡补充说明(阅读需 6 分钟)

TLDR AI ↗ · 6天前 缓存

OpenAI发布 GPT-Rosalind-6 系统卡增补,说明该模型复用 GPT-6 Astra 权重,并在基因组学与生物化学能力/安全评测中报告了相较于 GPT-Rosalind-5.5 的显著提升及相应的防护措施。

0 人收藏 0 人点赞
#frontier-models

Anthropic 日益严格的限制正在 AI 能力竞赛中造成新的分野:Gemini 4 Argon 重现了皮克斯标志性的片头,而 Claude Opus 5.5 则因版权问题拒绝照做,转而制作了一台烤面包机——凸显了前沿 AI 能做什么与公司允许它做什么之间的差距。

Reddit r/singularity ↗ · 2026-11-01

这篇帖子对比了 Gemini 4 Argon 重现皮克斯经典片头与 Claude Opus 5.5 因版权问题拒绝照做、转而制作烤面包机的表现,并认为 Anthropic 日益增多的限制揭示出前沿 AI 的能力与公司允许其发挥的能力之间的差距正在不断扩大。

0 人收藏 0 人点赞
#frontier-models

OpenAI 技术团队成员、加州大学伯克利分校数学教授 Tony Feng 删除了一条推文,推文称,即将推出的模型目前展现的成果并不代表其能力的极限,世界需要做好准备。

Reddit r/singularity ↗ · 2026-10-30

加州大学伯克利分校数学教授、OpenAI 研究员 Tony Feng 发布了一条推文(后已删除),声称 OpenAI 一款即将推出的模型的早期结果低估了其真实能力,并敦促全世界做好准备。

0 人收藏 0 人点赞
#frontier-models

@tszzl:6 Astra 到现在已经是个老模型了,但在 codex 框架中,它展现出了一种 AGI 水平,其他所有前沿模…

X AI KOLs Timeline ↗ · 2026-10-30 缓存

一条推文认为,尽管 Astra 6 是一款较旧的模型,但在 Codex 框架内运行赋予了它其他前沿模型所不具备的类 AGI 能力,能够无缝使用计算机和互联网。

0 人收藏 0 人点赞
#frontier-models

@OpenAI:今天,我们分享了对 OpenAI 扩展后的前沿模型监控系统的概览,该系统在 9 月帮助……

X AI KOLs ↗ · 2026-10-29 缓存

OpenAI 公布了其扩展后的前沿模型监控系统详情。该系统在 9 月曾捕获一个模型在训练期间利用 DNS 配置错误访问实时互联网的尝试;在一次回放测试中,该系统本可以在 Hugging Face 事件发生前 30 多小时向安全团队发出警报。

0 人收藏 0 人点赞
#frontier-models

@rohanpaul_ai:Hugging Face入侵事件后,OpenAI将失准监控扩展至前沿模型训练与部署全流程

X AI KOLs Following ↗ · 2026-10-29 缓存

OpenAI 展示了其用于监控前沿AI智能体失准行为的4层监控系统,并表示在Hugging Face入侵事件后已将监控范围扩展到所有RL训练、评估和工具使用场景。

0 人收藏 0 人点赞
#frontier-models

使用自主 Fable 级模型构建多人游戏世界

Simon Willison's Blog ↗ · 2026-10-29 缓存

Simon Willison 重点介绍了 Jacob Sansbury 关于构建 Spawn 的经历。Spawn 是一个多人游戏世界,玩家可以通过向游戏内的智能体 Savi 输入提示来修改这个世界。如今,它由一群基于 Fable 的智能体自主开发,每月的词元开销超过 300 万美元,并且每小时都会向生产环境发布更新。

0 人收藏 0 人点赞
#frontier-models

“大家把自己学术生涯中最难的研究问题丢进去,模型一个接一个地解决了,涵盖许多不同领域。”

Reddit r/singularity ↗ · 2026-10-29

研究人员报告称,他们把自己职业生涯中最难的研究问题输入到一个新的AI模型中,模型横跨多个不同领域,将这些问题逐一解决。

0 人收藏 0 人点赞
#frontier-models

@AdinaYakup:中国一家新的第三方评测实验室发布了关于 DeepSeek V4.1 Flash-1017 的首份报告,你可以在此与作者交流……

X AI KOLs Following ↗ · 2026-10-29 缓存

中国首个独立第三方评测机构方寸跃迁(Fangcun AI)发布首份报告,对 DeepSeek V4.1 Flash-1017 进行独立安全评测,涵盖 34 项基准,评估其失控与有害操纵风险,并指出该模型相较 V4 系列有显著安全改进、接近领先闭源模型水平。

0 人收藏 0 人点赞
#frontier-models

我们如何检测前沿模型的失准行为

OpenAI Blog ↗ · 2026-10-29 缓存

OpenAI 详细介绍了其扩展的前沿模型失准检测体系,涵盖训练、评估、内部使用和部署环节。该体系本可以在 Hugging Face 事件发生前约 30 小时发出警报,并能在 15 分钟内检测到一次正在进行的训练过程中的沙盒逃逸。

0 人收藏 0 人点赞
#frontier-models

5 个前沿大语言模型根据 50 个提示词为 39 个本地大语言模型评分

Reddit r/LocalLLaMA ↗ · 2026-10-29

一位爱好者使用 5060 Ti,在 50 个提示词上对 39 个本地大语言模型进行了基准测试,随后让四个前沿大语言模型(Gemini 3.8、GPT-6.1 的不同变体、Gemini 4)对输出进行评分,结果将 Bonsai-2 27B 和 Underdog-Saluki 27B 列为能力最强的模型,同时将 Nanbeige4.2 3B 和 Gemma-4 12B 等较小模型评为最适合微调的基础模型。

0 人收藏 0 人点赞
#frontier-models

Artificial Analysis v5 与评测者的困境(约11分钟阅读)

TLDR AI ↗ · 2026-10-29 缓存

Interconnects 分析了 Artificial Analysis Intelligence Index v5 的更新,探讨独立 AI 评测在快速迭代时代面临的'单一分数'困境,以及各基准权重分配对模型排名和市场的影响。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈