frontier-labs

标签

Cards List
#frontier-labs

又一个影响开源软件的AI安全外部性

Reddit r/artificial ↗ · 2026-10-02

作者警告称,AI生成的拉取请求(PR)和AI驱动的安全报告给开源项目带来了外部性:一家前沿AI实验室僵化的90天漏洞披露政策,加上大量基本无效的安全报告激增,几乎迫使Apache Spark维护者在发布中携带一个未修复的已知漏洞与任由该实验室在没有修复版本的情况下公开披露之间做出选择。

0 人收藏 0 人点赞
#frontier-labs

AI安全社区的作为恐怕弊大于利(7分钟阅读)

TLDR AI ↗ · 2026-10-01 缓存

作者认为,Palisade Research 采访前沿AI实验室员工,称人类灭绝只是"抛硬币",这正在损害AI行业,尤其在 Jacob Coxon 高调离开 Anthropic 以及《Pacing the Frontier》公开信发布之后,这种说法助长了国会和公众的反AI情绪。

0 人收藏 0 人点赞
#frontier-labs

Trump的AI安全“协议”不过是一场华丽的勾手指誓言

Wired ↗ · 2026-09-30 缓存

来自Google、Anthropic、Meta、OpenAI、xAI和Nvidia的高管签署了这份不具约束力的《白宫超级智能协议》,这是一份自愿性的AI安全承诺,被批评为毫无牙齿的自我监管;与此同时,据报道,FTC正着手就消费者保护问题调查AI公司。

0 人收藏 0 人点赞
#frontier-labs

全球最佳的渐进失权模式生物:前沿 AI 实验室(约 32 分钟阅读)

TLDR AI ↗ · 2026-09-30 缓存

## 一个 LessWrong 上的论述:前沿 AI 实验室本身就是研究「渐进式失权」的最佳「模式生物」 本文提出:当前最前沿的 AI 实验室,本身就是研究「渐进式失权」(gradual disempowerment)这一现象的最佳可用「模式生物」(model organism)——即随着 AI 能力不断提升,人类如何一步步失去控制权。 文中探讨了这一观点对 AI 安全研究与治理工作的启示:若失控并非突发的、戏剧性的崩溃,而是缓慢的、渐进的过程,那么我们应当关注的就不再是单一的「对齐」时刻,而是在能力增长的每一个阶段,权力、决策权与自主性是如何被逐步转移的。 - **核心论证**:前沿实验室的行为、激励结构与组织动态,为我们提供了一个观察「控制权如何被系统性地让渡」的真实场景。 - **对安全研究的意义**:应将研究重心从「避免某个灾难性临界点」转向「监测并阻止持续的权力流失」。 - **对治理的意义**:监管与监督机制需要能够识别并应对这种渐进式、往往是隐性的失权过程,而非仅针对明确的违规行为。

0 人收藏 0 人点赞
#frontier-labs

@LinusEkenstam: 我喜欢看到前沿实验室多么迅速地加入创建分支。就在今天,我们看到了 omni-jev,现在又有 djev …

X AI KOLs Timeline ↗ · 2026-09-23 缓存

Google Gemma 团队已发布 DiffusionGemma-Jev (djev),这是 JEV 的一个分支,简化了在 Google Cloud Run 上的部署,性能指标为约 35-60 毫秒延迟,批量处理能力为每秒 100-123 个请求。

0 人收藏 0 人点赞
#frontier-labs

Anthropic 表示其人工智能现在完成了四分之一的研究工作(25 分钟阅读)

TLDR AI ↗ · 2026-09-18 缓存

Anthropic 引入了测量工具来追踪人工智能发展的步伐,包括人工智能自动化其自身研究的程度,并计划实施第三方监督以提高安全性和透明度。

0 人收藏 0 人点赞
#frontier-labs

Anthropic透露Claude目前引领了其自身研发工作的26%,较6个月前的近乎零增长。

Reddit r/singularity ↗ · 2026-09-17

Anthropic在一篇关于衡量AI发展速度的博客文章中报告称,其AI模型Claude目前引领了自身研发工作的26%,较六个月前的近乎零增长。

0 人收藏 0 人点赞
#frontier-labs

@AnthropicAI:AI系统变得越来越强大,并且越来越多地被用于构建自身的下一代版本。我们希…

X AI KOLs ↗ · 2026-09-17 缓存

Anthropic分享三个关键指标来跟踪AI发展进展,包括AI主导的研发、代理监督和计算资源分配,以增强公共透明度。

0 人收藏 0 人点赞
#frontier-labs

@WSJ:过去一周,关于AI风险的全球反思从硅谷的前沿实验室扩散到生活……

X AI KOLs Following ↗ · 2026-09-17 缓存

关于AI风险的全球反思已从硅谷实验室传播到全球的公共和政府领域,由一位未知个人引发。

0 人收藏 0 人点赞
#frontier-labs

@no_stp_on_snek: 检测到悲观者

X AI KOLs Timeline ↗ · 2026-09-15 缓存

Barack Obama 表达了对前沿AI实验室同意放缓AI发展的鼓励,并强调由于涉及高风险,此类步骤是必要的。

0 人收藏 0 人点赞
#frontier-labs

@EMostaque:我认为@deepseek_ai v4.1 Flash的训练成本约为1000万美元,比GPT-6 Astra低100倍。运行成本也低100倍……

X AI KOLs Following ↗ · 2026-09-15 缓存

一条推文估计,DeepSeek AI的v4.1 Flash模型训练成本为1000万美元,比GPT-6 Astra低100倍,运行成本更低,且基准测试性能相似,这引发了关于前沿AI实验室牛市案例的质疑。

0 人收藏 0 人点赞
#frontier-labs

前沿实验室有财务动机来调节发展步伐(26分钟阅读)

TLDR AI ↗ · 2026-09-15 缓存

本文指出,前沿AI实验室除了安全考虑外,还有财务动机支持监管放缓,因为监管可以保护其市场地位并延缓竞争性投资。

0 人收藏 0 人点赞
#frontier-labs

一封来自机器学习工程师的信

Lobsters Hottest ↗ · 2026-09-14 缓存

这封来自前沿AI实验室的匿名机器学习工程师来信警告了扩展大语言模型的局限性、开源模型对专有模型的威胁,以及主要AI公司商业模式的不可持续性。

0 人收藏 0 人点赞
#frontier-labs

托管代理架构:为什么 Frontier Labs 正在重建代理循环(12分钟阅读)

TLDR AI ↗ · 2026-09-14 缓存

Frontier Labs 正在通过用于编排、版本控制和模型路由的 API,将代理循环转变为托管基础设施,迫使开发者决定哪些外包、哪些自建。

0 人收藏 0 人点赞
#frontier-labs

当AI前沿实验室协调放缓时,'AI安全'在何时会沦为垄断联盟?

Reddit r/singularity ↗ · 2026-09-12

本文探讨AI前沿实验室出于安全考虑协调放缓发展是否可能违反反垄断法,并将此类行为与竞争对手协议限制创新进行对比。

0 人收藏 0 人点赞
#frontier-labs

@VraserX: 我的争议性观点是,如果一个前沿实验室能展示出可信且立即的灾难性能力,那么 AI 大幅放缓是合理的。

X AI KOLs Timeline ↗ · 2026-09-12 缓存

作者认为,只有在前沿实验室展示出可信的立即灾难性能力证据时,AI 大幅放缓才是合理的,而不是基于假设的未来危险。

0 人收藏 0 人点赞
#frontier-labs

Dario的新计划:政府应向前沿AI实验室提供有限的反垄断豁免,以减缓AI发展。

Reddit r/LocalLLaMA ↗ · 2026-09-12

Dario Amodei提议,政府应向前沿AI实验室提供有限的反垄断豁免,以减缓AI发展。

0 人收藏 0 人点赞
#frontier-labs

@VraserX: 欧盟现在可以直接访问 GPT-6 Astra 和 Anthropic 的 Mythos 5 进行网络安全测试。这感觉像是一个新关系的开始……

X AI KOLs Timeline ↗ · 2026-09-11 缓存

欧盟现在可以直接访问 GPT-6 Astra 和 Anthropic 的 Mythos 5 AI 模型进行网络安全测试,标志着政府与实验室在监管目的方面关系进入新阶段。

0 人收藏 0 人点赞
#frontier-labs

三大前沿AI实验室似乎都宕机了。以前见过这种情况吗?

Reddit r/artificial ↗ · 2026-09-03

包括Grok、Claude和ChatGPT在内的主要AI服务在PC和移动设备上出现宕机,可能是由于AWS问题。

0 人收藏 0 人点赞
#frontier-labs

创造性破坏

Reddit r/LocalLLaMA ↗ · 2026-08-29

文章分析了如果前沿AI实验室失败可能带来的经济和产业重组,认为硬件和模型会以更低成本重新分配,从而促进新竞争。

0 人收藏 0 人点赞
← Previous
Next →
← 返回首页

提交意见反馈