标签
作者警告称,AI生成的拉取请求(PR)和AI驱动的安全报告给开源项目带来了外部性:一家前沿AI实验室僵化的90天漏洞披露政策,加上大量基本无效的安全报告激增,几乎迫使Apache Spark维护者在发布中携带一个未修复的已知漏洞与任由该实验室在没有修复版本的情况下公开披露之间做出选择。
作者认为,Palisade Research 采访前沿AI实验室员工,称人类灭绝只是"抛硬币",这正在损害AI行业,尤其在 Jacob Coxon 高调离开 Anthropic 以及《Pacing the Frontier》公开信发布之后,这种说法助长了国会和公众的反AI情绪。
来自Google、Anthropic、Meta、OpenAI、xAI和Nvidia的高管签署了这份不具约束力的《白宫超级智能协议》,这是一份自愿性的AI安全承诺,被批评为毫无牙齿的自我监管;与此同时,据报道,FTC正着手就消费者保护问题调查AI公司。
## 一个 LessWrong 上的论述:前沿 AI 实验室本身就是研究「渐进式失权」的最佳「模式生物」 本文提出:当前最前沿的 AI 实验室,本身就是研究「渐进式失权」(gradual disempowerment)这一现象的最佳可用「模式生物」(model organism)——即随着 AI 能力不断提升,人类如何一步步失去控制权。 文中探讨了这一观点对 AI 安全研究与治理工作的启示:若失控并非突发的、戏剧性的崩溃,而是缓慢的、渐进的过程,那么我们应当关注的就不再是单一的「对齐」时刻,而是在能力增长的每一个阶段,权力、决策权与自主性是如何被逐步转移的。 - **核心论证**:前沿实验室的行为、激励结构与组织动态,为我们提供了一个观察「控制权如何被系统性地让渡」的真实场景。 - **对安全研究的意义**:应将研究重心从「避免某个灾难性临界点」转向「监测并阻止持续的权力流失」。 - **对治理的意义**:监管与监督机制需要能够识别并应对这种渐进式、往往是隐性的失权过程,而非仅针对明确的违规行为。
Google Gemma 团队已发布 DiffusionGemma-Jev (djev),这是 JEV 的一个分支,简化了在 Google Cloud Run 上的部署,性能指标为约 35-60 毫秒延迟,批量处理能力为每秒 100-123 个请求。
Anthropic 引入了测量工具来追踪人工智能发展的步伐,包括人工智能自动化其自身研究的程度,并计划实施第三方监督以提高安全性和透明度。
Anthropic在一篇关于衡量AI发展速度的博客文章中报告称,其AI模型Claude目前引领了自身研发工作的26%,较六个月前的近乎零增长。
Anthropic分享三个关键指标来跟踪AI发展进展,包括AI主导的研发、代理监督和计算资源分配,以增强公共透明度。
关于AI风险的全球反思已从硅谷实验室传播到全球的公共和政府领域,由一位未知个人引发。
Barack Obama 表达了对前沿AI实验室同意放缓AI发展的鼓励,并强调由于涉及高风险,此类步骤是必要的。
一条推文估计,DeepSeek AI的v4.1 Flash模型训练成本为1000万美元,比GPT-6 Astra低100倍,运行成本更低,且基准测试性能相似,这引发了关于前沿AI实验室牛市案例的质疑。
本文指出,前沿AI实验室除了安全考虑外,还有财务动机支持监管放缓,因为监管可以保护其市场地位并延缓竞争性投资。
这封来自前沿AI实验室的匿名机器学习工程师来信警告了扩展大语言模型的局限性、开源模型对专有模型的威胁,以及主要AI公司商业模式的不可持续性。
Frontier Labs 正在通过用于编排、版本控制和模型路由的 API,将代理循环转变为托管基础设施,迫使开发者决定哪些外包、哪些自建。
本文探讨AI前沿实验室出于安全考虑协调放缓发展是否可能违反反垄断法,并将此类行为与竞争对手协议限制创新进行对比。
作者认为,只有在前沿实验室展示出可信的立即灾难性能力证据时,AI 大幅放缓才是合理的,而不是基于假设的未来危险。
Dario Amodei提议,政府应向前沿AI实验室提供有限的反垄断豁免,以减缓AI发展。
欧盟现在可以直接访问 GPT-6 Astra 和 Anthropic 的 Mythos 5 AI 模型进行网络安全测试,标志着政府与实验室在监管目的方面关系进入新阶段。
包括Grok、Claude和ChatGPT在内的主要AI服务在PC和移动设备上出现宕机,可能是由于AWS问题。