Anthropic 正在成为国际威胁

Reddit r/artificial 新闻
anthropic closed-source open-source ai-safety criticism monopoly

摘要

这是一篇评论文章，批评 Anthropic 拒绝开源其 AI 模型，而像 Google、OpenAI、xAI 和 Meta 这样的竞争对手已经发布了开源模型，文章认为 Anthropic 的立场可能导致 AI 领域出现危险的垄断。

过去一个月，我对 Anthropic 的看法发生了巨大转变。我曾经有 4 个 Claude Pro 订阅，目前还有 2 个。Google 发布了开源模型 Gemma，OpenAI 发布了开源模型，xAI 发布了开源模型，Meta 也发布了开源模型，几乎所有大型 AI 实验室都发布了开源模型……除了 Anthropic。Anthropic 不仅没有发布任何一个开源模型，而且多年来一直倡导开源 AI 是坏事、是危险的观点。CEO 以机械可解释性作为理由……这太愚蠢了。无论如何你都看不到模型内部，没有人知道模型内部发生了什么。我们知道发生了什么，但不知道为什么。这是该领域的一个开放性问题，包括 Anthropic 内部的一个完整部门也在研究。想象一个世界：拥有全球最大、最好 AI 的公司远远领先于其他所有人，以至于其他 AI 根本就不是一个选项，他们只收取 API 费用，并且开源被禁止。那是一个黑暗的奥威尔式幻想，如果他们得逞，我们就会走向那个未来。
查看原文

相似文章

这不再是Anthropic与OpenAI之争了

TechCrunch AI

美国政府正在收紧对AI模型发布的管控，这影响到Anthropic和OpenAI两家公司，安全目标不明确且缺乏测试基础设施，威胁到行业增长。

Anthropic的安全主张

Reddit r/ArtificialInteligence

Anthropic主张加强AI安全防护，面对来自开源模型日益激烈的竞争，引发了关于其安全主张是出于真正担忧还是商业动机的辩论。

Anthropic vs 开源模型

Reddit r/artificial

一篇文章讨论Alex Karp对AI安全叙事的批评，认为企业真正的安全意味着对数据和模型的控制，并以Anthropic与Figma的关系为例，说明封闭模型如何捕获客户价值。