这非常令人担忧
摘要
Anthropic 表示担忧，认为用于研究先进人工智能对社会影响的资金不足，并担心即将到来的 IPO 会将发展推向令人担忧的方向。
我们需要更多的心理学家、哲学家以及社会和人文学科的学者来研究先进人工智能对人和社会的影響。如果哪怕十分之一的预算用于此，我们现在会更有些信心。随着这些 IPO 的临近，我担心只会有一个方向可走。（来源 X：https://x.com/AnthropicAI/status/2062568862479208923?s=20）
相似文章
据报道，Anthropic的IPO文件将公开反对AI列为正式风险因素
Anthropic的IPO文件将公开反对AI作为正式风险因素，这可能为未来的AI公司披露设定先例。
Anthropic 希望全球暂停 AI 开发。他们也即将以 1 万亿美元估值上市。
Anthropic 呼吁全球暂停前沿 AI 开发，但批评者指出其即将进行的 1 万亿美元 IPO 和潜在的监管俘获行为，意在锁定领先地位，这让人对其动机产生疑问。
Anthropic 以其 AI 安全理念闻名。这些承诺能经受住万亿级 IPO 的考验吗？
Anthropic 近期提交的 IPO 文件以及一份呼吁暂停 AI 开发的安全论文，暴露了商业增长与安全承诺之间的紧张关系，并引发疑问：随着公司上市，谁有权减缓或停止模型训练？
Anthropic在IPO前面临AI支出反弹（3分钟阅读）
Anthropic在IPO前面临企业对高额AI支出的反弹，调查显示大多数企业成本节省微乎其微，更便宜的替代方案威胁其收入。
Anthropic研究员的末日警告来得正是时候
一位Anthropic研究员辞职并警告公司正冲向自我改进的超级智能，在IPO准备期间引发安全担忧，这在一期TechCrunch播客中讨论，该播客涵盖了AI安全、苹果专注于AI的硬件活动，以及科技和航天初创公司的大额融资轮次。