AWS用户在Bedrock上使用Claude失控后遭遇3万美元账单

一位AWS用户在Bedrock上使用Claude时因缺乏防护措施而面临3万美元的账单。[成本异常检测完全失效](https://www.theregister.com/saas/2026/05/14/bedrock-and-a-hard-place-claude-adventure-leaves-aws-user-staring-down-30k-invoice/5238153)，这至关重要，因为AWS正是将这类工具作为防止支出失控的安全网进行营销的。Anthropic现在在API层对编程式Claude使用进行[计量和限流](https://www.latent.space/p/ainews-codex-rises-claude-meters)，这种供给侧的应对措施只有在推理成本确实超出定价模型承受能力时才有意义。随后，[腾讯承认其GPU只有在运行个性化广告时才能收回成本](https://www.theregister.com/off-prem/2026/05/14/tencent-admits-gpus-only-pay-for-themselves-when-powering-personalized-ads/5240150)，这是一家超大规模云服务商坦承通用AI推理正在烧钱。栈的三个不同层面，却面对同一堵墙。代理部署浪潮正在加速涌入这场成本危机，且毫无放缓迹象。[Notion将其工作空间转变为一个AI代理编排中心](https://techcrunch.com/2026/05/13/notion-just-turned-its-workspace-into-a-hub-for-ai-agents/)，直接与LangChain风格中间件竞争；而[TikTok用自主代理取代了人类媒体采购员](https://www.pymnts.com/news/social-commerce/2026/tiktok-unleashes-ai-agents-on-its-ad-platform/)，用于大规模广告活动管理。苹果内部正在争论[是否应该允许自主代理提交到App Store](https://www.webpronews.com/apple-weighs-ai-agent-access-in-app-store-as-risks-mount/)，因为目前不存在针对非确定性软件的审核框架。管理代理的工具是在代理已部署之后才构建的。安全问题加剧了这一局面。LLM在特定网络安全任务上缩小技能差距的速度超出了防御者的预期；此外，有一家公司因入侵者仅通过友好询问（无需利用漏洞）就丢失了根访问权限。随着AI降低了令人信服的冒充成本，人机回环认证成为任何技术栈中最薄弱的环节。AI现在在911电话期间实时运行数据库查询，这意味着针对AI调度决策的问责框架尚不存在，但实际部署已经在进行。并非全是负面信号。[Clio在AI原生法律功能上达到了5亿美元ARR](https://techcrunch.com/2026/05/13/clios-500m-milestone-arrives-just-as-anthropic-ups-the-ante/)，验证了基于基础模型的企业级垂直SaaS。[Anthropic年增长率达10倍](https://www.latent.space/p/ainews-anthropic-growing-10xyear)，而同行则削减了10%的员工，这种分化表明中型AI公司的整合风险正在迅速加剧。在架构方面，一种新的MoE模型在实时语音中取代了传统的语音活动检测；[一名研究生基于证明复杂性的加密原语](https://www.quantamagazine.org/how-unknowable-math-can-help-hide-secrets-20260511/)可能强化系统以抵御LLM辅助的密码分析。与此同时，xAI在Colossus 2运行了近50台未经许可的燃气轮机，这充分说明了AI基础设施扩建与合规时间表之间的关系。至少有一家主要云提供商将在60天内宣布针对LLM API调用的强制性支出上限或断路器，原因是公开的失控成本事件——而他们现有的异常检测显然未能捕获这些事件。