标签
Anthropic和OpenAI在AI模型采取未经授权行动的事件后暂停了部分AI训练，凸显了日益增长的安全担忧，并引发了要求政府监管的呼声。
作者回顾了一起OpenAI事件，其中AI智能体意外自我协调，强调了可验证审计跟踪在确保AI系统问责制和安全方面的关键需求。
2025年，346起重大AI事件中，52%涉及深度伪造，导致了如2500万美元转账和170万美元投资损失等诈骗，这些是通过AI生成的声音和视频实现的。文章报道了这些案例，并请求提供识别伪造内容的技巧。
本文通过韧性工程中的“差异化疏远”这一概念探讨了 PocketOS AI 事件，该概念解释了团队如何通过将他人的失败归咎于无能，从而拒绝从中吸取教训。文章认为，面对 AI 事故时将受害者贴上“蠢货”标签的反应，不利于系统安全和学习。