微软的萨蒂亚·纳德拉表示，AI模型需要“紧急刹车”

# 微软的萨蒂亚·纳德拉表示，AI 模型需要“紧急制动” | TechCrunch 来源：https://techcrunch.com/2026/10/10/microsofts-satya-nadella-says-ai-models-need-an-emergency-brake/ 简讯 发布时间： 太平洋夏令时间下午 2:47 · 2026 年 10 月 10 日 萨蒂亚·纳德拉出席 Microsoft Ignite 2023**图片来源：**Dan DeLong微软首席执行官萨蒂亚·纳德拉是最新一位就如何改善 AI 安全发表长篇见解的科技高管\。 在周六上午发布的一篇 X 帖文中（https://x.com/satyanadella/status/2108931348857827686），纳德拉写道，现在是时候“退一步，审视 AI 的信任架构”了\。 “我们不能将超级智能视为一组层层嵌套的黑箱，然后简单地接受或拒绝它的建议、回答和行动，”纳德拉写道。他使用了特朗普政府偏好的 AI 称谓（https://techcrunch.com/2026/10/04/can-super-intelligence-and-a-non-binding-safety-pact-solve-ais-image-problem/）\。 按照纳德拉的阐述，这种方法“意味着将模型与协调其工作的运行框架分离”，并“将控制措施和安全防护外置\。”他还呼吁，用“防篡改且人类可读的证据”记录“模型的每一项重要行动”，并建立这样的系统：让“获授权的人”始终能够“在任务执行过程中暂停或关闭模型\。” “我们必须假设模型已遭入侵，并从一开始就对其加以约束，”他说\。“可以把它想象成紧急制动\。” 纳德拉发表这些评论之际，领先的 AI 公司正承认越来越多似乎对自身模型失去控制的事件（https://techcrunch.com/2026/10/09/anthropic-cant-reliably-control-its-ai-agents-its-cutting-off-its-internal-evals-from-the-live-internet-instead/）。此前，Anthropic 首席执行官达里奥·阿莫代伊发布了一项计划（https://techcrunch.com/2026/09/12/anthropic-ceo-outlines-plan-to-pace-the-frontier/），主张更谨慎地开发 AI\。 ### 新闻通讯 订阅以获取业内最重大的科技新闻 ## 相关内容 ## AI 最新资讯