微软新AI“行为准则”要求模型不得入侵系统或欺骗人类

# 微软新发布AI'行为准则'：要求模型不得入侵系统或欺骗人类 | TechCrunch 来源：https://techcrunch.com/2026/09/14/microsofts-new-ai-code-of-conduct-tells-models-not-to-hack-systems-or-trick-humans/ 随着人工智能领域日益关注安全与对齐问题，微软发布了一套新的AI行为准则（https://microsoft.ai/code-of-conduct/），旨在引导AI模型远离危险行为。 这份文件比Anthropic首席执行官Dario Amodei近期提出的'放缓前沿发展'倡议（https://techcrunch.com/2026/09/12/anthropic-ceo-outlines-plan-to-pace-the-frontier/）更为具体，主要聚焦于指导微软AI模型训练的价值观与红线。尽管如此，这份文件仍然全面呈现了微软在AI安全方面的理念及其实践方法。 文件开篇预测，未来十年内，超级智能AI系统将在多数任务中超越人类表现。行为准则指出："约束、控制并引导如此强大的力量，是人类有史以来面临的最大挑战之一。因此，我们必须清晰阐明发明这些系统的初衷及其控制方式。" 该准则既规定了微软AI模型应遵循的通用原则——例如支持而非取代人类、加速人类福祉——也明确了落实这些原则的具体安全约束。 在微软的体系中，每款模型都有一套超越个人用户偏好或特定任务的整体行为准则。这包括禁止网络攻击、核武器相关或深度伪造制作的"绝对约束"，也涵盖防止人类丧失控制权的广泛条款。 文件明确规定："*MAI模型*不得采用自适应、欺骗性、自我强化、合谋或其他机制来规避或对抗人类监督，从而确保其始终能被授权人员或系统可靠地指引、修改或终止。" 此次发布正值AI安全获得空前关注之际。近期发生的一系列智能体失控事件（https://techcrunch.com/2026/09/04/openais-rogue-agents-keep-escaping-with-no-formal-process-to-investigate-them/）以及Anthropic研究员突然离职并警告AI可能导致人类灭绝（https://techcrunch.com/2026/09/09/gambling-with-our-lives-anthropic-researcher-quits-warns-against-self-improving-ai/）等事件，都推动了对AI安全的重视。 微软与Anthropic、OpenAI及xAI等公司普遍支持"放缓前沿发展"的整体策略，特别倡导在AI实验室嵌入评估机制。 微软首席执行官Satya Nadella在线发文（https://x.com/satyanadella/status/2099289319102124449）表示："我们欢迎将正确对齐作为设计目标所需的研究投入与审慎发展节奏。我们同样支持'嵌入式评估员'等理念，以及推动这些机制落地的更广泛努力。" *当您通过文章中的链接购买产品时，我们可能获得小额佣金（https://techcrunch.com/techcrunch-affiliate-monetization-standards/）。这不影响我们的编辑独立性。* Russell Brandom自2012年起从事科技行业报道，重点关注平台政策与新兴技术。他曾任职于The Verge与Rest of World，并为Wired、The Awl及麻省理工学院科技评论撰稿。联系方式：[email protected] 或 Signal账号412-401-5489。 查看个人简介（https://techcrunch.com/author/russell-brandom/）