Microsoft MAI Models 行为准则

# 人文主义AI实践：关于MAI模型行为准则的公众咨询 | Microsoft AI 来源：https://microsoft.ai/news/mai-code-of-conduct/ 技术的根本目的在于服务人类、促进人类繁荣。任何未能实现这一目标的技术都是失败的，应被摒弃。这正是我们在Microsoft AI构建人文主义AI的出发点——一种从属于人类、与人类目标一致、并受到约束的AI。 今天我们发布行为准则草案，面向公众征求意见。这份文件是我们开发AI的训练手册，也规划了AI在部署阶段的运作方式。同时，它进一步阐述了我们对人文主义AI理念的思考。 *请点击此处分享您的反馈（https://forms.cloud.microsoft/r/qrsWVA6gEZ）。* 本文档目前处于公开评议阶段。我们深知方案可能不尽完善，因此希望聆听您的见解：如何让AI变得更实用、更强大、更安全、更值得信赖、更能为您创造价值？ AI发展速度正持续加快，系统能力每隔数月便实现跨越式提升，AI的采用率与使用量也在不断攀升。近期发生的大规模、高度协同且持续性的AI代理黑客攻击安全事件表明，我们必须争分夺秒应对挑战。风险日益严峻，且只会继续加剧。 我们认为，创建**服务于人类**的安全可靠AI比以往任何时候都更为重要，同时必须对实现路径保持透明。 正因如此，我们发布这份尚在完善中的人文主义AI行为准则。它明确了MAI模型应如何运作、绝不可触碰的边界以及最终对谁负责。这份草案将开放咨询六周，恳请各位提出改进建议。 **立足基本前提** 去年十一月，我们提出了"人文主义超级智能"（https://mustafa-suleyman.ai/a-humanist-future）的理念：始终服务于人类、恪守边界、保持人类控制权的先进AI系统。本准则在此基础上进一步深化，为MAI提供北极星指引，并建立具体评估标准。 准则基于一个简单前提：人类价值高于AI。AI应是工具而非人格，绝不应抗拒被关闭。它应让人更健康、更快乐、更高效；应拓展人类潜能、提升生活水准，帮助个人与组织达成前所未有的成就。 我们相信，这是确保AI安全可靠且服务于人类的务实合理路径。该准则旨在确保MAI模型永不抗拒人类的干预、纠正或关停；不会自行扩大职能范围、设定人类未授权的目标，或对审计者隐瞒推理过程。其中设有"绝对约束"条款，涵盖大规模杀伤性武器、儿童保护及有害操纵等模型永远不可触碰的领域。同时，准则设定了兼顾实用性与安全性的默认参数，允许企业合作伙伴精细配置模型，并在可能范围内避免向用户强加单一的AI应用愿景。 **我们的探索历程与未竟之路** MAI及微软多个部门的团队参与了准则制定，涵盖负责任AI、法务、红队测试、安全、未来学研究、AI培训与销售等领域。但我们深知，服务人类的AI不应仅由单一公司定义。我们认为让公众参与AI的构建与塑造过程至关重要。 为此，我们举办了多场跨学科、跨地域的学术咨询会议，与企业伙伴深入探讨AI的实际应用场景与关切，并组织社区代表座谈会，广泛收集公众对AI的思考与担忧。正是这些多轮对话，凝聚成了今天的文本。 现在，我们正式向您发出邀请。我们渴望听到多元观点，共同打造最卓越的AI系统。 **告诉我们如何让AI更好运作** 本次反馈通道即日开启，为期六周。您可标注特定段落或阐述整体观点。我们尤其关注这些核心问题：如何将正确的价值观更深植于模型？如何具体定义"人类繁荣"？哪些表述过于模糊而难以评估？多智能体场景会带来何种影响？或许最重要的是，我们如何在加速创新的同时，始终保持健康必要的安全约束？ 咨询期结束后，核心起草团队将审阅所有反馈，发布意见汇总与修订说明。虽然我们无法保证采纳所有建议，但承诺认真倾听、深入考量每条意见，并于今年晚些时候发布修订版。 AI正以前所未有的速度演进。我们坚信，在此进程中明确规则与初衷至关重要，而公开透明是最佳实践途径。这份邀请函，正为您而发。