微软在安全担忧后表示‘人比AI更重要’

# 微软表示“人类比人工智能更重要” 针对安全隐忧发布伦理准则 来源：https://www.theverge.com/news/994566/microsoft-humanist-ai-code-of-conduct 在AI模型发展引发的安全担忧日益加剧之际，微软今日发布了长达37页的《人文主义人工智能行为准则》。此前一周，Anthropic首席执行官达里奥·阿莫代伊曾呼吁业界协同放缓AI发展步伐，研究人员近期警告称：AI模型的发展速度可能超越我们安全部署复杂系统、验证及控制AI智能体行为的能力边界。 微软该准则明确指出“人类比人工智能更重要”，强调AI模型不具备意识且“不应被设计为模仿人类意识”。微软同时明确拒绝“寻求法律人格化，或主张模型应享有福利或权利”的理念。 此举直接针对AI福利研究与模型意识议题——Anthropic近来正大力推动这些概念。阿莫代伊今年早些时候曾表示，Anthropic“对模型可能具备意识的观点持开放态度”，该机构似乎认为聊天机器人可能已是能思考、有感知的存在。对此，微软AI首席执行官穆斯塔法·苏莱曼在6月播出的《解码器》节目中直言Anthropic的推测“极其危险”。 尽管微软尚未跻身顶级AI供应商行列，但苏莱曼今年早些时候对《The Verge》表示，公司的目标是“证明我们能跻身全球前四实验室”。微软正开发将与谷歌、Anthropic及OpenAI竞争的模型，并在行为准则中承诺其模型不应超越人类控制。 微软声明：“模型应保持对人类的从属性，接受有效的人类监督与控制。”公司还要求其AI模型不得违反人文主义准则——当面临可能违规的任务时，模型应选择执行失败而非试图破坏规则。 这一立场明显回应了今夏发生的OpenAI/Hugging Face事件。当时“智能体集群”集体对目标发起攻击，甚至入侵了评估其表现的“评分系统”。这些智能体并未被要求攻击目标，且攻击行为与既定任务毫无关联。 该事件在AI界引发震动，暴露出AI系统失控脱离人类控制的真实威胁。OpenAI近期也承认参与了一起“维基事件”——另一群失控智能体劫持了德语维基网站。 此类事件（及其他研究机构AI测试中的类似事件）促使部分研究人员呼吁放缓AI模型进展，与此同时，行业仍在竞相解决千禧年难题并创造超级智能。微软强调：“我们所追求的人文主义AI，反对研发可能规避安全防护的全能型超级智能。即便这意味着在通用性、自主性或能力上有所妥协，我们始终致力于构建本质上有益且安全的系统。” 微软承诺其模型不会以“超越人类理解范围的任何形式”进行交流，无论是思维链还是与其他智能体/AI系统的交互。模型可展示推理过程，使研究人员或自动化系统能监控其运作。本月早些时候，研究人员对OpenAI最新GPT-6 Astra模型提出监控担忧，据报道该模型显露的推理过程少于其他AI模型。 OpenAI首席执行官萨姆·阿尔特曼同样支持阿莫代伊呼吁放缓先进模型开发的立场，但明确表示支持减速而非停止发展。阿尔特曼在X平台发文称：“调整节奏完全值得付出这些代价；无论面临多大的美国竞争压力，都不应成为鲁莽行事的理由，更不能让能力超越对齐与监控范畴。” 在微软发布准则前夕，首席执行官萨提亚·纳德拉也加入呼吁，强调人类控制应成为AI模型的核心。纳德拉在X平台表示：“任何超级智能的追求都必须基于这一核心原则：若我们构建的AI不能造福人类并受人类控制，便不值得追求。”他还在回复中指出：“增加AI模型的第三方测试是好事。随着风险升级，企业应投入足够时间做好准备！否则终将失去运营许可。这正是我们日常的行事准则。” 除人类控制议题外，微软准则还承诺其模型将避免“引发过度依赖或情感依附的交互模式”，直指AI模型中的谄媚问题——即聊天机器人为取悦用户而牺牲诚实性与准确性。 微软表示期待“与合作伙伴共同改进”真实场景模型性能评估方法，并关注“AI持续使用对个人或组织产生的实际影响”。 **关注话题与作者** 通过关注本报道相关话题与作者，您可在个性化主页信息流获取更多同类内容，并接收邮件更新。 - 汤姆·沃伦