微软为开发者提供更好的方式来控制AI智能体行为

# 微软为开发者提供更优方式控制AI代理行为 | TechCrunch 来源：https://techcrunch.com/2026/06/02/microsoft-offers-devs-a-better-way-to-control-ai-agent-behavior/ 随着AI代理能力日益增强，企业争先恐后地将其应用于各类应用、工作流和产品中，却面临一个新挑战：当代理在不同环境中部署时，如何确保其按预期行事。 微软正试图通过一个名为Agent Control Specification（https://github.com/microsoft/AgentShield）（简称ACS）的新开源标准来解决这一问题。该标准旨在为开发者提供一种更一致、更精细的方式来控制AI代理允许执行的操作。 该规范本质上让开发者、合规与安全团队能够为代理定义自己的策略。规则可以定义代理可以做什么、绝对不能做什么、何时需要人工批准某项操作，以及应记录哪些证据供后续审查。当代理执行任务时，这些策略文件会在多个“拦截点”被检查，以确保其不越界。 该规范出台之际，开发者们正在即兴设计各种方法来控制其AI能看见和能做的事情，尤其是随着对话聚焦于因工具误用（https://genai.owasp.org/resource/agentic-ai-threats-and-mitigations/）或意外行为导致级联故障的AI工作流问题。 如今，开发者可能通过系统提示指定指令、在应用代码中添加自定义检查，或使用分类器捕捉有问题的输入和输出。这些方法确实有效，但往往导致企业拥有碎片化的控制手段，难以审计，更难以在不同框架、接口和系统间复用。 图片来源：微软 ACS旨在将这些控制手段整合到一个通用治理层中。微软表示，该规范可用于在工作流的多个节点检查代理是否遵守护栏——包括在接收输入之前、调用工具之前、工具返回结果之后，以及最终响应发送给用户之前。策略可以允许某项操作、阻止它、编辑敏感信息，甚至要求人员批准。 开发者还可以为输入和输出插入分类器，用于对信息分类、预测结果或决定代理应如何响应；添加带提示的大语言模型作为策略的“裁判”；以及用于检查工具调用、工具选择、输入准确性、输出使用和响应的逻辑。 由于这些策略可以写成单个文件，因此可以随代理打包，使安全策略能跟随代理跨越不同框架和环境。 ACS作为SDK发布，附带适用于LangChain、OpenAI Agents SDK、Anthropic Agents SDK、AutoGen、CrewAI、Semantic Kernel、Microsoft.Extensions.AI、MCP工具等的插件。 *当您通过我们文章中的链接购买商品时，我们可能会获得少量佣金（https://techcrunch.com/techcrunch-affiliate-monetization-standards/）。这不影响我们的编辑独立性。* Ram是一位金融和科技领域的记者与编辑。他曾在路透社和Acuris Global报道北美和欧洲的并购、股权、监管新闻及债务市场，也曾撰写旅行、旅游、娱乐和书籍相关的内容。 您可以通过邮箱[email protected]联系或验证Ram的来函。 查看简介（https://techcrunch.com/author/ram-iyer/）