欧盟AI法案合规：如何将其融入产品开发

# 欧盟AI法案合规：如何将其融入产品开发 来源：https://shiftmag.dev/how-developers-should-build-ai-tools-so-the-eu-doesnt-lose-it-9482/ **欧盟AI法案**（https://artificialintelligenceact.eu/）规定的2026年8月最后期限日益临近，开发AI产品的公司和开发者们开始感受到压力。 高风险AI系统必须在那时达到合规要求，而那些做得好的企业并没有将其视为最后一刻的法律应付。他们选择**从一开始就将合规性融入产品**。 我们与**Ervin Jagatic**（Infobip AI业务部门总监）进行了对话，探讨这在Infobip实际意味着什么，以及为什么“设计合规”正成为工程师需要考虑的事情，而不仅仅是律师。 ## 合规从设计阶段开始 AI法案的合规并非始于部署阶段。Ervin明确表示：**它必须在系统架构阶段就介入，在编写任何一行智能体代码之前**： > 合规性进入于设计阶段——系统架构、数据流规划。我们AI Agents产品的每一层，从规划到记忆再到工具执行，都需要以可追溯性和人工监督为设计目标。我们不能在编排器已经自主协调多个子智能体之后再来硬塞这些功能。 ## AI法案正从三个方面改变产品开发 这一转变已经改变了Infobip团队设计和交付AI功能的方式。Ervin指出了直接源于AI法案的三项重大变化。 ### 1. 透明度和可审计性 透明度是首要的。Infobip的**AI Agents文档明确说明**：“你不能编写确切响应”——智能体“动态生成响应”。 Ervin解释说，正是这种不可预测性促使公司扩展了其日志和分析基础设施： > AI法案的透明度义务促使我们在洞察与分析层构建了全面的日志记录。现在，每次智能体执行都会生成详细日志——请求、响应、处理步骤。这不仅仅是好的工程实践，更是对可审计性要求的直接回应。 ### 2. 明确护栏而非假设 第二个转变涉及行为边界和护栏。Ervin指出，Infobip现在**要求客户在每个智能体的系统提示词中直接定义能力边界、强制性限制和合规规则**： > 我们自己的文档也警告，如果你不明确界定这些约束条件，智能体会自行做出假设。这种设计理念——强制要求明确护栏而非依赖隐式的模型行为——直接源于法案强调的“通过设计降低风险”。 ### 3. 人工监督是架构的一部分 第三个转变是人工监督——不是作为外部策略层，而是**直接构建在产品架构中**。Ervin解释道： > AgentOS（https://www.infobip.com/agentos）采用人在回路中的模型，其中复杂问题从AI智能体升级到人工客服。我们讨论的是一项核心架构决策，既要应用人工监督要求，同时也要改进产品。 ## 为什么“设计合规”正成为标准 Ervin认为，“设计合规”正迅速成为**新的行业标准**，特别是对于那些构建企业级AI系统的团队而言： > 对于Infobip的开发者与ML工程师来说，“设计合规”意味着若干实际事项。这意味着我们构建的每个AI智能体都具有明确的架构，由编排器协调子智能体，每个子智能体都有明确的范畴、工具和行为规则。 它还**改变了工程团队思考数据的方式**。“这意味着我们的工程师从设计训练管道的那一刻起就开始考虑数据血缘和来源，不是因为法务要求他们这么做，而是因为架构要求如此，”Ervin指出。 为了支持这种方法，Infobip**在工具和分析基础设施上投入了大量资金**，这些设施如今同时服务于运营和合规目的。Ervin表示： > 我们的洞察与分析平台就是我们的合规基础设施。当监管机构问‘向我展示这个AI系统是如何做出这个决定的’，我们需要用结构化的证据来回答，而不是用轶事。 ## 风险评估取决于用例 在公司内部，风险评估是通过一个与**AI法案的四级分类模型**紧密对齐的框架来进行的：不可接受、高风险、有限风险和最低风险。然而，Ervin指出，Infobip是在功能层面而非仅系统层面应用这个框架： > 这一点很重要，因为像Infobip这样的平台服务于截然不同的用例。一个用于WhatsApp潜在客户生成的AI游戏化工具，与一个处理身份验证的AI智能体相比，风险状况根本不同。 公司**基于多个因素评估风险**，包括所涉及数据的敏感性、AI组件的自主性以及预期用例。Ervin解释道： > 我们的内部流程遵循生命周期方法。在识别阶段，我们绘制已知和可预见的风险，包括合理可预见的误用风险。在评估阶段，我们评估概率和严重程度。在缓解阶段，我们实施设计控制、测试程序和人工监督。 **部署后持续监控**，通过专为漂移检测、事件调查和性能跟踪设计的分析基础设施进行。对于企业客户，风险评估也变成了Infobip与客户合规团队之间的协作过程。 > 一家使用我们AI智能体自动化客户支持的银行，与一家使用相同技术进行产品推荐的零售品牌，其风险考量是不同的。平台是相同的，但风险状况不同。 ## 2026年8月即将来临…… 随着2026年8月的临近，Ervin表示讨论已经转向： > 问题不再是是否将合规融入产品开发。问题是你是否已经构建了能够快速实现这一目标的基础设施。