LegalOn 将 Codex 成本削减一半，同时保持开发速度

# LegalOn 在保持开发速度的同时将 Codex 成本减半 来源：https://openai.com/index/legalon-halves-codex-costs/ LegalOn Technologies 在全球范围内提供专业级 AI 服务，利用 AI 支持法律工作及其他关键业务职能。通过将领域专业知识与 AI 相结合，它使人们能够专注于复杂的判断和决策。其目标是通过 AI 驱动的管理来提升业务决策的质量和速度。 这一理念不仅延伸到其产品层面，更深入到将组织本身打造成 AI 原生型组织。公司将 Codex 集成到开发流程中，并通过日常使用将其推广至整个组织。 随着采用的深入，一个新的挑战浮现出来：成本控制。无限使用高性能模型可能导致支出飙升，而全面限制则可能削弱 AI 带来的生产力提升。 如何在不放慢开发速度的前提下降低成本？LegalOn Technologies 通过根据任务复杂度和开发阶段在 GPT-6（Astra、Luna）和 GPT-6.1 Sol 之间进行选择，并将预算与各业务的成长阶段相匹配来应对这一挑战。公司在保持开发速度的同时将成本减半。 ## 优化模型以维持开发速度并降低成本 公司最初让开发者无限制地使用其主力模型 GPT-5.5 Fast 模式。随后将其使用范围扩展到设计、实现和日常工作中，并通过反复试验摸索出人与 AI 之间最佳的职责划分方式。 然而，持续无限制地使用高性能模型不可避免地会超出年度预算。公司的 AI 驱动开发卓越中心（AID CoE）开始制定模型选择指南。AID CoE 负责测试和监控模型，经理们则将研究成果分享给各自团队。这使得每位工程师都能独立为每项任务选择最合适的模型。 ## 将模型与任务匹配，战略性地分配资源 新指南使公司从对所有任务都使用最高能力模型，转变为为每项工作选择合适的模型。团队从轻量级模型开始，随着任务复杂度的增加逐步切换到能力更强的模型。 为加强治理，公司还通过管理员设置引入了系统控制，对部门和个人设定每月使用限额。AID CoE 监控使用情况，并根据业务需求调整限额。 在这些控制措施下的内部测试帮助使选择标准更加具体化。GPT-6 Luna 是最轻量的模型，用于处理需求明确的代码实现；GPT-6.1 Sol 用于支持标准设计、数据分析和文档编写；而 GPT-6 Astra 作为能力最强的模型，负责处理包括架构设计在内的高级判断任务。模型与任务的匹配逐渐成为各团队共享的实践。 ## 根据不同任务在三个模型间进行选择 ## GPT-6 Luna 日常执行与实现；运行日常自动化任务；委派相对简单的任务和分析；代码实现，主要作为子代理。 ## GPT-6.1 Sol 标准设计与分析；相对简单的软件设计；常规数值分析和文档创建；需要比 Luna 更短完成时间的任务。 ## GPT-6 Astra 复杂分析、设计与编排；复杂分析和文档创建；复杂软件设计；作为编排者协调多个代理。 除了模型选择之外，公司还开始默认限制 Fast 模式，仅在必要时允许单个请求使用。尽管这一变更引发了对开发速度的担忧，但团队通过并行执行任务等方法维持了性能，并实现了平稳过渡。 公司还在部门、团队和个人层面对 AI 支出引入了预算上限。成熟的 LegalOn 业务被要求将成本效率提高约 20%，而处于启动阶段的新业务则获得了充裕的预算以鼓励积极使用 AI。 LegalOn Technologies 高级工程经理 Yuta Tokitake 解释说，新业务将业务速度置于成本效率之上。其目标是通过大规模使用 AI 来增加产出，最终推动业务增长。 模型选择、功能限制和针对各业务定制预算的组合措施，预计将每日成本降低了约 65%。这种方法在控制整体预算的同时，将资源导向公司希望发展的业务。 ## 成果一览 模型优化和战略性资源分配带来了以下成果： - 从对所有任务都使用最高能力模型，转变为根据任务复杂度和开发阶段选择 GPT-6 Astra、GPT-6.1 Sol 或 GPT-6 Luna。 - 默认限制 Fast 模式后仍保持了开发性能，团队的并行任务执行等做法提供了支撑。 - 预算上限机制将成熟业务约 20% 的效率提升与对新业务的积极投资相结合。 - 通过在 GPT-6 和 6.1 系列模型间进行选择，相比 GPT-5.5 实现了约 65% 的每日成本降低。 ## 通过功能发布衡量 AI 投资的真实 ROI 通过模型优化，公司在不牺牲开发速度或质量的前提下降低了成本。团队也看到 AI 在稳步缩短从开发到发布的周期。 但公司着眼的不止于此。开发更快本身就能让 AI 投资成为成功吗？开发加速与客户价值之间的联系仍不明确。Tokitake 表示："AI 能够加速系统开发和更新，这几乎是理所当然的。我们真正想了解的是，这种更快的开发是否真正转化为客户价值。" 这一问题促使公司开发了自己的衡量指标，将评估 AI 投资的依据从开发速度和使用量转向客户价值。 Tokitake 解释道："使用 AI 时，我们可以追踪单个任务的成本，但一项完整工作——即一次功能发布——的总成本往往仍是一个黑箱。因此，我们以每次功能发布为单一单位来设计衡量方式。通过将该次发布所交付的客户价值与投入其中的实际 AI 成本相关联，我们力求让投资回报变得可见且准确。" 公司目前正在构建用于计算该指标的数据管道。完成后，它将使客户价值方面的真实 ROI 变得可见。LegalOn Technologies 正在超越 AI 成本管理阶段，迈向将技术投资与业务价值直接挂钩的目标。 ## 构建面向 AI 时代的组织与治理体系 下一个目标是将单个工程师的 AI 经验转化为组织级的能力。作为第一步，公司计划构建一个知识库来收集和分享实践经验。它将沉淀诸如设计、实现和审查场景下的最佳模型组合等知识，并迅速将个人成功经验转化为全公司范围的最佳实践。 这些由团队实践经验驱动的变革也在塑造着组织架构和招聘策略。AI 驱动的生产力提升促使公司从根本上重新思考人与 AI 之间的工作分工方式，以及其人员规划。随着投资策略和组织架构的演变，公司已在招聘中开始强调 AI 技能。 要将 AI 采用转化为持久的竞争优势，需要不断优化治理与团队自主权之间的平衡。AID CoE 与安全团队正携手从多个角度优化性能、成本和风险，构建一个灵活的框架以支持全组织范围内的创新试验。 > "通过规则和预算进行过度限制会削弱组织的动力。我们需要的是一种灵活的运营模式，能够在风险控制与团队所需的速度之间取得有效平衡。" Yuta Tokitake，高级工程经理，LegalOn Technologies