LegalOn Technologies 在全球范围内提供专业人工智能服务,利用人工智能支持法律工作及其他重要业务职能。通过将领域专业知识与人工智能相结合,该公司使人们能够专注于复杂的判断与决策。其目标是通过人工智能驱动的管理方式,提升商业决策的质量与效率。
这种方法不仅应用于其产品,还旨在使整个组织本身具备人工智能特性。该公司将 Codex 融入开发流程中,并通过日常使用在全组织范围内推广其应用。
随着采用趋势的普及,一个新的挑战出现了:成本控制。无限使用高性能模型可能会增加开支,而全面限制则有可能破坏人工智能带来的生产力提升。
如何在不降低开发速度的情况下降低成本?LegalOn Technologies 通过根据任务复杂度和开发阶段从 GPT‑6(Astra、Luna)和 GPT‑6.1 Sol 中选择方案,并使预算与各企业的成长阶段相匹配,从而解决了这一挑战。该公司在保持开发速度的同时将成本降低了一半。
优化模型以保持开发速度并降低成本
该公司最初允许开发者以快速模式使用其主要模型 GPT‑5.5,且拥有无限访问权限。随后,他们进一步推广该模型的应用范围,涵盖设计、实施以及日常工作,通过实验来学习如何最好地分配人与人工智能之间的职责。
然而,继续无限制地使用高性能模型必然会超出年度预算。公司的人工智能开发中心(AID CoE)开始制定模型选择指南。AID CoE对模型进行了测试与监控,同时管理者也将其研究结果分享给团队。这样,每位工程师就能独立选择最适合特定任务的模型。
将模型与任务匹配,并战略性地分配资源
新的指南要求公司不再为每一项任务使用最高性能的模型,而是根据任务需求选择合适的模型。团队最初使用轻量级模型,随着任务复杂性的增加,逐渐转向更强大的模型。
为支持管理机制,该公司还通过管理员设置引入了系统控制手段,并对各部门及个人设定了每月使用限制。AID CoE 会监控使用情况,并根据业务需求调整限制措施。
在这些控制下进行的内部测试有助于使选择标准更加明确。GPT‑6 Luna 是最轻薄的模型,能够满足明确的代码实现要求;GPT‑6.1 Sol 支持标准设计、数据分析和文档准备;而 GPT‑6 Astra 则是能力最强的模型,可处理高级判断工作,包括架构设计。将模型与任务匹配的做法逐渐成为各团队共同遵循的标准。
为不同的任务选择三种模型中的哪一种
GPT-6 Luna
日常执行与实施;运行日常自动化任务;分配相对简单的任务和分析工作;代码实现,主要作为子代理角色。
GPT-6.1 解决方案
标准设计与分析;相对简单的软件设计;常规数值分析与文档创建;所需完成时间比使用 Luna 更短的任务。
GPT-6 Astra
复杂分析、设计与调度;复杂分析与文档创建;复杂软件设计;作为调度器来协调代理。
除了选择模型之外,该公司还开始默认限制快速模式的使用,仅在需要时允许个别请求。尽管这一变化引发了关于开发速度的担忧,但团队通过并行运行任务等方式来保持性能,从而平稳地过渡。
同时,在部门、小组和个人层面都设定了人工智能支出的预算上限。已成立的 LegalOn 企业被要求将成本效率提高约 20%,而处于启动阶段的新企业则获得充足的预算,以鼓励积极使用人工智能技术。
LegalOn Technologies 的高级工程经理 Yuta Tokitake 表示,新企业更重视业务发展速度而非成本效益。其目标是广泛应用人工智能,以提高产出水平,最终实现业务增长。
针对每个业务量身定制的模型选择、功能限制和预算安排,共同使预计每日成本降低了约 65%。这种方式使得整体预算得到控制,同时将资源集中在公司希望发展的业务上。
一目了然的结果
模型优化和战略资源分配取得了以下结果:
从为每一项任务使用最强大的模型,转变为根据任务复杂性和开发阶段选择 GPT‑6 Astra、GPT‑6.1 Sol 或 GPT‑6 Luna。
默认限制快速模式后,开发性能依然得到保持,这得益于并行任务执行等团队实践。
预算上限使得成熟企业的效率提高了约 20%,同时新业务也获得了积极投资。
选择 GPT‑6 和 6.1 模型相比 GPT‑5.5,每日成本预计可降低 65%。
通过功能发布来衡量人工智能投资的真实投资回报率
通过模型优化,该公司降低了成本,同时没有牺牲开发速度或质量。团队也发现,人工智能使得从开发到发布的周期不断缩短。
但该公司正在更长远地规划。仅靠更快的开发能否让人工智能投资取得成功?更快开发与客户价值之间的关联仍然不清晰。“人工智能能够加速系统开发和更新,这几乎是必然的,”Tokitake说。“我们真正想要了解的是,这种更快的开发是否真的能转化为客户的收益。”
这个问题促使公司开发了自己的评估指标,从而将人工智能投资评估的依据从开发速度和使用量转变为客户价值。
Tokitake 解释道:“使用人工智能时,我们可以追踪每个任务的成本,但整个工作项目——比如功能发布——的总成本往往仍是个谜。因此,我们以每个功能发布作为一个独立单位来设计测量方式。通过将该发布带来的客户价值与投入的实际人工智能成本联系起来,我们旨在让投资回报变得清晰且准确。”
该公司目前正在建设用于计算该指标的系统。一旦完成,就能清晰展示客户价值方面的实际投资回报率。LegalOn Technologies 正从人工智能成本管理转向直接将技术投入与商业价值联系起来。
构建人工智能时代的组织与治理机制
下一个目标是将各位工程师的 AI 知识转化为整个组织的能力。作为第一步,公司计划建立一个知识库来收集并分享实际经验。该知识库将收录诸如设计、实施和审查方面的最佳模型组合等知识,从而快速将个人成功经验转化为全公司的最佳实践。
这些由团队实际经验推动的变革,也在影响组织的运作和招聘策略。人工智能驱动的生产力提升促使公司重新思考工作如何由人类与人工智能共同承担,以及其员工规划如何调整。随着投资战略和组织结构的发展,公司已经开始在招聘中重视人工智能相关技能。
将人工智能的应用转化为长期的竞争优势,需要不断优化治理与团队行动自由之间的平衡。AID CoE与安全团队正在共同努力,从多个角度优化性能、成本和风险,构建一个能够支持整个组织进行实验的灵活框架。
通过规则和预算实施的过度限制会破坏组织的发展动力。我们需要一种灵活的运营模式,以有效平衡风险管控与团队所需的效率。Yuta Tokitake,LegalOn Technologies 高级工程经理
