OpenAI

Asana 在浏览器测试中使用 GPT-6.1 Sol 将模型成本降低 76 倍

Asana用Codex中的GPT-6 Astra优化浏览器代理的缓存与截图策略,144次运行实测成本降至每次0.47美元,比原配置便宜76倍、快5倍。结果来自Asana自报的测试研究。

配图来源 · OpenAI

通过在 Codex 中运行 GPT‑6 Astra 实验,Asana 在 GPT‑6.1 Sol 上优化了其浏览器代理的工作流程,使其运行成本降低 76 倍、速度提升 5 倍。

Asana 通过以下方式帮助客户在各业务应用之间实现工作自动化: StackAI⁠(在新窗口中打开),这是其 收购⁠(在新窗口中打开)的一个平台。借助 StackAI,客户无需编写代码即可构建浏览网站、填写表单和收集信息的工作流程。在 Asana 的规模下,这些工作流程中哪怕微小的低效也会不断累积。

Asana 的 StackAI 首席技术官 Frank Hidalgo 博士着手让浏览器代理运行得更快、更便宜。他指示 Codex 中的 GPT‑6 Astra 调查该代理、测试改进并比较结果。据他估计,这些工作如果手工完成需要一到两个月,而实际只花了大约一周时间。

Asana 的 144 次运行研究⁠(在新窗口中打开) 测试了 GPT‑6.1 Sol 和其他三个前沿模型,这里称为模型 A、B 和 C。在 GPT‑6.1 Sol 上形成的优化工作流程,每次运行的平均估计模型成本为 0.47 美元、耗时约四分钟,比在模型 B 上的原始生产配置便宜 76 倍、快 5 倍。

“这就是人类与智能体团队在实践中的样子。一位工程师设定了方向,GPT-6 Astra 运行了实验,结果通过 Command 进入生产环境。这展示了 Asana 如何将人类与智能体团队变为现实。”
——Asana 首席产品官 Arnab Bose

利用 GPT‑6 Astra 识别浏览器代理的低效之处

为了快速推进,Hidalgo 首先使用 Codex 中的 GPT‑6 Astra 来梳理代码库,并解释该代理如何构建每个模型请求。GPT‑6 Astra 发现,该代理缓存了其固定指令和工具定义,却没有缓存不断增长的页面文本和截图历史,因此每个请求都以全价重新发送该历史。

该代理还几乎在每一步都丢弃较旧的截图并修剪文本。每次修改都会改变历史,因此仅缓存历史并无帮助,而丢失这些信息可能迫使代理重新访问它已经读取过的页面。

借助 GPT‑6 Astra,将估计两个月的调研缩短为一周

Hidalgo 审阅了 GPT‑6 Astra 提出的修复方案,并选定了三个进行测试:

  • 将缓存扩展到代理的浏览历史

  • 增加其可保留的文本量

  • 批量移除截图,而不是在每一步都移除

GPT‑6 Astra 先进行了快速测试,以确定哪些变量重要。由于该代码并非为受控实验而设计,它随后重构了代码,使一个前端和后端能够并行支持多个工作流程,每个工作流程都有自己的设置。

Astra 进行了完整研究:历史预算为 120,000 和 480,000 字符,以及六种缓存和截图策略,每种策略在四个模型上各测试三次(见下表)。表现最佳的策略允许截图累积到 20 张后再削减到最近的一张。这使较早的历史在两次移除之间的更长时间段内保持不变。结合更大的历史预算,它成为了优化后的工作流程。每个配置执行相同的任务:从一个公开的演示目录中为 32 本书各收集六个字段,这代表了某些 Asana 客户在 StackAI 中运行的任务。

模型

描述

价格

模型 A

来自另一家前沿实验室的更小、更便宜的模型,于 2025 年秋季发布

GPT‑6.1 Sol 价格的一半

Model B

最初用于生产的模型,与 Model A 来自同一实验室,于2026年夏季发布

与 GPT‑6.1 Sol 价格相同

Model C

Model B 的更新版本,于2026年秋季发布

与 GPT‑6.1 Sol 价格相同

GPT‑6.1 Sol

OpenAI 的模型

GPT‑6 Astra 运行了工作流并检查了请求、使用记录和输出,另外的模型会话对这项工作进行了复核。每个会话的请求、数据轨迹和结果都被记录在 Command⁠(在新窗口中打开)(Asana 的软件交付平台)中,因此团队事后可以审查完整的研究过程。研究结果从 Command 被转化为工单,然后是拉取请求,变更随即进入生产环境。

“手工完成这项工作本来需要一到两个月。借助 Codex 中的 GPT‑6 Astra,只花了大约一周:我睡前设置一个 /goal,早上审阅结果即可。”
—Frank Hidalgo,博士,Asana 的 StackAI CTO

将模型成本降到每次运行低于 0.50 美元

对于 Model B,优化将估算的模型成本从至少 36.21 美元(部分原始运行在完成前就达到了步骤上限)降至每次运行 1.24 美元,降低了 29 倍。在 GPT‑6.1 Sol 上运行的优化工作流还要便宜 2.6 倍,仅为 0.47 美元。优化工作流中的每次运行都完成了任务并返回了正确答案。

3 次运行的平均值。≥:基线包含被截断的运行,因此其均值是下界。

右侧两个折线图与优化后的 Model B 进行对比。Model B 在该研究的第 1 阶段运行,Model C 和 Sol 6.1 在第 2 阶段运行(虚线)。

仅在 GPT‑6.1 Sol 上,配合更大的历史记录预算,新的缓存和截图策略将成本降低了 4 倍,从每次运行 1.97 美元降至 0.47 美元。每次调用便宜了约 3 倍,因为 89% 的输入来自缓存,其价格仅为未缓存价格的 5%。运行速度也变快了:在 Model B 的原始设置上至少需要 22.5 分钟,而在 GPT‑6.1 Sol 上使用优化工作流大约只需四分钟。

3 次运行的平均值,带标准差须线。≥:均值包含被截断或未完成的运行,因此真实数值至少有这么大。

柱状图使用蓝色主题。对照 480k 大预算柱状图来解读缓存效果。

运行标记和标准差须线是对源图像的近似重建;底层的运行数值和标准差无法获得。

3 次运行的平均值,带标准差须线。≥:均值包含被截断或未完成的运行,因此真实数值至少有这么大。

柱状图使用蓝色主题。对照 480k 大预算柱状图来解读缓存效果。

运行标记和标准差须线是对源图像的近似重建;底层的运行数值和标准差无法获得。

这项调查还显示了历史记录管理如何影响智能体是否能给出答案。给予 GPT‑6.1 Sol 更多空间来保留其浏览历史后,产生答案的运行次数从较小历史预算下的 18 次中的 3 次增加到较大预算下的全部 18 次,且每次都给出了正确答案。对 Hidalgo 而言,其商业价值在于让客户能够使用更快、更强大的模型,同时保持运营成本的可持续性。

“成本曾限制了我们可以向客户提供哪些模型来处理这些工作负载。通过让智能体更高效,我们可以在降低运营成本的同时,为客户提供更好、更快的模型。”
—Frank Hidalgo,博士,Asana 的 StackAI CTO

扩展实验和产品测试

Asana 已在 StackAI 中发布了对浏览器导航的改进,并正在开发工具,使类似的实验更容易复现。团队计划逐步将这种测试纳入平台的评估体系,让客户和内部团队在配置智能体时可以比较成本、运行时长和答案质量。

“交付速度不再是瓶颈;人的注意力才是。我们正在接近一个每位工程师都是带领一队智能体的 PM 的世界。”
—Frank Hidalgo,博士,Asana 的 StackAI CTO

Asana 现在正在 Codex 中使用 GPT‑6 Astra 在发布前测试产品功能:Astra 会浏览平台、尝试不同的输入并为人工 QA 审核员报告缺陷。Hidalgo 将此视为全新软件开发生命周期的基础,未来将有大量云端智能体会话并行测试功能。

完整研究可参阅 Asana⁠(在新窗口中打开) 和 StackAI⁠(在新窗口中打开) 博客。

加入工作新时代

全球有超过1百万家企业正在借助OpenAI取得切实成果。联系销售
原始出处

OpenAI

内容说明

原始发布及相关权利归来源方。

机器翻译 · 请以原文为准