通过在 Codex 中运行 GPT‑6 Astra 实验,Asana 在 GPT‑6.1 Sol 上优化了其浏览器代理的工作流程,使其运行成本降低 76 倍、速度提升 5 倍。
Asana 通过以下方式帮助客户在各业务应用之间实现工作自动化: StackAI(在新窗口中打开),这是其 收购(在新窗口中打开)的一个平台。借助 StackAI,客户无需编写代码即可构建浏览网站、填写表单和收集信息的工作流程。在 Asana 的规模下,这些工作流程中哪怕微小的低效也会不断累积。
Asana 的 StackAI 首席技术官 Frank Hidalgo 博士着手让浏览器代理运行得更快、更便宜。他指示 Codex 中的 GPT‑6 Astra 调查该代理、测试改进并比较结果。据他估计,这些工作如果手工完成需要一到两个月,而实际只花了大约一周时间。
Asana 的 144 次运行研究(在新窗口中打开) 测试了 GPT‑6.1 Sol 和其他三个前沿模型,这里称为模型 A、B 和 C。在 GPT‑6.1 Sol 上形成的优化工作流程,每次运行的平均估计模型成本为 0.47 美元、耗时约四分钟,比在模型 B 上的原始生产配置便宜 76 倍、快 5 倍。
“这就是人类与智能体团队在实践中的样子。一位工程师设定了方向,GPT-6 Astra 运行了实验,结果通过 Command 进入生产环境。这展示了 Asana 如何将人类与智能体团队变为现实。”——Asana 首席产品官 Arnab Bose
利用 GPT‑6 Astra 识别浏览器代理的低效之处
为了快速推进,Hidalgo 首先使用 Codex 中的 GPT‑6 Astra 来梳理代码库,并解释该代理如何构建每个模型请求。GPT‑6 Astra 发现,该代理缓存了其固定指令和工具定义,却没有缓存不断增长的页面文本和截图历史,因此每个请求都以全价重新发送该历史。
该代理还几乎在每一步都丢弃较旧的截图并修剪文本。每次修改都会改变历史,因此仅缓存历史并无帮助,而丢失这些信息可能迫使代理重新访问它已经读取过的页面。
借助 GPT‑6 Astra,将估计两个月的调研缩短为一周
Hidalgo 审阅了 GPT‑6 Astra 提出的修复方案,并选定了三个进行测试:
将缓存扩展到代理的浏览历史
增加其可保留的文本量
批量移除截图,而不是在每一步都移除
GPT‑6 Astra 先进行了快速测试,以确定哪些变量重要。由于该代码并非为受控实验而设计,它随后重构了代码,使一个前端和后端能够并行支持多个工作流程,每个工作流程都有自己的设置。
Astra 进行了完整研究:历史预算为 120,000 和 480,000 字符,以及六种缓存和截图策略,每种策略在四个模型上各测试三次(见下表)。表现最佳的策略允许截图累积到 20 张后再削减到最近的一张。这使较早的历史在两次移除之间的更长时间段内保持不变。结合更大的历史预算,它成为了优化后的工作流程。每个配置执行相同的任务:从一个公开的演示目录中为 32 本书各收集六个字段,这代表了某些 Asana 客户在 StackAI 中运行的任务。
模型 | 描述 | 价格 |
|---|---|---|
模型 A | 来自另一家前沿实验室的更小、更便宜的模型,于 2025 年秋季发布 | GPT‑6.1 Sol 价格的一半 |
Model B | 最初用于生产的模型,与 Model A 来自同一实验室,于2026年夏季发布 | 与 GPT‑6.1 Sol 价格相同 |
Model C | Model B 的更新版本,于2026年秋季发布 | 与 GPT‑6.1 Sol 价格相同 |
GPT‑6.1 Sol | OpenAI 的模型 |
GPT‑6 Astra 运行了工作流并检查了请求、使用记录和输出,另外的模型会话对这项工作进行了复核。每个会话的请求、数据轨迹和结果都被记录在 Command(在新窗口中打开)(Asana 的软件交付平台)中,因此团队事后可以审查完整的研究过程。研究结果从 Command 被转化为工单,然后是拉取请求,变更随即进入生产环境。
“手工完成这项工作本来需要一到两个月。借助 Codex 中的 GPT‑6 Astra,只花了大约一周:我睡前设置一个 /goal,早上审阅结果即可。”—Frank Hidalgo,博士,Asana 的 StackAI CTO
将模型成本降到每次运行低于 0.50 美元
对于 Model B,优化将估算的模型成本从至少 36.21 美元(部分原始运行在完成前就达到了步骤上限)降至每次运行 1.24 美元,降低了 29 倍。在 GPT‑6.1 Sol 上运行的优化工作流还要便宜 2.6 倍,仅为 0.47 美元。优化工作流中的每次运行都完成了任务并返回了正确答案。
3 次运行的平均值。≥:基线包含被截断的运行,因此其均值是下界。
右侧两个折线图与优化后的 Model B 进行对比。Model B 在该研究的第 1 阶段运行,Model C 和 Sol 6.1 在第 2 阶段运行(虚线)。
仅在 GPT‑6.1 Sol 上,配合更大的历史记录预算,新的缓存和截图策略将成本降低了 4 倍,从每次运行 1.97 美元降至 0.47 美元。每次调用便宜了约 3 倍,因为 89% 的输入来自缓存,其价格仅为未缓存价格的 5%。运行速度也变快了:在 Model B 的原始设置上至少需要 22.5 分钟,而在 GPT‑6.1 Sol 上使用优化工作流大约只需四分钟。
3 次运行的平均值,带标准差须线。≥:均值包含被截断或未完成的运行,因此真实数值至少有这么大。
柱状图使用蓝色主题。对照 480k 大预算柱状图来解读缓存效果。
运行标记和标准差须线是对源图像的近似重建;底层的运行数值和标准差无法获得。
3 次运行的平均值,带标准差须线。≥:均值包含被截断或未完成的运行,因此真实数值至少有这么大。
柱状图使用蓝色主题。对照 480k 大预算柱状图来解读缓存效果。
运行标记和标准差须线是对源图像的近似重建;底层的运行数值和标准差无法获得。
这项调查还显示了历史记录管理如何影响智能体是否能给出答案。给予 GPT‑6.1 Sol 更多空间来保留其浏览历史后,产生答案的运行次数从较小历史预算下的 18 次中的 3 次增加到较大预算下的全部 18 次,且每次都给出了正确答案。对 Hidalgo 而言,其商业价值在于让客户能够使用更快、更强大的模型,同时保持运营成本的可持续性。
“成本曾限制了我们可以向客户提供哪些模型来处理这些工作负载。通过让智能体更高效,我们可以在降低运营成本的同时,为客户提供更好、更快的模型。”—Frank Hidalgo,博士,Asana 的 StackAI CTO
扩展实验和产品测试
Asana 已在 StackAI 中发布了对浏览器导航的改进,并正在开发工具,使类似的实验更容易复现。团队计划逐步将这种测试纳入平台的评估体系,让客户和内部团队在配置智能体时可以比较成本、运行时长和答案质量。
“交付速度不再是瓶颈;人的注意力才是。我们正在接近一个每位工程师都是带领一队智能体的 PM 的世界。”—Frank Hidalgo,博士,Asana 的 StackAI CTO
Asana 现在正在 Codex 中使用 GPT‑6 Astra 在发布前测试产品功能:Astra 会浏览平台、尝试不同的输入并为人工 QA 审核员报告缺陷。Hidalgo 将此视为全新软件开发生命周期的基础,未来将有大量云端智能体会话并行测试功能。
完整研究可参阅 Asana(在新窗口中打开) 和 StackAI(在新窗口中打开) 博客。
