ALTK-Evolve:学习记忆如何在客服任务上超越τ²-bench排行榜,而无需前沿模型

ALTK-Evolve 使用 GPT-4.1 学习并应用一套操作手册，在客服代理基准测试 τ²-bench 上的表现优于零售入门方案——且无需更新模型权重。

习得记忆让搭载GPT-4.1的基础ReAct智能体登顶

使用 GPT-4.1（一款较旧的非推理模型）时，一个基础客服智能体可达到 在 τ²-bench 零售任务上通过率 67.5%^4 ——意思是它在该任务上 全部四个 独立尝试在67.5%的任务上取得成功。在我们2026年10月12日的排行榜快照中,它的得分高于所有零售模型条目。它运行在基准测试的原生ReAct脚手架上,系统提示词中附加了学习到的指南。

ALTK-Evolve 使用 GPT-4.1 构建了这一流程。 它会分析智能体在训练任务中的尝试，并利用模型将成功与失败提炼为简短的行为规则：如何验证客户身份、确认交易或处理退货。这些准则随后会被加入智能体的提示词中，用于后续对话。同一个模型同时用于准则提取和智能体本身；无需权重更新或人工标注。

我们 之前的工作 在编程智能体上验证了这一方法。在这里，我们在客服场景中对其进行测试，这一场景的成功需要遵循领域政策、理解客户请求并执行正确的工具操作。

τ²-bench 测试受政策约束的客服

τ²-bench （来自 Sierra）衡量智能体在 真实约束下处理客服对话 的能力。每个任务中，智能体会面对一个由大语言模型模拟的 客户 ，该客户心中有一个目标；此外还有一组 领域工具 （查询订单、发放退款、改签航班），以及一份智能体必须遵循的书面 政策文档 。智能体必须引导出正确的细节、在政策范围内行事，并采取正确的——通常不可逆的——操作；只有当最终数据库状态与预期结果一致时，任务才算解决，这是一种严格的二元奖励。我们使用其两个客服领域： 零售 和 航空.

我们运行 τ²-bench 自身实现的基础 ReAct 智能体，采用两阶段的 THINK → ACT 循环，使用 gpt-4.1 作为智能体模型以及 gpt-5.5 作为客户模拟器模型； 4次试验 每项任务。 我们唯一做出的改动 是一段附加到系统提示词中的学习到的指南——其余一切（策略、工具、脚手架）均为原版 τ²-bench。具体而言，学习到的指南以普通 markdown 列表的形式附加在领域策略之后：

You are a customer service agent that helps users according to the policy below.
Always follow the policy strictly. Use the provided tools when needed.

<policy>
# Retail agent policy

As a retail agent, you can help users:
- cancel or modify pending orders
- return or exchange delivered orders
- modify their default user address
…
</policy>

## Guidelines learned from past task attempts (follow these carefully):
- Authenticate the user before taking any order-related action. If email is unavailable, verify identity via full name and zip code using the find_user_id_by_name_zip API.
- Always confirm all intended changes (modify, cancel, return, exchange) with a clear, structured summary, and require explicit user approval before executing any database-updating action.
- When processing a return or exchange, communicate the refund with an itemized breakdown and clarify refund timing — don't wait for the user to ask.
- Take one action per step: never combine a tool call with a user-facing message in the same turn, and wait for the tool's result before replying.
- Before looking a user up, parse and clean their name — e.g. split a combined handle like `daiki_johnson_9523` into first/last name — and after a couple of failed lookups, state the exact format you need.
…

我们从智能体在 τ²-bench 上的轨迹中提取指南 训练 任务，使用 gpt-4.1，即驱动智能体的同一模型，然后将其原封不动地应用于留出的 测试 集。

指南提升能力与可靠性

在 此前的一篇文章中，我们讨论过不同模型/任务需要不同剂量的指导。本着同一思路，我们还评估了提供给模型的不同数量的指南。

每条指南带有一个 支持度 计数——即它从中被提取出来的不同训练任务的数量，因此支持度越高意味着该规则在更多任务中具备泛化性，而非一次性的偶然结果。我们比较三种配置： baseline （无指南）、 sup3 （仅保留支持度 ≥ 3 的指南——一个小而高置信度的核心），以及 lossless （保留整合后留下的每一条指南，即支持度 ≥ 1）。

表 1. 各领域的指南配置及保留的指南数量。

我们追踪的指标。 每个任务尝试 4次，我们以两种方式解读这些试验：

• 平均准确率（Mean Accuracy） ——4次试验的平均成功率。这是 能力 维度： 智能体在多大频率上能做对？
• Pass^4 ——在全部4次试验中都通过的任务百分比。这是沿 可靠性 维度衡量，也是 τ²-bench 排行榜报告的指标。它在这里很重要，因为一个在4次中成功3次解决退款的客服智能体，仍然会让四分之一的真实客户失望——Pass^4 问的是你能否在 每一次 都信任这个智能体，而不仅仅是在平均意义上。

图1. 使用以下配置的智能体在留出的零售和航空任务上的平均准确率（Mean Accuracy）和 Pass^4 gpt-4.1 每个任务四次试验。

智能体模型： gpt-4.1 （用户模拟器： gpt-5.5).

表 2. 使用 Held-out 智能体性能 gpt-4.1 每项任务四轮试验。括号内显示相对于基线的百分点变化。

两个领域的平均准确率（Mean Accuracy）均上升——零售 +4.4 pts （78.1 → 82.5），航空 +7.5 pts （57.5 → 65.0）。可靠性的提升更为显著：严格的 Pass^4 在零售中上升 +10 pts （57.5 → 67.5），在航空中上升 +10 pts （35.0 → 45.0）。而且这些提升来自更明智的决策，而非更长的对话——我们在 Better performance costs more tokens, not more turns 中直接考察了对话长度。

最佳指导量取决于领域

两个领域对于 多少 指导量有回报意见不一。在 零售,在每个指标上都是越多越好——小的 sup3 core 在准确率上仅勉强超过基线,你需要 完整的无损集合 才能获得真正的跃升。在 airline 领域,情况在可靠性一端发生了反转:无损在准确率上领先(65% 对 60%),但紧凑的 sup3 core(14 条 guideline)是更 可靠 的一个,将 Pass^4 提升到 45% 而 lossless 为 40%。这与之前的发现一致,即 交付是一个可调的旋钮,而不是一个常量, ——support 数量是值得在每个领域单独调优的参数,而不是硬编码的值。

更好的性能消耗更多 token,而不是更多轮次

Guideline 不是免费的,但成本落在你预期的地方——在 prompt 输入 token上,而不是更长、更绕的对话中:

图 2。在完整 base 划分上,按领域和 guideline 配置统计的每个对话的总 LLM 成本。

表 3。在完整 base 划分上,跨四次试验统计的每个对话的总 LLM 成本(agent 和 user simulator)。越低越好。

智能体是否通过 更长的对话达到这一效果？为了干净地回答这个问题，我们进行 同类比较：比较在 两种 设置（基线与指南变体）下都解决的任务运行——相同的场景与种子，是一个真正的“同一任务、正确完成”的集合——并统计两侧的助手轮次数。

表 4. 测试集上在两种设置下均解决的匹配运行的每次对话助手轮次数，合并四次试验。

智能体并没有说更多的话——在共享集合上，指南使对话 略微变短：lossless 在两个领域中减少了约0.3–0.4轮（零售 10.59 → 10.16，航空 9.15 → 8.82），且没有任何变体使对话变长。这不仅关乎成本：每一轮都是一次顺序的 LLM 往返，因此更少的轮次意味着 更低的端到端延迟——更快的完成时间 对客户而言不仅是更便宜，还更快捷。唯一的实际代价在输入侧——挂在每次 LLM 调用上的更大系统提示词：零售的292条指南提示词将每次对话的成本从约0.084美元推高至约0.139美元，而航空较小的手册则更便宜。而且在生产环境中，这一代价大部分可以通过 提示词缓存收回，因为指南块在每次调用中都是相同的。

所以这笔交换是有利的：以 略高的输入成本 （实践中大部分会被缓存抵消），智能体换来 更高的准确度、更高的可靠性, 以及 更短的完成时间 同时实现——而不是通常的质量与延迟的权衡，而是三者一起朝着正确的方向移动。

学习到的准则也能提升使用前沿模型的智能体

到目前为止，我们使用的是一个较旧的非推理模型—— gpt-4.1。一个合理的质疑是，学习到的准则对于使用 前沿 模型的智能体可能作用有限：也许它们只是弥补了较弱模型的缺陷。所以我们直接进行了测试——我们重新运行了 airline ，使用 gpt-5.5 同时作为智能体和准则提取的模型，采用相同的 τ²-bench ReAct 框架，准则从智能体 自身 的运行中重新挖掘。有一个细节随模型而变：在此设置中提取的准则没有一个达到 support ≥ 3（最高只有 support 2），因此这里的高支持度核心是 sup2 而非 sup3。

表 5。 gpt-5.5 智能体在每任务四次试验下的留出 airline 性能。

学习到的准则同样提升了这一设置。在相同的留出测试任务上，将它们附加到提示词中使 准确率提升 10 个百分点 （72.5 → 82.5），严格的 Pass^4 提升 15 个百分点 （55.0 → 70.0）——这是一个 更大的 比我们观察到的更大的可靠性提升，而我们观察到的是 gpt-4.1 在这些完全相同的任务上(+10分),并且起点要高得多。学习指南 大约 即使从更强的基座模型出发，该方法也能改进智能体。而且当基线在多次重跑之间可靠性波动时，无损配置能够精确复现——它带来的增益是可靠的，而非运气使然。

ALTK-Evolve 在排行榜对比中名列前茅

提交结果的评分依据是 完整基础拆分 （train ∪ test），正如 τ²-bench 所要求的那样，并报告于 Pass^4。因为这涵盖了完整任务集而非留出的测试划分，这些数字与上文报告的测试任务数字有所不同。这正是实际效果显现之处——提示级记忆使使用每个基础模型的智能体得以运转 进入，或 过去,当前前沿公司：

• 零售：#1. 在基础划分上，带有习得准则的智能体达到 Pass^4 = 67.5%，领先于所有前沿模型 和 在……之前 RAFT-30B-A3B (61.4%),一个模型 在合成的 τ²-bench 零售数据上进行了微调。使用股票 gpt-4.1 以及一个附加提示词的操作手册，它的表现超过了那个经过微调的系统，领先幅度为 +6.1个百分点.
• 航空公司：#1 使用 gpt-5.5，#8使用 gpt-4.1 在已公布的棋盘上，这款紧凑型 sup3 core 为使用该工具的智能体提供 gpt-4.1 Pass^4 = 44% — 第8名, 超越了GPT-5.2(无推理),并几乎追平Claude Sonnet 4.5。换上更强的基础模型后,同样的方法直接登顶: 使用 gpt-5.5 的智能体达到82.0%, 超越所有前沿模型(66–72%)。

图3. 2026年10月12日ALTK-Evolve运行结果与τ²-bench排行榜快照的Pass^4对比。

两个领域中相同的做法: 学习指南 围绕 该模型可在不同基础模型上工作 ——使使用较旧的非推理模型的智能体在零售领域跻身前沿水平,并使使用前沿模型的智能体在航空领域登顶。

智能体可以在不更新权重的情况下改进

在基准上微调模型成本高昂、脆弱，且无法迁移到下一个领域。在这里，ALTK-Evolve 改进了一个 股票模型上的股票智能体 在两个领域均有提升——并且在零售领域匹配或超越了微调系统——仅使用 从智能体自身运行中提取的提示级指南,全自动完成，无需人工标注，也没有任何测试集泄露。

链接：

• 往期文章
  1. 想到 ACE？我们可以用更少的 Token 做到
  2. 你的智能体到底需要多少记忆？
  3. 你的智能体完成了任务。它还能再做一次吗？
• ALTK-Evolve 库 — https://github.com/AgentToolkit/altk-evolve
• τ²-bench — https://github.com/sierra-research/tau2-bench
• 零售排行榜提交 — τ²-bench PR #542
• 航空排行榜提交 - τ²-bench PR #551