OpenAI来源发布时间

Ultrafast 如何将 OpenAI 的事件调查时间从数小时缩短到数分钟

这是我们分享 OpenAI 如何使用自身技术和 API 的内部实例系列的一部分。这些工具在 OpenAI 内部使用,并在此处作为前沿 AI 如何支持我们各团队用例的示例进行分享。

这是我们分享 OpenAI 如何使用自身技术和 API 的内部实例系列的一部分。这些工具在 OpenAI 内部使用,并在此处作为前沿 AI 如何支持我们各团队用例的示例进行分享。

Ultrafast 是 Codex 中的一种高速模式,对 OpenAI 的工程师来说,它已成为事件响应的默认选择。当出现故障时,工程师往往没有时间等待几分钟才得到答案,而问题却在不断恶化。有了 Ultrafast,他们可以同时调查多个潜在原因,并无需分散注意力就能获得答案。

“如果有两个同样聪明的人,一个一小时后才回复你,另一个一分钟内就回复你,第二个人的表现要好得多。与响应更快的人共事,你能完成的事情要多得多。”
——Adam Perry,OpenAI 技术成员
Aaron Friel 讨论如何使用 Codex Ultrafast 更快地进行事件调查。

大海捞针

OpenAI 技术成员 Aaron Friel 通常是事件处理的第一负责人。他会为事件响应创建一个 Slack 频道,然后让 Codex 针对问题进行监控、调查,并随着问题的出现进行解答。“在任何事件中,通常都有许多可能出错的环节,找到正确的针所在的正确的干草堆,真正是该频道上人员的主要工作,”他说。“使用 Ultrafast,我基本上能够同时搜索所有这些干草堆,从而更快地响应事件。”

技术成员兼数据中心安全架构师 AJ Trbojevic 表示,对安全问题的调查过去需要一两个小时来汇总结构化和非结构化数据、对其进行规范化并提供上下文以做出决策。“现在这只需要 10 到 15 分钟,”他说。“有时几乎是实时的。”

Adam Perry 和 Sayan Sisodiya 都在核心智能体团队工作,负责构建让 Codex 能够执行操作、运行命令和使用工具的代码。Ultrafast 改变了他们在安全事件期间的工作方式。“以前,我让 Codex 调查某件事,然后自己同时也去调查,因为我知道它不会快到让我只需等待,”Adam 说。“现在有了 Ultrafast,Codex 足够快,我可以保持专注,而不必分散注意力。”

Sayan 很欣赏 Ultrafast 让他能够立即从多个数据源获得答案:“在事件中不仅仅是挖掘日志,我还使用 Codex 在 Slack 中查找是否有对可能可疑的变更的引用,或者是否有人在 Slack 的其他地方谈论类似症状,”他说。

30 秒内快速响应

如果用 AI 寻找答案需要超过 30 秒,另一位技术成员 Jeff Niu 说他会去查看 Slack 或与同事聊天。但使用 Ultrafast 后,他的大部分工作都在这个时间阈值之内。他过去向 Codex 提问后,会在它思考时切换去做别的事,回来时已经忘了原来的思路。现在这种对话是实时进行的;这帮助他专注于手头的任务。

Ultrafast 也让 Jeff 更愿意进行大规模重构,因为改造现有代码所需的时间更少了。“现在偿还技术债务比以往任何时候都容易得多,”他说。“代码很便宜,而且现在生成代码非常快。以前成本很高的重构现在几乎瞬间就能完成。”

像副驾驶一样工作

Adam 保留了一个持续运行的 Codex 线程,他称之为他的幕僚长。每天早上它都会告诉他有哪些会议,以及他可能忘记回复哪些消息。“它已经查看了所有数据来撰写那份摘要,所以当我提出后续问题时,它不需要再去获取更多信息,”他说。“我可以在同一个对话中继续提问,就像一个真正的幕僚长一样。”

Sayan 使用 Codex 在浏览器中完成繁琐的手动工作,比如填写表单——他以前因为太慢而避免做这类事。“它会打开一个浏览器,思考五秒钟,点击某个东西,然后又坐在那里思考,”他说。随着最新模型在计算机使用方面的改进,他更放心让 Codex 处理这类工作了。“现在我完全可以让它在浏览器中点击操作,而且它足够快,我不会因为不亲自去做而浪费时间。”

无论是事件响应、日常规划还是重构,Ultrafast 都让 OpenAI 的技术成员能够以提问的节奏与 Codex 协作。他们可以追问某个答案、尝试另一种方法,并保持工作而不丢失思路。更短的等待时间也改变了他们愿意承担的任务,从他们原本拖延的重构,到终于值得委派的日常任务。

原始出处

OpenAI

内容说明

原始发布及相关权利归来源方。

机器翻译 · 请以原文为准