这是我们系列文章的一部分,旨在分享 OpenAI 使用自身技术和 API 的内部案例。这些工具在 OpenAI 内部被使用,此处作为示例分享,以说明前沿人工智能如何支持各团队的应用场景。
Ultrafast 是 Codex 中的一种高速模式,对于 OpenAI 的工程师来说,它已成为事故响应中的默认模式。当出现问题时,工程师通常没有时间等待几分钟得到回复,而问题也会进一步恶化。通过 Ultrafast,他们可以同时调查多种潜在原因,并在不分散注意力的情况下得到答案。
如果选择两个同样聪明的个体,一个在一小时内回复你,另一个在一分钟内回复你,那么第二个人更好。与反应更快的人合作,你能完成更多工作。
在大量数据中找到那根针
OpenAI的技术团队成员Aaron Friel通常负责处理突发事件。他会创建一个Slack频道用于事件响应,然后指向Codex来处理问题,让Codex持续监控、调查并解答出现的任何问题。“在任何事件中,通常会有许多可能的错误情况,而找到正确的解决方案正是该频道人员的主要任务,”他说。 使用 Ultrafast 后,我能够同时搜索所有这些数据,并更快地应对各种事件。
AJ Trbojevic,技术团队成员兼数据中心安全架构师表示,过去对安全问题的调查需要一两个小时才能将结构化与非结构化数据整合起来、进行标准化处理并提供背景信息以做出决策。“现在这一切可以在10到15分钟内完成,”他说,“有时甚至接近实时。”
亚当·佩里和萨扬·西索迪亚都属于核心代理团队,他们负责编写代码,使 Codex 能够执行操作、运行命令并使用工具。在安全事件期间,Ultrafast 改变了他们的运作方式。“以前,我会让 Codex 调查某事,然后自己再继续调查,因为我知道仅仅等待根本不够快,”亚当说。“现在有了 Ultrafast,Codex 的速度足够快,我可以专注于一项任务,而不需要分散注意力在多个任务上。”
Sayan 很欣赏 Ultrafast 能让他从多个数据来源获取即时结果:“除了在事件中查看日志之外,我还使用 Codex 在 Slack 中搜索,以发现是否有关于可疑更改的提及,或者是否有人在 Slack 的其他地方提到类似症状,”他说。
30秒内快速响应
如果使用 AI 寻找答案超过 30 秒,技术团队成员 Jeff Niu 表示他会查看 Slack 或与同事聊天。但现在,由于使用 Ultrafast,他的大部分工作都超出了这一时间限制。过去他会在 Codex 上提问,等它思考时转做其他事情,结果又忘了自己原本要做什么。现在这种对话是在实时进行的,这帮助他能够专注于手头的任务。
Ultrafast 还让 Jeff 更愿意进行大型重构工作,因为修改现有代码所需的时间更短。“现在解决技术债务比以往任何时候都容易,”他说。“代码成本很低,而且现在生成代码非常迅速。过去需要花费大量时间才能进行重构的工作,现在几乎可以瞬间完成。”
担任辅助角色
亚当维护着一个名为“首席秘书”的线程,用来记录所有会议信息以及可能忘记回复的消息。他说:“所有数据都已经被查看过,所以当我提出进一步询问时,系统不会再等待去获取更多信息。我就可以像真正的首席秘书一样,在同一个对话中继续提问。”
Sayan使用 Codex 在浏览器中完成那些繁琐的手动工作,比如填写表格——过去他一直避免这样做,因为过程太慢了。“他会打开浏览器,坐在那里思考五秒,然后点击某个按钮,再坐回去,”他说。随着最新型号在计算机使用方面的改进,他更愿意让 Codex 来处理这些工作。 “现在我完全可以让它在浏览器中打开,而且速度足够快,我不通过自己操作来浪费时间。”
在事件响应、日常规划以及重构工作中,Ultrafast 让 OpenAI 的技术团队能够以他们的问题节奏使用 Codex。他们可以跟进答案,尝试另一种方法,并继续工作而不失去思路。更短的等待时间也改变了他们愿意承担的任务类型,从那些会拖延的重构工作,变成了最终值得委托执行的常规任务。