在 Block——这家 Square、Cash App 和 Afterpay 背后的公司——安全团队利用 OpenAI Defense Factory：AI 在这里以任何人类团队都无法跟上的规模处理漏洞发现、检测和响应。借助包括 OpenAI Daybreak 在内的 AI 系统，Block 只需数小时即可完成过去需要数周的工作。
“AI 正在压缩从人类意图到行动的时间。曾有一段时间，人们认为攻击者具有优势，因为他们更快、更灵活。但凭借 Daybreak 以及 OpenAI 工具的进步，防御者能够以火攻火，跟上 AI 采用的快速步伐。”——James Nettesheim，Block 首席信息安全官
Block 的安全团队一直专注于在整个工作流程中负责任地采用 AI，无论是代码生成还是安全运营。“这一切的核心在于拥有一个可以与你共同扩展的新队友，”首席信息安全官 James Nettesheim 说。“这不像更传统的自动化那样必须一步一步来。你可以给它一个相当定制化、模糊的问题，然后一起解决它。”
像审查软件缺陷或解析日志这样的项目过去需要数天或数周才能完成。现在团队只需原来时间的一小部分即可完成这些项目，同时仍由人类验证每一个结果。
例如，在检测调优方面，每次调查都会存储其原始查询证据，因此团队现在可以在不到一小时内针对七个月的生产遥测数据重放一项提议的检测变更。这项工作过去意味着手动重新查询数百个旧案例，而且由于太过耗时，实际上很少发生。
团队还对哪项任务使用哪个模型变得更加讲究。“我们过去使用最新的模型，但现在不需要这样做了，”他说。“为不同的任务选择不同的模型是一次学习经历。”Block 的安全框架构建在 Daybreak 之上，以帮助将任务路由到正确的模型，它还包括供人类接管任务或让智能体相互验证工作的钩子。团队会根据内部基准和实际表现持续评估这些系统，并在需要时调整方法，包括在人工审查才是负责任的做法时将工作转给人工审查。
自动化分诊系统带来了更快的工作效率（以及更多的工作量）。Block 的安全团队实现了 50% 的分诊吞吐量提升、50% 的情报收集和调查增长，以及一项全新的自主狩猎能力。Nettesheim 说：“这相当于每季度约 1,100 分析师小时的调查工作，因为现在每个警报都会获得涵盖警报所涉及所有要素的完整深入调查。我们的系统对待每个警报都像它是我们当天唯一的警报一样。”
OpenAI Defense Factory 的实际应用
传统扫描工具只会孤立地标记单个漏洞，但 Block 的安全团队借助 Daybreak 可以走得更远。该模型有助于假设攻击模式，并将一系列攻击串联成完整的端到端入侵路径，从而发现可能已存在多年的漏洞。
在一个案例中，针对单台笔记本电脑的警报本身看起来只是一个轻微的策略问题。但在同行评审过程中，该模型追踪到了一个只在证据中偶然出现的指标，将其与 Block 的身份日志进行关联，从而发现了更大的一组问题。“一个例行的端点警报变成了对一次攻击活动的铲除。没有任何单一工具能完成这种关联。这个信号只存在于两个产品的日志之中，”James 说。
另一个 Daybreak 发挥作用的例子是在最近的一次红队演练中。该模型获得了一些关于内部系统的提示，并在大约两小时内串联出完整的攻击路径——SQL 注入、权限提升、立足点、凭证枚举以及向其他系统的横向移动。这通常需要一名人类红队成员花费数天时间。在最近的红队演练中，从提交一个高危漏洞到自动提出补丁的时间为 18 分钟。
发现漏洞的效果取决于修复漏洞的能力。Nettesheim 详细介绍了他的团队对每个发现所采用的流程：定位问题在代码中的位置并确定其负责人，然后进行修复。“你提出一个补丁，确认其可利用性，然后验证你已经修复了它，并由人工在环中引导和部署代码变更。”
尽管智能体在技术上很有能力，但它们不具备组织的背景信息或以往决策背后的推理依据。人类提供这些背景和策略，这正是他的团队发挥作用的地方，提供人工层面的审查。随着 AI 的判断在实践中得到验证，Nettesheim 说：“我们将逐步提升风险级别，将其用于更敏感的系统。”
成果一览
针对七个月的遥测数据重放一项提议的检测变更只需不到一小时。
在最近的红队演练中，从提交一个高危漏洞到自动提出补丁仅需 18 分钟。
每季度约归还 600 分析师小时的误报分诊工作。
每季度完成约 1,100 分析师小时的调查工作。
分诊吞吐量提升 50%。
情报收集和调查增长 50%。
下一步
仅检测和响应工作就归还了每季度约 600 分析师小时的时间，这些时间过去用于分诊误报。有了这些找回的时间，团队现在将更多时间用于更深入的调查，并负责任地构建更多自动化。
随着攻击速度的加快和 AI 模型的不断进步，Nettesheim 看到了一个机会，可以从源头上减少引入漏洞的数量。这将使安全团队得以把更少的时间花在打补丁上，把更多时间用于预防性和战略性工作。
“OpenAI 正在将这些先进能力交到每个人手中，从而把优势转移给防御者，”他说，“过去这些能力通常只掌握在极少数知名科技公司和政府手中。但现在，包括关键基础设施、学校和小企业在内的所有人，都可以开始利用这项技术来防御自己的网络。”