在 Block 公司——该公司是 Square、Cash App 和 Afterpay 的背后支持者——安全团队使用了 OpenAI Defense Factory：通过人工智能技术来发现漏洞、检测漏洞并应对漏洞，其规模之大让人类团队根本无法跟上。借助包括 OpenAI Daybreak 在内的人工智能系统，Block 现在只需几小时就能完成过去需要数周才能完成的工作。
AI正在缩短从人类意图到实际行动的时间。曾经认为攻击者具有优势，因为他们速度更快、反应更敏捷。但有了像 Daybreak 这样的工具以及 OpenAI 工具的进步后，防御者能够以同样的方式应对攻击，并跟上 AI 应用的快速发展节奏。—詹姆斯·内特斯海姆，首席信息安全官，Block
Block 的安全团队一直致力于在各项工作流程中负责任地应用人工智能，无论是代码生成还是安全操作方面。首席信息安全官 James Nettesheim 表示：“其真正重点在于拥有一名新的团队成员，以便能够随需求增长而扩展。这与传统的自动化方式不同，传统自动化需要一步步进行。你可以提出一个非常特殊且模糊的问题，然后共同解决它。”
像审查软件错误或解析日志这样的项目，过去需要几天甚至几周才能完成。现在团队可以在极短的时间内完成这些项目，同时仍由人类对每个结果进行验证。
例如，在检测调整方面，每次调查都会保存原始查询证据，因此团队现在可以在不到一小时的时间内，利用七个月的生产遥测数据来重新测试拟议的检测更改。过去，这项工作需要手动重新查询数百个旧案例，但由于非常耗时，实际上很少执行。
该团队对用于不同任务的具体模型也更加明确了。“过去我们总是使用最新模型，但现在不必这样了，”他说。“选择不同模型来应对不同任务，是一种学习经历。”Block的安全框架建立在Daybreak之上，用于将任务分配给正确的模型；它还配备了钩子，供人类接管任务或让代理互相验证工作成果。 团队不断根据内部标准及实际性能对这些系统进行评估，必要时调整方法，包括将路由相关工作交给人工审核，以确认其是否合适。
自动化分类系统使得工作能够更快地完成（且工作量也更多了）。Block 的安全团队发现，分类处理效率提升了 50%，情报收集与调查工作也增加了 50%，同时还拥有了全新的自主调查能力。Nettesheim 表示：“这使得每个季度可以完成约 1,100 小时的分析工作，因为现在每个警报都会经过全面、深入的调查，涵盖该警报所涉及的所有方面。” 我们的系统将每个警报都视为当天唯一的警报来处理。
OpenAI 防御工厂在运行
传统的扫描工具只能单独识别出一个漏洞，而 Block 的安全团队使用 Daybreak 则可以更深入地分析。该模型能够帮助推测攻击模式，并将一系列攻击串联起来，形成完整的端到端攻击路径，从而发现那些可能存在多年的漏洞。
在一个案例中，一台笔记本电脑上的警报看似只是个较小的政策问题。但在同行评审过程中，该模型根据证据中偶然出现的指标进行了关联，并与 Block 的身份日志相结合，从而暴露出更严重的问题。“一个常规端点警报变成了一次内容删除行动。没有单一工具可以实现这种关联。这个信号仅存在于两款产品的日志中，”詹姆斯说。
另一个 Daybreak 提供帮助的例子是最近的一次红队演练。该模型得到了一些关于内部系统的提示，它在大约两小时内就构建出了完整的攻击路径——SQL 注入、权限提升、立足点、凭证枚举以及向其他系统的转移。通常来说，人类红队成员需要几天时间才能完成这些操作。在最近的红队演练中，从提交高级漏洞到自动生成补丁的时间仅为 18 分钟。
发现漏洞的好坏，取决于修复它们的能力。Nettesheim详细介绍了他的团队在每次发现漏洞时采用的过程：确定问题在代码中的位置以及谁负责处理该问题，然后开展修复工作。“你提出补丁方案，确认该补丁可被利用，之后由一个人参与指导并部署代码变更，以验证是否已成功修复。”
虽然智能代理在技术层面具备能力，但它们无法掌握组织的背景信息或之前决策背后的逻辑。人类则能提供这些背景和策略，而人类的团队则负责进行人工审核。正如 Nettesheim 所说，人工智能的判断已在实践中得到验证，我们 sẽ 逐步提升风险等级，以将其用于更敏感的系统中。
一目了然的结果
不到一小时即可对七个月的遥测数据重新进行提议的检测更改验证。
在最近的红队演练中，从提交高级漏洞到自动生成补丁仅需 18 分钟。
每季度大约有 600 个分析师小时用于处理假阳性病例的分级工作。
每个季度大约完成 1,100 小时的分析工作。
分类处理效率提升 50%。
情报收集与调查能力提高 50%。
接下来是什么
检测与响应工作单独进行时，每个季度大约需要 600 小时的分析工作，这些时间原本用于处理误报问题。现在，随着这些时间的恢复，团队能够把更多时间用于更深入的调查以及负责任地构建自动化系统。
随着攻击速度加快以及人工智能模型的不断发展，Nettesheim认为有一个机会可以减少最初出现的漏洞数量。这样就能让安全团队减少修补工作所花费的时间，更多时间用于预防性和战略性工作。
“OpenAI 正在将这些先进功能赋予每个人，从而让防守方获得优势，”他说。“通常这些技术只有知名科技公司和政府机构才能拥有。但现在，包括关键基础设施、学校和小企业在内的所有单位都可以开始利用这项技术来保护自己的网络。”