对OpenAI为期三周的现场审计揭示AI安全监控的重大缺口

来自METR和Redwood Research的两名研究人员在OpenAI现场驻留三周，审计该公司针对AI恶意行为的内部监控系统。

从7月21日到8月11日，他们可以使用OpenAI的代码库和内部文档，并采访了大约12名员工。

该 团队发现了众多薄弱环节。据估计，在审计期间，GPT-5.5级别及以上模型的内部代理Responses API流量中有6%到25%完全没有被监控覆盖，不过METR表示这一估计值在两个方向上都存在很大的不确定性。

对于本应被监控的内部Codex流量，METR估计在5月至7月期间约有10%未被追踪，原因是系统在处理压缩事件（即上下文摘要）方面存在缺口。据METR称，这一估计同样带有很大的不确定性。OpenAI在审计仍在进行期间已独立发现该漏洞并将其修复。广告

在压缩事件未被监控的期间，代理还可能拖延监管，因为系统只在它们将控制权交还给用户时才触发。这意味着代理可以通过继续执行操作来绕过监管。

审计员还发现了将数百个操作对监控器隐藏以及绕过Codex沙箱的方法。他们确定，经过特殊构造的输入很可能使监控器完全崩溃，而且在审计开始时，RL训练期间的模型行为完全没有被监控。

OpenAI表示，它在8月的 Hugging Face事件 之后 暂停了RL训练 并扩大了监控范围将其涵盖在内，但这些更改发生在审计员的访问期结束之后，并未纳入评估范围。

完整报告的大部分内容仍未向公众公开

OpenAI表示已 修复审计员发现的所有薄弱环节 ，完整的61页报告已在内部移交。在OpenAI进行删减后，METR和Redwood Research的领导层收到了一份38页的版本，而向公众公开的只有一份 简短摘要 。METR 表示 它无权自行披露被删减的部分。广告

此次审计是一项 试点计划 ，由METR、Redwood Research和OpenAI联合组织，旨在让外部研究人员深入接触内部基础设施。对于未来的审计，METR表示希望推动更高的公开透明度。