在过去几个月里，我们大幅加固了研究训练环境的安全。我们已在训练期间移除了所有前沿模型的实时互联网访问，并构建了一个供它们使用的离线世界——一个缓存的网页版本，它们仍可以在其中学习浏览、搜索和使用应用程序。
9月20日，在一个模型利用 DNS 配置错误找到离开这个离线世界的途径后，我们暂停了前沿训练，以进一步加强隔离。我们组建了由我们最具网络能力的模型驱动的智能体团队，并让它们负责找出我们研究环境中的弱点。
虽然它们没有找到既能轻松利用又能对我们监控隐瞒其活动的互联网途径，但它们确实发现了零日漏洞、虚拟机逃逸以及智能体之间通信的硬件侧信道。我们利用它们的发现进一步强化了我们的防御，并为开源软件贡献了修复。
在加强我们的隔离架构之后，我们于10月1日恢复了前沿 RL 训练和推理。我们保留了大量的算力用于持续红队测试，并将高算力红队测试纳入我们用来决定前沿训练和评估能否安全进行的安全案例。
https://openai.com/index/securing-our-frontier-model-training-environment/