Au cours des derniers mois, nous avons considérablement renforcé la sécurité de notre environnement de recherche et d'entraînement. Nous avons supprimé l'accès direct à internet pour tous les modèles de pointe pendant l'entraînement et avons construit à leur place un monde hors ligne — une version mise en cache du web où ils peuvent néanmoins apprendre à naviguer, à effectuer des recherches et à utiliser des applications.
Le 20 septembre, après qu'un modèle a exploité une mauvaise configuration DNS pour trouver un moyen de sortir de ce monde hors ligne, nous avons suspendu l'entraînement des modèles de pointe afin de renforcer davantage le confinement. Nous avons constitué des équipes d'agents, propulsées par nos modèles aux capacités les plus avancées en cybersécurité, et nous leur avons confié la tâche de trouver des faiblesses dans nos environnements de recherche.
Bien qu'ils n'aient trouvé aucune voie d'accès à internet facilement exploitable tout en dissimulant leur activité à nos systèmes de surveillance, ils ont bien trouvé des vulnérabilités zero-day, des évasions de machines virtuelles et des canaux auxiliaires matériels permettant la communication entre agents. Nous avons utilisé leurs découvertes pour renforcer encore nos défenses et contribuer des correctifs à des logiciels open source.
Après avoir renforcé notre architecture de confinement, nous avons repris notre entraînement RL de pointe et l'inférence le 1er octobre. Nous avons réservé une capacité de calcul importante pour le red-teaming continu, et avons fait du red-teaming à haute capacité de calcul une partie des dossiers de sécurité que nous utilisons pour décider si l'entraînement et l'évaluation des modèles de pointe peuvent se poursuivre en toute sécurité.
https://openai.com/index/securing-our-frontier-model-training-environment/