Points clés
- Trois chercheurs en sécurité d'OpenAI qui ont été licenciés nient avoir partagé des informations confidentielles.
- Ils soupçonnent que leur licenciement était lié à leurs efforts pour rendre les modèles d'IA plus faciles à surveiller et avertissent que cette affaire pourrait décourager les employés de soulever des préoccupations de sécurité.
- OpenAI a invoqué des violations présumées de ses règles. Les chercheurs affirment que les enquêteurs se sont concentrés sur leurs conversations Signal avec des chercheurs externes, bien qu'OpenAI ait déclaré que Signal n'était pas la raison des licenciements.
Les trois chercheurs en sécurité d'OpenAI licenciés pour des fuites présumées racontent leur version des faits. Tomek Korbak, Mikita Balesni et Jasmine Wang nient avoir partagé des informations confidentielles, mettent en doute le raisonnement officiel derrière leur licenciement et soupçonnent un lien avec leur plaidoyer en faveur de systèmes d'IA plus transparents.
OpenAI a licencié les trois après une enquête interne sur des violations présumées de ses règles concernant la gestion des informations sensibles. Chacun d'eux s'était exprimé publiquement sur les risques de l'IA avant d'être licencié.
Dans des entretiens avec le Wall Street Journal, les chercheurs contestent désormais cette version. OpenAI a déclaré au Journal que les licenciements n'avaient rien à voir avec les préoccupations de sécurité soulevées par les chercheurs. Mais les trois affirment qu'on ne leur a jamais indiqué par écrit quelles informations ils auraient supposément mal gérées. Ils craignent également que cette affaire puisse décourager les auditeurs de sécurité indépendants de travailler avec les entreprises d'IA.
Le reportage du Journal fait la lumière sur ce qui a mené à la confrontation. L'équipe de sécurité d'OpenAI soupçonnait les trois d'avoir partagé des détails sur l'architecture interne des modèles de l'entreprise avec un chercheur en sécurité externe et leur a demandé de déverrouiller leurs téléphones personnels. Sur ces appareils, l'équipe a trouvé des conversations Signal avec l'activation des messages éphémères. Une semaine plus tard, les trois ont été licenciés en même temps. OpenAI a déclaré que Signal n'était pas un outil de communication approuvé, mais a insisté sur le fait que ce n'était pas la raison des licenciements. Korbak réplique que les messages éphémères sont une pratique de sécurité courante dans la Silicon Valley.Pub
Un différend sur la surveillance des étapes de raisonnement de l'IA
Le différend porte sur une question technique aux conséquences majeures. Les entreprises d'IA devraient-elles laisser des externes inspecter la manière dont leurs modèles réfléchissent ? Les modèles de raisonnement peuvent enregistrer les étapes intermédiaires de leur processus de résolution de problèmes sur un bloc-notes interne connu sous le nom de chaîne de pensée. Les entreprises et les chercheurs en sécurité s'appuient sur ces traces pour comprendre comment les modèles parviennent à leurs décisions.
Dans un article de 2025, Balesni, Korbak et Wang se sont joints à des chercheurs de premier plan de plusieurs laboratoires d'IA pour réclamer le maintien de l'accès à cette capacité. La question est devenue plus urgente au cours de l'été, lorsque des employés d'entreprises d'IA ont commencé à discuter de modèles qui réfléchissent plus longtemps mais notent moins d'étapes intermédiaires. Balesni a répliqué en interne en partageant une proposition connexe de Ryan Greenblatt, alors scientifique en chef de Redwood Research.
Korbak, lui aussi, était en contact régulier avec Greenblatt. Les deux communiquaient via Slack et Signal tout en travaillant ensemble sur l'analyse d'un incident très médiatisé — l' attaque des agents d'OpenAI contre Hugging Face — pour laquelle Greenblatt avait été engagé par METR pour mener une enquête indépendante.
Un reportage sur Astra a déclenché l'enquête
Cette coopération est devenue un passif après que The Information a rapporté le 1 septembre que le nouveau modèle Astra d'OpenAI était plus capable mais révélait moins de son processus de raisonnement. Le scientifique en chef d'OpenAI, Jakub Pachocki, a rejeté ce rapport comme confus à l'époque sur X, alors même qu'il avait lui-même mis en garde contre une course à l'échelle de l'industrie vers des modèles qui ne peuvent plus être surveillés.Ad
Quelques semaines plus tard, OpenAI a lancé une enquête interne sur les fuites, selon le Journal. Balesni affirme que les enquêteurs ont désigné Greenblatt comme la source suspectée et ont exigé de voir les conversations Signal avec lui. Greenblatt nie avoir transmis des informations confidentielles à des journalistes.
Wang a fait l'objet d'une accusation distincte : OpenAI a déclaré qu'elle avait accédé à plusieurs reprises à la boîte de réception d'un dirigeant. Elle dit avoir demandé près d'un an plus tôt que cet accès soit révoqué, avoir ouvert accidentellement un e-mail sensible le mois précédent, ne pas en avoir partagé le contenu et avoir signalé l'incident immédiatement. OpenAI affirme que l'accès lui-même n'était pas le problème.
Les répercussions s'étendent bien au-delà des trois personnes, selon Korbak. Les collègues ont maintenant peur de parler à des personnes extérieures ou de soulever des préoccupations de sécurité en interne, dit-il. Dans une lettre au conseil d'administration d'OpenAI, les trois chercheurs appellent à une coopération plus étroite avec les organisations externes de sécurité.
Parallèlement, un audit sur place récemment publié a soulevé ses propres questions sur les pratiques de sécurité d'OpenAI. Le personnel de METR et de Redwood Research a trouvé de nombreuses failles de sécurité dans l'infrastructure d'OpenAI au cours de l'examen, mais OpenAI a censuré près de la moitié du rapport final.
OpenAI a également publié son propre rapport sur une nouvelle architecture de sécurité qui fonctionne sans accès à Internet et a déclaré avoir corrigé les problèmes et repris l'entraînement début octobre. L'entreprise affirme qu'elle annoncera bientôt plusieurs nouveaux partenariats externes.
Source : Wall Street Journal