Les trois anciens chercheurs d'OpenAI, Mykyta Bariesni, Tomek Korbak et Jasmine Wang, licenciés brutalement la semaine dernière, ont officiellement publié aujourd'hui une lettre ouverte. Dans celle-ci, ils déclarent craindre que cette mesure soudaine de l'entreprise ne réduise au silence les autres employés en poste, et n'entraîne ainsi un impact négatif grave sur la culture d'entreprise globale d'OpenAI.
Cette lettre ouverte, intitulée « OpenAI ne peut pas garantir seule la sécurité de l'IA », a été publiée sur les réseaux sociaux par Bariesni, qui travaillait auparavant sur l'alignement de l'IA, et s'adresse aux différents comités de sécurité d'OpenAI. Les deux autres signataires, Korbak et Jasmine Wang, se consacraient eux aussi auparavant à la recherche sur la sécurité de l'IA et ont été licenciés en même temps la semaine dernière.
Concernant les raisons précises du licenciement, Bariesni a révélé dans sa publication que la raison invoquée par l'entreprise était une rupture de confiance due à ses « échanges trop nombreux avec des organismes de sécurité tiers ». Il a précisé n'avoir jamais divulgué d'informations relatives à la propriété intellectuelle de l'entreprise, et que son travail quotidien restait étroitement coordonné avec son supérieur direct, la direction du département de recherche ainsi que le conseil d'administration. L'autre signataire, Korbak, a également indiqué que l'entreprise lui avait oralement notifié que la raison de son licenciement était « sa manière de communiquer avec METR », mais il a souligné que la communication avec METR faisait précisément partie de ses responsabilités.
Face à cette controverse, les trois personnes ont exprimé dans leur lettre ouverte de vives inquiétudes, estimant que cette méthode de licenciement soudaine et précipitée a déjà soumis la culture d'ouverture dont OpenAI était autrefois fière à un effet de refroidissement, et pourrait empêcher d'autres employés, à l'avenir, de s'exprimer ou de travailler aussi librement qu'auparavant. À ce titre, les trois personnes ont adressé trois recommandations concrètes à OpenAI : premièrement, autoriser des auditeurs de sécurité tiers à entrer dans l'entreprise ; deuxièmement, garantir que les modèles d'IA de pointe restent soumis en continu à une surveillance efficace ; enfin, soutenir des échanges publics et transparents entre les chercheurs en sécurité et les autres organisations du secteur.
Face aux contestations extérieures, un responsable du département de recherche d'OpenAI a, dans un mémo interne ultérieur adressé aux employés, exprimé un fort soutien à ces trois recommandations. Ce responsable a déclaré que l'entreprise remerciait vivement les trois personnes pour leur contribution aux travaux de sécurité de l'IA ainsi que pour leur courage à parler franchement, et a précisé que la décision de licenciement n'avait aucun lien avec les questions de sécurité qu'ils avaient soulevées ou leurs prises de parole publiques, soulignant qu'OpenAI a toujours encouragé et continuera à l'avenir d'encourager les employés à exprimer leurs opinions, et ne licenciera jamais un employé pour avoir soulevé des inquiétudes.