IT之家 Le 9 octobre, informations : Miitaka Balesni (米基塔·巴莱斯尼), Tomek Korbak (托梅克·科尔巴克) et Jasmine Wang (贾斯敏·王), trois anciens chercheurs d'OpenAI brutalement licenciés la semaine dernière, ont publié aujourd'hui (le 9) une lettre ouverte. La lettre indique qu'ils craignent que cette décision dissuade d'autres employés d'exprimer publiquement leurs opinions, produisant un « effet de refroidissement » sur la culture d'entreprise d'OpenAI.
Les trois auteurs d'une lettre ouverte intitulée « OpenAI ne peut pas garantir seule la sécurité de l'IA » soulignent que,OpenAI « n'est pas une entreprise ordinaire »Pour les employés, pouvoir collaborer en toute confiance avec des organismes externes pour résoudre les problèmes de sécurité fait partie intégrante de la culture de travail d'OpenAI.
La lettre ouverte a été publiée sur les réseaux sociaux par Barresni, qui travaillait auparavant dans la recherche sur l'alignement de l'IA, et elle est adressée aux différents comités de sécurité d'OpenAI. Les deux autres signataires, Kolbakh et Jasmin Wang, travaillaient également auparavant dans la recherche sur la sécurité de l'IA et ont tous deux été licenciés.
Selon Business Insider, le porte-parole d'OpenAI a répondu qu'après une enquête interne, l'entreprise a conclu que les trois personnesa enfreint les règles relatives à l'accès et au traitement des informations sensibles。
Les trois chercheurs ont chacun déclaré sur les réseaux sociaux que l'entreprise ne leur avait communiqué verbalement les motifs de leur licenciement, alors que leurs actes antérieurs relevaient tous de leurs responsabilités professionnelles respectives.
Répondant aux accusations selon lesquelles Jasmin Wang aurait consulté la messagerie électronique d'un cadre, elle a déclaré : « Les raisons invoquées par l'entreprise pour justifier mon licenciement ne tiennent absolument pas debout. »
Baleshny a publié un message indiquant que l'entreprise lui a dit qu'elle ne lui faisait plus confiance parce qu'il avait « échangé de manière excessive avec un organisme de sécurité tiers ». « Je n'ai jamais divulgué d'informations relatives à la propriété intellectuelle de l'entreprise en dehors. Mon travail s'est toujours fait en coordination avec mon supérieur direct, la direction du département de recherche et le conseil d'administration. »
Kolbak a également publié que l'entreprise lui avait indiqué verbalement que la raison de son licenciement était « la manière dont il communiquait avec METR ». « Je tiens à préciser que communiquer avec METR faisait précisément partie de mon travail. »
Remarque de IT之家 : METR est un organisme de recherche à but non lucratif chargé d'évaluer les modèles d'IA et leurs risques en matière de sécurité.
、
Dans leur lettre ouverte, les trois personnes expriment leur inquiétude que d'autres employés puissent à l'avenirne plus oser exprimer son avis ni mener son travail comme auparavant, et qui faisaient jusqu'à la semaine dernière partie intégrante du travail chez OpenAI. « Licencier des employés de la sorte, comme nous, et en informer les personnes concernées avec une telle précipitation, a porté un effet refroidissant à la culture d'ouverture dont OpenAI se montrait autrefois fière. »
Les trois personnes ont également formulé trois recommandations à OpenAI : autoriser des auditeurs de sécurité tiers à s'installer au sein de l'entreprise afin de garantir que les modèles d'IA de pointe puissent encore être surveillés efficacement, et soutenir les chercheurs en sécurité dans leurs échanges avec d'autres institutions et personnes du domaine de la sécurité de l'IAen maintenant une « communication ouverte et transparente »。
Un responsable du département de recherche d'OpenAI a exprimé un ferme soutien aux trois recommandations dans un mémo interne adressé aux employés. « Nous sommes très reconnaissants de leur contribution au travail sur la sécurité de l'IA, et nous les remercions égalementd'avoir osé parler et remettre en question les idées reçues. Nous apprécions leurs opinions, nous soutenons leur travail et nous leur faisons une grande confiance. Je dois être clair sur un point : la décision de licenciementn'avait aucun lien avec les problèmes de sécurité qu'ils ont soulevés ni avec leurs prises de parole publiques. Nous avons toujours encouragé les employés à exprimer leurs opinions, et nous continuerons de le faire. Nous ne licencierons pas des employés parce qu'ils expriment des préoccupations. »
Kolbak a également écrit sur les réseaux sociaux qu'il craignait qu'OpenAI n'utilise le licenciement des trois personnes comme « prétexte » pour réduire sa coopération avec METR.