IT之家 9 de octubre: los tres ex investigadores de OpenAI, Mykita Balasni, Tomek Korbak y Jasmin Wang, despedidos repentinamente la semana pasada, publicaron hoy (9) una carta abierta. En la carta señalan que temen que esta medida haga que otros empleados no se atrevan a expresar sus opiniones abiertamente, generando un "efecto inhibidor" en la cultura empresarial de OpenAI.
Los tres señalan en la carta abierta titulada "OpenAI no puede garantizar la seguridad de la IA por sí sola" queOpenAI "no es una empresa común", y que los empleados puedan colaborar con confianza con instituciones externas para resolver problemas de seguridad es una parte importante de la cultura de trabajo de OpenAI.
La carta abierta fue publicada en redes sociales por Balasni, quien previamente se dedicaba a la investigación de alineación de IA, y está dirigida a los diversos comités de seguridad de OpenAI. Los otros dos firmantes, Korbak y Jasmin Wang, también se dedicaban previamente a la investigación de seguridad de IA y también fueron despedidos.
Según Business Insider, un portavoz de OpenAI respondió que, tras una investigación interna, la empresa determinó que los tresviolaron las normas de acceso y manejo de información sensible。
Los tres investigadores declararon por separado en redes sociales que la empresa solo les comunicó verbalmente las razones de su despido, y que sus acciones anteriores estaban dentro del alcance de sus respectivas responsabilidades laborales.
A Jasmin Wang, acusada de acceder al correo electrónico de un alto ejecutivo, respondió: "Las razones del despido que dio la empresa no se sostienen de ninguna manera".
Balasni publicó que la empresa le dijo que ya no confiaba en él porque "se comunicaba demasiado con instituciones de seguridad de terceros". "Nunca filtré información de propiedad intelectual de la empresa. Mi trabajo siempre estuvo coordinado con mi supervisor directo, la dirección del departamento de investigación y la junta directiva."
Korbak también publicó que la empresa le comunicó verbalmente que la razón de su despido era su "forma de comunicarse con METR". "Quiero dejar claro que comunicarme con METR era precisamente mi trabajo."
Nota de IT之家: METR es una institución de investigación sin fines de lucro encargada de evaluar los modelos de IA y sus riesgos de seguridad.
、
Los tres expresan en la carta abierta su preocupación de que otros empleados en el futuro quizásya no se atrevan a expresar opiniones y trabajar como antes, algo que hasta la semana pasada era una parte indispensable del trabajo en OpenAI. "Despedir empleados de forma tan repentina como nosotros e informar a los afectados con tanta precipitación ha hecho que la cultura abierta de la que OpenAI se enorgullecía en el pasado sufra el impacto de un efecto inhibidor."
Los tres también presentaron tres recomendaciones a OpenAI: permitir que auditores de seguridad de terceros ingresen a la empresa, garantizar que los modelos de IA de frontera sigan siendo monitoreados eficazmente, y apoyar que los investigadores de seguridad mantengan con otras instituciones y personas del ámbito de la seguridad de IAun "intercambio abierto y transparente"。
Un responsable del departamento de investigación de OpenAI, en un memorando interno enviado a los empleados, expresó un fuerte apoyo a las tres recomendaciones. "Agradecemos enormemente su contribución al trabajo de seguridad de la IA, y también agradecemos quese hayan atrevido a hablar con franqueza y cuestionar las ideas establecidas. Valoramos sus opiniones, apoyamos su trabajo y les hemos otorgado una enorme confianza. Debo dejar claro un punto: la decisión de despidono tiene ninguna relación con que plantearan problemas de seguridad o hablaran públicamente. Siempre hemos alentado a los empleados a expresar sus opiniones, y seguiremos haciéndolo. No despedimos a los empleados por plantear inquietudes."
Korbak también escribió en redes sociales que teme que OpenAI utilice el despido de los tres como "pretexto" para reducir la colaboración con METR.