IT之家 Mensaje del 25 de octubre: tres investigadores de seguridad de OpenAI despedidos por presunta filtración de secretos han dado su versión de los hechos. Tomek Korbak, Mikita Balesni y Jasmine Wang niegan haber filtrado información confidencial, cuestionan las razones oficiales de su despido y sospechan que el asunto está relacionado con su defensa constante de una mayor transparencia en los sistemas de IA.
OpenAI, tras una investigación interna, determinó que las tres personas violaron las normas de gestión de información sensible y las despidió. Antes de ser despedidas, las tres habían expresado públicamente opiniones sobre los riesgos de la IA.
IT之家 señala que, en una entrevista con The Wall Street Journal, varios investigadores refutaron la versión oficial. OpenAI afirmó al periódico que el despido no tenía relación con las preocupaciones de seguridad que plantearon. Pero tres investigadores declararon que la empresa nunca les comunicó por escrito qué información exactamente había sido manejada de manera inadecuada. También temen que este incidente haga que los auditores de seguridad independientes sean reacios a colaborar con empresas de IA en el futuro.
El informe de The Wall Street Journal reconstruye el origen de este conflicto. El equipo de seguridad de OpenAI sospechaba que los tres empleados habían filtrado detalles internos de la arquitectura de los modelos de la empresa a una investigadora externa de seguridad, y les exigió desbloquear sus teléfonos personales. Los investigadores encontraron en los teléfonos conversaciones de Signal con la función de mensajes efímeros activada. Una semana después, los tres fueron despedidos simultáneamente. OpenAI declaró que Signal no es una herramienta de comunicación autorizada por la empresa, pero subrayó que esa no fue la razón del despido. Kolbasky, por su parte, respondió que los mensajes efímeros son en sí una práctica de seguridad habitual en Silicon Valley.
Punto de controversia: si se debe permitir verificar los pasos de razonamiento de la IA
El núcleo de esta disputa es una cuestión técnica de gran alcance: si las empresas de IA deberían permitir que personas externas examinen el proceso de razonamiento de los modelos. Los modelos de razonamiento registran los pasos intermedios de la resolución de problemas en un área interna de "cadena de pensamiento", y las empresas e investigadores de seguridad confían en estos registros para comprender la lógica con la que los modelos toman sus decisiones.
En un artículo de 2025, Baranesni, Korrbak y Molly Wang, junto con destacados investigadores de varios laboratorios de IA, pidieron mantener de forma continua esta capacidad verificable. Este verano, la cuestión se volvió más urgente: varias empresas de IA comenzaron a debatir internamente una nueva clase de modelos — que piensan durante más tiempo, pero registran menos pasos intermedios. Bailedni presentó su disconformidad dentro de la empresa y reenvió una propuesta relacionada de Ryan Greenblatt, entonces científico jefe de Redwood Research.
Kolbake también mantiene una comunicación frecuente con Greenblatt. Ambos colaboran a través de Slack y Signal para analizar conjuntamente un incidente muy comentado: el ataque de un agente de OpenAI contra Hugging Face. Greenblatt fue encomendado por METR para llevar a cabo esta investigación independiente.
Un reportaje sobre Astra desencadenó una investigación interna
El 1 de septiembre, The Information publicó un reportaje que afirmaba que el nuevo modelo de OpenAI, Astra, tiene mayores capacidades pero expone menos su proceso de razonamiento. Esta colaboración se convirtió así en el detonante del problema. En aquel momento, el científico jefe de OpenAI, Jakub Pachocki, criticó en la plataforma X que el reportaje era confuso en su lógica, aunque él mismo ya había advertido previamente que toda la industria está compitiendo por desarrollar modelos difíciles de supervisar.
The Wall Street Journal informó que semanas después OpenAI inició una investigación interna sobre filtraciones. Balesni dijo que los investigadores determinaron que Greenblatt era el receptor de la información filtrada y solicitaron acceder a los registros de chat de Signal entre ellos. Greenblatt negó haber transmitido información confidencial a periodistas.
Las acusaciones contra Wang Moli se presentaron por separado: OpenAI afirmó que ella accedió en varias ocasiones al buzón de un alto ejecutivo. Su explicación fue que había solicitado cancelar ese permiso casi un año antes; el mes pasado solo abrió por error un correo electrónico confidencial, no reenvió ni difundió el contenido, y reportó el error de inmediato. OpenAI declaró que el problema no radicaba en el permiso en sí.
Kolbak cree que los efectos negativos del incidente van mucho más allá de los tres. Dice que ahora sus colegas no se atreven a comunicarse con personas ajenas ni a señalar riesgos de seguridad internamente. Los tres investigadores ya han enviado una carta al consejo de administración de OpenAI, pidiendo reforzar la colaboración con las agencias de seguridad externas.
Otro informe de auditoría in situ recién publicado también cuestiona los procesos de seguridad de OpenAI. Los auditores de METR y del Sequoia Research Institute descubrieron durante su verificación numerosas vulnerabilidades de seguridad en la infraestructura de OpenAI, pero OpenAI censuró con tachado casi la mitad del contenido del informe final.
OpenAI también publicó un nuevo informe sobre una arquitectura de seguridad que se desconecta de internet durante su funcionamiento. La compañía afirmó que las vulnerabilidades relacionadas ya han sido corregidas y que reanudó el entrenamiento de los modelos a principios del mes 10, además de señalar que pronto anunciará varias nuevas colaboraciones externas.