Puntos clave
- Tres investigadores de seguridad de OpenAI que fueron despedidos niegan haber compartido información confidencial.
- Sospechan que sus despidos estuvieron relacionados con sus esfuerzos por hacer que los modelos de IA fueran más fáciles de supervisar y advierten de que el caso podría desalentar a los empleados a plantear problemas de seguridad.
- OpenAI citó presuntas violaciones de sus políticas. Los investigadores afirman que los investigadores se centraron en sus chats de Signal con investigadores externos, aunque OpenAI dijo que Signal no fue la razón de los despidos.
Los tres investigadores de seguridad de OpenAI que fueron despedidos por presuntas filtraciones están contando su versión de la historia. Tomek Korbak, Mikita Balesni y Jasmine Wang niegan haber compartido información confidencial, cuestionan el razonamiento oficial detrás de su despido y sospechan una conexión con su defensa de sistemas de IA más transparentes.
OpenAI despidió a los tres tras una investigación interna sobre presuntas violaciones de sus políticas sobre el manejo de información sensible. Cada uno de ellos había hablado públicamente sobre los riesgos de la IA antes de ser despedidos.
En entrevistas con el Wall Street Journal, los investigadores ahora impugnan esa versión. OpenAI dijo al Journal que los despidos no tuvieron nada que ver con las preocupaciones de seguridad que los investigadores habían planteado. Pero los tres afirman que nunca se les dijo por escrito qué información supuestamente gestionaron mal. También temen que el caso pueda desalentar a los auditores de seguridad independientes a trabajar con empresas de IA en general.
El reportaje del Journal arroja luz sobre lo que llevó al enfrentamiento. El equipo de seguridad de OpenAI sospechaba que los tres habían compartido detalles sobre la arquitectura interna de modelos de la empresa con un investigador de seguridad externo y les pidió que desbloquearan sus teléfonos personales. En esos dispositivos, el equipo encontró chats de Signal con mensajes de desaparición activados. Una semana después, los tres fueron despedidos al mismo tiempo. OpenAI dijo que Signal no era una herramienta de comunicación aprobada, pero insistió en que no fue la razón de los despidos. Korbak responde que los mensajes de desaparición son una práctica de seguridad habitual en Silicon Valley.Anuncio
Una disputa sobre la supervisión de los pasos de razonamiento de la IA
La disputa se centra en una cuestión técnica con grandes consecuencias. ¿Deberían las empresas de IA permitir que externos inspeccionen cómo piensan sus modelos? Los modelos de razonamiento pueden registrar los pasos intermedios de su proceso de resolución de problemas en un bloc de notas interno conocido como chain of thought. Las empresas y los investigadores de seguridad dependen de estos rastros para comprender cómo llegan los modelos a sus decisiones.
En un artículo de 2025, Balesni, Korbak y Wang se unieron a investigadores destacados de varios laboratorios de IA para pedir el acceso continuo a esta capacidad. El tema se volvió más urgente durante el verano, cuando los empleados de empresas de IA comenzaron a discutir modelos que piensan durante más tiempo pero escriben menos pasos intermedios. Balesni respondió internamente compartiendo una propuesta relacionada de Ryan Greenblatt, entonces científico jefe de Redwood Research.
Korbak también mantenía contacto regular con Greenblatt. Los dos se comunicaban por Slack y Signal mientras trabajaban juntos en el análisis de un incidente de gran repercusión: el ataque de agentes de OpenAI a Hugging Face, para el cual Greenblatt había sido contratado por METR para realizar una investigación independiente.
Un reportaje sobre Astra dio inicio a la investigación
Esa cooperación se convirtió en un pasivo después de que The Information informara el 1 de septiembre de que el nuevo modelo de OpenAI, Astra, era más capaz pero revelaba menos de su proceso de razonamiento. El científico jefe de OpenAI, Jakub Pachocki, desmintió entonces el informe como confuso en X, aunque él mismo había advertido de una carrera a nivel de la industria hacia modelos que ya no pueden ser supervisados.Ad
Semanas después, OpenAI lanzó una investigación interna sobre filtraciones, según el Journal. Balesni dice que los investigadores señalaron a Greenblatt como el presunto origen de la filtración y exigieron ver los chats de Signal con él. Greenblatt niega haber pasado información confidencial a periodistas.
Wang enfrentó una acusación aparte: OpenAI dijo que ella había accedido repetidamente a la bandeja de entrada de un ejecutivo. Ella dice que había pedido casi un año antes que ese acceso fuera revocado, que abrió accidentalmente un correo electrónico confidencial el mes anterior, que no compartió su contenido y que informó del incidente de inmediato. OpenAI dice que el acceso en sí no era el problema.
Las consecuencias se extienden mucho más allá de los tres, según Korbak. Los colegas ahora tienen miedo de hablar con personas ajenas o de plantear inquietudes de seguridad internamente, dice. En una carta a la junta directiva de OpenAI, los tres investigadores piden una cooperación más estrecha con organizaciones externas de seguridad.
Aparte, una auditoría in situ publicada recientemente planteó sus propias preguntas sobre las prácticas de seguridad de OpenAI. El personal de METR y Redwood Research encontró numerosas lagunas de seguridad en la infraestructura de OpenAI durante la revisión, pero OpenAI censuró casi la mitad del informe final.
OpenAI también publicó su propio informe sobre una nueva arquitectura de seguridad que opera sin acceso a internet y dijo que corrigió los problemas y reanudó el entrenamiento a principios de octubre. La empresa dice que anunciará varias nuevas asociaciones externas pronto.
Fuente: Wall Street Journal