IT之家 Noticia del 8 de octubre: Según informó Business Insider hoy (8) en la madrugada, David Robinson, excoresponsable del equipo de sistemas de seguridad que abandonó OpenAI la semana pasada, considera que la empresa muestra una evidente contradicción entre lo que dice y lo que hace en materia de seguridad de la IA.
Robinson afirma queOpenAI, mientras advierte repetidamente sobre los riesgos que puede traer el aumento de capacidades de los nuevos modelos, habla públicamente de frenar el ritmo del desarrollo de la IA, pero internamente sigue avanzando a toda velocidad. "Lo que realmente me resulta contradictorio es que publicamos constantemente estas advertencias y, al final, acabamos entrenando y desplegando modelos que nosotros mismos hemos advertido que son peligrosos."
En julio de este año, cientos de empleados de OpenAI firmaron una carta abierta,pidiendo al gobierno que implantara medidas regulatorias, para ralentizar el desarrollo de la IA.
Anteriormente, el CEO de Anthropic, Amodei, pidió a las empresas de IA que se coordinaran por sí mismas para frenar conjuntamente el ritmo de desarrollo. En septiembre de este año, el CEO de OpenAI, Altman, se mostró de acuerdo. "Necesitamos controlar el ritmo de desarrollo de la IA de frontera. En las últimas semanas, esto ha sido uno de los principales temas de discusión dentro de OpenAI."
Robinson dice que, sin embargo, en las oficinas de OpenAI sigue reinando un ritmo de trabajo frenético, y que muchas personas casitrabajan a costa de agotar sus energías. Al describir ese estado, dijo: "Se siente casi como un ballet, o algún tipo de danza, donde el trabajo de todos los departamentos converge al mismo tiempo. Todo el proceso está cargado de adrenalina."
Los investigadores de OpenAI no ocultanlos peligros que puede entrañar dejar que la IA mejore sus propias capacidades. Este proceso de mejora continua de sus propias capacidades se denomina "auto-mejora recursiva". En septiembre de este año, el científico jefe de OpenAI, Jakub Pachocki, advirtió en una entrada de blog sobre la auto-mejora recursiva: "Ahora mismo se requiere extrema precaución."
Según informó anteriormente IT之家, el día 2, hora local, un portavoz de OpenAI confirmó que David Robinson, uno de los responsables del equipo de sistemas de seguridad de OpenAI, había dejado la empresa.
Lectura relacionada: