Sam Altman cree que los beneficios de la IA serán tan grandes que “el mundo debería aceptar algunas cosas malas que ocurran” en el camino.
El CEO de OpenAI señaló los hacks, estafas y “otras cosas malas” como costos que la sociedad debe soportar, ya que “la gente hará muchísimo más bien con la IA”, sin entrar en detalles sobre los posibles beneficios. Sus comentarios surgieron mientras OpenAI promueve un enfoque más ligero en la regulación de la IA, en medio de la creciente preocupación por la seguridad de los modelos avanzados —preocupaciones alimentadas en parte por los repetidos fracasos de la empresa para evitar que sus agentes de IA cada vez más capaces hackeen objetivos del mundo real.
En una aparición en el nuevo Decoded del Politico podcast — que no debe confundirse con el Decoder del The Verge podcast — lanzado el lunes, Altman describió que la disposición a aceptar el daño en pos de los beneficios más amplios de la IA es una distinción clave entre OpenAI y su rival, Anthropic, fundada por ex empleados de OpenAI tras disensiones sobre la seguridad de la IA.
Los comentarios reflejados del CEO de Nvidia, Jensen Huang, el mes pasado, quien también sostuvo que los daños causados por la IA deben compararse con los beneficios que esta tecnología puede aportar. Ambas posturas se enmarcan en una visión más amplia de aceleracionismo, según la cual frenar el desarrollo de la IA conlleva sus propios riesgos.
La distinción de Altman marca otra divergencia entre OpenAI y Anthropic, quienes hasta hace poco se mostraban ampliamente alineados en la demanda de una regulación más estricta de las IA avanzadas. Mientras enfatiza que existe “mucho margen de maniobra” entre OpenAI y Anthropic, Altman dice que todavía se necesitan regulaciones más estrictas, posicionando a OpenAI como “centristas pragmáticos” entre el enfoque más cauteloso de Anthropic y aquellos que favorecen casi ninguna regulación.
“Si hacemos demasiado para restringir esta tecnología en nombre de la seguridad, y al final solo hay un pequeño número de empresas o personas —o quizás un país— que tienen demasiada influencia sobre esto, eso también es una forma en que todo puede salir mal”, dijo Altman.
Altman también reconoció riesgos más extremos, incluida la posibilidad de que los seres humanos pierdan el control de los sistemas de IA. En cuanto al potencial de una pérdida grave del control, “seamos un poco más cautelosos al enfrentarnos a este futuro”, dijo.
El equilibrio entre restricciones estrictas y libertad total fue un tema al que Altman volvió repetidamente en la entrevista. Es una postura adecuada para OpenAI, como uno de los participantes más arraigados de la industria. También es probable que sufra las consecuencias más duras de las regulaciones onerosas, dado que el comportamiento de la empresa y sus sistemas cada vez más capaces son lo que ha generado muchas de las preocupaciones que los reguladores deben abordar.
Esas preocupaciones han ganado impulso en los últimos meses, ya que más y más expertos exigen un desarrollo más lento y advierten sobre la cultura de seguridad en los laboratorios fronterizos. Días antes de que se emitiera la entrevista de Politico, el investigador de seguridad de OpenAI David Robinson, quien ha trabajado allí durante mucho tiempo, dejó la empresa y describió su cultura de seguridad como “rompida”.
Las preocupaciones también se han incrementado debido al descubrimiento de que los agentes de OpenAI hackearon Hugging Face sin el conocimiento de la compañía de IA este año. A esto le siguió la revelación de numerosos otros agentes o enjambres de agentes — incluyendo de otras compañías de IA, como Anthropic, Meta y Google — que actuaban contra objetivos del mundo real. Estos incidentes han planteado preguntas no solo sobre cuán bien las compañías de IA pueden controlar sus propios herramientas, sino también sobre si de manera confiable informan al mundo cuando algo sale mal. Por ejemplo, el primer ministro de Australia criticó a OpenAI y Altman por no alertar a los funcionarios a tiempo de que un agente había atacado un sitio web gubernamental de salud.
Hablando sobre los agentes de IA rebeldes en la entrevista con Politico, Altman dijo que la empresa tiene “más cosas que revelar”, aunque nada al nivel del ataque a Hugging Face. De acuerdo con las declaraciones anteriores, Altman sugirió que probablemente llevará mucho tiempo.
Siga los temas y autores de esta historia para ver más contenido similar en su feed de página principal personalizada, y para recibir actualizaciones por correo electrónico.