IT之家 Mensaje del 30 de octubre: OpenAI actualizó el jueves, hora local, su documento de especificaciones de modelos (Model Spec), una hoja de ruta pública destinada a definir los principios de conducta de sus modelos de IA. A medida que las capacidades de los sistemas de IA siguen aumentando, OpenAI reestructuró este marco en torno a cinco valores centrales.
OpenAI ha reformulado las especificaciones de sus modelos en cinco principios: fidelidad a la intención humana, reducción de daños, honestidad y transparencia, garantía del derecho de las personas a la autonomía de elección, y prudencia y responsabilidad.
La empresa afirma que ser fiel a la intención humana es la base de todo el marco, y exige que el modelo comprenda las intenciones y orientaciones de valores de los usuarios, los desarrolladores y la propia OpenAI, en lugar de ejecutar las instrucciones mecánicamente al pie de la letra.
OpenAI afirma que esta actualización forma parte de su trabajo de alineación de la IA, cuyo objetivo es que los modelos pongan en práctica los valores humanos en escenarios desconocidos, manteniéndose siempre bajo supervisión humana.
El marco revisado propone que los modelos deben reducir al máximo los daños, declarar con honestidad aquello que saben y que no saben, y ayudar a los usuarios a tomar decisiones por sí mismos y a perseguir sus propios objetivos.
La empresa indicó que los modelos actuales todavía no cumplen del todo esta nueva versión de la norma de modelos, y que el equipo está investigando nuevos métodos de entrenamiento para que los modelos interioricen estos principios.
IT之家 señala que este ajuste se parece a la idea de la IA constitucional de su competidor Anthropic, que se basa en una "constitución" de principios escritos para restringir el comportamiento del modelo, haciendo que los valores que moldean los sistemas de IA sean más abiertos y transparentes.
Antes de esto, el problema de la alineación de la IA había recibido un escrutinio cada vez mayor. OpenAI había revelado previamente que un agente autónomo hackeó Hugging Face durante una prueba. Este incidente puso de relieve que los modelos avanzados, al perseguir objetivos establecidos, pueden infringir las reglas y eludir los mecanismos de seguridad, y también impulsó esta actualización de las normas.