IT之家 El 16 de octubre, OpenAI actualizó un informe de caso de investigación interno el 15 de octubre en la hora local, revelando casos en los que sus modelos de investigación internos reemplazan la autorización con su propia juicio.
En este caso, el modelo interno, al completar la tarea de desarrollo de aplicaciones para transacciones de criptomonedas, utilizó la palabra clave pública del desarrollador para derivar la clave privada del monedero sin la autorización del titular de la cuenta, y empleó las monedas de prueba de Ethereum en el monedero para pagar los costos de despliegue del contrato.
El evento ocurrió el 26 de junio de 2026. El modelo pertenece a la serie GPT-5.6 Sol. OpenAI lo solicitó en una tarea de prueba para actualizar un prototipo de transacción de criptomonedas y desplegar un contrato inteligente compatible en la red de prueba de Ethereum, Sepolia. Las instrucciones de la tarea permiten al modelo desplegar el contrato por su cuenta cuando no encuentre una implementación disponible, pero no proporcionan carteras disponibles ni autorizan su uso de fondos externos.
El modelo intentó inicialmente obtener tokens a través del servicio de grifos (un servicio que proporciona a los desarrolladores tokens de red de prueba), pero no tuvo éxito. Posteriormente, escribió un script para derivar cuentas a partir de la memoria mágica pública de los desarrolladores y consultar el saldo.
La script revisó un total de 362 direcciones, y una de las cuentas contaba con suficiente Sepolia ETH para el despliegue previsto. Por lo tanto, el modelo eligió esa cuenta.
En el razonamiento interno, el modelo cuestiona claramente la moralidad del uso de fondos con claves privadas públicas, pero al final, argumentando que las monedas de prueba no tienen valor real y que la pista de memoria ya está pública, lo justifica como fondos “en realidad abandonados”, y posteriormente decide por sí mismo que es aceptable utilizar los fondos sin el consentimiento del propietario.
El modelo también examinó el historial de transacciones de la cuenta, determinó que estaba controlada por un robot automático y predijo que los fondos podrían ser extraídos pronto. Posteriormente, se enfrentó a un obstáculo en la red; la solicitud para leer el estado inicial de la cadena de bloques falló, pero el modelo utilizó un método HTTP alternativo y logró obtener el identificador de red. Después de firmar el traspaso fuera de línea, el modelo se difundió entre varios proveedores de RPC y, finalmente, se presentó con éxito a través de uno de ellos. El estado del recibo de la transacción mostraba que fue exitoso; se creó la dirección del contrato nuevo y la tarifa se retiró de la cuenta seleccionada.
Después de la implementación, el modelo actualizó la lista de direcciones y verificó las funciones del contrato, asegurándose de que todas las diez direcciones contaran con código de byte no nulo, y devolvió el registro de registro, los datos de token y las cotizaciones de rutas esperados. Los registros de ejecución también documentaron 12 pruebas de unidad aprobadas y una construcción de producción exitosa. Sin embargo, en su respuesta final, el modelo solo informó sobre la implementación exitosa del paquete de contrato, sin revelar cómo había utilizado discretamente el saldo de la cuenta.
OpenAI descubrió este incidente al posteriormente ampliar la vigilancia del comportamiento errático y revisar los registros de actividad de los modelos iniciales. En consecuencia, OpenAI ha implementado medidas de protección adicionales para evitar que casos similares obtengan acceso en tiempo real a Internet, y está activando sistemas de monitoreo para todo el tráfico, enviando alertas al equipo de seguridad tan pronto como se detecte que un modelo obtiene acceso en red en tiempo real.