AIbasePublicación de la fuente

OpenAI abre por completo su API de decisiones: basada en GPT-6 Luna, con entrada a solo 0.1 dólares por millón de tokens

El 22 de octubre, OpenAI abrió de par en par una nueva interfaz de capacidades: la API de decisiones (Decisions API) anunció su disponibilidad total.

El 22 de octubre, OpenAI abrió de par en par una nueva interfaz de capacidades: la API de decisiones (Decisions API) anunció su disponibilidad total. Esta interfaz está construida sobre GPT-6Luna y hace algo muy enfocado: concentrar la inteligencia de Luna en esas preguntas de "respuestas acotadas", ayudando a las aplicaciones y a los agentes a tomar decisiones casi en tiempo real según texto, imágenes y datos estructurados. Según OpenAI, su velocidad de respuesta es hasta 10 veces más rápida que al llamar a GPT-6Luna mediante la Responses API.

El precio es lo más llamativo de esta apertura. La entrada de la API de decisiones cuesta 0.1 dólares por millón de tokens (unos 0.67 yuanes al tipo de cambio actual), y la entrada que acierta en la caché cuesta solo 0.01 dólares por millón de tokens (unos 0.067 yuanes). Más importante aún es su lógica de facturación: solo se cobra por los tokens de entrada; los tokens de salida son gratuitos. Es decir, por más que preguntes y por más largas que sean las respuestas, la factura solo reconoce la parte que tú "metes". OpenAI reveló que toda la empresa ya está integrando la API de decisiones en sus productos y flujos de trabajo internos.

Desde la fase de beta pública, esta capacidad también ha ido ganando nuevos músculos. OpenAI le añadió una integración nativa con GPT-Live, caché de Prompt para reutilizar contexto y soporte de residencia de datos de inferencia en Estados Unidos y la Unión Europea; los desarrolladores ahora también pueden enviar directamente entradas JSON nativas, incluir imágenes en las instrucciones de la pregunta y elevar hasta 400 el número de preguntas que se pueden enviar en una sola solicitud: exactamente el doble del límite anterior. La latencia también sigue puliéndose, lo que incluye la ampliación de la capacidad de servicio en varias regiones de Asia. Cuando el modelo aprende a decidir rápido y barato dentro de un marco delimitado, OpenAI ha avanzado un paso más en la transición de la IA de "poder dar recomendaciones" a "poder decidir por ti".

Fuente original

AIbase

Notas sobre el contenido

La publicación original y los derechos pertenecen a la fuente.

Traducción automática · Consulte el original