Artificial Analysis · X

El costo total por tarea incluye tanto los costos de búsqueda como los de inferencia del modelo

El costo total por tarea incluye tanto los costos de búsqueda como los de inferencia del modelo. Exa (auto, Dynamic Highlights) cuesta $0.066 por tarea, compuesto por ~$0.053 de búsqueda ($7 por cada 1k búsquedas) y…

Fuente de la imagen · Artificial Analysis · X

El costo total por tarea incluye tanto los costos de búsqueda como los de inferencia del modelo

Exa (auto, Dynamic Highlights) cuesta $0.066 por tarea, compuesto por ~$0.053 de búsqueda ($7 por cada 1k búsquedas) y ~$0.012 de inferencia del modelo. Exa (lite, Dynamic Highlights) cuesta $0.044 por tarea, compuesto por ~$0.031 de búsqueda ($4 por cada 1k búsquedas) y ~$0.013 de inferencia del modelo. Dynamic Highlights también reduce los costos de inferencia del modelo al devolver menos texto, con el costo de inferencia del modelo de auto cayendo de $0.018 por tarea con highlights estándar a $0.012

Tanto auto como lite con Dynamic Highlights se sitúan en la frontera de Pareto de costo frente a capacidad del Artificial Analysis Search Index, extendiendo la frontera más allá de Octen (77 a $0.024 por tarea), lo que significa que ningún otro producto de búsqueda logra una puntuación más alta a un costo menor

Fuente original

Artificial Analysis · X

Notas sobre el contenido

La publicación original y los derechos pertenecen a la fuente.

Traducción automática · Consulte el original