Artificial Analysis · X

Le coût total par tâche comprend à la fois les coûts de recherche et d'inférence du modèle

Le coût total par tâche comprend à la fois les coûts de recherche et d'inférence du modèle. Exa (auto, Dynamic Highlights) coûte 0,066 $ par tâche, composé d'environ 0,053 $ pour la recherche (7 $ pour 1k recherches) et…

Source de l’image · Artificial Analysis · X

Le coût total par tâche comprend à la fois les coûts de recherche et d'inférence du modèle

Exa (auto, Dynamic Highlights) coûte 0,066 $ par tâche, composé d'environ 0,053 $ pour la recherche (7 $ pour 1k recherches) et d'environ 0,012 $ pour l'inférence du modèle. Exa (lite, Dynamic Highlights) coûte 0,044 $ par tâche, comprenant environ 0,031 $ pour la recherche (4 $ pour 1k recherches) et environ 0,013 $ pour l'inférence du modèle. Dynamic Highlights réduit également les coûts d'inférence du modèle en renvoyant moins de texte, le coût d'inférence du modèle d'auto passant de 0,018 $ par tâche avec les highlights standards à 0,012 $

Auto et lite avec Dynamic Highlights se situent tous deux sur la frontière de Pareto coût vs capacité de l'Artificial Analysis Search Index, repoussant la frontière au-delà d'Octen (77 à 0,024 $ par tâche), ce qui signifie qu'aucun autre produit de recherche n'atteint un score plus élevé à un coût inférieur

Source originale

Artificial Analysis · X

À propos du contenu

La publication originale et les droits appartiennent à la source.

Traduction automatique · Consultez l’original