Artificial Analysis · X

タスクあたりの総トークン数は、モデルの入力、推論、出力のトークン数を表します

タスクあたりの総トークン数は、モデルの入力、推論、出力のトークン数を示します。Exa(auto、Dynamic Highlights)は、タスクあたり157kトークンを使用し、標準ハイライト版のauto(299k)より47%少なくなります。Exa(lite、Dynamic Highlights)は164kトークンを使用し、45%の削減となります。Dynamic…

画像の出典 · Artificial Analysis · X

タスクあたりの総トークンは、モデルの入力、推論、出力のトークンを測定する

Exa(auto、Dynamic Highlights)は、タスクあたり157kトークンを使用し、標準高光効果のauto(299k)より47%少ない。Exa(lite、Dynamic Highlights)は164kトークンを使用し、45%減少している。

動的ハイライトによりモデルに返される検索コンテンツの量が減少し、トークン消費とモデルの推論コストが低減します。Search APIの中で、Perplexity(低、127k)とPerplexity(中、137k)のみがタスクあたりのトークン数を少なくしています

原文の出典

Artificial Analysis · X

内容について

原文の公開と権利は出典元に帰属します。

機械翻訳 · 原文をご参照ください