MarkTechPost出典公開日

Cohere、Rerank 5をリリース — パッセージレベルのContext Focusと校正済みスコア付き

Cohere AIは、 Rerank 5をリリースしました。これはProとFastの2ティアで提供される新しいリランカーファミリーです。

Cohere AIは、 Rerank 5をリリースしました。これはProとFastの2ティアで提供される新しいリランカーファミリーです。Cohere Rerank 5は、検索結果がLLMに届く前にその順序を並べ替える検索モデルです。2つの開発者向け機能を追加します。各ドキュメント内の関連パッセージを返すContext Focusと、校正済み関連性スコアです。RAGやエージェントの開発者へのメッセージはシンプルです。より少なく、より良いトークンをLLMに送りましょう。

TL;DR

  • サイズ: パラメータ数は非公開。32Kトークンのコンテキストウィンドウ。2つのティア: rerank-v5.0-pro と rerank-v5.0-fast.
  • 実行環境: ホスト型API、Model Vault、Microsoft Foundry、Amazon SageMaker、またはプライベートVPCおよびオンプレミス。Cohereは速度のベンチマークを単一のNVIDIA A100で測定しています。オープンウェイトや量子化ビルドはありません。
  • パフォーマンス: Cohere独自の評価で、Proは46の複合データセットのうち39で1位を獲得しています。
  • 長所: ProはBRIGHT(RCP-nDCG@10)で82.2をスコアし、Voyage AI Rerank 3を5.8ポイント上回ります。
  • 短所: Proの中央値レイテンシは96ドキュメントのリクエストあたり11.7秒で、Fastの4.1秒と比較されます。

Cohere Rerank 5の新機能は?

Rerank 5は2つのモデルとして提供されます。 Proは、推論が重いクエリや長く専門的なドキュメントにおける ランキング品質を重視します。Fastは、多数の検索を実行するエージェント向けに低レイテンシと高スループットを重視します。

両モデルは100以上の言語と32Kのコンテキストウィンドウに対応しています。また、JSON、テーブル、YAMLレコードなどの半構造化データのリランキングも可能です。アップグレードに再インデックスは不要です。開発者は model パラメータを変更するだけで、既存のキーワード検索、ベクトル検索、ハイブリッド検索をそのまま使えます。

Context Focusはどのように動作するのか?

Context Focusはオプション機能で、デフォルトではオフです。1回のRerank呼び出しで、ドキュメントのスコアに加えてスコア付きの文字範囲(span)が返されます。各spanは、元のテキストへの start と end のオフセットを持ちます。開発者は relevant_spans フィールドを通じて設定し、 threshold と max_spans の値を指定します。

Cohere 30個のQAデータセットでテストし取得テキストの半分を削除しても回答品質の96%が維持されました。4分の3を削除しても87%が維持されました。Cohereによれば、チームは品質をある程度犠牲にして10分の1のコンテキストまで削減できます。

17個のデータセットを対象とした検索エージェントのテストでは、BM25単独の精度は46%でした。Rerank 5 Proを追加すると49%に向上しました。Context Focusをデフォルトの0.1しきい値で使用すると、タスクあたりのトークン数が19%削減され、57%に達しました。0.4ではトークン数が34%減少し、精度は58%に達しました。BM25単独と比較して、フルスタックではトークン数が35%少なくなりました。6個のディープ検索ベンチマークでは、トークン数が41%減少し、精度は39%から52%に上昇しました。

較正された関連性スコアは何を変えるのか?

Rerank 5のスコアは確率として読めます。0.7のスコアは、そのドキュメントが有用である確率が70%であることを意味します。

Cohereチームは、目隠しの人間の評価者およびNIST TREC-DLアセッサーに対する期待較正誤差(ECE)を測定しました。Rerank 5は両方で約0.06です。Voyage AI Rerank 3は0.234と0.307、Rerank 4 Proは0.384と0.309です。実際には、開発チームは固定のtop-kではなくしきい値でフィルタリングできます。エージェントは、関連するものが何も返ってこなかった場合を検出することもできます。

Rerank 5はベンチマークでどのように性能を発揮するのか?

以下のすべてのスコアは、Cohereが自己申告で報告したものであり、 RCP-nDCG@10というCohereが開発したnDCGの変種を使用しています。競合モデルはCohere自身が実行しました。

Proは4つの主要ベンチマークのすべてで首位に立っています。同製品のスコアは92.2 ViDoRe V3、90.4 BEIR、82.2 BRIGHT で82.2、そしてnanoMTEBで87.3を記録しています。BRIGHTでは最大の跳躍を見せ、Rerank 4 Proを12.4ポイント上回っています。

Fastは4つのすべてでVoyage AI Rerank 3 Lite、Qwen3-Reranker-8B、Rerank 4 Proを上回りました。ViDoRe V3ではVoyage AI Rerank 3と90.6で同点です。BEIRでは88.1対88.6でこれを下回りました。

解析済みPDF上では、47個のデータセットの平均で、Proは89.9、Fastは88.5を記録しました。Voyage AI Rerank 3は88.4です。Cohereの内部スイートにおける19の非英語言語のうち14でProが1位となりました。

Rerank 5は競合リランカーとどのように比較されるのか?

機能Cohere Rerank 5 ProCohere Rerank 5 FastVoyage AI rerank-3Voyage AI rerank-3-liteQwen3-Reranker-8B
パラメータ非公開非公開非公開非公開8B
コンテキストウィンドウ32K32K32,00032,00032K
対応言語100+100+非公開非公開100+
ライセンス / アクセス独自API、VPC、オンプレミス独自API、VPC、オンプレミス独自API独自APIApache 2.0 オープンウェイト
1MトークンあたりのAPI価格$0.05$0.02$0.05$0.02セルフホスト型
パッセージ抽出Context FocusContext Focus非公開非公開非公開
BRIGHT*82.277.576.469.469.8
ViDoRe V3*92.290.690.687.985.1
BEIR*90.488.188.686.183.8
nanoMTEB*87.385.183.980.782.1
ECE、人手評価*(数値が低いほど良い)0.0580.0580.2340.226非公開

*スコアは次に由来する RCP-nDCG@10 または ECE です: CohereのRerank 5に関する投稿、Cohereによる測定。独立した検証はされていない。

開発者はどのようにしてRerank 5をデプロイできますか?

Rerank 5 が一般提供されました。次の Cohere API および Model Vault。また、Microsoft Foundry(Pro, 高速) および Amazon SageMaker(Pro, 速い)。また、すべてのNorthユーザーも利用できます。API価格はProが1Mトークンあたり$0.05、Fastが$0.02です。Model Vaultには インスタンス時間あたり4.00ドル 両プランにおいて中間ティアで。

統合には LangChain、Haystack、Elasticsearch、Weaviate が含まれます(Cohere の情報による)。 統合ドキュメント.

主なポイント

  • Pro($0.05)とFast($0.02)では、1Mトークンあたり5隻のリランキングが可能で、どちらも32Kのコンテキストを備えています。
  • ProはBRIGHTで82.2を記録し、Voyage AI Rerank 3を5.8ポイント上回りました。
  • Context Focus は1回の呼び出しでスコア付きのパッセージを返し、エージェントのトークンを35%から41%削減します。
  • 較正されたスコアは約0.06のECEに達し、1つのしきい値で複数のドメインにわたって機能します。
  • すべてのベンチマークは、CohereのRCP-nDCG@10メトリックでの自己申告によるものです。


以下をご覧ください: 公式発表、その Rerank 5 変更履歴 そして 全結果表。本プロジェクトの研究者に全ての功績があります。また、ぜひ私たちをフォローしてください。 Twitter そして、私たちの 150k+ ML SubReddit および登録する 当社のニュースレター. 待って!Telegram を使っていますか? Telegramでもご参加いただけるようになりました。

お客様のGitHubリポジトリ、Hugging Faceページ、製品リリース、ウェビナーなどのプロモーションで弊社とパートナーシップをご希望ですか? 私たちとつながりましょう

当該投稿 CohereがRerank 5をリリース、パッセージレベルのコンテキスト重視とキャリブレーション済みスコアを特徴に 初出: MarkTechPost.

原文の出典

MarkTechPost

内容について

原文の公開と権利は出典元に帰属します。

機械翻訳 · 原文をご参照ください