Cohere AI a lancé Rerank 5, une nouvelle famille de rerankers disponible en déclinaisons Pro et Fast. Cohere Rerank 5 est un modèle de récupération qui réordonne les résultats de recherche avant qu'ils n'atteignent un LLM. Il ajoute 2 fonctionnalités pour les développeurs : Context Focus, qui renvoie les passages pertinents à l'intérieur de chaque document, et des scores de pertinence calibrés. Pour les développeurs de RAG et d'agents, le message est simple : envoyez moins de tokens, mais meilleurs, au LLM.
TL;DR
- Taille : Nombre de paramètres non divulgué. Fenêtre de contexte de 32K tokens. Deux déclinaisons :
rerank-v5.0-proetrerank-v5.0-fast. - Fonctionne sur : API hébergée, Model Vault, Microsoft Foundry, Amazon SageMaker, ou VPC privé et sur site. Cohere évalue la vitesse sur un seul NVIDIA A100. Pas de poids ouverts ni de versions quantifiées.
- Performances : Pro se classe premier sur 39 des 46 jeux de données composites dans l'évaluation propre de Cohere.
- Le meilleur : Pro obtient 82.2 sur BRIGHT (RCP-nDCG@10), soit 5.8 points de plus que Voyage AI Rerank 3.
- Le pire : La latence médiane de Pro est de 11,7 s par requête de 96 documents, contre 4,1 s pour Fast.
Quoi de neuf dans Cohere Rerank 5 ?
Rerank 5 est proposé en deux modèles. Pro vise la qualité du classement sur les requêtes à forte charge de raisonnement et les documents longs et spécifiques à un domaine. Fast vise une faible latence et un haut débit pour les agents effectuant de nombreuses recherches.
Les deux modèles prennent en charge plus de 100 langues et une fenêtre de contexte de 32K. Ils reclassent également des données semi-structurées telles que des enregistrements JSON, des tableaux et des YAML. La mise à niveau ne nécessite aucune réindexation. Les développeurs modifient le paramètre model et conservent leur recherche par mots-clés, vectorielle ou hybride existante.
Comment fonctionne Context Focus ?
Context Focus est une fonctionnalité optionnelle, désactivée par défaut. Un seul appel Rerank renvoie les scores des documents ainsi que des segments de caractères notés. Chaque segment comporte start et end des décalages dans le texte original. Les développeurs l'activent via le champ relevant_spans , avec une valeur threshold et max_spans .
Cohere l'a testé sur 30 jeux de données de QA. Supprimer la moitié du texte récupéré a conservé 96 % de la qualité des réponses. Supprimer les trois quarts en a conservé 87 %. Cohere indique que les équipes peuvent pousser jusqu'à 10 fois moins de contexte, au prix d'une certaine perte de qualité.
Dans un test d'agent de recherche sur 17 jeux de données, BM25 seul a obtenu 46 % de précision. L'ajout de Rerank 5 Pro l'a portée à 49 %. Context Focus, au seuil par défaut de 0.1, a réduit les jetons par tâche de 19 % et atteint 57 %. À 0.4, les jetons ont chuté de 34 % et la précision a atteint 58 %. Par rapport à BM25 seul, la pile complète a utilisé 35 % de jetons en moins. Sur 6 benchmarks de recherche approfondie, les jetons ont diminué de 41 % et la précision est passée de 39 % à 52 %.
Qu'est-ce que des scores de pertinence calibrés changent-ils ?
Les scores de Rerank 5 se lisent comme des probabilités. Un score de 0.7 signifie une probabilité de 70 % que le document soit utile.
L'équipe de Cohere a mesuré l'erreur de calibration attendue (ECE) par rapport à des évaluateurs humains en aveugle et aux évaluateurs de NIST TREC-DL. Rerank 5 obtient un score d'environ 0.06 sur les deux. Voyage AI Rerank 3 obtient 0.234 et 0.307. Rerank 4 Pro obtient 0.384 et 0.309. En pratique, les équipes de développement peuvent filtrer par seuil plutôt que par un top-k fixe. Un agent peut aussi détecter quand aucun contenu pertinent n'a été renvoyé.
Comment Rerank 5 se comporte-t-il sur les benchmarks ?
Tous les scores ci-dessous sont auto-déclarés par Cohere en utilisant RCP-nDCG@10, une variante du nDCG développée par Cohere. Cohere a exécuté lui-même les modèles concurrents.
Pro mène sur les quatre benchmarks principaux. Il obtient 92.2 sur ViDoRe V3, 90.4 sur BEIR, 82.2 sur BRIGHT et 87.3 sur nanoMTEB. BRIGHT montre le plus grand bond : 12.4 points de plus que Rerank 4 Pro.
Fast bat Voyage AI Rerank 3 Lite, Qwen3-Reranker-8B et Rerank 4 Pro sur les 4. Il égale Voyage AI Rerank 3 sur ViDoRe V3 à 90.6. Il est en retrait sur BEIR, 88.1 contre 88.6.
Sur les PDF analysés, en moyenne sur 47 jeux de données, Pro obtient 89.9 et Fast 88.5. Voyage AI Rerank 3 obtient 88.4. Pro se classe premier sur 14 des 19 langues non anglaises de la suite interne de Cohere.
Comment Rerank 5 se compare-t-il aux rerankers concurrents ?
| Caractéristique | Cohere Rerank 5 Pro | Cohere Rerank 5 Fast | Voyage AI rerank-3 | Voyage AI rerank-3-lite | Qwen3-Reranker-8B |
|---|---|---|---|---|---|
| Paramètres | Non divulgué | Non divulgué | Non divulgué | Non divulgué | 8B |
| Fenêtre de contexte | 32K | 32K | 32,000 | 32,000 | 32K |
| Langues | 100+ | 100+ | Non divulgué | Non divulgué | 100+ |
| Licence / accès | API propriétaire, VPC, on-prem | API propriétaire, VPC, on-prem | API propriétaire | API propriétaire | Poids ouverts Apache 2.0 |
| Prix de l'API pour 1M de tokens | $0.05 | $0.02 | $0.05 | $0.02 | Auto-hébergé |
| Extraction de passages | Context Focus | Context Focus | Non divulgué | Non divulgué | Non divulgué |
| BRIGHT* | 82.2 | 77.5 | 76.4 | 69.4 | 69.8 |
| ViDoRe V3* | 92.2 | 90.6 | 90.6 | 87.9 | 85.1 |
| BEIR* | 90.4 | 88.1 | 88.6 | 86.1 | 83.8 |
| nanoMTEB* | 87.3 | 85.1 | 83.9 | 80.7 | 82.1 |
| ECE, juges humains* (plus bas est meilleur) | 0.058 | 0.058 | 0.234 | 0.226 | Non divulgué |
*Les scores sont RCP-nDCG@10 ou ECE issus de L’article sur Rerank 5 de Cohere, mesuré par Cohere. Non vérifié de manière indépendante.
Comment les développeurs peuvent-ils déployer Rerank 5 ?
Rerank 5 est généralement disponible sur le API Cohere et Coffre-fort de modèles. Il fonctionne également sur Microsoft Foundry (Pro, Rapide») et Amazon SageMaker («Pro, Rapide»). Il est également disponible pour tous les utilisateurs de North. Les tarifs de l'API sont de 0,05 $ par 1M de tokens pour Pro et 0,02 $ pour Fast. Model Vault liste 4,00 $ par instance-heure « pour les deux niveaux sur son niveau Medium. »
Les intégrations incluent LangChain, Haystack, Elasticsearch et Weaviate, selon le documentation d'intégration.
Points essentiels à retenir
- Rerank 5 navires en Pro (0,05 $) et Fast (0,02 $) par 1M de tokens, tous deux avec un contexte de 32K.
- Pro obtient un score de 82.2 sur BRIGHT, soit 5.8 points de plus que Voyage AI Rerank 3.
- Context Focus renvoie des passages notés en 1 appel, réduisant les tokens de l'agent de 35 % à 41 %.
- Les scores calibrés atteignent environ un ECE de 0.06, donc 1 seuil fonctionne across domains.
- Tous les benchmarks sont auto-déclarés selon la métrique RCP-nDCG@10 de Cohere.
Découvrez le annonce officielle, la Changelog de Rerank 5 et le feuille de résultats complète. Tout le mérite revient au chercheur de ce projet. N'hésitez pas également à nous suivre sur Twitter et n'oubliez pas de rejoindre notre 150k+ML SubReddit et de vous abonner à notre Newsletter. Attention ! êtes-vous sur telegram ? vous pouvez maintenant nous rejoindre sur telegram également.
Besoin de vous associer à nous pour promouvoir votre dépôt GitHub OU votre page Hugging Face OU le lancement d'un produit OU un webinaire, etc. ? Connectez-vous avec nous
L'article Cohere lance Rerank 5 avec une focalisation sur le contexte au niveau des passages et des scores calibrés est appenu en premier sur MarkTechPost.