Cohere AI hat Rerank 5veröffentlicht, eine neue Reranker-Familie in den Stufen Pro und Fast. Cohere Rerank 5 ist ein Retrieval-Modell, das Suchergebnisse neu ordnet, bevor sie ein LLM erreichen. Es fügt 2 Entwicklerfunktionen hinzu: Context Focus, das relevante Absätze innerhalb jedes Dokuments zurückgibt, und kalibrierte Relevanz-Scores. Für RAG- und Agent-Entwickler lautet die Botschaft einfach. Senden Sie dem LLM weniger, aber bessere Tokens.
TL;DR
- Größe: Parameteranzahl nicht offengelegt. 32K-Token-Kontextfenster. Zwei Stufen:
rerank-v5.0-proundrerank-v5.0-fast. - Läuft auf: Hosted API, Model Vault, Microsoft Foundry, Amazon SageMaker oder privater VPC und On-Prem. Cohere benchmarkt die Geschwindigkeit auf einer einzelnen NVIDIA A100. Keine offenen Gewichte oder quantisierten Builds.
- Leistung: Pro belegt in Coheres eigener Bewertung Platz 1 bei 39 von 46 zusammengesetzten Datensätzen.
- Bestes Ergebnis: Pro erzielt 82.2 auf BRIGHT (RCP-nDCG@10), 5.8 Punkte über Voyage AI Rerank 3.
- Schlechtestes Ergebnis: Die mittlere Latenz von Pro beträgt 11.7 s pro 96-Dokument-Anfrage, gegenüber 4.1 s bei Fast.
Was ist neu in Cohere Rerank 5?
Rerank 5 erscheint als zwei Modelle. Pro zielt auf Rankingqualität bei reasoning-lastigen Abfragen und langen, domänenspezifischen Dokumenten ab. Fast zielt auf niedrige Latenz und hohen Durchsatz für Agents ab, die viele Suchen ausführen.
Beide Modelle unterstützen über 100 Sprachen und ein 32K-Kontextfenster. Sie ranken außerdem semi-strukturierte Daten wie JSON, Tabellen und YAML-Datensätze neu. Ein Upgrade erfordert keine Neuindexierung. Entwickler ändern den model Parameter und behalten ihre bestehende Keyword-, Vektor- oder Hybridsuche.
Wie funktioniert Context Focus?
Context Focus ist eine optionale Funktion, standardmäßig ausgeschaltet. Ein einzelner Rerank-Aufruf gibt Dokument-Scores plus bewertete Zeichenbereiche zurück. Jeder Bereich trägt start und end Offsets in den Originaltext. Entwickler aktivieren es über das relevant_spans Feld, mit einem threshold und einem max_spans Wert.
Cohere an 30 QA-Datensätzen getestet. Das Entfernen der Hälfte des abgerufenen Textes bewahrte 96% der Antwortqualität. Das Entfernen von drei Vierteln bewahrte 87%. Cohere sagt, Teams können auf 10x weniger Kontext gehen, albeit mit gewissem Qualitätsverlust.
In einem Search-Agent-Test über 17 Datensätze erzielte BM25 allein 46% Genauigkeit. Das Hinzufügen von Rerank 5 Pro erhöhte sie auf 49%. Context Focus mit dem Standard-Schwellenwert 0.1 senkte die Token pro Aufgabe um 19% und erreichte 57%. Bei 0.4 fielen die Token um 34% und die Genauigkeit erreichte 58%. Gegenüber BM25 allein verwendete der komplette Stack 35% weniger Token. Auf 6 Deep-Search-Benchmarks fielen die Token um 41% und die Genauigkeit stieg von 39% auf 52%.
Was ändern kalibrierte Relevanz-Scores?
Rerank 5 Scores lesen sich wie Wahrscheinlichkeiten. Ein Score von 0.7 bedeutet eine 70%ige Chance, dass das Dokument nützlich ist.
Das Cohere-Team maß den erwarteten Kalibrierungsfehler (ECE) gegenüber blinden menschlichen Bewertlern und NIST TREC-DL Assessoren. Rerank 5 erreicht etwa 0.06 bei beiden. Voyage AI Rerank 3 erzielt 0.234 und 0.307. Rerank 4 Pro erzielt 0.384 und 0.309. In der Praxis können Entwicklerteams nach Schwellenwert filtern statt nach einem festen top-k. Ein Agent kann auch erkennen, wenn nichts Relevantes zurückkam.
Wie schneidet Rerank 5 bei Benchmarks ab?
Alle folgenden Scores wurden von Cohere selbst gemeldet unter Verwendung von RCP-nDCG@10, einer von Cohere entwickelten Variante von nDCG. Cohere führte die Vergleiche mit den Konkurrenzmodellen selbst durch.
Pro führt alle vier Haupt-Benchmarks an. Es erzielt 92.2 auf ViDoRe V3, 90.4 auf BEIR, 82.2 auf BRIGHT und 87.3 auf nanoMTEB. BRIGHT zeigt den größten Sprung: 12.4 Punkte über Rerank 4 Pro.
Fast schlägt Voyage AI Rerank 3 Lite, Qwen3-Reranker-8B und Rerank 4 Pro bei allen 4. Es zieht mit Voyage AI Rerank 3 auf ViDoRe V3 bei 90.6 gleich. Es liegt dahinter auf BEIR, mit 88.1 gegenüber 88.6.
Auf geparsten PDFs, gemittelt über 47 Datensätze, erzielt Pro 89.9 und Fast 88.5. Voyage AI Rerank 3 erzielt 88.4. Pro belegt den ersten Platz bei 14 von 19 nicht-englischen Sprachen in Coheres interner Suite.
Wie vergleicht sich Rerank 5 mit konkurrierenden Rerankern?
| Merkmal | Cohere Rerank 5 Pro | Cohere Rerank 5 Fast | Voyage AI rerank-3 | Voyage AI rerank-3-lite | Qwen3-Reranker-8B |
|---|---|---|---|---|---|
| Parameter | Nicht offengelegt | Nicht offengelegt | Nicht offengelegt | Nicht offengelegt | 8B |
| Kontextfenster | 32K | 32K | 32,000 | 32,000 | 32K |
| Sprachen | 100+ | 100+ | Nicht offengelegt | Nicht offengelegt | 100+ |
| Lizenz / Zugriff | Proprietäre API, VPC, On-Prem | Proprietäre API, VPC, On-Prem | Proprietäre API | Proprietäre API | Apache 2.0 offene Gewichte |
| API-Preis pro 1M Token | $0.05 | $0.02 | $0.05 | $0.02 | Self-hosted |
| Passagenextraktion | Context Focus | Context Focus | Nicht offengelegt | Nicht offengelegt | Nicht offengelegt |
| BRIGHT* | 82.2 | 77.5 | 76.4 | 69.4 | 69.8 |
| ViDoRe V3* | 92.2 | 90.6 | 90.6 | 87.9 | 85.1 |
| BEIR* | 90.4 | 88.1 | 88.6 | 86.1 | 83.8 |
| nanoMTEB* | 87.3 | 85.1 | 83.9 | 80.7 | 82.1 |
| ECE, menschliche Bewerter* (niedriger ist besser) | 0.058 | 0.058 | 0.234 | 0.226 | Nicht offengelegt |
*Die Scores sind RCP-nDCG@10 oder ECE aus Cohere’s Rerank 5 Beitrag, gemessen von Cohere. Nicht unabhängig überprüft.
Wie können Entwickler Rerank 5 einsetzen?
Rerank 5 ist jetzt allgemein verfügbar auf der Cohere API und Modell-Tresor. Es läuft auch auf Microsoft Foundry (Pro, Fast) und Amazon SageMaker (Pro, Fast). Es steht auch allen North-Nutzern zur Verfügung. Die API-Preise betragen $0.05 pro 1M Tokens für Pro und $0.02 für Fast. Model Vault führt 4,00 $ pro Instanzstunde für beide Stufen auf seiner mittleren Stufe.
Zu den Integrationen gehören LangChain, Haystack, Elasticsearch und Weaviate, laut Cohere’s Integrationsdokumentation.
Die wichtigsten Punkte
- Rerank 5 ist in Pro (0,05 $) und Fast (0,02 $) pro 1M Tokens verfügbar, beide mit 32K Kontext.
- Pro erreicht 82.2 auf BRIGHT, 5.8 Punkte über Voyage AI Rerank 3.
- Context Focus liefert bewertete Passagen in 1 Aufruf und reduziert die Agent-Tokens um 35 % bis 41 %.
- Kalibrierte Scores erreichen etwa 0.06 ECE, sodass 1 Schwelle domänenübergreifend funktioniert.
- Alle Benchmarks wurden selbst gemessen und berichten auf Cohere's RCP-nDCG@10 Metrik.
Schauen Sie sich die offizielle Ankündigung, das Rerank 5 Changelog und die vollständige Ergebnistabelle. Alles Lob gebührt dem Forscher dieses Projekts. Folgen Sie uns außerdem gerne auf Twitter und vergessen Sie nicht, unserem 150k+ML SubReddit beizutreten und unseren Newsletterzu abonnieren. Moment! Sind Sie auf Telegram? jetzt können Sie uns auch auf Telegram beitreten.
Möchten Sie mit uns zusammenarbeiten, um Ihr GitHub-Repo ODER Ihre Hugging-Face-Seite ODER Ihr Produktrelease ODER ein Webinar usw. zu bewerben? Kontaktieren Sie uns
Der Beitrag Cohere veröffentlicht Rerank 5 mit Fokus auf Passage-Kontext und kalibrierten Scores erschien zuerst auf MarkTechPost.