Kernpunkte
- Das KI-Startup Inception hat Mercury 3 veröffentlicht, ein Diffusionsbasiertes Sprachmodell. Statt Text Wort für Wort zu schreiben, verfeinert es schrittweise einen groben Entwurf der gesamten Antwort. Laut Inception macht dies das Modell viel schneller als Standardmodelle.
- In Inceptions internen Benchmarks generiert Mercury 3 mehr als 1,000 Token pro Sekunde auf Nvidia-GPUs. Es liegt in acht von 12 Tests vor Konkurrenten wie GPT-6 Luna und Claude Haiku 5.5.
- Das Modell kann bis zu 1 Million Token auf einmal verarbeiten und nutzt eine OpenAI-kompatible API. Inception hat es hauptsächlich für Echtzeit-Apps entwickelt, bei denen Geschwindigkeit zählt, wie autonome KI-Agenten, Smart Glasses und Kundensupport.
Nach Angaben von Inception schlägt das neue Sprachmodell Mercury 3 GPT-6 Luna und Claude Haiku 5.5 bei einer Reihe von Benchmarks und läuft dabei vier- bis achtmal schneller.
In seiner Ankündigungnennt das Unternehmen Mercury 3 das leistungsfähigste Diffusion-Sprachmodell, das bisher veröffentlicht wurde.
Die Geschwindigkeit ergibt sich aus der Bauweise des Modells. Modelle wie GPT oder Claude schreiben ein Wort nach dem anderen, sodass jedes neue Wort auf das vorherige warten muss. Diffusionsmodelle sind vor allem aus der Bildgenerierung bekannt. Sie skizzieren zuerst eine grobe Version der gesamten Antwort und verfeinern sie dann über mehrere Durchläufe, wobei sie viele Wörter auf einmal generieren. Googles technischer Bericht zu DiffusionGemma erklärt die Grundidee.
Mercury 3s Vorsprung ist geringer als die Ankündigung vermuten lässt
Inceptions eigene Benchmark-Tabelle zeichnet ein differenzierteres Bild. Mercury 3 gewinnt acht von 12 Tests, wobei alle drei Modelle mit mittleren Einstellungen laufen. Der Abstand ist beim Befolgen von Anweisungen am größten. Bei IFBench erreicht Mercury 3 76.84 Punkte, 15 mehr als GPT-6 Luna. Beim autonomen Programmieren auf SWE-Bench Atlas führt es ebenfalls deutlich mit 51.08 Punkten, während die Konkurrenten 33.33 und 32.26 erreichen.Ad
Claude Haiku 5.5 gewinnt den längeren Programmierungstest DeepSWE. Es ist auch besser darin, Informationen in langen Texten zu finden. GPT-6 Luna liegt bei zwei Tests von Artificial Analysis leicht vorn. Inceptions kurze Übersicht ist vorsichtiger und beschreibt Mercury 3s Qualität als gleichauf oder besser.
Laut Inception generiert Mercury 3 1,068 Token pro Sekunde auf Nvidia-GPUs. Im Vergleich des Unternehmens schafft Claude Haiku 5.5 etwa 240 und GPT-6 Luna etwa 130. Unabhängige Tests gibt es noch nicht.
Inception sagt, Mercury 3 habe mehr als 40-mal so viele Parameter wie Mercury 1 laufe aber genauso schnell. Die Leistung hat sich auch seit dem kleinen Mercury 1 mini verdreifacht. Inception sieht darin ein Zeichen dafür, dass Diffusionsmodelle beim Skalieren zuverlässig besser werden, genau wie Standard-Sprachmodelle. Die genaue Parameteranzahl bleibt unveröffentlicht.
Mercury 3 zielt auf Apps, bei denen sich kleine Verzögerungen summieren
Inception bewirbt Mercury 3 hauptsächlich für KI-Agenten, Suche, Kundensupport und Nachhilfe. KI-Agenten erledigen Aufgaben in vielen einzelnen Schritten und warten bei jedem einzelnen auf das Modell. Diese kleinen Verzögerungen summieren sich schnell.Ad
Partner mit Frühzugang teilen ihre Ergebnisse in der Ankündigung, und die meisten konzentrieren sich ebenfalls auf Geschwindigkeit. Octen AI baut Suchfunktionen für Smart Glasses. „Bei Smart Glasses fühlt sich eine Antwort an, die fünf Sekunden dauert, kaputt an", sagt Gründer Kuan Zou. Die Suche selbst dauerte nur etwa 80 Millisekunden, das Sprachmodell sei der Flaschenhals gewesen. Mit Mercury 3 kam die Antwort im Median nach 0.9 Sekunden. Der gesamte Prozess dauerte 2.2 Sekunden.
Das Bildungsunternehmen General Learning sagt, es liefert Schülern jetzt Hinweise und Korrekturen in etwa einer Sekunde. Der Kundenservice-Anbieter Lorikeet meldet schnellere Reaktionszeiten zusammen mit besseren Ergebnissen. Bei TinyFish AI sagt Co-Founder Shuhao Zhang, Mercury 3 erhielt 50 Navigationsaufgaben auf echten Websites. Es löste 25 und schlug damit GPT-6.1-Sol. Für das OpenAI-Modell nennt Zhang keine Zahl.
Mercury 3s niedriger Einführungspreis hält möglicherweise nicht lange
Der reguläre Preis beträgt $0.20 pro Million Eingabe-Token und $0.70 pro Million Ausgabe-Token. Zum Start halbiert Inception die Preise. Wann der Rabatt endet, hat das Unternehmen nicht gesagt. Danach würde Mercury 3 für Ausgaben mehr kosten als GPT-6 Luna und Claude Haiku 5.5, zumindest bei kürzeren Eingaben, wo beide $0.50 verlangen. Bei sehr langen Prompts verlangen beide Konkurrenten allerdings deutlich mehr. Mercury 3 kann bis zu 1 Million Token auf einmal verarbeiten.
Das Modell ist auf Inceptions eigener Plattform sowie auf OpenRouter, Baseten und Vercel verfügbar. Es nutzt dieselbe API wie OpenAIs Modelle, sodass Entwickler laut Inception mit wenig Aufwand wechseln können.
Im Februar veröffentlichte Inception Mercury 2, das es das erste Diffusionsmodell nannte, das vor der Antwort Zwischenschritte durchdenkt. Davor hatte das Startup 50 Millionen Dollareingeworben. Zu den Investoren gehören NVentures, M12 und Snowflake Ventures, die Risikokapitalarme von Nvidia, Microsoft und Snowflake.
Google arbeitet an demselben Ansatz. Der Gemini Diffusion -Demo folgte im Juni das offene Modell DiffusionGemma. Google sagt, es laufe bis zu viermal schneller als das standardmäßige Gemma 4, liefere aber etwas schwächere Ergebnisse.
Quelle: Inception Labs / Mercury 3