AIbaseAktualisiert

面壁智能端侧多模态 MiniCPM-V 4.7 veröffentlicht: 13+ token/s mit 3GB Arbeitsspeicher

Mianbi Intelligence (面壁智能) hat das neue multimodale Endgeräte-Großmodell MiniCPM-V 4.7 veröffentlicht, in zwei Varianten: 35B-A3B und 1B. Das 35B-A3B ist das erste MoE-Modell der Familie und dank der…

Mianbei Intelligence (面壁智能) stellte am selben Tag das neue multimodale Endgeräte-Großmodell MiniCPM-V 4.7 vor und liefert gleich zwei Varianten: 35B-A3B und 1B. Dabei ist 35B-A3B das erste MoE-Modell (Mixture of Experts) der MiniCPM-V-Familie und dank der neuen LES-Beschleunigungstechnik „Forward-Looking Expert Scheduling" (vorausschauende Experten-Steuerung) für die Inferenz das erste Open-Source-MoE, das verlustfrei und flüssig auf Endgeräten laufen kann.

Die Zahl, die am meisten auffällt, ist die Praxisleistung: Auf dem iPhone 17 Pro Max benötigt sie lediglich 3GB Speicher und erreicht dabei eine Dekodiergeschwindigkeit von 13+ Token/s. Das bedeutet, dass Flaggschiff-Smartphones multimodale Inferenz lokal bewältigen können, ohne Daten in die Cloud senden zu müssen – mit doppeltem Vorteil für Privatsphäre und Latenz.

Plattformübergreifend einsetzbar, Feintuning-Lösung wird ebenfalls als Open Source veröffentlicht

Beim Anwendungsspektrum deckt 4.7 gleichzeitig die drei Systeme iOS, Android und HarmonyOS ab und ist mit Chip-Plattformen wie Intel, AMD, Arm, Rockchip und Houmo kompatibel, wodurch auch Mobile- und Local-Computing-Szenarien einbezogen werden. ModelBest veröffentlicht gleichzeitig auch die Feintuning-Lösung Self-Replay Fine-Tuning (SRFT), die Entwicklern hilft, Fähigkeiten kostengünstiger zu erweitern und Vergessen zu unterdrücken, was die Weiterentwicklung erleichtert.

Auch beim Leistungsvergleich ist sie nicht schwach: 35B-A3B erzielt im Instruct-Modus mit kürzerer Inferenzzeit einen höheren Gesamtwert als Qwen3.6 35B-A3B; die 1B-Version steigt im Vergleich zur vorherigen Generation 4.6 bei den Grundfähigkeiten weiter an, und sowohl der Gesamtwert als auch die Inferenzeffizienz liegen deutlich über denen von Qwen3.5 0.8B. In einer Zeit, in der Modelle am Endgerät immer kleiner werden, senkt ModelBest mit dieser Generation die Hürde für "MoE-Fähigkeit großer Modelle + lokaler Betrieb auf dem Smartphone" weiter.


Originalquelle

AIbase

Hinweise zum Inhalt

Originalveröffentlichung und Rechte liegen bei der Quelle.

Maschinelle Übersetzung · Original beachten