Der Wettbewerb um inländische große Modelle erstreckt sich von der Modellebene auf die Rechenleistungsebene: Selbst die stärksten Modelle müssen letztendlich auf Operatoren basieren, die auf Chips ausgeführt werden. Das gleiche Modell, derselbe Chip – mit einem besseren Operator kann man manchmal eine mehrere Male höhere Leistung erzielen. Die Effizienz der Operatoren bestimmt, wie schnell dieselbe Grafikkarte arbeiten kann und auch den Preis jedes Tokens.
DeepSeek hat kürzlich das gesamte Open-Source-Rechenframework DeepInfer freigegeben. Nach den Modellgewichten und Bibliotheken für Operatoren wie FlashMLA und DeepGEMM hat das Unternehmen nun auch die Kommunikation des Modelllaufs offen gelegt. Dabei gibt es eine Version von FlashMLA, die von Ingenieuren auf dem Chip line-by-line eingestellt wurde; die Leistung des Operators erreicht über 90 % des Hardware-Limits – das ist der aktuelle Grenzwert menschlicher Fertigkeit auf einigen Chips.
Und dieses Limit wurde in derselben Woche von der AI aktualisiert. Berichten zufolge erreichte ForgeKernel am 22. Oktober, das vollständig von der AI erstellt wurde und keine menschliche Anpassung pro Zeile erforderte, gleichzeitig die Spitze zwei Operator-Testlisten: Erstes auf der Plattform von Nvidia in der SOL-ExecBench FlashInfer-Bench-Kombi und erstes auf der CANNBench A3 Hardware-Liste, die vom offiziellen Repository von昇腾 betreut wird, mit einem Benchmark-Faktor von 1,835× und 25% vor dem zweiten Platz. Abgesehen von den Platzierungen ist die Fähigkeit der autonomen Optimierungsoperatoren von AI nicht zu unterschätzen: Bei den Operatoren von DeepSeek v4.1 Flash hat ForgeKernel im Vergleich zur offenliegenden NVIDIA-Version von DeepSeek durch die AI-iterative Entwicklung von 0 eine Leistung, die übertrifft.
Dies ist eine接力tätige Intelligenzentwicklung. Egal ob der Open-Source-Geist von DeepSeek oder der harten Wettbewerb bei den Optimierungen der Operatoren – letztendlich führt alles in dieselbe Richtung: Damit chinesische Künstliche Intelligenz auf jedem Chipsatz schneller funktioniert.
NVIDIA SOL-ExecBench FlashInfer-Bench
Sungeng CANNBench A3 Hardware Rangliste