Am 9. November hat Baidu Wenxin erstmals die neuesten Fortschritte bei RSI bekannt gegeben und das automatische Forschungssystem ERNIE Evolve veröffentlicht, das an der Entwicklung von Wenxin 5.5 Flash beteiligt war. Es kann rund um Ziele und Randbedingungen eigenständig Forschungsrichtungen vorschlagen, Experimente durchführen, Ergebnisse validieren und Erfahrungen sammeln; es kann bestehende Wege kontinuierlich optimieren und auf Grundlage tatsächlicher Ergebnisse neue Richtungen erkunden. Bei drei Bewertungsmetriken der beiden Aufgaben NanoChat AutoResearch und NanoGPT Speedrun wurde jeweils die derzeit öffentlich verifizierte SOTA-Leistung erzielt. Derzeit wird ERNIE Evolve bereits für die Inferenzoptimierung des bald erscheinenden Wenxin 5.5 Flash eingesetzt, darunter die Leistungsoptimierung für Niedriglatenzszenarien auf dem Kunlunxin P800, die Optimierung des deterministischen Inferenz-Durchsatzes sowie die Optimierung der extremen Decodiergeschwindigkeit.
Benchmark-Leistung von ERNIE Evolve
Rekursive Selbstverbesserung (Recursive Self-Improvement, kurz RSI) ist derzeit eine der wichtigsten Forschungsrichtungen im globalen KI-Bereich. Der Kerngedanke besteht darin, die KI direkt am eigenen Entwicklungsprozess zu beteiligen, ihre eigenen Fähigkeiten kontinuierlich zu optimieren und so einen Kreislauf der Selbstverbesserung zu bilden. Mehrere Anbieter wie OpenAI, Anthropic, Tencent und Zhipu erforschen derzeit, RSI in die Modellentwicklung zu integrieren.
ERNIE Evolve organisiert die Forschung in einer doppelten Schleifenstruktur: Die äußere Schleife kombiniert historische Experimentierergebnisse mit vorhandenem Wissen, schlägt neue Forschungsrichtungen vor und legt mehrere parallele Forschungslinien an; die innere Schleife konzentriert sich auf eine bestimmte Richtung und führt fortlaufend Codeänderungen, Leistungsbewertungen und Erfahrungsspeicherung durch. Im System arbeiten mehrere Agenten arbeitsteilig zusammen: Der Director wählt Forschungsrichtungen aus, der Selector legt Ziel und Code-Startpunkt jeder Experimentrunde fest, und der Executor ändert den Code und erzeugt neue Versionen. Nach jeder Experimentrunde bewertet das unabhängige Bewertungsprogramm Evaluator die Codeleistung und die Experimentierergebnisse, während der Reviewer zusätzlich prüft, ob die Forschung vom Ziel abweicht oder ob Bewertungslücken bestehen. Nur Verbesserungen, die Bewertung und Überprüfung bestehen, werden beibehalten. Codeänderungen, Ergebnisse und Erfahrungen jeder Experimentrunde werden aufgezeichnet und dienen als Referenz für die weitere Forschung.
ERNIE-Evolve-Architektur
Nachdem ERNIE Evolve in die echte Inferenzoptimierung von Wenxin 5.5 Flash integriert wurde, erzielte das System in der Produktionsumgebung kontinuierlich erhebliche Gewinne.
· Bei der Optimierung für Niedriglatenzszenarien auf dem Kunlunxin P800 benötigte ERNIE Evolve rund 168 Stunden und durchlief 4 Runden der Richtungsexploration; es integrierte zunächst native Fusionsoperatoren und aktivierte Speculative Decoding, optimierte anschließend Host-Scheduling und Synchronisationsmechanismen sowie Kommunikationspfade, wodurch die Generierungsgeschwindigkeit der besten Version auf 623.6 % des Basiswerts gesteigert wurde.
· Bei der Optimierung des deterministischen Inferenz-Durchsatzes untersuchte ERNIE Evolve innerhalb von 3 Tagen in 3 Richtungen rund um deterministisches Sampling, deterministische Schalter und Operator-Parallelisierungsstrategien und steigerte unter strikter Wahrung der Determinismus den Durchsatz schließlich auf 133.7 % des Basiswerts, wobei sich die durchschnittliche Generierungszeit pro Token um 26 % verkürzte und die Latenz des ersten Tokens um 12 % sank.
· Bei der Optimierung der extremen Decodiergeschwindigkeit erforschte ERNIE Evolve insgesamt 7 Forschungsrichtungen, von denen 3 durch Optimierungen an MoE- und mHC-Operatoren, Matrixmultiplikation und Scheduling-Strategien sowie am kritischen Pfad des Draft-Modells wirksame Verbesserungen brachten; die Inferenzleistung wurde letztlich kumulativ auf 114.9 % des Basiswerts gesteigert, wobei die Genauigkeit dem Basiswert entspricht.
Alle genannten Änderungen haben die Stresstests und Korrektheitsprüfungen des Wenxin-Teams bestanden und wurden auf Produktionsniveau verifiziert.
Optimierungsprozess für die Niedriglatenzszenarien auf dem Kunlunxin P800
Optimierungsprozess für den deterministischen Inferenz-Durchsatz
Optimierungsprozess für die extreme Decodiergeschwindigkeit
Das Wenxin-Technikblog stellt fest, dass die Optimierung der Inferenz-Infrastruktur der erste Einsatzbereich von RSI in der echten Entwicklung ist. Künftig wird sich derselbe Forschungszyklus schrittweise auf die Optimierung von Trainingssystemen, die Erforschung von Modellfähigkeiten und die Iteration von Bewertungssystemen ausdehnen, um die KI dazu zu befähigen, Probleme selbstständig zu erkennen, Hypothesen aufzustellen, Experimente zu entwerfen und Ergebnisse zu validieren. Dieser Ausweitungsprozess wird innerhalb klar definierter Ziel-, Berechtigungs- und Ressourcengrenzen erfolgen und einer kontinuierlichen Sicherheitsbewertung sowie menschlicher Aufsicht unterliegen.
Am 5. November hat Baidu das neueste Basismodell Wenxin 5.5 Flash Base offiziell als Open Source veröffentlicht; das Modell erzielte bei mehreren Benchmarks in den Bereichen Wissen, Schlussfolgern, Mathematik, Code, Mehrsprachigkeit und langen Kontexten SOTA-Leistungen unter Modellen gleicher Größe. Personen mit Nähe zu Baidu verrieten, dass das neue Wenxin-Modell in Kürze erscheinen könnte.
· Technikblog: https://ernie.baidu.com/zh/research/posts/ernie-evolve/