Kernpunkte
- Nous Research hat Alibabas Qwen3.8-27B feinjustiert, um chinesische Staatspropaganda aus den Antworten des Modells zu entfernen.
- Überwachtes Feintraining auf 53 Millionen Tokens senkte die Propagandarate von 22 auf unter ein Prozent, ohne die allgemeinen Fähigkeiten des Modells zu beeinträchtigen.
- Laut Nous zeigt das Arete-27B-Projekt, dass die politische Voreingenommenheit in chinesischen Open-Weight-Modellen nur oberflächlich ist; das Modell und die Trainingsdaten wurden öffentlich veröffentlicht.
Nous Research hat Alibabas Qwen3.8-27B auf 53 Millionen Tokens feinjustiert, um chinesische Staatspropaganda zu entfernen. Das daraus resultierende Modell, Arete-27B, senkt seine Propagandarate von 22 Prozent auf unter ein Prozent und behält dabei seine allgemeinen Fähigkeiten bei.
Arete-27B, ein neues Open-Weight-Modell von Nous Research, verspricht "westliche Werte" statt der Parteilinie aus Peking. Das US-Startup, das vor allem für seinen Open-Source-Agenten Hermesbekannt ist, feinjustierte dafür Alibabas Qwen3.8-27B .
Laut Nousgehören chinesische Open-Weight-Modelle zu den stärksten verfügbaren, enthalten aber staatlich vorgeschriebenes Verhalten, das in ihre Gewichte eingebrannt ist. Bei Qwen3.8-27B beobachtete das Team Verweigerungen, ausweichende Antworten und Antworten, die mit der Kommunistischen Partei Chinas übereinstimmen.
803 Prompts decken Meinungsfreiheit, Überwachung und Demokratie ab
Nous baute einen eigenen Test mit 803 Prompts in sieben Kategorien auf, darunter Meinungsfreiheit, Staatsideologie, Bildung, Privatsphäre und Überwachung, Demokratie und Umwelt. Für jeden Prompt definierte das Team zwei bis vier Fakten aus einem datierten Quellenartikel: Gesetze, Nachrichtenberichte oder Forschungspapiere. Ironischerweise dient der politisch rechts orientierte Grok 4.7 von Elon Musks xAI als Bewertungstmodell, das prüft, ob eine Antwort diese Fakten erwähnt, auslässt oder ihnen widerspricht.Werbung
Eine Antwort gilt als Propaganda, wenn sie Pekings offizielle Erzählung anstelle der Fakten wiedergibt, dieser zustimmt oder sie als gleichwertige Perspektive darstellt. Der Bewertungstmodus muss die konkrete Formulierung zitieren und weiß nicht, welches Modell die Antwort geschrieben hat. Das unveränderte Qwen3.8-27B erreichte 2.32 von 5 Punkten bei faktischer Genauigkeit, und 22 Prozent seiner Antworten enthielten Propaganda. Westliche Modelle wie Mistral Large 4 oder Gemma 4 31B lagen unter einem Prozent, während GLM-5.3 und DeepSeek V4.1 Flash lagen bei 15 und 16 Prozent.
Sogar Nvidias Nemotron zeigte Anzeichen einer chinesischen Voreingenommenheit
Wir haben uns entschieden Inkling von Thinking Machines Lab als Lehrermodell, weil ein offenes Modell die Nutzungsbedingungen nicht verletzen würde, die Destillation verbieten. Nvidias Nemotron 3 Ultra stand ebenfalls auf der Shortlist, aber Nous sagt, es gab Anzeichen von Unregelmäßigkeiten bei China-bezogenen Themen. Das Team vermutet, dass die Verzerrung aus dem Training auf chinesischen Open-Weight-Modellen übernommen wurde, und berichtet von ähnlichen Kontaminationen in eigenen Projekten. Thinking Machines selbst verwendete Modelle einschließlich des chinesischen Kimi K2.5 für Inklings synthetische Trainingsdaten.
Nous trainierte Qwen3.8-27B mit supervised fine-tuning auf etwa 53 Millionen Token über zwei Epochen, ohne Reinforcement Learning oder Preference Optimization. Das Team sagt, es habe Überlappungen zwischen Trainings- und Testprompts vorher entfernt.
Propagandarate sinkt von 22 auf unter ein Prozent
Arete-27B erreicht 2.98 bei faktischer Genauigkeit, und der Anteil propagandistischer Antworten sinkt auf 0.9 Prozent. Die größte Verschiebung zeigte sich in der Kategorie Meinungsfreiheit, wo der Faktenscore von 0.89 auf 2.44 sprang und die Propagandarate von 60 auf ein Prozent fiel. Mit aktiviertem Reasoning-Modus erreicht Arete 3.07, wobei diese Zahl bisher nur auf zwei von fünf Durchläufen basiert.Werbung
Allgemeine Fähigkeiten leiden laut Nous nicht. Auf dem internen Hermes Bench des Unternehmens erreicht Arete-27B 65.60 Prozent gegenüber 65.77 Prozent für das Basismodell. Bei Terminal-Bench 2.1 steigt der Score von 67 auf 70 Prozent, aber Nous nennt das keinen echten Zuwachs, weil sich die Testaufbauten unterschieden.
Das Team schließt, "dass die Bias-Schicht in einem China-orientierten Modell oberflächlich ist." "Sie wird spät aufgetragen, sie wird dünn aufgetragen, und fünfzig Millionen Token sorgfältig ausgewählter Supervision entfernen sie, ohne etwas darunter zu stören", schreibt das Unternehmen.
Nous bewegt sich von neutralen Modellen hin zu westlichen Werten
Mit Arete schlägt Nous eine andere Richtung ein als mit Hermes 3, das 2024 bewusst neutral war und darauf ausgelegt war, sich an jede im Systemprompt vorgegebene Weltanschauung anzupassen. Die Verzerrung chinesischer Modelle ist gut dokumentiert. 2025 fand NewsGuard, dass fünf führende Modelle, darunter Qwen, in 60 Prozent der Fälle pro-chinesische Desinformation wiederholten oder nicht korrigierten in 60 Prozent der Fälle.
CrowdStrike fand, dass DeepSeek unsichereren Code erzeugt wenn Abfragen Falun Gong, Tibet oder Taiwan erwähnen. Eine Studie von Aleph Alpha mit 967 politisch heiklen Fragen kam zu ähnlichen Ergebnissen: Bei Modellen von Alibaba, DeepSeek und Moonshot AI waren nur 17 bis 41 Prozent der Antworten ausgewogen.
Eine aktuelle ValsAI-Studie zeigt auch, dass nicht alle chinesischen Modelle sich gleich verhalten: GLM-5.3 Flash bestätigte ausdrücklich Menschenrechtsverletzungen, während Kimi K3 die Existenz von Internierungslagern leugnete. Sprache und Antwortformat hatten einen deutlichen Einfluss auf die Ergebnisse, und sogar westliche Modelle übernahmen gelegentlich offizielle Pekinger Positionen. Auch dort erwies sich gezieltes Fine-Tuning als hilfreich.
Nous Research sammelte 90 Millionen Dollar in einer Series-B-Runde im Oktober bei einer Bewertung von 1.5 Milliarden Dollar. Robot Ventures führte die Runde an, mit Nvidia und Samsung unter den Teilnehmern. Nous nutzt das Geld, um mit "Hermes for Businesses" in den Unternehmensvertrieb einzusteigen. Die Gewichte, der Testdatensatz und die Trainingsdaten für Arete-27B sind unter einer Apache 2.0 Lizenz auf Hugging Face.
Quelle: Nous Research