Veröffentlichung v5.20.0

Neue Modelle hinzugefügt

Muse Spark Open

Muse Spark Open ist ein multimodales Expertenmodell von Meta, das Text, Bilder, Audio und Video als Eingangsbedingungen verwendet und Text erzeugt. Es verfügt über insgesamt 816B Parameter (42B aktive Parameter pro Token) sowie eine Kontextfenstergröße von bis zu 1.048.576 Tokens, die zwischen den Modi geteilt werden. Das Modell wird für agentische Programmieraufgaben wie mehrteilige Bearbeitung, Fehlersuche und Toolnutzung trainiert. Checkpoints sind in BF16- und NVFP4-Formaten verfügbar.

Links: Dokumentation | Blogartikel * Add Muse Spark Open (#49644) von @guarin in #49644

Ling 3.0

Ling 3.0 Flash ist ein hybrides Sprachmodell aus Expertenmischung von InclusionAI. Seine Decoder gruppiert fünf Kimi Delta Attention (KDA)-Schichten mit einer Multi-head Latent Attention (MLA)-Schicht. Die MLA-Blöcke verwenden interleaved rotierende Embeddings und eine Kopf-weise Ausgabengate, während die feed-forward Blöcke routeden und gemeinsamen Experten kombinieren. Es wird nativ in Transformers als BailingHybridForCausalLM unterstützt, sodass es ohne trust_remote_code=True geladen werden kann.

Links: Dokumentation * [Model] Hinzufügen von nativem Ling 3.0 Flash-Unterstützung (#49446) durch @icavan in #49446

Kolibri1

Kolibri 1 ist das Mischungsmodell des Expertenrechnens von Aleph Alpha, das sich auf Deutsch und Englisch konzentriert. Jeder seiner 50 Schichten leitet jedes Token zu 6 von 384 Experten über mittels Sigmoid-Routing und fügt einen gemeinsamen Experten hinzu. Vier Sliding-Window-Attention-Schichten wechseln sich mit einer vollständigen Attention-Schicht ab, und RoPE wird nur in den Sliding-Window-Schichten angewandt.

Links: Dokumentation * Kolibri 1 (#49463) von @lucamotz in #49463 hinzufügen

MiniCPM-V 4.7

MiniCPM-V ist eine Reihe effizienter multimodaler großer Sprachmodelle, die von OpenBMB entwickelt wurden. Wie MiniCPM-V 4.6 verfügt auch die Architektur von MiniCPM-V 4.7 über einen SigLIP-Vision-Encoder mit Fenster-Attention-Merger und ein Qwen3.5-Sprachmodell-Backbone, und unterstützt sowohl die 4x- als auch die 16x-visuelle Abstandsreduktions-Modi.

Der wichtigste Zusatz zu 4.6 ist canvas M-RoPE: anstatt visuelle Tokens in einer einzigen 1-D-Sequenz zu nummerieren, platziert das Modell jede Bildstelle auf einem 2-D-Canvas und gibt jedem visuellen Token eine (temporal, height, width) Position, sodass die Abschnitte desselben Bildes ihre räumliche Beziehung beibehalten und die Video-Frames ihre zeitliche Reihenfolge.

• Mehr Fehler beheben (#48979) durch @zucchini-nlp in #48979

UnlimitedOcr

UnlimitedOcr ist ein einzelnes OCR-Modell mit 3B-Parametern von Baidu und verfügt über eine standardmäßige Kontextlänge von 32.768 Tokens. Es basiert auf DeepSeek OCR und ersetzt alle Decoder-Attention-Schichten durch Reference Sliding Window Attention (R-SWA). Dadurch bleibt der KV-Cache während der Decodierung konstant, sodass das Modell Dutzende von Seiten in einer einzigen Vorwärtspass transkribieren kann. Es unterstützt den „Gundam“-Modus (640x640-Tiles mit dynamischem Crop) und den „Base“-Modus (eine einzelne 1024x1024-Vorstellung), und es kann Regionen mit Bounding-Boxen erkennen und ausgeben.

Links: Dokumentation | Papier * Add Unlimited OCR (#46836) von @guarin #46836

UltraBERT

UltraBERT ist eine Familie von bidirektionalen Textkodierern, die mit einer Kombination aus Maskierungsraten, Pruning und Distillation für Klassifizierungs- und Suchestellenaufgaben trainiert wurden. Die veröffentlichten Kodierer unterstützen Sequenzen von bis zu 32.768 Tokens. Sie verwenden rotierende Positionseinsatzdaten, RMSNorm, SwiGLU-Feedforward-Schichten sowie abwechselnd lokale und globale Aufmerksamkeit (jede dritte Schicht ist global). Die Checkpoints umfassen UltraBERT-150M und UltraBERT-380M für das maskierte Sprachmodellieren und das Feinjustieren sowie UltraBERT-Embed-150M für Text-Embeddings.

Links: Dokumentation | Papier * Integrieren Sie die UltraBERT-Architektur (#49596) von @tomaarsen #49596

MOSS-Transkribieren-Diagnostizieren

MOSS-Transcribe-Diarize 0.9B ist ein end-to-end Audio-Verständlungsmodell für die Transkription von langen Audio-Dateien mit mehreren Sprechern, die Diarisation der Sprecher sowie Zeitstempel. Es kombiniert einen Whisper-artigen Encoder, einen 4× Frame-Merge-Schritt, einen multi-modalen Projektor und ein Qwen3-Language-Modell. Es erzeugt gemeinsame Transkription und Diarisation in einer einzigen Durchgang, wobei die Segmente als [start][S01]text[end] formatiert sind. Es unterstützt lange Audio-Dateien durch Whisper-Window-Chunking im Prozessor, promptable Transkription mit Hotword-Bias und mehr als 50 Sprachen.

Links: Dokumentation * Hinzufügen des MOSS-Transcribe-Diarize-Modells (#48386) durch @itazap in #48386

Breakpoint-Änderungen

🚨 Allgemeine Break-Warning: Die Inferenz mit EP zeigt Rückfälle in der Geschwindigkeit; wir arbeiten daran, dies so schnell wie möglich zu beheben! 🚨

Deprecated Prüfungen und Methoden wurden aus cache_utils.py entfernt (dies betrifft Modelle wie minimax_m3_vl und pi0), sodass jeder Code, der noch diese veralteten Cache-Methoden verwendet, auf die aktuelle Cache-API umstellen muss. * 🚨 Entfernen der veralteten Cache-Utils-Methoden (#49605) durch @guarin

Unbeabsichtigte Importe aus anderen Modellen wurden aus mehreren Modelfiles entfernt (z. B. embedding_gemma2, ijepa, lightglue), und der modulare Konverter vermeidet nun das Hinzufügen solcher cross-Modell-Importe. Wenn Sie diese Namen durch die jeweiligen Modulen importiert haben, importieren Sie sie stattdessen aus den ursprünglichen Modulen. * 🚨 Entfernen Sie Importe aus anderen Modellen (#49473) durch @guarin

Der minimale kernels Die Version ist jetzt 0.17.2, was erlaubt use_fallback=KernelizeFallback.ALL damit ein fehlgeschlagenes Kernel- Laden auf die ursprüngliche Implementierung zurückgeht und nicht ein Fehler ausgelöst wird. Upgradieren kernels bis 0.17.2 oder neuer. * 🚨 Erhöhen des Minimum-Kernels auf 0.17.2 für eine bessere Abwärtsfehlerbehandlung (#49235) von @SunMarc

Ein neuer SubConfigSpec bündelt die Initialisierung von Sub-Configs, sodass die Standard-Sub-Configs aus den Feldern der Dataclass stammen und nicht durch die Instantiation der Klasse erstellt werden. Dies betrifft die Konfigurationswerkzeuge sowie viele Modellkonfigurationen. Custom- oder bestehende eingebettete Configs müssen möglicherweise aktualisiert werden, um ihre Sub-Configs durch dieses Verfahren zu deklarieren. * :rotating_light: SubConfigSpec für die zentrale Initialisierung von Sub-Configs (#48282) von @zucchini-nlp

Die LUKE- und mLUKE-Tokenizer behandeln nun spezielle Tokens wie <ent> als besondere Tokens (nicht getrennt, werden durch skip_special_tokens ignoriert, normalisiert), während die gleiche Abstandsregel wie für normale Wortschätze bei der Decodierung gelten. Die Tokenisierung und Decodierungergebnisse, die diese Tokens enthalten, können daher von vorher unterschiedlich sein, also prüfen Sie alle Code- oder gespeicherten Ergebnisse, die auf das alte Verhalten angewiesen sind. * 🚨🚨🚨 luke fixe (#48408) von @itazap

Exporter

Die Exporter von Transformers unterstützen jetzt die Quantifizierung direkt während der Exportung in Dynamo, ONNX, OpenVINO und ExecuTorch. Die neue einheitliche QuantifizierungsAPI integriert PT2E, ONNX Runtime und NNCF-Quantizer, wodurch sowohl statische als auch dynamische Quantifizierung sowie Gewicht-spezifische Komprimierung (INT8/INT4) möglich sind, mit konfigurierbaren Kalibrierungsprozessen. Dadurch wird es einfacher, optimierte Modelle für eine effiziente Inferenz auf verschiedenen Backends zu exportieren.

Für weitere Informationen siehe die Dokumentation: https://huggingface.co/docs/transformers/exporters_quantization

Parallellisierung

Diese Veröffentlichung verbessert die verteilte Trainierung und Inference. FSDP × TP-Model- und Optimierer-Checkpoints können nun zwischen verschiedenen Parallelkonfigurationen gespeichert und geladen werden. Die Expert-Parallel-Distriktion, die Tensor-Parallel-Pläne, der statische Cache generate() sowie die Anzahl der Bytes des Caching-Allocators wurden korrigiert. Die verbundenen LM-Heads in kompositeren Modellen erhalten nun ihre eigene TP-Plan-Eintragung. enable_expert_parallel führt wieder allein den EP-Plan aus. Das TPU-Laden verwendet `tor`.

• FSDP x TP Speicherung/Laden, Optimierer (#49256) von @michaelbenayoun in [#49256]
• FSDP x TP Saving / Loading (#48802) von @michaelbenayoun in [#48802]
• Setzen Sie für die Gloo-Tensor-Parallel-Tests nicht ein Gerät pro Rang ein (#49636) von @IlyasMoutawwakil in [#49636]
• fix(distributed): Behalten „enable_expert_parallel“ als EP allein (#49633), von @dacorvo in [#49633]
• Beheben Sie einen Rennmodus bei der Portzuweisung in den FSDP-Tests (#49455) durch @icavan in [#49455]
• Expert-parallel Dispatch übermittelt den Experten die erhaltenen Zeilen, nicht das ausstehende Ergebnis aller zu allen (#49421) von @IlyasMoutawwakil in [#49421]
• Fixen Sie die `static-cache generate()`-Funktion mit Hostseitigen Eingaben und unter TP (#49317) durch @dacorvo in [#49317]
• Komposite LM-Head-TP-Plan (#49080) von @IlyasMoutawwakil in [#49080]
• Fix: Verwenden Sie die Device-APIs von torch.accelerator, damit das TP-Laden wieder auf TPU funktioniert (#49502) von @tengomucho in [#49502]
• Zähle ep und fsdp im Berechnungsvorgang von caching_allocator_warmup byte (#49384) durch @3outeille in [#49384]
• Verpacken Sie das Modell nicht mit FSDP für die Experten-parallel-Token-Verteilung (#49383) von @3outeille in [#49383].

Generierung

Diese Veröffentlichung behebt die Fehler in der generate() Funktion von static-cache bei Hostseitigen Eingaben und unter Tensor-Parallelität. Sie beschleunigt außerdem die Whisper-Generierung auf TPU, indem die Geräte-Synchen und die erneute Kompilierung reduziert werden, und behebt das Decodieren der Batched-Timestamps für Tensor- und NumPy-Eingaben. Die Pipelines erhalten eine Überarbeitung des Handlings der Generationsargumente, wodurch unnötige Warnungen entfernt werden.

• Job hinzufügen, um das automatisch generierte Intel-CPU-Docker-Image (#49560) von @regisss in [#49560] zu erstellen
• Bilddekodierung wird in torchcodec (#47963) durch @zucchini-nlp umgesetzt in [#47963]
• Optimierung der Whisper-Generierung für TPU und Gerätesynchronisation (#49426) durch @tengomucho in [#49426]
• Generierung der Reinigung in Pipelines (#49269) von @Rocketknight1 in [#49269]
• Fix Whisper-Batch-Timestamp-Dekodierung für Tensoren (#49419) von @Kingofbooks in [#49419]

Vision

Die Visionverarbeitung wurde an mehreren Stellen aktualisiert. Die Bilddekodierung verwendet jetzt torchcodec, die kwargs für Bilder und Videos von Molmo2 folgen den Standardkonventionen der Bibliothek, und Pixtral Flash Attention erkennt nach der Refactoring-Änderung des axialen RoPE nicht mehr falsche Bildgrenzen, was zu CUDA-Illegalen Speicherzugriffen und fehlerhaften Ausgaben führte. Auch mehrere Änderungen in CI und Docker wurden bereitgestellt: Die GPU-Bilder wurden auf Python 3.11 verschoben, es kam zu einem Konflikt zwischen numpy/pyarrow.

• Beheben Sie den Konflikt zwischen numpy/pyarrow in der XPU-Docker-Image (#49582) durch @jiqing-feng in [#49582]
• CI: GPU-Images in Python 3.11 verschieben (#49352) von @tarekziade in [#49352]
• Auf den Status der molmo2-Processing von Bildern/Videos mit kwargs (#49563) durch @guarin in [#49563]
• Beschleunige die Bildgrenzen von Pixtral Flash Attention nach der axialen RoPE-Refactoring (#49373) durch @oliverholworthy in [#49373]

Kernen

Diese Veröffentlichung verbessert die Kernel-Unterstützung für verschiedene Hardware. flash_attention_2 weicht nun bei fehlender Installation von flash-attn auf den AITER-Kernel auf ROCm zurück, und T5-Style-Modelle erhalten eine kontinuierliche SDPA-Positionseinstellungs-Maske, sodass sie wieder gefusekte Kernels verwenden. Der Hub-Rotations-Kernel ist nun auf CUDA-Inference beschränkt, da seine Rückwärtspass die Gradienten falsch lieferten. Die Atlas Inference Gated DeltaNet-Kerne für Strix Halo…

• Rückkehr zum AITER-Kern für flash_attention_2 auf ROCm (#49608) durch @Abdennacer-Badaoui in [#49608]
• Machen Sie die SDPA-position_bias-Maske kontinuierlich, damit Modelle im T5-Stil gefusede Kerne verwenden (#49517) von @IvenHsu01 in [#49517]
• Verwenden Sie den Hub-Rotary-Kernel für die Inferenz nur unter CUDA (#49439) von @qgallouedec in [#49439]
• [Atlas Inference] Aktivieren Sie torch Compile für den Strix Halo Gated DeltaNet-Hub-Kernel (#49453) durch @AzeezIsh in [#49453]
• [Atlas Inference] Beheben Sie den GB10 Gated DeltaNet-Hub-Kernel für Transformers 5.17+ und aktivieren Sie torch.compile (#49452) durch @AzeezIsh in [#49452]

Cache

Diese Veröffentlichung behebt mehrere cachebezogene Fehler: static-cache generate() Jetzt handelt es sich korrekt mit Hostseitigen eingebetteten Eingaben und Tensor-Parallellität, die entladenen Cache-Prefetch verursacht keine Rassenverzögerung mit der Entlade-Kopie, und die Wiederherstellung der Phi3 LongRoPE-Cache an der Kontextgrenze erhält nun den vollständigen Prefix. Es zählt auch das Anfrage-Token im schließenden Fenster von MiMo-V2-Flash und korrigiert die dokumentierte Dokumentation für die quantisierte Cache (hqq/quanto).

• Bessere Offloading-Cache-Prefetch-Performance durch die Offloading-Kopie (#49363) von @qgallouedec in [#49363]
• docs: Aktualisieren des quantisierten Caches für hqq/quanto Beispiele und Dokumentation (#47212) durch @DavidJohnQuinlan in [#47212]
• [MiMo-V2-Flash] Zähle den Query-Token im Sliding Window (#49170) von @guapisolo in [#49170]
• Fix Phi3 LongRoPE-Cache-Reparatur am Kontextgrenzpunkt (#49361) durch @LE0-Lin in [#49361]

Fehlersuche und Verbesserungen

• [docs] Hardware-Dokumententemplate (#49575) von @stevhliu in [#49575]
• Hinzufügen der MIC-Kontrakt-lock-Dateien für die PR-CI-Integration (#49631) durch @ydshieh in [#49631]
• Verwenden Sie die aiter-rope-Version 3 auf ROCm (#49595) von @Abdennacer-Badaoui in [#49595]
• Methoden, die fehlen, aus den Dokumenten entfernen (#49637) durch @guarin in [#49637]
• torch.mm(..., out_dtype=...) in ONNX zu übersetzen (#49635) von @IlyasMoutawwakil in [#49635]
• [docs] Hardware-Sektion (#49541) von @michaelbenayoun in [#49541]
• Erhöhen, wenn ein Torch-Fallback die Grenzen der gepackten Sequenz fallen lässt (#49474), von @qgallouedec in [#49474]
• Fa gepackte Sequenz Dekodieren (#49610) von @SunMarc in [#49610]
• Fixen des eingebetteten set_attn_implementation (#49138) durch @eustlb in [#49138]
• feat: MTP-Unterstützung für Mellum2/2.1 hinzufügen (#49531) von @shadeMe in [#49531]
• Erweitern der Tests für ONNX-Exporter auf Non-Cuda-Geräte (#49627) von @kaixuanliu in [#49627]
• Dokumentation der Videoprozessorkonfigurationen (#49470) von @DimensionSTP in [#49470]
• Die sinusoide Position-Embeddingen kompilierbar machen (#49482) von @jiqing-feng in [#49482]
• Speichern Sie den PEFT-Adapter eines Modells mit Schritt-zeit-Segmentierung aus seinen eigenen Parametern (#49500) durch @qgallouedec in [#49500]
• Fix: Der Typ der MTP-Schicht wird an die per-Schicht-Typ-Rotierende Einfügungen übergeben (#49468), von @shadeMe in [#49468].
• LFM2 zum GGUF-Ladepath (#49400) hinzufügen von @francip in [#49400]
• Fügen Sie die MtpModel-Helper für Frameworks hinzu, die den Entwurfszyklus beherrschen (#49544), von @hmellor in [#49544].
• Erstellen Sie Dokumentationen mit der Python-Version aus .python-version (#49603) durch @tarekziade in [#49603]
• Verwenden Sie mlp_layer_types für AXK1, damit die Anordnung der MoE-Schicht die moe_layer_freq (#49518) entspricht, wie von @hmellor in [#49518] vorgesehen.
• Kombiniere die Kommentare zum langsam laufenden CI für Nvidia+AMD in einen (#49598), von @ydshieh in [#49598]
• Beheben Sie die fehlerhaften Teste für den Streamer-Timer (#49583) durch @tarekziade in [#49583]
• Beschleunige die Probleme bei den TPU-verwandten Tests (#49568) durch @tengomucho in [#49568]
• fix(distributed): Binden der TPU-Ränge an den Geräteindex 0, nicht LOCAL_RANK (#49543) von @tengomucho in [#49543]
• Verwenden Sie `transformers init` überall (#49573) von @guarin in [#49573]
• [docs] Kontextparallelschaltung während der Evaluierung (#48663) von @stevhliu in [#48663]
• Entfernen Sie die Beispiele (#49357) durch @SunMarc in [#49357]
• Akzeptieren Sie Ganzzahlfloats für die integeren Argumente des Tools in parse_response (#49547), von @yonigozlan in [#49547]
• Update des Intel-CPU-Dockerfiles (#49408) von @jiqing-feng in [#49408]
• Hinzufügen des fehlenden Auto-Docstrings für den Videoprozessor (#49569) durch @guarin in [#49569]
• Hinzufügen der Sanierung des Chat-Inputs (#47386) durch @Rocketknight1 in [#47386]
• Beheben Sie das Absturzproblem von create_chunked_causal_mask() mit block_sequence_ids (#49457) durch @kaixuanliu in [#49457]
• Fixe die Signatur von SinglePositionMultiTokenCandidateGenerator (#49413) durch @jiqing-feng in [#49413]
• Minicpm 4.7 Update Integration Tests (#49565) von @zucchini-nlp in [#49565]
• Hören auf, HunYuan’s DynamicNTKAlpha RoPE als dynamisch zu behandeln (#49445) von @jiqing-feng in [#49445]
• Fix Gemma3nVision2TextModelTest::test_model_parallelism split (#49562) von @tarekziade in [#49562]
• Fixe den UnboundLocalError in der SuperPoint-Funktion unter torch.compile (#49409) durch @kaixuanliu in [#49409]
• Bewahren der gelösten Remote-Backend-Referenzen in AutoVideoProcessor (#49511) durch @DimensionSTP in [#49511]
• Fixen Sie die Vorschläge für eine langsame CI-Übung im PR: Installieren Sie Transformers in einer venv (#49558) von @tarekziade in [#49558]
• Fixen Sie die Vorschläge für eine langsame CI-Integration: Installieren Sie Transformers, es fällt auf Skriptfehlern ab (#49549) von @ArthurZucker in [#49549]
• Entfernen der veralteten Daten-Hilfen (#49360) durch @SunMarc in [#49360]
• Beheben Sie test_all_params_have_gradient für absichtlich gefrorene Parameter (#49264) durch @thillai-c in [#49264]
• Flex attn Fix für molmo2 Test (#49530) von @molbap in [#49530]
• Fixen Sie das Bug im Formulier der Cross-Attn-Maske von Bridgetower (#49447), von @kaixuanliu in [#49447]
• Verwenden Sie Siglip2Tokenizer, wenn die Hub-tokenizer_class GemmaTokenizer (#49245) von @jayzuccarelli in [#49245] ist.
• Beheben Sie die verwirrte Validierung des BOS-Prefixes in WatermarkDetector (#49496) durch @dangruiyuan in [#49496]
• Die ungenutzte get_uniform_frame_indices (#49464) wird deaktiviert durch @archiep867-sys in [#49464]
• [tests] Einige Behebungen für Fehler im Test-Suite auf TPU (#49425) von @tengomucho in [#49425]
• Zweite Phase der Reinigungen für torch 2.6 (#49396) durch @Rocketknight1 in [#49396]
• Die Überprüfungen für current_accelerator() und die Erhöhung der Torch-Version (#49395) werden von @Rocketknight1 in [#49395] durchgeführt.
• Verwenden Sie ein statisches Transformers CI-Badge in den PR-Descriptions (#49471) durch @tarekziade in [#49471]
• Fix: Alle deklarierten Felder der Config-Klasse werden als Standard-Fixe behandelt #49456 (#49466) von @tarekziade in [#49466]
• Die Suche nach der Klasse AutoVideoProcessor bleibt gelassen (#49458) durch @DimensionSTP in [#49458].
• Hinzufügen von Molmo2 (#43451) durch @SangbumChoi in [#43451]
• Ci holt multimodale Modelle rekursiv #49389 ab durch @zucchini-nlp in [#49389]
• Recursiv für alle Subkonfigurationen (#49461) durch @zucchini-nlp in [#49461]
• Aria, Ernie4.5-VL-MoE, Gemma4, Inkling, MiniMax-M3-VL, Qwen3.5-MoE: Führen Sie die Modelltests auf den VLM/ALM-Testern (#49404) durch, von @IlyasMoutawwakil in [#49404]
• Fix CI Slack Reporting: Surface crashte/fehlende Model-Jobs in model_results.json (#49427) von @ydshieh in [#49427]
• [Qwen3VLMoe] Aktualisieren erwarteten Text in test_small_model_integration_test_expand (#49301) durch @ydshieh in [#49301]
• Bearbeiten des Backend-Attributs in der Dokumentation und des Standard-Backends in MistralCommonBackend (#49149) durch @samyuktahegde in [#49149]
• Mehr RoPE-Simplifizierung, TF32-Reparaturen (#49328) von @Rocketknight1 in [#49328]
• Vollständige PR #49228: Entfernen des ungenutzten `device=None` aus der `init`-Methode in 11 Modellfamilien (#49285) durch @ydshieh in [#49285]
• Wiederherstellen von “[CI] Temporär deaktivieren des AMD-Scheduled-CI-Triggers” (#49433) durch @ydshieh in [#49433]
• Fix QuantizedCache-Residual-Flush für multi-Token-Updates (#49418) durch @LE0-Lin in [#49418]
• Beschleunigen Sie den datenabhängigen Branch unter _ignore_causal_mask_sdpa während der Komprimierung (#49354) durch @dacorvo in [#49354]
• Beheben Sie Inkling moe_intermediate_size, wenn dense_intermediate_size vorhanden ist (#49416), von @Talhax55z in [#49416]
• Bug beheben für das Problem bei der Lastaufnahme für DebertaV2ForMaskedLM ohne Legacy (#49152) durch @kaixuanliu in [#49152]
• Dieser PR-Commit korrigiert das Laden von Gemma3n fp16, wenn fehlende Gewichte in … liegen müssen. (#49147) von @sywangyi in [#49147]
• PR CI: Grant-Aktionen: Lesen zum wiederverwendbaren Workflow (#49417) durch @tarekziade in [#49417]
• [Bugfix] [Modeling] Korrektur der DSV4-Norm (#47486) durch @kylesayrs in [#47486]
• [docs] Update Spaces (#49242) von @stevhliu in [#49242]
• Handhaben von leeren vorkomprimierten CharMap im SPM-Konverter (#49211) durch @itazap in [#49211]
• [CI] Deaktivieren Sie vorübergehend den von AMD geplanten CI-Trigger (#49394) durch @ydshieh in [#49394]
• [tests] Beheben die instabilen CMVN-Tests in Speech2TextFeatureExtractionWithoutTorchaudioTest (#49374) durch @ydshieh in [#49374]
• Lassen Sie die Token-Auslösung mit ep_size != tp_size (#49368) durchführen, von @qgallouedec in [#49368]
• [tests] Vorenthalten von onnx.exactness für BitForImageClassification (ORT fp32 drift) (#49366) durch @ydshieh in [#49366]

Wichtige Gemeinschaftsbeiträge

Die folgenden Mitwirkenden haben in der letzten Veröffentlichung bedeutende Änderungen an der Bibliothek vorgenommen:

• @itazap
  • Fügen Sie das MOSS-Transcribe-Diarize-Modell (#48386) hinzu
  • Verarbeiten von leeren vorberechneten CharMap im SPM-Converter (#49211)
  • 🚨🚨🚨 luke fixe (#48408)
• @ydshieh
  • Hinzufügen der MIC-Contract-Lock-Dateien für die Integration in PR CI (#49631)
  • Kombiniere die Kommentare zum langsam laufenden CI für Nvidia+AMD zu einem (#49598)
  • Fixierung des CI Slack-Berichts: Die Surface-Crashes/fehlende Model-Jobs in model_results.json (#49427)
  • [Qwen3VLMoe] Aktualisierung des erwarteten Textes in test_small_model_integration_test_expand (#49301)
  • Vollständiger PR #49228: Entfernen der ungenutzten `device=None` aus der `init`-Methode in 11 Modellfamilien (#49285)
  • Erhöhen von “[CI] Temporär deaktivieren AMD geplante CI-Trigger” (#49433)
  • [CI] Deaktivieren Sie vorübergehend den von AMD planierten CI-Trigger (#49394)
  • [tests] Beheben die instabilen CMVN-Tests in Speech2TextFeatureExtractionWithoutTorchaudioTest (#49374)
  • [Docker] Upgraden auf torch 2.14/CUDA 13.0 und Optimieren der FA2-Builds von Quellcode (#49381)
  • [tests] Überschreiten von onnx.exactness für BitForImageClassification (ORT fp32 drift) (#49366)
• @icavan
  • Beheben Sie einen Rennen bei der Portzuweisung in den FSDP-Tests (#49455)
  • [Modell] Hinzufügen von Unterstützung für Native Ling 3.0 Flash (#49446)
• @tarekziade
  • Erstellen Sie Dokumentationen mit der Python-Version aus .python-version (#49603)
  • Beheben der instabilen Teste für Streamer-Timertests (#49583)
  • CI: Verschieben der GPU-Bilder in Python 3.11 (#49352)
  • Fix Gemma3nVision2TextModelTest::test_model_parallelism split (#49562)
  • Bessere Vorschlag für den langsamen CI-Test: Installieren Sie Transformers in einer venv (#49558)
  • Verwenden Sie ein statisches Transformers CI-Badge in den PR-Beschreibungen (#49471)
  • Fix: Betrachten Sie jeden deklarierten Feld der Config-Klasse als Standard-Fixes #49456 (#49466)
  • PR CI: Genehmigung von Aktionen: Lesen für das wiederverwendbare Workflowsystem (#49417)
• @lucamotz
  • Hinzufügen von Kolibri 1 (#49463)
• @SangbumChoi
  • Hinzufügen Molmo2 (#43451)
• @maxiaolong03
  • [Modell] Hinzufügen von Modellunterstützung für PP-DocLayoutV4 (#48387)