哲见WISE AITHE INTELLIGENCE JOURNAL
加入讨论
浏览栏目
Transformers Releases来源发布时间

发布：v5.21.0

MiniCPM-OCR 是来自 OpenBMB 的 MiniCPM-V 系列的文档理解模型。它保留了 MiniCPM-V 4.6 的架构，该架构将 SigLIP 视觉编码器和窗口注意力合并器与 Qwen3.5 语言模型结合在一起。

Release v5.21.0

新增模型

MiniCPM-OCR

MiniCPM-OCR 是来自 OpenBMB 的 MiniCPM-V 系列的文档理解模型。它保留了 MiniCPM-V 4.6 的架构，该架构将 SigLIP 视觉编码器和窗口注意力合并器与 Qwen3.5 语言模型结合在一起。它专门用于阅读文本密集的图像，例如扫描页面、截图、收据和表格。

链接： 文档 | 论文 * Feat test (#49920) by @guarin in #49920

Flint

Flint 是 Recursive 的混合专家语言模型。与 Qwen3-MoE 这类标准的 SwiGLU MoE transformer 相比，它使用混合注意力（在大多数层中，对当前 token 和之前 512 个 token 使用带旋转位置编码的滑动窗口注意力，其余层使用不带位置编码的完整注意力）。它还像 GPT-OSS 一样具有可学习的注意力汇（attention sinks），并对每个头的查询和键进行 RMS 归一化。每个稀疏层通过 sigmoid 分数将一个 token 路由到 256 个专家中的 6 个，并添加一个不带门控的共享专家，而前两层是稠密的。

链接： 文档 * Add Flint model support. (#49824) by @lovishmadaan in #49824

UltraVBert

UltraVBert 扩展了 ModernVBert，将 UltraBERT 文本编码器与 SigLIP 视觉编码器相结合，用于视觉文档理解和检索。它的图像处理器将每一页分割成 512 像素的瓦片外加一个全局视图。连接器将每 4 x 4 的视觉块合并为一个 token，因此一个瓦片变成 64 个图像 token，并对它们进行 RMS 归一化以匹配 UltraBERT 的 token 嵌入的尺度。该 max_image_tiles 设置（默认为 27）限制每页的瓦片数量。

链接： 文档 * Add UltraVBERT (#49685) by @athrael-soju in #49685

Gradium Phonon TTS

Gradium Phonon TTS 是 Gradium 的设备端文本转语音模型系列，使用 Pocket TTS 配方训练。一个因果 transformer 读取语音提示和文本，然后通过单步流头以 12.5 Hz 的频率每步输出一个连续的 32 维音频潜变量，并由语音结束头决定语句何时结束。这些潜变量由 Pocket TTS 音频分词器解码为 24 kHz 音频。与 Pocket TTS 不同，语音条件化使用来自单独的、未发布的说话人编解码器的 512 维潜变量，因此语音以预计算的潜变量形式提供，无法从录音中克隆。

链接： 文档 * Add GradiumPhononTTS (#49791) by @eustlb in #49791

Pocket TTS

Pocket TTS 是 Kyutai 的 100M 参数文本转语音模型，构建为一个连续音频语言模型（Continuous Audio Language Model），可在 CPU 上以快于实时的速度运行。一个因果 transformer 通过单步流头每帧（12.5 Hz）输出一个连续的音频潜变量，并由语音结束头决定何时停止。一个基于 Mimi 的音频分词器对语音提示进行编码，并将生成的潜变量解码为 24 kHz 音频。发布了两个流头：拉格朗日自蒸馏（默认）和漂移（drifting），语音可以从录音中克隆、以预计算潜变量的形式传入，或从缓存的 KV 状态中加载。

链接： 文档 | 论文 | 博客文章 * 添加 PocketTTS (#49589) by @eustlb in #49589

Pocket TTS 音频分词器

Pocket TTS 音频分词器是 Pocket TTS 所使用的编解码器。它采用 Mimi 的架构（SEANet 卷积加上两侧各一个小型因果 transformer），但其残差向量量化器被替换为 32 维的连续瓶颈，即来自 Continuous Audio Language Models 的 VAE-GAN。它将 24 kHz 音频转换为 12.5 Hz 的潜变量，并将其解码回音频。它作为 audio_tokenizer 的 PocketTTSProcessor，对语音提示进行编码并对生成的潜变量进行解码，其编码器和解码器也可以单独加载。

链接： 文档 | 论文 * 添加 PocketTTSAudioTokenizer (#49588) by @eustlb in #49588

破坏性变更

修复了 Gemma4 处理器导入（Gemma4、Gemma4 unified 和 EmbeddingGemma2 处理器），使 from transformers import * 在具有 PIL 但没有 torch的环境中不再失败；用户无需采取任何操作。 * :rotating_light: 修复 gemma4 交叉导入导致在没有 torch 但有 PIL 的情况下导入失败的问题 (#49748) by @Sai-Suraj-27

为 "fp8" 添加了一个 QuantizedCache后端，与 quanto 和 hqq并列，它将 KV 状态存储在 torch.float8_e4m3fn 中，每个张量使用单个缩放因子；通过 cache_implementation="quantized" 和 cache_config={"backend": "fp8"}。 * 🚨为……添加一个 FP8 后端 QuantizedCache 添加 FP8 后端 (#48677) by @jiqing-feng

张量并行现在拥有专用的嵌入风格，默认对所有模型的输入嵌入进行分片，并支持不能被 TP 大小整除的宽度，因此 ColwiseParallel 和 RowwiseParallel 现在仅适用于线性层；将它们应用于嵌入的自定义 TP 计划必须切换到新的嵌入风格。 * 🚨 TP：为嵌入赋予独立风格，默认对输入嵌入进行分片，并对不能被 TP 大小整除的宽度进行分片 (#49570) by @IlyasMoutawwakil

每个 MoE TP 和 EP 计划现在都会对其专家进行分片，因此模型不再在每个 rank 上保留所有专家，并且新增了一个 test_moe_parallel_plans_shard_experts 测试来强制执行这一点；自定义或下游的 MoE 并行计划必须添加专家分片才能通过该测试并避免浪费内存。 * 🚨 MoE: 在每个 TP/EP 计划中对专家进行分片，并为此添加测试 (#49206) 由 @IlyasMoutawwakil 提供

Cache

此版本改进了整个库中的缓存处理。Flash Attention 现在可以与静态缓存配合使用，BLOOM 不再在使用静态缓存或编译后的 generate 时崩溃，分块预填充支持缓存延续，并且 Qwen4-Exp 索引器的位置历史与其缓存的键保持对齐。线性注意力缓存还新增了 getter（is_recording_past, get_recurrent_state、conv 状态访问），这些 getter 不再暴露缓存内部结构，并为分页缓

  • [FA] 修复 FA 与静态缓存的问题 (#49998) 由 @Cyrilvallez 在 [#49998] 中提供
  • [docs] CB 缓存行为 (#49025) 由 @stevhliu 在 [#49025] 中提供
  • [CB] 通过不对完整缓存计算注意力来减少预热时间 (#49853) 由 @remi-or 在 [#49853] 中提供
  • 修复 Qwen4-Exp 索引器位置缓存生命周期 (#49840) 由 @taking-lying-flat 在 [#49840] 中提供
  • [Cache] 线性注意力缓存：使用新的 getter (#49375) 由 @remi-or 在 [#49375] 中提供
  • [Cache] 获取 conv 状态 (#49309) 由 @remi-or 在 [#49309] 中提供
  • [Cache] 添加 get_recurrent_state (#49306) 由 @remi-or 在 [#49306] 中提供
  • [Cache] 添加 is_recording_past (#49305) 由 @remi-or 在 [#49305] 中提供
  • 修复 BLOOM 在使用静态缓存/编译后的 generate 时崩溃的问题 (#49481) 由 @kaixuanliu 在 [#49481] 中提供
  • 允许分块预填充使用缓存延续 (#49662) 由 @Cyrilvallez 在 [#49662] 中提供

Vision

Vision 图像处理器现在将 PNG 透明度合成到白色背景上，而不是暴露黑色像素，并且 background_color 在 DeepSeek-VL 和 Janus 处理器中被正确保留。模型修复涵盖 SmolVLM 的 inputs_merger 问题（当图像 token 不是 patch 大小的倍数时）、HunYuan-VL 在批量束搜索期间的图像分配，以及 Ernie4.5-VL-MoE 在 TP/EP 下的专家分片。DETR 的

  • 在共享 RGB 转换和图像处理器中合成透明度 (#49079) 由 @Nikhi00718 在 [#49079] 中提供
  • [Fetcher] 修复动态解析的图像处理器缺少测试依赖的问题 (#49826) 由 @ydshieh 在 [#49826] 中提供
  • fix(vision): 让 DETR 转换脚本通过 from_pretrained 进行路由 (#49830) 由 @harshaljanjani 在 [#49830] 中提供
  • 修复 DeepSeek-VL 和 Janus 图像处理器中 background_color 的处理 (#49767) 由 @tritsystem 在 [#49767] 中提供
  • 将 MI300 docker 镜像迁移到 ROCm 10.1 并更新测试预期 (#49460) 由 @Abdennacer-Badaoui 在 [#49460] 中提供
  • docs: 修复 Vision Encoder Decoder 文档中 'allows to' 的语法错误 (#48730) 由 @mrchatam 在 [#48730] 中提供
  • 修复 SSH runner：为 Python 3.11 镜像将 /opt/venv/bin 添加到 PATH（#49759），由 @ydshieh 提交于 [#49759]
  • 由 @albertvillanova 在 [#49725] 中修复当图像 token 不是 patch_size 的倍数时 SmolVLM inputs_merger 的问题（#49725）
  • 由 @IlyasMoutawwakil 在 [#49462] 中让 Ernie4.5-VL-MoE 在 TP 和 EP 下对文本和视觉专家进行分片（#49462）
  • 由 @Arnav66692 在 [#49557] 中修复 HunYuan-VL 在批量生成时的图像分配问题（#49557）

生成

此版本修复了一系列生成相关的 bug：BLOOM 在使用静态缓存或编译 generate 时崩溃， generate 丢弃类似 dict 的输入的类型，例如 ModelOutput，以及 HunYuan-VL 和 Idefics2/3 在批量或束搜索生成中的图像分配或占位符处理错误。还修复了 Qwen3-Omni 音频生成模式的处理、SAM 掩码生成的多缩放裁剪、空帧采

  • 由 @BlazeSR10hawk 在 [#49908] 中修复：防止短视频出现空帧采样（#49908）
  • 由 @dltsum 在 [#48951] 中修复 Windows 路径分隔符导致 Hub 自定义 generate 模块相对导入失败的问题（#48951）
  • 由 @stlukyanenko 在 [#49689] 中修复 SAM 掩码生成流水线中的多缩放裁剪及相关 bug（修复 #35530）（#49689）
  • 由 @merveenoyan 在 [#49697] 中更新投机解码文档（#49697）
  • 由 @molbap 在 [#49738] 中修复 idefics3 生成问题（#49738）
  • 由 @molbap 在 [#49740] 中修复生成的测试（#49740）
  • 由 @Cyrilvallez 在 [#49731] 中修复 generate （#49731），由 @Cyrilvallez 提交于 [#49731]
  • 由 @Sunt-ing 在 [#49505] 中修复：[Qwen3-Omni] 在音频生成中遵循 generation_mode（#49505）

并行化

此版本扩展了并行化支持并修复了若干相关 bug。它为 Nemotron 添加了张量并行计划，并让 Ernie4.5-VL-MoE 在 TP 和 EP 下对其文本和视觉专家进行分片。它还恢复了 torch 2.7–2.10 上专家并行的 token 分发梯度，修复了 Molmo2 的模型并行设备不匹配问题，并纠正了 base_model_prefix 多个模型家族（PP-OCR 检测器

  • 由 @Siddhant231xyz 在 [#48780] 中为 Nemotron 添加张量并行计划（#48780）
  • 由 @kaixuanliu 在 [#49816] 中修复 molmo2 模型的模型并行 bug（#49816）
  • 由 @blipbyte 在 [#48871] 中修复 base_model_prefix 在 PP-OCR 检测器、CLIPSeg、TimesFM、CLIP 和 VideoPrism 的头中，使基础检查点能够加载（#48871），由 @blipbyte 提交于 [#48871]
  • 由 @digit50 在 [#49710] 中修复 torch 2.7 到 2.10 上的专家并行 token 分发梯度（#49710）
  • 由 @remi-or 在 [#49717] 中跳过 Muse TP（#49717）

量化

量化现在能正确处理 DeepSeek-V4.1 的 FP4 专家： FineGrainedFP8Config 获得了一个 expert_dtype 选项（默认为 "fp8"，或 "fp4"），FP8 专家会读取该选项而不是以 FP8 分配它们。TimesFM 2.5 在使用 bitsandbytes 4/8 位等量化加载时不再将浮点输入转换为整型权重 dtype。更广泛的清理

  • 细粒度 FP8：DeepSeek-V4 量化配置中的 expert_dtype（#49848），由 @IlyasMoutawwakil 提交于 [#49848]
  • 由 @JOhnsonKC201 在 [#46942] 中修复 TimesFM 2.5 ResidualBlock 中量化权重的 dtype 转换（#46942）
  • 量化清理（#49548），作者 @ArthurZucker，见 [#49548]

错误修复与改进

  • [修复] 修复 CSM codebook 嵌入绑定问题（#49197），作者 @orrangetabby17，见 [#49197]
  • [tests_fetcher] 修复 preprocessor_patterns 路径键中缺失的 .as_posix()（#49994），作者 @ydshieh，见 [#49994]
  • fix(ci)：如果维护者已发布 run-slow: 则跳过机器人建议（#49992），作者 @ydshieh，见 [#49992]
  • [加载] 允许重命名和转换器在相同的子键上工作（#49928），作者 @Cyrilvallez，见 [#49928]
  • [修复] 修复 CB 中的 NUMA 和 cpuset 检测（#49980），作者 @remi-or，见 [#49980]
  • [Refactor] 使 CB utils 不依赖任何 CB 导入(#49968),由 @remi-or 在 [#49968] 提交
  • chore: 改进 modeling_rope_utils.py 中的类型标注(#49831),由 @RyanMullins 在 [#49831] 提交
  • is_fouroversix_available() 返回了一个 (available, version) 元组。Ev…(#49894),由 @sywangyi 在 [#49894] 提交
  • skip-list 条目仅匹配到模块边界的开头部分(#49771),由 @IlyasMoutawwakil 在 [#49771] 提交
  • [pocket_tts, gradium_phonon_tts] 使用 sub_configs_defaults(#49868),由 @eustlb 在 [#49868] 提交
  • 修复 flash_attn 测试中的 dtype 不匹配问题(#49912),由 @kaixuanliu 在 [#49912] 提交
  • [Fix] 移除 DeepseekV3.2 config 中的重复赋值(#49896),由 @remi-or 在 [#49896] 提交
  • 为 4 个新模型测试添加 XPU Expectations(#49815),由 @kaixuanliu 在 [#49815] 提交
  • 让 sub-config-defaults 更易用(#49906),由 @zucchini-nlp 在 [#49906] 提交
  • 修复 musicgen_melody 模型中的越界索引 bug(#49842),由 @kaixuanliu 在 [#49842] 提交
  • test: 为仅 CPU 的 continuous batching 测试添加一致性检查(#49728),由 @nrenvo 在 [#49728] 提交
  • [CB] 在 CPU 模型的情况下降低 max_memory_percent(#49844),由 @remi-or 在 [#49844] 提交
  • 改进 Auto Classes 文档的清晰度和语法(#44550),由 @himani27301 在 [#44550] 提交
  • [gradium_phonon_tts] 指向已发布的 Hub 仓库(#49867),由 @eustlb 在 [#49867] 提交
  • [EmbeddingGemma2] 更新集成测试(#49576),由 @eustlb 在 [#49576] 提交
  • 修复一条注释(#44872),由 @IvanFan-Van 在 [#44872] 提交
  • 修复硬编码的 torch.float64 在 MPS 上崩溃的问题(#46723)(#46730),由 @Abhijeet1815 在 [#46730] 提交
  • fixup metadata workflow(#49854),由 @vasqu 在 [#49854] 提交
  • docs(whisper): 在 AutoModel 示例中将输入特征转换为模型 dtype(#49837),由 @Kayvan-Zahiri 在 [#49837] 提交
  • 修复 torch_float 被转换为 int 而不是 float 的问题(#47468),由 @rahulrshetty45 在 [#47468] 提交
  • 将 Python 最低版本升级至 3.11 (#49251),由 @Sai-Suraj-27 在 [#49251] 提交
  • 跳过 sdpa_can_dispatch_on_flash 3 个模型的测试(#49809),由 @kaixuanliu 在 [#49809] 提交
  • [LED][Longformer] 在 _chunk ONNX 导出路径中用 unfold 替换 for 循环(#46169),由 @guinik 在 [#46169] 提交
  • 为所有 ForXXX 类添加 logits_to_keep bool mask(#48825),由 @jp1924 在 [#48825] 提交
  • 修复多个目标检测模型/模块绑定的加载器修复(#49827),由 @molbap 在 [#49827] 提交
  • 修复当预计算的 encoder_outputs 缺少 token ID 时的编码器 logits 处理器(#49696),由 @kunalsanga 在 [#49696] 提交
  • 延迟部分导入(#49663),由 @jayzuccarelli 在 [#49663] 提交
  • 重构 CTC loss(#49833),由 @ebezzam 在 [#49833] 提交
  • 添加 Intel XPU CI(#49254),由 @regisss 在 [#49254] 提交
  • fix(mask2former): 将 input_projections 注册为 nn.ModuleList(修复 #49698)(#49703),由 @Omarinho12345 在 [#49703] 提交
  • 仅当配置共享 MM Grounding DINO decoder heads 时才将其绑定(#49552),作者 @,见 [#49552]
  • [文档] 添加 README 的马拉地语(मराठी)翻译(#48746),作者 @shreeyadav06,见 [#48746]
  • Fix CLVP c_proj residual scaled-init 被静默地从未应用 (#47478)，由 @ShamSaleem 在 [#47478] 中提交
  • 修复 unlimited_ocr 模型失败的测试用例 (#49806)，由 @kaixuanliu 在 [#49806] 中提交
  • 修复未安装 requests 时 transformers 的环境问题 (#48412)，由 @panshularora 在 [#48412] 中提交
  • 在 load_image_as_tensor 中使用 torchvision 应用 EXIF 方向 (#49794)，由 @digit50 在 [#49794] 中提交
  • Fix Fuyu processor test (#49821)，由 @zucchini-nlp 在 [#49821] 中提交
  • 使用 torchcodec-xpu 并将 torch 升级到 2.14.1 (#49814)，由 @sywangyi 在 [#49814] 中提交
  • 更新一些用例以添加 xpu 预期 (#49807)，由 @sywangyi 在 [#49807] 中提交
  • [serge] 修复因提交 c48824e84024（PR #49404）而退化的 2 个集成测试 (#49705)，由 @sergereview[bot] 在 [#49705] 中提交
  • docs: 通过设置 min_pixels 和 max_pixels 修复 Qwen 动态分辨率模型的 OOM/挂起问题 (#46007)，由 @poojansatani 在 [#46007] 中提交
  • docs: 修复 DPT 文档中 "allows to" 的语法问题 (#48728)，由 @mrchatam 在 [#48728] 中提交
  • docs: 修复 LiLT 文档中 "allows to" 的语法问题 (#48731)，由 @mrchatam 在 [#48731] 中提交
  • docs: 修复 Gemma 模型文档中的提示词格式和代码对齐问题 (#48775)，由 @Rattan344 在 [#48775] 中提交
  • docs: 修复 ALBERT 模型卡片中的语法拼写错误 (#48774)，由 @Rattan344 在 [#48774] 中提交
  • 弃用旧的输入名称 (#49424)，由 @zucchini-nlp 在 [#49424] 中提交
  • 修复 CI 评论工作流中的 NameError：缺少分区标记变量 (#49801)，由 @ydshieh 在 [#49801] 中提交
  • [CI] 改进 run-slow PR 评论并移除 CI 回顾 (#49782)，由 @ydshieh 在 [#49782] 中提交
  • 显示实际的 accelerate 版本，用于 transformers env (#49668)，由 @Sai-Suraj-27 在 [#49668] 中提交
  • [CI] 修复 perceriver 的旧回归问题 (#49792)，由 @molbap 在 [#49792] 中提交
  • mimi moshi 输出捕获 (#49670)，由 @eustlb 在 [#49670] 中提交
  • 移除已解决的原型 Whisper MIC 预期失败 (#49785)，由 @tarekziade 在 [#49785] 中提交
  • 修复 CohereCompass 文本 RoPE，使其使用 Qwen3-VL 交错的 M-RoPE (#49715)，由 @mmangkad 在 [#49715] 中提交
  • 将 thinking 别名为 reasoning_content (#49535)，由 @Rocketknight1 在 [#49535] 中提交
  • [vLLM] 添加 Qwen-Omni Thinker 基础模型和 Gemma 3n 每层输入 (#49437)，由 @harshaljanjani 在 [#49437] 中提交
  • 更新 MIC 集群引用和文档 (#49768)，由 @tarekziade 在 [#49768] 中提交
  • [CI] SAM 不使用 split modules (#49766)，由 @molbap 在 [#49766] 中提交
  • 启用在 idefics3 中被遗忘的测试 (#49758)，由 @molbap 在 [#49758] 中提交
  • 修复 tests_fetcher 的 backbone 步骤（自引入以来从未正常工作）(#49742)，由 @ydshieh 在 [#49742] 中提交
  • [modular] 将 "del self.xxx" 模式扩展以匹配带类型的赋值 (#49735)，由 @remi-or 在 [#49735] 中提交
  • Xpu add (#49757)，由 @sywangyi 在 [#49757] 中提交
  • 弃用 rope_scaling 赋值并规范化遗留的 RoPE 键 (#49515)，由 @jinwukong 在 [#49515] 中提交
  • 使 longrope 可编译 (#49555)，由 @jiqing-feng 提交于 [#49555]
  • 修复 MiniCPMV4_6VideoProcessor 中 stack_frames > 1 的接线错误 (#49752)，由 @airlsyn 提交于 [#49752]
  • 修复 moshi 失败的测试 (#49750)，由 @eustlb 在 [#49750] 中提交
  • [docs] Gaudi (#49618)，由 @stevhliu 在 [#49618] 中提交
  • [serge] 修复模型的 2 个集成测试， convnextv2 因 output_mismatch 而失败（张量值不同 (2)）(#48838)，由 @sergereview[bot] 在 [#48838] 中提交
  • [serge] 修复模型的 2 个集成测试， eomt_dinov3 因 output_mismatch 而失败（张量值不同 (2)）(#48882)，由 @sergereview[bot] 在 [#48882] 中提交
  • [serge] 修复模型的 4 个集成测试， lw_detr 因 output_mismatch 而失败（张量值不同 (4)）(#49040)，由 @sergereview[bot] 在 [#49040] 中提交
  • [serge] 修复模型的 2 个集成测试， nemotron 因 output_mismatch 而失败（列表输出不同 (2)）(#48945)，由 @sergereview[bot] 在 [#48945] 中提交
  • molmo2 的多设备修复 (#49736)，由 @molbap 在 [#49736] 中提交
  • 修复其余的 VLM (#49720)，由 @zucchini-nlp 在 [#49720] 中提交
  • 修复两次加载启用融合的检查点时的 ValueError (#49412)，由 @kaixuanliu 在 [#49412] 中提交
  • 避免 eager_mask 中的主机到设备拷贝 (#49684)，由 @hmellor 在 [#49684] 中提交
  • is_tracing() 现在可识别 XPU 流捕获，与现有的…并列 (#49722)，由 @sywangyi 在 [#49722] 中提交
  • 文档说明如何在添加的 token 之后避免 Metaspace 前缀 (#45822)，由 @qflen 在 [#45822] 中提交
  • 声明仅报告文本的 VLM 的输入模态 (#49677)，由 @qgallouedec 在 [#49677] 中提交
  • 修复在专家并行且 ep_size < fsdp_size 时 bfloat16 中零专家梯度的问题 (#49688)，由 @qgallouedec 在 [#49688] 中提交
  • 修复虚拟模块导入的测试选择 (#49690)，由 @tarekziade 在 [#49690] 中提交
  • [docs] 添加 Google TPU 硬件指南 (#49642)，由 @tengomucho 在 [#49642] 中提交
  • 复制默认响应解析器参数 (#49370)，由 @Rocketknight1 在 [#49370] 中提交
  • 使 DtensorShardOperation 在 torch 2.6 和 2.7 上工作 (#49657)，由 @hazelxue 在 [#49657] 中提交
  • 修复 torch 2.7 上的 from_pretrained：分布式检查点要求 torch>=2.8 (#49652)，由 @naveecode 在 [#49652] 中提交
  • 修复专家并行下的 DeepGEMM Mega MoE (#49428)，由 @IlyasMoutawwakil 在 [#49428] 中提交
  • 修复产生 NaN 输出的不稳定 Evolla 测试 (#49660)，由 @tarekziade 在 [#49660] 中提交
  • [rocm] 为 Kolibri-1 logits 测试添加 ROCm 期望值 (#49661)，由 @ericschreiber 在 [#49661] 中提交
  • [CB] 针对 MPS 的多项小修复（#49654），由 @remi-or 提交于 [#49654]
  • 使测试预期与被测的加速器路径保持一致：（#49653），由 @sywangyi 提交于 [#49653]
  • [docs] Processor 配置（#49643），由 @stevhliu 提交于 [#49643]
  • 发布后的相关工作（#49646），由 @vasqu 提交于 [#49646]

重要的社区贡献

以下贡献者在上一版本发布以来对该库做出了重要改动：

  • @ydshieh
    • [tests_fetcher] 修复 preprocessor_patterns 路径键中缺失的 .as_posix()（#49994）
    • fix(ci)：如果维护者已发布 run-slow:，则跳过机器人建议（#49992）
    • [Fetcher] 修复动态解析的图像处理器缺失的测试依赖（#49826）
    • 修复 CI 评论工作流中的 NameError：缺少 section marker 变量（#49801）
    • [CI] 改进 run-slow PR 评论并移除 CI recap（#49782）
    • 修复 tests_fetcher 的 backbone 步骤（自引入以来一直无法工作）（#49742）
    • 修复 SSH runner：为 Python 3.11 镜像在 PATH 中添加 /opt/venv/bin（#49759）
  • @remi-or
    • [Fix] 修复 CB 中的 NUMA 和 cpuset 检测（#49980）
    • [Refactor] 使 CB utils 不依赖任何 CB 导入（#49968）
    • [Fix] 移除 DeepseekV3.2 配置中的重复赋值（#49896）
    • [CB] 通过不对整个缓存计算注意力来减少 warmup 时间（#49853）
    • [CB] 在使用 CPU 模型的情况下降低 max_memory_percent（#49844）
    • [modular] 扩展 "del self.xxx" 模式以匹配带类型的赋值（#49735）
    • [Cache] Linear attn cache：使用新的 getter（#49375）
    • [Cache] 获取 conv states（#49309）
    • [Cache] 添加 get_recurrent_state（#49306）
    • [Cache] 添加 is_recording_past（#49305）
    • [Kernels] 将 MPS 添加到支持的设备类型中（#49655）
    • 跳过 Muse TP（#49717）
    • [CB] 针对 MPS 的各项小修复（#49654）
  • @Nikhi00718
    • 共享 RGB 转换和图像处理器中的合成图像透明度处理（#49079）
  • @eustlb
    • [pocket_tts, gradium_phonon_tts] 使用 sub_configs_defaults（#49868）
    • [gradium_phonon_tts] 指向已发布的 Hub 仓库（#49867）
    • [EmbeddingGemma2] 更新集成测试（#49576）
    • 添加 GradiumPhononTTS（#49791）
    • 添加 PocketTTS（#49589）
    • 添加 PocketTTSAudioTokenizer（#49588）
    • 🟡 [mimi] 将编码器和解码器分离（#49577）
    • mimi moshi 输出捕获（#49670）
    • 修复 moshi 失败的测试（#49750）
  • @jp1924
    • 为所有 ForXXX 类添加 logits_to_keep 布尔掩码（#48825）
  • @molbap
    • 修复多个目标检测模型/加载器针对模块绑定的修复 (#49827)
    • [CI] 修复 perceriver 旧回归问题 (#49792)
    • [CI] SAM 不再拆分模块 (#49766)
    • 启用 idefics3 中被遗忘的测试 (#49758)
    • 修复 idefics3 生成问题 (#49738)
    • 修复生成相关测试 (#49740)
    • molmo2 的多设备修复 (#49736)
  • @athrael-soju
    • 添加 UltraVBERT (#49685)
  • @harshaljanjani
    • fix(vision): 将 DETR 转换脚本改为通过 from_pretrained 路由 (#49830)
    • fix(audio): 将 ALM 转换脚本改为通过 from_pretrained 路由 (#48525)
    • [vLLM] 添加 Qwen-Omni Thinker 基础模型和 Gemma 3n 逐层输入 (#49437)
  • @lovishmadaan
    • 添加 Flint 模型支持。(#49824)
  • @tarekziade
    • 移除已解决的 Whisper MIC 预期失败原型 (#49785)
    • 更新 MIC fleet 引用和文档 (#49768)
    • 清理 tokenizer 测试 (#49669)
    • 修复虚拟模块导入的测试选择 (#49690)
    • 修复产生 NaN 输出的不稳定 Evolla 测试 (#49660)
  • @yonigozlan
    • 修复 auto mappings 中的小错误 (#49664)
  • @ArthurZucker
    • 量化清理 (#49548)
原始出处

Transformers Releases

内容说明

原始发布及相关权利归来源方。

机器翻译 · 请以原文为准