MarkTechPost来源发布时间

Nanbeige 发布 Nanbeige4.3-33B,一个 33B 开放智能体编程模型

Nanbeige LLM Lab 已发布 Nanbeige4.3-33B 于 Hugging Face,采用 Apache 2.0 许可证。Nanbeige4.3-33B 是一个 33B 密集语言模型,专为智能体编程和办公风格的 “cowork” 任务而构建。

Nanbeige LLM Lab 已发布 Nanbeige4.3-33B 于 Hugging Face,采用 Apache 2.0 许可证。Nanbeige4.3-33B 是一个 33B 密集语言模型,专为智能体编程和办公风格的 “cowork” 任务而构建。该实验室隶属于招聘平台 BOSS直聘。它还发布了 Nanbeige4.3-33B-Base 供自定义后训练使用。该模型支持 524,288 token 的上下文窗口。在该实验室自己的表格中,它与约 30B 的 3 个开放模型相比,在 20 项基准中的 17 项上领先。

TL;DR

  • 规模: 33B 参数,密集(无 MoE),524,288 token(512K)上下文,BF16 权重。
  • 运行环境: 多 GPU 服务器。模型卡的 SGLang 和 vLLM 配方使用 4 路张量并行。BF16 权重需要约 66 GB(我们的计算)。已列出 1 个社区量化版本。
  • 性能: 在 Nanbeige 自己与 Qwen3.8-27B、Muse-Glimmer-30B 和 Gemma4-31B 的对比中,在 20 行中领先 17 行。
  • 最佳: Terminal-Bench 2.1 上为 80.9,而 Qwen3.8-27B 为 73.0。
  • 最差: Terminal-Bench 4.0 上为 23.8(其最低分数)。在 SWE-Bench Pro 上也落后于 Qwen3.8-27B,60.3 对 61.7。

什么是 Nanbeige4.3-33B?

Nanbeige4.3-33B 是 Nanbeige4.3 系列的旗舰 “教师” 模型。该实验室的 既定策略 是先构建一个强大的教师模型,然后计划将智能体技能蒸馏到更小的模型中,首先是 Nanbeige4.3-3B。

Nanbeige4.3-33B 是如何构建的?

该 config.json 声明了一个标准的 LlamaForCausalLM 架构。没有专家路由,因此所有 33B 参数都在每个 token 上运行。

  • 52 层,隐藏层大小 7,168
  • 56 个查询头和 8 个键值头(分组查询注意力),头维度 128
  • FFN 中间维度为 22,016,词表包含 166,912 个 token
  • RoPE theta 为 120,000,000,最大位置数为 524,288

聊天模板暴露 3 个控制项。 enable_thinking 用于切换推理,默认开启。 preserve_thinking 会保留之前轮次的推理内容。Nanbeige 建议在多轮工具调用和代码智能体场景中使用它。传入 tools 可启用工具调用,建议使用 XML 调用格式。

Nanbeige4.3-33B 在基准测试中表现如何?

Nanbeige 将该模型与 Qwen3.8-27B、Muse-Glimmer-30B 和 Gemma4-31B 进行了比较。每个模型都在其最高思考努力下运行,使用相同的超参数和测试框架。本节中的所有分数均为自报数据。

  • 智能体编程:在 Terminal-Bench 2.1 上得分为 80.9,而 Qwen3.8-27B 为 73.0。DeepSWE 的差距最大:65.5 对 42.5。在 Terminal-Bench 4.0 上,它得分为 23.8,而 Gemma4-31B 得分为 0.0。
  • 智能体协作:在 Automation Bench 上得分为 54.2,对手为 38.3;在 JobBench 上得分为 44.8,对手为 34.5。在 YC-bench 上,模拟收入达到 $1,025,437,对手为 $641,290。
  • 推理:AIME 2026 得分为 95.2,AA-LCR 得分为 84.0。

它在 20 行中输掉 3 行。Qwen3.8-27B 在 SWE-Bench Pro(61.7 对 60.3)和 GDPval(86.4 对 84.8)上领先。在 Nanbeige 的表格中,Gemma4-31B 在 GPQA Diamond 上领先,91.3 对 89.5。

该 基础模型 在全部 8 个报告任务上击败 Gemma4-31B-Base。示例包括 MMLU-Pro(66.9 对 59.3)和 GPQA(62.0 对 41.5)。

上一步</button><button class="btn" id="nbgNext">下一步 </button><button class="btn ghost" id="nbgPlay">自动播放</button></div> <div class="spec"> <div><b>52</b><span>层</span></div> <div><b>56 / 8</b><span>查询 / KV 头(GQA)</span></div> <div><b>7,168</b><span>隐藏维度</span></div> <div><b>524,288</b><span>最大位置数</span></div> </div> </div> <div class="pane" id="p2"> <div class="seg" id="nbgSeg"> <button class="on" data-c="coding">智能体编码</button> <button data-c="cowork">智能体协作</button> <button data-c="reason">推理</button> <button data-c="base">基座模型</button> </div> <div class="legend" id="nbgLegend"></div> <div id="nbgBars"></div> <p class="note">所有分数均为南北阁(Nanbeige)在其 Hugging Face 模型卡上自行报告的数据,采用每个模型的最高思考努力和统一的评测框架。未经独立验证。</p> </div> <div class="pane" id="p3"> <div class="calc"> <div> <div class="field"><label>上下文长度 <b id="nbgCtxL">131,072 tokens</b></label><input type="range" id="nbgCtx" min="0" max="6" step="1" value="4"></div> <div class="field"><label>并发序列数 <b id="nbgSeqL">1</b></label><input type="range" id="nbgSeq" min="1" max="8" step="1" value="1"></div> <div class="seg" id="nbgW"><button class="on" data-w="2">权重 BF16</button><button data-w="1">权重 8-bit</button></div> <div class="seg" id="nbgK"><button class="on" data-k="2">KV 缓存 BF16</button><button data-k="1">KV 缓存 FP8</button></div> <p class="note">依据 config.json 计算:52 层 × 8 个 KV 头 × 128 维 × 2(K 和 V)× 每个值的字节数。在 BF16 下即每个 token 212,992 字节(约 208 KiB)。权重为 33B 参数。不含激活值和框架开销。</p> </div> <div class="stack"> <div class="kv"><span>估计 GPU 显存</span></div> <div class="total" id="nbgTot">0 GB</div> <div class="stackbar"><i id="nbgBw" style="background:#5fd3bd"></i><i id="nbgBk" style="background:#7c8cf8"></i></div> <div class="kv"><span><i style="display:inline-block;width:9px;height:9px;background:#5fd3bd;border-radius:2px"></i> 权重</span><b id="nbgWv"></b></div> <div class="kv"><span><i style="display:inline-block;width:9px;height:9px;background:#7c8cf8;border-radius:2px"></i> KV 缓存</span><b id="nbgKv"></b></div> <div class="kv"><span>每块 80 GB GPU(理想适配)</span><b id="nbgGpu"></b></div> <p class="note">模型卡上的 SGLang 和 vLLM 配置采用 4 路张量并行。</p> </div> </div> </div> <div class="pane" id="p4"> <table> <tr><th>Nanbeige 表格中的行</th><th>Nanbeige 列出的数值</th><th>官方模型卡</th><th></th></tr> <tr><td>Muse-Glimmer-30B,SWE-Bench Pro</td><td class="bad">36.9</td><td>51.2(Meta)</td><td><span class="flag">疑似互换</span></td></tr> <tr><td>Gemma4-31B,SWE-Bench Pro</td><td class="bad">51.2</td><td>36.9(Meta 报告)</td><td><span class="flag">疑似互换</span></td></tr> <tr><td>Gemma4-31B,GPQA Diamond</td><td class="bad">91.3</td><td>84.3(Google)</td><td><span class="flag">冲突</span></td></tr> <tr><td>Muse-Glimmer-30B,Terminal-Bench 2.1</td><td class="bad">61.8</td><td>51.7(Meta)</td><td><span class="flag">评测框架?</span></td></tr> <tr><td>Qwen3.8-27B,GPQA Diamond</td><td>89.2</td><td>89.2(Qwen)</td><td>一致</td></tr> <tr><td>Muse-Glimmer-30B,AIME 2026</td><td>94.7</td><td>94.7(Meta)</td><td>一致</td></tr> </table> <p class="note">Nanbeige 用自己的评测框架重新运行了所有模型,这解释了部分差距。其他限制:仅支持文本输入、每个 token 都进行稠密计算,以及 Nanbeige4.3-3B 尚未发布。</p> </div> <div class="ft"><span>来源:<a href="https://huggingface.co/Nanbeige/Nanbeige4.3-33B" target="_blank" rel="noopener">Nanbeige 模型卡</a> · <a href="https://huggingface.co/Nanbeige/Nanbeige4.3-33B-Base" target="_blank" rel="noopener">基座模型卡</a> · 竞争对手 HF 模型卡</span><span class="brand">© Marktechpost</span></div> </div> <script> (function(){ var R=document.getElementById('mtp-nbg43'); function resize(){try{parent.postMessage({type:'mtp-nbg43-resize',height:R.offsetHeight+40},'*')}catch(e){}} // tabs R.querySelectorAll('.tab').forEach(function(t){t.addEventListener('click',function(){ R.querySelectorAll('.tab').forEach(function(x){x.classList.remove('on')});t.classList.add('on'); R.querySelectorAll('.pane').forEach(function(p){p.classList.remove('on')}); document.getElementById(t.dataset.p).classList.add('on'); if(t.dataset.p==='p2')drawBars(cur); setTimeout(resize,50);setTimeout(resize,400); })}); // flow var steps=[ '<b>基础模型。</b>Nanbeige4.3-33B-Base 是一个稠密的 LlamaForCausalLM 检查点。Nanbeige 报告称它在列出的全部 8 项任务上击败 Gemma4-31B-Base,例如 MMLU-Pro 得分 66.9 对 59.3。', '<b>教师智能体。</b>后训练后的模型默认进行思考(<code>enable_thinking</code>)。<code>preserve_thinking</code> 在多轮工具使用中保留较早的推理内容。Nanbeige 推荐 XML 工具调用格式。', '<b>智能体框架。</b>Nanbeige 在 Terminus 2、mini-swe-agent v2.4.6 和 Claude Code 框架中对其进行了评估。推荐的智能体采样参数:temperature 1.0、top_p 0.95、最大新生成词元数 65,536。', '<b>蒸馏。</b>33B 模型是 Nanbeige4.3 系列的教师模型。首个计划中的学生模型是 Nanbeige4.3-3B。未给出发布日期。' ]; var s=0,timer=null; function setStep(i){s=(i+4)%4;R.querySelectorAll('.node').forEach(function(n,k){n.classList.toggle('on',k<=s)}); document.getElementById('nbgRail').style.width=((s+1)*25)+'%';document.getElementById('nbgDetail').innerHTML=steps[s];resize()} R.querySelectorAll('.node').forEach(function(n){n.addEventListener('click',function(){stop();setStep(+n.dataset.s)})}); function stop(){if(timer){clearInterval(timer);timer=null;document.getElementById('nbgPlay').textContent='自动播放'}} document.getElementById('nbgNext').onclick=function(){stop();setStep(s+1)}; document.getElementById('nbgPrev').onclick=function(){stop();setStep(s-1)}; document.getElementById('nbgPlay').onclick=function(){if(timer){stop();return}this.textContent='暂停';timer=setInterval(function(){setStep(s+1)},2200)}; setStep(0); // bars var M={n:['Nanbeige4.3-33B','#5fd3bd'],q:['Qwen3.8-27B','#7c8cf8'],m:['Muse-Glimmer-30B','#f0a35e'],g:['Gemma4-31B','#6aa9f4']}; var D={ coding:[['Terminal-Bench 2.1',80.9,73.0,61.8,47.2],['DeepSWE',65.5,42.5,4.4,2.7],['SWE-Bench Pro',60.3,61.7,36.9,51.2],['SkillsBench',61.1,56.4,39.7,28.9],['Terminal-Bench 4.0',23.8,6.3,1.6,0.0]], cowork:[['Automation Bench',54.2,38.3,15.2,9.7],['JobBench',44.8,34.5,16.6,9.0],['GDPval',84.8,86.4,75.8,71.4],['Toolathlon-Verified',70.4,68.5,47.2,27.8],['DeepPlanning',63.3,49.2,21.4,19.4]], reason:[['AIME 2026',95.2,94.5,94.7,89.2],['GPQA Diamond',89.5,89.2,83.5,91.3],['AA-LCR',84.0,82.0,83.3,72.0]], base:[['MMLU-Pro',66.9,null,null,59.3],['GPQA',62.0,null,null,41.5],['GSM8K',92.9,null,null,88.9],['Math',57.3,null,null,43.6],['CMMLU',86.8,null,null,76.9]] }; var cur='coding'; function drawBars(c){cur=c;var keys=c==='base'?['n','g']:['n','q','m','g']; var names=c==='base'?{n:'Nanbeige4.3-33B-Base',g:'Gemma4-31B-Base'}:{}; document.getElementById('nbgLegend').innerHTML=keys.map(function(k){return '<span><i style="background:'+M[k][1]+'"></i>'+(names[k]||M[k][0])+'</span>'}).join(''); var idx={n:1,q:2,m:3,g:4},h=''; D[c].forEach(function(r){h+='<div class="bench"><div class="bn">'+r[0]+'</div>'; keys.forEach(function(k){var v=r[idx[k]];h+='<div class="brow'+(k==='n'?' me':'')+'"><span class="lb">'+(names[k]||M[k][0])+'</span><div class="track"><div class="fill" data-w="'+v+'" style="background:'+M[k][1]+'"></div></div><span class="v">'+v.toFixed(1)+'</span></div>'}); h+='</div>'}); var box=document.getElementById('nbgBars');box.innerHTML=h; requestAnimationFrame(function(){requestAnimationFrame(function(){box.querySelectorAll('.fill').forEach(function(f){f.style.width=f.dataset.w+'%'})})}); resize();setTimeout(resize,300)} R.querySelectorAll('#nbgSeg button').forEach(function(b){b.onclick=function(){R.querySelectorAll('#nbgSeg button').forEach(function(x){x.classList.remove('on')});b.classList.add('on');drawBars(b.dataset.c)}}); drawBars('coding'); // 计算 var CT=[8192,16384,32768,65536,131072,262144,524288],wb=2,kb=2; function fmt(n){return n.toLocaleString('en-US')} function calc(){var ctx=CT[+document.getElementById('nbgCtx').value],seq=+document.getElementById('nbgSeq').value; document.getElementById('nbgCtxL').textContent=fmt(ctx)+' 个词元';document.getElementById('nbgSeqL').textContent=seq; var w=33e9*wb/1e9,kv=52*8*128*2*kb*ctx*seq/1e9,t=w+kv; document.getElementById('nbgTot').textContent=t.toFixed(1)+' GB'; document.getElementById('nbgWv').textContent=w.toFixed(1)+' GB';document.getElementById('nbgKv').textContent=kv.toFixed(1)+' GB'; document.getElementById('nbgGpu').textContent=Math.ceil(t/80)+' × 80 GB'; document.getElementById('nbgBw').style.width=(w/t*100)+'%';document.getElementById('nbgBk').style.width=(kv/t*100)+'%'} ['nbgCtx','nbgSeq'].forEach(function(id){document.getElementById(id).addEventListener('input',calc)}); R.querySelectorAll('#nbgW button').forEach(function(b){b.onclick=function(){R.querySelectorAll('#nbgW button').forEach(function(x){x.classList.remove('on')});b.classList.add('on');wb=+b.dataset.w;calc()}}); R.querySelectorAll('#nbgK button').forEach(function(b){b.onclick=function(){R.querySelectorAll('#nbgK button').forEach(function(x){x.classList.remove('on')});b.classList.add('on');kb=+b.dataset.k;calc()}}); calc(); window.addEventListener('load',resize);window.addEventListener('resize',resize);setTimeout(resize,200); })(); </script> </body></html> " style="width:100%!important;height:600px;border:0!important;background:transparent!important;display:block;" loading="lazy">

它与竞争对手自己的模型卡相比表现如何?

规格Nanbeige4.3-33BQwen3.8-27BMuse-Glimmer-30BGemma 4 31B
开发者Nanbeige LLM Lab(BOSS直聘)Qwen(阿里巴巴)Meta Superintelligence LabGoogle DeepMind
参数量33B 稠密27B 稠密语言模型加视觉编码器约29.6B 稠密,含约1.8B 视觉编码器30.7B 稠密
上下文524,288262,144 原生,最高 1M131,072+256K
输入模态文本文本、图像、视频文本、图像文本、图像
许可证Apache 2.0Apache 2.0Apache 2.0Apache 2.0
Terminal-Bench 2.180.9*73.051.7未披露
SWE-Bench Pro60.3*61.751.2未披露
GPQA Diamond89.5*89.283.5 (AA)84.3
AIME 202695.2*未披露94.789.2
本地硬件指引4-GPU 张量并行方案未披露约4-bit 量化下需 24 GB 或 32 GB 显存消费级 GPU 和工作站

*由南北阁自行报告。竞争对手数值来自各实验室自己的 Hugging Face 模型卡。

南北阁表格中的部分竞争对手数据与这些实验室自己发布的数据不一致:

  • Meta 报告 Muse-Glimmer-30B 在 SWE-Bench Pro 上为 51.2,Gemma4-31B 为 36.9。南北阁列出的数值正好相反。
  • Google 列出 Gemma 4 31B 在 GPQA Diamond 上为 84.3。南北阁的表格显示 91.3。
  • Meta 报告 Muse-Glimmer-30B 在 Terminal-Bench 2.1 上为 51.7。南北阁测得 61.8。

不同的评测框架可以解释部分差异。SWE-Bench Pro 那一组看起来是被调换了。在出现独立运行结果之前,请将这些行视为暂时性数据。

如何部署 Nanbeige4.3-33B?

模型卡提供了 Transformers、SGLang 和 vLLM 的使用方案。其服务器示例使用 4 路 tensor parallelism,并采用 Qwen3 的 reasoning 和 tool-call 解析器。推荐的 agent 设置为 temperature 1.0、top_p 0.95 和 65,536 最大新 token。Reasoning 和 chat 使用 temperature 0.6 和 262,144 最大新 token。

根据 config.json 推算,BF16 权重约需 66 GB。BF16 下 KV cache 每个 token 增加约 208 KiB。因此一个完整的 524,288 token 序列大约需要 112 GB 的 KV cache。截至发布时,尚无 Hugging Face Inference Provider 托管该模型。

关键要点

  • 33B 稠密模型,Apache 2.0 许可,512K 上下文,仅支持文本。
  • 自行报告在 Terminal-Bench 2.1 上为 80.9,在 DeepSWE 上为 65.5。
  • 在南北阁自己的表格中,20 行里有 17 行领先。
  • 多项竞争对手数据与官方模型卡存在冲突。
  • 其定位是即将推出的 Nanbeige4.3-3B 的教师模型。


欢迎查看 模型权重、 Base 模型 以及 在 X 上的发布帖子。另外,欢迎在 Twitter 上关注我们,也别忘了加入我们的 150k+ML SubReddit 并订阅 我们的 Newsletter。等等!你用 telegram 吗? 现在你也可以在 telegram 上加入我们了。

需要与我们合作推广你的 GitHub 仓库、Hugging Face 页面、产品发布、Webinar 等? 与我们联系

这篇文章 Nanbeige 发布 Nanbeige4.3-33B,一个 33B 开放智能体编程模型 首发于 MarkTechPost.

原始出处

MarkTechPost

内容说明

原始发布及相关权利归来源方。

机器翻译 · 请以原文为准