IT之家 10月13日の報道によると、YouTubeチャンネル「Jun Yamog」は昨日（10月12日）に動画を公開し、4台のTesla V100をNVLinkベースプレート上に設置するテストを行った。Qwen3.8-Flash-Nextベンチマークにおいて、長いプロンプトの処理速度はM5 Ultraより230%、2台のDGX Sparkより40%速い。
IT之家の公開情報によると、Tesla V100はニューラブが2017年に発表したデータセンター用GPUで、Voltaアーキテクチャを基盤としており、AIのトレーニングや推論に広く使用されています。32GB版にはHBM2メモリが搭載され、900GB/sのメモリ帯域幅により、大規模なパラメータやデータの迅速な読み込みをサポートします。
NVLinkはNVIDIAのGPU高速接続技術であり、複数のGPU間でデータを直接伝送するために使用されます。PCIe通信と比べて、NVLinkは接続のボトルネックを低減でき、多GPUサーバーやAI計算クラスターに広く利用されています。
このNVLinkカードプレートは300GB/sの帯域幅を提供し、6本のNVLink 2.0接続を備えています。4個の独立したGPUを収容するために、テスト者はNVIDIA A100ヒートシンクを改造し、各V100が約300Wの消費電力を発散可能にし、PCIe x8インターフェースを通じてカードプレートに接続しました。
その配信者は、4ビット量化されたQwen3.8-Flash-Nextモデルを使用してテストを行い、比較対象には128GB LPDDR5X統一メモリを搭載した2台のDGX Sparkや、M5 Ultraチップを搭載したMac Studioデバイスが含まれる。
長いヒント処理テストにおいて、4個のV100はDGX Sparkクラスタより40％速く、M5 Ultraより230％速かった。テスターは、Apple Siliconとの大きな差異が、ソフトウェアの最適化が不十分によるものかもしれないと指摘した。
短いヒント処理テストにおいて、V100クラスターはDGX Sparkより40％の速度優位性を持ち、M5 Ultraより163％速い。この結果は、旧式データセンターダウンキューブレッドが特定の推論負荷において依然として高いスループット能力を持っていることを示している。
短いプロンプトのToken生成テストでは、4台のV100が100.6 tok/sを記録し、2台のDGX Sparkより121％速い。M5 Ultraのスコアは44.5 tok/sであった。
