本文へスキップ

すべてのマシンを比較。 速さは帯域幅で決まる。

トークンを1つ書くたびに、モデルの重みをGPUメモリから読み出します。そのため毎秒トークン数は、おおよそメモリ帯域幅をメモリ上のモデルのサイズで割った値になります。

メモリの速い順。

B3IQ が販売するマシンを、GPUあたりのメモリ帯域幅の順に

マシンGPUあたりの帯域幅最低価格
H200 NVL4.8 TB/s$329,032
RTX 50901.8 TB/s$7,880
Workstation RTX 50901.8 TB/s$12,506

価格は当社の部品着荷コスト + 5% のビルド&AI 保証手数料のみ、部品への上乗せはありません。正確な構成は次のステップで指定できます。

数値の背景にある構成を確認。

H200 NVL
GPU 外観

H200 NVL

GPU あたりメモリ
141 GB HBM3e
GPUあたりの帯域幅
4.8 TB/s
搭載 GPU メモリ
8× · 1.13 TB
GPU 間接続
NVLink 対応

搭載 GPU メモリは複数のカードに分散しています。接続規格への対応だけでモデルの実行や単一の共有メモリが保証されるわけではありません。配置、ランタイム、ワークロードを確認してください。

このマシンを確認 ↗

外観の参考図です。各表示は個別に調整され、同一の物理縮尺ではありません。モデルの実行可否はランタイム、キャッシュ、ワークロード次第です。 カタログ仕様は販売する構成を表します。以下の日付付きコミュニティ参考値は別の実行結果で、このマシンの性能測定ではありません。

仕様表。

メモリ

B3IQ が販売する全マシンの比較
H200 NVL$329,032
RTX PRO 6000 Server Edition$104,171
RTX 5090$7,880
Workstation RTX 5090$12,506
GPUメモリ
8 × 141 GB HBM3e最大構成で 1.13 TB
最大 8 × 96 GB GDDR7最大構成で 768 GB
1 × 32 GB GDDR7最大構成で 32 GB
最大 2 × 32 GB GDDR7最大構成で 64 GB
システムメモリDDR5 RDIMM · 1536 GBDDR5 RDIMM · 512–768 GBDDR5 UDIMM (consumer) · 64–128 GBDDR5 RDIMM · 64–512 GB

構成

フォームファクタ4U ラック4U ラックプロシューマータワーワークステーションタワー
NVLinkありなしなしなし
CPU2× AMD EPYC 9355 (32c)2× AMD EPYC 9355 (32c)Ryzen 9 9950X (16c)Threadripper PRO 9955WX (16c)
ストレージ4 TB NVMe4 TB NVMe2 TB NVMe4 TB NVMe
最大負荷時の電力6 kW2.8 kW1.6 kW2.4 kW
納期6–8 weeks6–8 weeks~1 week~1 week

実測スピード。

オープンモデルの毎秒トークン数と最初のトークンまでの時間を、ハードウェアごとに1行で。各行の最速の実行はそれぞれ別のモデルなので、行をまたがずに行の中で比べてください。

出典を明示したコミュニティの実行結果であり、B3IQ の構成を測定した値ではありません。ここには B3IQ のワークロード測定は掲載していません。使用予定の構成でモデル、精度、コンテキスト、同時実行数を検証してください。

ハードウェア別の実測スループット

ハードウェア最速の実行最初のトークンモデル
H200 SXMコミュニティ564 GB878 tok/sQwen3.5-122B-A10B-FP8491 ms5
H200 NVLコミュニティ141 GBこのGPUを載せたマシン2665 tok/sQwen3.5-0.8B-Base143 ms5
RTX PRO 6000 Blackwellコミュニティ96 GBこのGPUを載せたマシン1048 tok/sGemma-4-26B-A4B-NVFP4—2
RTX 3090コミュニティ48 GB303 tok/sLFM2.5-8B-A1B-GGUF144 ms1
Radeon AI Pro R9700コミュニティ32 GB1405 tok/sQwen2.5-7B271 ms4
RTX 5090コミュニティ32 GBこのGPUを載せたマシン286 tok/sNVIDIA-Nemotron-3-Nano-30B-A3B-BF16200 ms1
RTX A5000コミュニティ24 GB325 tok/sgemma-3-1b-it-GGUF—2
RX 7900 XTXコミュニティ24 GB577 tok/sQwen3.5-9B83 ms2

コミュニティの行の出典は LocalMaxxing community です。 2026年5月 時点のスナップショット。 localmaxxing.com