본문으로 건너뛰기

모든 머신 비교. 속도는 대역폭이 정합니다.

토큰 하나를 쓸 때마다 GPU 메모리에서 모델 가중치를 읽습니다. 그래서 초당 토큰 수는 대략 메모리 대역폭을 메모리에 올린 모델 크기로 나눈 값입니다.

메모리가 빠른 순서.

B3IQ가 판매하는 머신을 GPU당 메모리 대역폭 순으로

머신GPU당 대역폭시작 가격
H200 NVL4.8 TB/s$329,032
RTX 50901.8 TB/s$7,880
Workstation RTX 50901.8 TB/s$12,506

가격은 당사의 부품 도착 원가 + 5%의 빌드 & AI 보증 수수료 하나뿐입니다. 부품에 마진을 붙이지 않습니다. 정확한 구성은 다음 단계에서 설정하세요.

수치 뒤의 구성을 살펴보세요.

H200 NVL
GPU 외관

H200 NVL

GPU당 메모리
141 GB HBM3e
GPU당 대역폭
4.8 TB/s
장착 GPU 메모리
8× · 1.13 TB
GPU 연결
NVLink 지원

장착 GPU 메모리는 카드에 나뉘어 있습니다. 연결 지원만으로 모델 실행이나 단일 공유 메모리 풀이 보장되지 않습니다. 배치, 런타임, 워크로드를 확인해야 합니다.

이 머신 살펴보기 ↗

외관 참고 이미지입니다. 각 화면은 개별 구도로 표시되며 실제 크기를 비교하는 축척은 아닙니다. 모델 실행은 런타임, 캐시, 워크로드에 따라 달라집니다. 카탈로그 사양은 판매 구성을 설명합니다. 아래 날짜가 있는 커뮤니티 참고 자료는 별도 실행이며 이 머신의 측정 성능이 아닙니다.

사양표.

메모리

B3IQ 판매 머신 비교
H200 NVL$329,032
RTX PRO 6000 Server Edition$104,171
RTX 5090$7,880
Workstation RTX 5090$12,506
GPU 메모리
8 × 141 GB HBM3e최대 구성 1.13 TB
최대 8 × 96 GB GDDR7최대 구성 768 GB
1 × 32 GB GDDR7최대 구성 32 GB
최대 2 × 32 GB GDDR7최대 구성 64 GB
시스템 메모리DDR5 RDIMM · 1536 GBDDR5 RDIMM · 512–768 GBDDR5 UDIMM (consumer) · 64–128 GBDDR5 RDIMM · 64–512 GB

구성

폼 팩터4U 랙4U 랙프로슈머 타워워크스테이션 타워
NVLink있음없음없음없음
CPU2× AMD EPYC 9355 (32c)2× AMD EPYC 9355 (32c)Ryzen 9 9950X (16c)Threadripper PRO 9955WX (16c)
스토리지4 TB NVMe4 TB NVMe2 TB NVMe4 TB NVMe
최대 부하 전력6 kW2.8 kW1.6 kW2.4 kW
리드 타임6–8 weeks6–8 weeks~1 week~1 week

실측 속도.

오픈 모델의 초당 토큰 수와 첫 토큰까지의 시간을 하드웨어별로 한 행씩. 행마다 가장 빠른 실행은 서로 다른 모델이므로, 행끼리가 아니라 한 행 안에서 비교하세요.

출처를 명시한 커뮤니티 실행 결과이며, B3IQ 구성의 측정값은 아닙니다. 여기에 B3IQ 워크로드 벤치마크는 게시되어 있지 않습니다. 사용하려는 구성에서 모델, 정밀도, 컨텍스트와 동시 실행을 검증하세요.

하드웨어별 실측 처리량

하드웨어최고 속도첫 토큰모델
H200 SXM커뮤니티564 GB878 tok/sQwen3.5-122B-A10B-FP8491 ms5
H200 NVL커뮤니티141 GB이 GPU를 쓰는 머신2665 tok/sQwen3.5-0.8B-Base143 ms5
RTX PRO 6000 Blackwell커뮤니티96 GB이 GPU를 쓰는 머신1048 tok/sGemma-4-26B-A4B-NVFP4—2
RTX 3090커뮤니티48 GB303 tok/sLFM2.5-8B-A1B-GGUF144 ms1
Radeon AI Pro R9700커뮤니티32 GB1405 tok/sQwen2.5-7B271 ms4
RTX 5090커뮤니티32 GB이 GPU를 쓰는 머신286 tok/sNVIDIA-Nemotron-3-Nano-30B-A3B-BF16200 ms1
RTX A5000커뮤니티24 GB325 tok/sgemma-3-1b-it-GGUF—2
RX 7900 XTX커뮤니티24 GB577 tok/sQwen3.5-9B83 ms2

커뮤니티 행은 LocalMaxxing community에서 제공한 데이터입니다. 2026년 5월 기준 스냅샷. localmaxxing.com

두 대 사이에서 고민 중이신가요?

다음: 어떤 모델이 들어가나요