跳到正文

NVIDIA托管机架可对外接单

H200 NVL

前沿规模的推理与微调,在单台 4U 节点中通过 NVLink 互联。

起价 $329,032按单定制6–8 weeks

H200 NVL

它能赚多少。

第一年每月你的 85%,扣除托管服务费

$/月

付给你托管服务费

您始终掌控:可以运行自己的工作负载,也可以决定机器是否对外赚钱。对外变现是一种选择,而非义务。

8× H200 NVL,托管并对外接单,按 80% 出租率计算,费率逐年下调至底价。仅为预测,不作保证。自己算一算

配置你的这一台。

H200 NVL

8× 141 GB已安装 GPU 内存 · 1128 GB

系统 RAM
1,536 GB
交付
俄勒冈托管
用途
可选按小时 Earn

GPU

8× 141 GB = 1,128 GB 显存

系统内存

1,536 GB DDR5

存储

存储用于存放您自己的数据,收益由 GPU 决定

交付方式

运行方式

需要定制 CPU、主板,或超出配置器上限的配置?

内部配置。

H200 NVL 是 NVIDIA 大显存的 Hopper 旗舰,为服务部署和多卡训练而生。

规划模型内存。

  • gpt-oss 120Bollama · 精度未固定阈值 80 GB · 容量 141 GB
  • Llama 3.3 70Bollama · 精度未固定阈值 80 GB · 容量 141 GB

目录阈值仅用于规划,并非实测峰值内存。部署前请确认模型文件、精度、系统内存和运行时。

GPU
8×NVIDIA H200 NVL 141GB
通过 NVLink 互联,可在整台机器内进行张量并行服务。
每块 GPU 显存
141GB HBM3e
每张 GPU 的显存带宽为 4.8 TB/s。查看模型的运行时配置,确认内存和上下文需求。
CPU
2× AMD EPYC 9355 (32c)
所选配置列出了具体的处理器和主板。
主板
ASRock Rack 4U8G-TURIN2/RF barebones
双路 8 卡准系统,含机箱和散热。
散热
针对4U 机架优化的风道
冗余风道。
电源
约 6 kW
冗余钛金牌电源,按整台 8 卡机器配置。
系统内存
1536 GB DDR5 RDIMM
存储
4 TB NVMe

在俄勒冈州组装、上架。

  1. 组装

    Current: 在工作台上组装。

    在这栋楼里组装,而非代工直发:下单后 6⁠–⁠8 周。

  2. QC

    质检,以及每张 GPU 的满载测试。

    每张 GPU 都在满载下运行并逐卡检查,然后机器才上架。

  3. 运行

    上架,归你所有。

    由我们为你运营;你提出要求时,我们也会寄给你。

  4. 监控

    由团队监控。

    Managed Hosting包含全天候监控和待命支持。

硬件概念图,不是设施蓝图

为以下机构的研究人员托管 GPU

SOC 2 Type II 审计进行中,由 A-LIGN 执行。已完成 HECVAT(完整版),欢迎索取副本。 安全 →

继续看看。

全部机器
  • RTX PRO 6000 Server Edition

    托管机架可对外接单

    RTX PRO 6000 Server Edition

    每个 GPU 配备 96 GB,面向大内存推理。请确认运行时和缓存预算。

    租用

    租赁报价

    按天或 2–⁠24 个月

    拥有

    起价

    $104,171

    按单定制 · 6–⁠8 周

    • 显存: 96 GB GDDR7
    • 参考配置: 4 个 GPU
    • 系统内存: 512 GB
    • 存储: 4 TB NVMe
    • 带宽: 1.6 TB/s显存带宽
  • RTX 5090

    塔式自用

    RTX 5090

    32 GB Blackwell,用于本地 AI 和渲染工作负载。

    租用

    租赁报价

    按天或 2–⁠24 个月

    拥有

    起价

    $7,880

    按单定制 · 约 1 周

    • 显存: 32 GB GDDR7
    • 参考配置: 1 个 GPU
    • 系统内存: 64 GB
    • 存储: 2 TB NVMe
    • 带宽: 1.8 TB/s显存带宽

Daryl XuViktoriya HyingSean GengMatt

购买前有疑问?

开具发票、账期结算、定制配置、BAA 或安全审查,我们都可以在通话中安排。

或给我们发消息: iMessage +1 (332) 324-8327Telegram @b3iqbot