跳到正文

在你拥有的硬件上运行私有 AI,就在一栋叫得出名字的楼里。

你的模型运行在你拥有的硬件上。了解周围网关及存储的数据边界。

了解路径,也了解记录。

专用硬件是一层边界。网关及你使用的功能有各自的数据处理方式。

仅限账户自有机器部署示意
  1. 你的应用TLS连接至网关
  2. B3IQ网关在内存中处理请求
  3. 你的机器你的模型与工作负载

普通API请求通过TLS网关在内存中处理。这不是端到端机密执行。客户端文件、权重及应用存储由你负责。

各功能的数据处理

路由与计量
模型及机器标识、状态、令牌数量和耗时。路由日志不含提示词或输出文本。默认保留90天。
已保存的Playground会话
明确保存托管Playground对话时,消息内容会被存储。保留时间取决于会话到期和删除;固定的会话可保留更久。
加密私有任务
此独立任务流程保留加密载荷。载荷默认保留30天,任务元数据90天。保留设置可以不同。

机密执行尚在规划中,不是当前部署的保证。

如何运行

它如何保持私有。

  1. API密钥仅路由到账户自有机器。限定机器范围的密钥可缩小范围;未限定的密钥可访问全部自有机器。不使用第三方服务商回退。
  2. 机架上一台有名有号的机器,有物理安防、冗余电力、全天候驻场的工程师,并按重置价值投保。
  3. 任何配置都可以寄送给你,满足要求硬件必须在你场内的政策。

一台属于你自己的塔式机。

最多 2 张卡、共 64 GB GPU 显存,只运行你的工作负载。

Workstation RTX 5090

显存
32 GB GDDR7
每张卡
带宽
1.8 TB/s
每张卡
交付周期
约 1 周

常见问题

审核方会问的问题。

硬件归你所有。账户和组织权限控制API访问,机器范围密钥可进一步限制路由。B3IQ工程师负责托管设施。请与我们明确部署的访问与存储要求。

普通API请求通过TLS网关在内存中处理。路由和计量日志不含提示词或输出文本,默认保留90天。明确保存的托管Playground会话会存储消息内容,受到期及删除策略控制;固定会话可保留更久。独立加密私有任务流程默认保留载荷30天、元数据90天。保留设置可不同。

在任何 PHI 进入我们托管的硬件之前,我们会签署业务伙伴协议(BAA);我们的 SOC 2 Type II 审计正在进行中,由 A-LIGN 执行。HIPAA 本身并没有可以持有的认证。完整范围见 b3iq.org/hipaa。

Daryl XuViktoriya HyingSean GengMatt

把你的要求讲给我们听。

带上安全问卷,以及你们最严格的审核人。我们已完成完整版 HECVAT,欢迎索取副本。

或给我们发消息: iMessage +1 (332) 324-8327Telegram @b3iqbot