跳到正文

在你擁有的硬體上執行私有 AI,就在一棟叫得出名字的大樓裡。

你的模型執行在你擁有的硬體上。了解周圍閘道與儲存的資料邊界。

了解路徑,也了解紀錄。

專用硬體是一層邊界。閘道及你使用的功能有各自的資料處理方式。

僅限帳戶自有機器部署示意
  1. 你的應用程式TLS連線至閘道
  2. B3IQ閘道在記憶體中處理請求
  3. 你的機器你的模型與工作負載

一般API請求透過TLS閘道在記憶體中處理。這不是端到端機密執行。用戶端檔案、權重及應用程式儲存由你負責。

各功能的資料處理

路由與計量
模型與機器識別、狀態、Token數量及耗時。路由日誌不含提示詞或輸出文字。預設保留90天。
已儲存的Playground對話
明確儲存託管Playground對話時,訊息內容會被儲存。保留時間取決於到期與刪除;釘選對話可保留更久。
加密私有工作
此獨立工作流程保留加密載荷。載荷預設保留30天,工作中繼資料90天。保留設定可以不同。

機密執行尚在規劃中,並非目前部署的保證。

如何運作

它如何保持私有。

  1. API金鑰僅路由到帳戶自有機器。限定機器範圍的金鑰可縮小範圍;未限定的金鑰可存取全部自有機器。不使用第三方供應商回退。
  2. 機架上一台有名有號的機器,有實體安全防護、備援電力、全天候駐場的工程師,並按重置價值投保。
  3. 任何配置都可以寄送給你,滿足要求硬體必須在你場內的政策。

一台屬於你自己的直立式機器。

最多 2 張卡、共 64 GB GPU 記憶體,只執行你的工作負載。

Workstation RTX 5090

顯示記憶體
32 GB GDDR7
每張卡
頻寬
1.8 TB/s
每張卡
交付週期
約 1 週

常見問題

審查方會問的問題。

硬體歸你所有。帳戶與組織權限控制API存取,機器範圍金鑰可進一步限制路由。B3IQ工程師負責託管設施。請與我們明確部署的存取與儲存要求。

一般API請求透過TLS閘道在記憶體中處理。路由和計量日誌不含提示詞或輸出文字,預設保留90天。明確儲存的託管Playground對話會儲存訊息內容,受到期與刪除策略控制;釘選對話可保留更久。獨立加密私有工作流程預設保留載荷30天、中繼資料90天。保留設定可不同。

在任何 PHI 進入我們代管的硬體之前,我們會簽署業務夥伴協議(BAA);我們的 SOC 2 Type II 稽核正在進行中,由 A-LIGN 執行。HIPAA 本身並沒有可以持有的認證。完整範圍請見 b3iq.org/hipaa。

Daryl XuViktoriya HyingSean GengMatt

把你的要求講給我們聽。

帶上安全問卷,以及你們最嚴格的審查人。我們已完成完整版 HECVAT,歡迎索取副本。

或傳訊息給我們: iMessage +1 (332) 324-8327Telegram @b3iqbot