トークン請求書を持ってきてください
30 分。実際の使用量に合わせてマシンをサイジングし、所有が API に勝つ段階かどうかを率直にお伝えします。
従量課金 API はトークンごとに課金しますが、所有するマシンは月単位です。組み立てとホスティングは当社が担当、OpenAI 互換キーはあなたのハードウェアだけにルーティングされます。

推論コストはマシン + 定額ホスティングになります。ローンチ週も閑散週も同じコストで、ハードウェアは初日からあなたの所有です。
API キーは自分のマシンにスコープされるので、リクエストが共有 GPU プールに触れることはありません。容量、レイテンシ、モデルのバージョン、すべてあなたのものです。
ゲートウェイは OpenAI 互換です。base URL とキーを差し替えるだけで、残りのコードはそのまま使えます。
client = OpenAI(
base_url="https://b3iq.org/v1/api",
api_key=os.environ["B3IQ_API_KEY"],
)購入前に、実際に買う構成と同じマシンであなたのモデルを動かし、スループットとレイテンシの実測値を共有します。
セルフホストが勝つのは継続的なボリュームがあるときです。安定したトークン支出がマシンの月額ホスティング費を超えれば、限界トークンはほぼ無料になります。その線より下では、買っているのは節約ではなくコントロールと予測可能性、従量課金 API のほうが安いこともあります。実際の使用量を持ってきてください。どちら側にいるか、率直にお伝えします。
その可能性はありますし、その場合ははっきりそう言います。支出が小さく安定しているなら従量課金 API のままで。使用量が継続的・スパイキー、あるいは限界トークン単価より予測可能性が重要になるほど成長しているなら、所有が意味を持ち始めます。
同じプラットフォームに GPU を追加するか、同じキーの下に 2 台目を追加するか、必要になったらより大きな構成にステップアップできます。
はい。マシンは全額支払いで、初日から所有権を保持します。ファイナンスも残高もありません。当社でホストして稼働させる場合、その収益の 15% を当社が受け取り、85% はあなたのものです。正確な数字はオーナーシップページにあります。
30 分。実際の使用量に合わせてマシンをサイジングし、所有が API に勝つ段階かどうかを率直にお伝えします。
ページとマシンを検索します。