Solutions / BYOC

自分の計算資源を、自分の API 入口へ
BYOC（自分の計算資源）

管理している機器でモデルを実行しながら、アプリケーションは BazaarLink の統一 API 入口を使えます。ノードは所有アカウント専用で、共有計算資源マーケットではありません。

GitHub インストールから接続まで

@bazaarlink/byoc-agent v0.1.0 は MIT ライセンスです。公開 GitHub から CLI をグローバルインストールでき、npm registry 版は後日提供します。 --models の値（例: qwen3.5:2b）はローカル backend の model ID であり、API で呼び出す canonical ID ではありません。 Authenticated は gateway 接続の確認だけです。次に /keys/byok?tab=byoc を開き、byoc/qwen3.5-2b -> qwen3.5:2b を作成してから、byoc/qwen3.5-2b を API で呼び出します。

CLI をグローバルにインストール

公開 GitHub から MIT ライセンスの CLI をグローバルインストールします。

1
npm install -g github:Bazaarlinkorg/bazaarlink-byoc-agent

BYOC key を取得

key があれば次へ進みます。なければ email、モデル、並列数を指定して register を実行します。

1
2
3
4
bazaarlink-byoc register \
  --email you@example.com \
  --models qwen3.5:2b \
  --max-concurrent 4

gateway にログイン

1
2
3
4
5
6
bazaarlink-byoc login \
  --key "byoc_..." \
  --gateway "https://byoc-gateway.bazaarlink.ai" \
  --models "qwen3.5:2b" \
  --input-price 0 \
  --output-price 0

起動して接続

Authenticated は gateway 接続の確認だけです。次に /keys/byok?tab=byoc を開き、byoc/qwen3.5-2b -> qwen3.5:2b を作成してから、byoc/qwen3.5-2b を API で呼び出します。

1
2
3
bazaarlink-byoc start
# Authenticated only confirms the gateway connection.
# Create byoc/qwen3.5-2b -> qwen3.5:2b in /keys/byok?tab=byoc

顧客マシン → BYOC Agent → BazaarLink gateway → 顧客アプリ

モデルと推論環境は自分の機器に置きます。Agent が gateway に接続し、gateway が所有アカウントの処理を自分のノードへ送り、アプリは一つの API 入口を使います。

あなたの GPU リソース

モデルと推論は自分の機器に残る

BazaarLink のモデル

ノードが満杯・オフラインのとき引き受ける

BazaarLink BYOC

自分のノードを通る分は BazaarLink 料金なし

API キーは 1 つ

同じ入口のまま、アプリの変更は不要

あなたのアプリケーション

現在接続できるローカル backend

モデルを実行するローカル backend を選び、その接続設定を Agent に渡します。

Ollama

既定の backend。既定 URL は http://localhost:11434 です。

LM Studio / vLLM

--backend openai と --url を使い、ローカルが受け付ける model ID を指定します。

llama.cpp server

モデル名の変換なしで同じ OpenAI-compatible streaming 経路を使います。

自分のアカウントへ計算資源を接続する理由

モデルは自分の機器で動く

モデル、推論処理、ハードウェア、ローカル環境を自分で管理できます。

この BYOC トラフィックは価格 0

自分の BYOC ノードで実行するトラフィックに BazaarLink の価格はありません。機器、電力、運用は自分の負担です。

アプリは一つの API

ローカルモデルを gateway 経由で接続するため、backend ごとの通信層を製品コードに追加しません。

ノードは所有者専用

処理は所有アカウントに結び付けられ、共有プールや計算資源マーケットには入りません。

技術詳細

以下は現在の CLI と package metadata に対応しています。npm registry 版が提供されるまでは公開 GitHub からインストールしてください。

npm package: @bazaarlink/byoc-agent v0.1.0 · MIT · GitHub からインストール、npm registry 版は後日
ソース: github.com/Bazaarlinkorg/bazaarlink-byoc-agent
CLI: bazaarlink-byoc
runtime: Node.js 18+
接続: Agent が gateway /ws へ outbound 接続。inbound port は不要
ローカル設定: ~/.bazaarlink/config.json
login の価格引数: --input-price と --output-price は現在必須。0 は互換設定で BYOC の請求ではありません

GitHub から CLI をインストール

1
npm install -g github:Bazaarlinkorg/bazaarlink-byoc-agent

公開 GitHub から CLI をグローバルインストールしてください。npm registry 版は後日提供します。

Ollama：ログインと起動

1
2
3
4
bazaarlink-byoc login   --key "byoc_REPLACE_WITH_YOUR_KEY"   --gateway "https://byoc-gateway.bazaarlink.ai"   --models "qwen3.5:2b"   --input-price 0   --output-price 0
bazaarlink-byoc start
# Authenticated only confirms the gateway connection.
# Create byoc/qwen3.5-2b -> qwen3.5:2b in /keys/byok?tab=byoc

--backend ollama が既定値です。別の URL なら --ollama-url を追加します。

OpenAI-compatible：ログインと起動

1
2
3
4
bazaarlink-byoc login   --key "byoc_REPLACE_WITH_YOUR_KEY"   --gateway "https://byoc-gateway.bazaarlink.ai"   --backend openai   --url "http://localhost:1234/v1"   --models "your-model-id"   --input-price 0   --output-price 0
bazaarlink-byoc start
# Authenticated only confirms the gateway connection.
# Create byoc/qwen3.5-2b -> your-model-id in /keys/byok?tab=byoc

LM Studio、vLLM、llama.cpp は --backend openai。--url は必須で、--models はローカルの model ID と一致させます。

この構成に向くチーム

GPU ホストとローカルモデルがあり、モデルと推論環境を管理下に置きながら、製品には馴染みのある API 入口を残したいチーム。

アイドル計算資源を貸し出したくなく、共有ノードへ処理を送らない構成を求めるチーム。BYOC は機器、アカウント、gateway を一つの経路でつなぎます。

自分のマシン一台で確認