Solutions / BYOC

把自己的算力接回自己的 API 入口
BYOC（自有算力）

模型跑在你管理的设备上，应用继续使用 BazaarLink 统一 API 入口。节点只服务所属账户，不是共享算力市场。

从 GitHub 安装到连接

@bazaarlink/byoc-agent v0.1.0 采用 MIT 授权。现在可从公开 GitHub 全域安装 CLI，npm registry 版本稍后推出。 --models 的值（例如 qwen3.5:2b）是本地 backend 的 model ID，不是 API 要调用的 canonical ID。 Authenticated 只代表 gateway 连接成功。接着打开 /keys/byok?tab=byoc，创建 byoc/qwen3.5-2b -> qwen3.5:2b，之后用 byoc/qwen3.5-2b 调用 API。

全域安装 CLI

从公开 GitHub 全域安装 MIT 授权的 CLI。

1
npm install -g github:Bazaarlinkorg/bazaarlink-byoc-agent

获取 BYOC key

还没有 key 时，用 register 提交 email、模型和并发数。

1
2
3
4
bazaarlink-byoc register \
  --email you@example.com \
  --models qwen3.5:2b \
  --max-concurrent 4

登录 gateway

1
2
3
4
5
6
bazaarlink-byoc login \
  --key "byoc_..." \
  --gateway "https://byoc-gateway.bazaarlink.ai" \
  --models "qwen3.5:2b" \
  --input-price 0 \
  --output-price 0

启动并连接

Authenticated 只代表 gateway 连接成功。接着打开 /keys/byok?tab=byoc，创建 byoc/qwen3.5-2b -> qwen3.5:2b，之后用 byoc/qwen3.5-2b 调用 API。

1
2
3
bazaarlink-byoc start
# Authenticated only confirms the gateway connection.
# Create byoc/qwen3.5-2b -> qwen3.5:2b in /keys/byok?tab=byoc

客户机器 → BYOC Agent → BazaarLink gateway → 客户应用

模型和推理环境留在你的设备。Agent 连接 gateway，gateway 把所属账户的工作送回你的节点，应用继续使用一个 API 入口。

你的 GPU 算力

模型与推理留在你的设备

BazaarLink 模型

你的节点满载或离线时接手

BazaarLink BYOC

走自己节点的流量零计价

单一 API key

同一个入口，程序不用改

你的应用程序

当前可接入的本地 backend

选择运行模型的本地 backend，并将连接设置提供给 Agent。

Ollama

默认 backend；默认 URL 是 http://localhost:11434。

LM Studio / vLLM

使用 --backend openai 与 --url，并填写本地 model ID。

llama.cpp server

使用 OpenAI-compatible streaming 路径，不自动转换模型名称。

为什么把算力接回自己的账户

模型在自己的设备上运行

模型文件、推理过程、硬件和本地环境由你管理。

这条 BYOC 流量 BazaarLink 价格为 0

BazaarLink 不对通过你自己的 BYOC 节点执行的流量计价；设备和运维成本仍由你承担。

应用只保留一套 API

本地模型通过 gateway 接入，产品代码不必为每个 backend 另写传输层。

节点只服务自己的账户

工作绑定所属账户，不加入共享算力池，也不是算力市场。

技术细节

以下字段对应当前 CLI 与套件 metadata；npm registry 版本推出前，请从公开 GitHub 安装。

npm 套件: @bazaarlink/byoc-agent v0.1.0 · MIT · 从 GitHub 安装，npm registry 版本稍后
原始码: github.com/Bazaarlinkorg/bazaarlink-byoc-agent
CLI: bazaarlink-byoc
运行环境: Node.js 18+
连接: Agent 主动 outbound 连接 gateway /ws，不需要 inbound port
本地配置: ~/.bazaarlink/config.json
login 价格参数: --input-price 与 --output-price 目前必填；0 是兼容设置

从 GitHub 安装 CLI

1
npm install -g github:Bazaarlinkorg/bazaarlink-byoc-agent

CLI 现在可从公开 GitHub 全域安装；npm registry 版本稍后推出。

Ollama：登录并启动

1
2
3
4
bazaarlink-byoc login   --key "byoc_REPLACE_WITH_YOUR_KEY"   --gateway "https://byoc-gateway.bazaarlink.ai"   --models "qwen3.5:2b"   --input-price 0   --output-price 0
bazaarlink-byoc start
# Authenticated only confirms the gateway connection.
# Create byoc/qwen3.5-2b -> qwen3.5:2b in /keys/byok?tab=byoc

--backend ollama 是默认值；需要其他地址时再加 --ollama-url。

OpenAI-compatible：登录并启动

1
2
3
4
bazaarlink-byoc login   --key "byoc_REPLACE_WITH_YOUR_KEY"   --gateway "https://byoc-gateway.bazaarlink.ai"   --backend openai   --url "http://localhost:1234/v1"   --models "your-model-id"   --input-price 0   --output-price 0
bazaarlink-byoc start
# Authenticated only confirms the gateway connection.
# Create byoc/qwen3.5-2b -> your-model-id in /keys/byok?tab=byoc

LM Studio、vLLM、llama.cpp 使用 --backend openai；--url 必填。

适合哪些团队

你有 GPU 主机和本地模型，希望自己管理模型与推理环境，同时让产品继续使用熟悉的 API 入口。

你不想出租闲置算力，也不希望请求进入共享节点。BYOC 把你的设备、账户和 gateway 接在一条路径上。

用一台自己的机器验证