Solutions / BYOC

Подключите собственные вычисления к своему API
BYOC (собственные вычисления)

Запускайте модели на управляемом вами устройстве, сохраняя для приложения единую точку входа BazaarLink API. Узел обслуживает свой аккаунт, а не общий рынок вычислений.

Управлять BYOC-узлами

От установки с GitHub до подключённого узла

@bazaarlink/byoc-agent v0.1.0 распространяется по MIT. Установите CLI глобально из публичного GitHub; версия в npm registry выйдет позже. Значение --models (например, qwen3.5:2b) — это ID модели локального backend, а не canonical ID для вызова API. Authenticated подтверждает только подключение к gateway. Откройте /keys/byok?tab=byoc, создайте byoc/qwen3.5-2b -> qwen3.5:2b, затем вызывайте byoc/qwen3.5-2b через API.

Установите CLI глобально

Установите CLI с лицензией MIT глобально из публичного GitHub.

1
npm install -g github:Bazaarlinkorg/bazaarlink-byoc-agent

Получите BYOC key

Если ключа нет, запустите register с email, моделью и числом параллельных задач.

1
2
3
4
bazaarlink-byoc register \
  --email you@example.com \
  --models qwen3.5:2b \
  --max-concurrent 4

Войдите в gateway

1
2
3
4
5
6
bazaarlink-byoc login \
  --key "byoc_..." \
  --gateway "https://byoc-gateway.bazaarlink.ai" \
  --models "qwen3.5:2b" \
  --input-price 0 \
  --output-price 0

Запустите и подключите

Authenticated подтверждает только подключение к gateway. Откройте /keys/byok?tab=byoc, создайте byoc/qwen3.5-2b -> qwen3.5:2b, затем вызывайте byoc/qwen3.5-2b через API.

1
2
3
bazaarlink-byoc start
# Authenticated only confirms the gateway connection.
# Create byoc/qwen3.5-2b -> qwen3.5:2b in /keys/byok?tab=byoc

Машина клиента → BYOC Agent → BazaarLink gateway → Приложение клиента

Модель и среда инференса остаются на вашем устройстве. Agent подключается к gateway, gateway отправляет работу вашего аккаунта вашему узлу, а приложение сохраняет один API.

Vashi GPU-moshchnosti

Model i inferens ostayutsya na vashem oborudovanii

Modeli BazaarLink

Podhvatyvayut, kogda vash uzel zagruzhen ili offline

BazaarLink BYOC

Bez tseny BazaarLink za trafik cherez sobstvennyy uzel

Odin API-klyuch

Tot zhe endpoint, prilozhenie ne menyaetsya

Vashe prilozhenie

Доступные локальные backend

Выберите локальный backend для модели и передайте Agent его параметры подключения.

Ollama

Backend по умолчанию; URL по умолчанию — http://localhost:11434.

LM Studio / vLLM

Используйте --backend openai и --url с локальным model ID.

llama.cpp server

Использует потоковый OpenAI-compatible путь без переименования модели.

Зачем подключать вычисления к своему аккаунту

Модели работают на вашем устройстве

Вы управляете файлами моделей, инференсом, оборудованием и локальной средой.

Для этого BYOC-трафика цена BazaarLink равна 0

BazaarLink не назначает цену трафику через ваш BYOC-узел; устройство и эксплуатация остаются вашей ответственностью.

Одно API для приложения

Локальная модель подключается через gateway, поэтому в коде продукта не нужна отдельная транспортная прослойка для каждого backend.

Узел служит владельцу

Задачи привязаны к аккаунту владельца и не попадают в общий пул или рынок вычислений.

Технические детали

Эти значения соответствуют текущим CLI и metadata пакета. До выхода версии в npm registry устанавливайте из публичного GitHub.

npm package: @bazaarlink/byoc-agent v0.1.0 · MIT · установить из GitHub, версия в npm registry выйдет позже
Исходный код: github.com/Bazaarlinkorg/bazaarlink-byoc-agent
CLI: bazaarlink-byoc
Runtime: Node.js 18+
Подключение: Agent подключается outbound к gateway /ws; inbound port не нужен
Локальная конфигурация: ~/.bazaarlink/config.json
Ценовые флаги login: --input-price и --output-price сейчас обязательны; 0 — значение совместимости

Установить CLI с GitHub

1
npm install -g github:Bazaarlinkorg/bazaarlink-byoc-agent

CLI устанавливается глобально из публичного GitHub; версия в npm registry выйдет позже.

Ollama: войти и запустить

1
2
3
4
bazaarlink-byoc login   --key "byoc_REPLACE_WITH_YOUR_KEY"   --gateway "https://byoc-gateway.bazaarlink.ai"   --models "qwen3.5:2b"   --input-price 0   --output-price 0
bazaarlink-byoc start
# Authenticated only confirms the gateway connection.
# Create byoc/qwen3.5-2b -> qwen3.5:2b in /keys/byok?tab=byoc

--backend ollama используется по умолчанию; для другого адреса добавьте --ollama-url.

OpenAI-compatible: войти и запустить

1
2
3
4
bazaarlink-byoc login   --key "byoc_REPLACE_WITH_YOUR_KEY"   --gateway "https://byoc-gateway.bazaarlink.ai"   --backend openai   --url "http://localhost:1234/v1"   --models "your-model-id"   --input-price 0   --output-price 0
bazaarlink-byoc start
# Authenticated only confirms the gateway connection.
# Create byoc/qwen3.5-2b -> your-model-id in /keys/byok?tab=byoc

LM Studio, vLLM и llama.cpp используют --backend openai; --url обязателен.

Для каких команд

У вас есть GPU host и локальная модель: вы хотите сами управлять моделью и средой инференса, сохранив привычную API-точку для продукта.

Вы не хотите сдавать свободные вычисления и отправлять запросы в общий пул узлов. BYOC соединяет ваше устройство, аккаунт и gateway.

Проверьте на своей машине

Подключите первый BYOC узел

Подготовьте локальную машину с моделью и BYOC key, чтобы проверить связку вычислений, узла и единого API.