Solutions / BYOC

अपनी compute को अपने API प्रवेश से जोड़ें
BYOC (अपनी compute)

मॉडल अपने नियंत्रण वाले उपकरण पर चलाएँ और application के लिए BazaarLink का एक API प्रवेश बनाए रखें। node केवल अपने मालिक के account की सेवा करता है; यह साझा compute बाज़ार नहीं है।

BYOC nodes प्रबंधित करें

GitHub install से connected node तक

@bazaarlink/byoc-agent v0.1.0 MIT license के तहत है। CLI को public GitHub से global install करें; npm registry version बाद में आएगा। --models की value (जैसे qwen3.5:2b) local backend model ID है, API में call करने वाला canonical ID नहीं। Authenticated केवल gateway connection की पुष्टि करता है। /keys/byok?tab=byoc खोलकर byoc/qwen3.5-2b -> qwen3.5:2b बनाएँ, फिर API में byoc/qwen3.5-2b call करें।

CLI को global install करें

Public GitHub से MIT-licensed CLI को global install करें।

1
npm install -g github:Bazaarlinkorg/bazaarlink-byoc-agent

BYOC key पाएँ

key न हो तो register में email, model और concurrency दें।

1
2
3
4
bazaarlink-byoc register \
  --email you@example.com \
  --models qwen3.5:2b \
  --max-concurrent 4

gateway में login करें

1
2
3
4
5
6
bazaarlink-byoc login \
  --key "byoc_..." \
  --gateway "https://byoc-gateway.bazaarlink.ai" \
  --models "qwen3.5:2b" \
  --input-price 0 \
  --output-price 0

start करके connect करें

Authenticated केवल gateway connection की पुष्टि करता है। /keys/byok?tab=byoc खोलकर byoc/qwen3.5-2b -> qwen3.5:2b बनाएँ, फिर API में byoc/qwen3.5-2b call करें।

1
2
3
bazaarlink-byoc start
# Authenticated only confirms the gateway connection.
# Create byoc/qwen3.5-2b -> qwen3.5:2b in /keys/byok?tab=byoc

ग्राहक मशीन → BYOC Agent → BazaarLink gateway → ग्राहक application

मॉडल और inference environment आपके उपकरण पर रहते हैं। Agent gateway से जुड़ता है, gateway आपके account का काम आपके node तक भेजता है, और application एक API रखता है।

aapki GPU capacity

model aur inference aapke hardware par hi rehte hain

BazaarLink models

jab aapka node bhara ya offline ho tab sambhalte hain

BazaarLink BYOC

apne node se jaane wale traffic par BazaarLink ka koi price nahi

ek API key

wahi endpoint, app mein badlav nahi

aapka application

आज उपलब्ध local backends

अपने मॉडल को चलाने वाला लोकल backend चुनें और उसकी कनेक्शन सेटिंग Agent को दें।

Ollama

Default backend; default URL http://localhost:11434 है।

LM Studio / vLLM

--backend openai और --url के साथ local model ID दें।

llama.cpp server

Model name बदले बिना OpenAI-compatible streaming path उपयोग करता है।

अपनी account से compute जोड़ने का कारण

Models अपने उपकरण पर चलते हैं

Model files, inference, hardware और local runtime आप नियंत्रित करते हैं।

इस traffic पर BazaarLink pricing 0

अपने BYOC node से चलने वाले traffic पर BazaarLink price नहीं लगाता; उपकरण और संचालन आपकी जिम्मेदारी हैं।

Application के लिए एक API

Local model gateway से जुड़ता है, इसलिए product code में हर backend के लिए अलग transport layer नहीं चाहिए।

Node मालिक के लिए है

Jobs owner account से बंधे रहते हैं और shared pool या compute marketplace में नहीं जाते।

तकनीकी विवरण

ये मान वर्तमान CLI और package metadata के अनुरूप हैं। npm registry version आने तक public GitHub से install करें.

npm package: @bazaarlink/byoc-agent v0.1.0 · MIT · GitHub से install, npm registry version बाद में
Source: github.com/Bazaarlinkorg/bazaarlink-byoc-agent
CLI: bazaarlink-byoc
Runtime: Node.js 18+
Connection: Agent gateway /ws पर outbound जुड़ता है; inbound port नहीं चाहिए
Local config: ~/.bazaarlink/config.json
login pricing flags: --input-price और --output-price अभी required हैं; 0 compatibility value है

GitHub से CLI install

1
npm install -g github:Bazaarlinkorg/bazaarlink-byoc-agent

CLI को public GitHub से global install करें; npm registry version बाद में आएगा।

Ollama: login और start

1
2
3
4
bazaarlink-byoc login   --key "byoc_REPLACE_WITH_YOUR_KEY"   --gateway "https://byoc-gateway.bazaarlink.ai"   --models "qwen3.5:2b"   --input-price 0   --output-price 0
bazaarlink-byoc start
# Authenticated only confirms the gateway connection.
# Create byoc/qwen3.5-2b -> qwen3.5:2b in /keys/byok?tab=byoc

--backend ollama default है; दूसरा address हो तो --ollama-url जोड़ें।

OpenAI-compatible: login और start

1
2
3
4
bazaarlink-byoc login   --key "byoc_REPLACE_WITH_YOUR_KEY"   --gateway "https://byoc-gateway.bazaarlink.ai"   --backend openai   --url "http://localhost:1234/v1"   --models "your-model-id"   --input-price 0   --output-price 0
bazaarlink-byoc start
# Authenticated only confirms the gateway connection.
# Create byoc/qwen3.5-2b -> your-model-id in /keys/byok?tab=byoc

LM Studio, vLLM और llama.cpp --backend openai लेते हैं; --url required है।

किस team के लिए

आपके पास GPU host और local model है, model तथा inference environment को खुद संभालना चाहते हैं, और product में परिचित API प्रवेश रखना चाहते हैं।

आप idle compute साझा नहीं करना चाहते और requests को shared nodes में नहीं भेजना चाहते। BYOC आपके उपकरण, account और gateway को जोड़ता है।

एक अपनी मशीन से जाँचें

पहला BYOC node जोड़ें

एक local model machine और BYOC key लेकर अपनी compute, node और API entry का साथ जाँचें।