Solutions / BYOC

เชื่อม compute ของคุณเข้ากับ API ของคุณ
BYOC (ใช้ compute ของคุณเอง)

รันโมเดลบนอุปกรณ์ที่คุณดูแล ขณะที่แอปยังใช้จุดเชื่อมต่อ API เดียวของ BazaarLink โหนดให้บริการเฉพาะบัญชีเจ้าของ ไม่ใช่ตลาด compute แบบใช้ร่วมกัน

จัดการ BYOC node

จากการติดตั้ง GitHub จนเชื่อมต่อ

@bazaarlink/byoc-agent v0.1.0 อยู่ภายใต้ MIT ติดตั้ง CLI แบบ global จาก GitHub สาธารณะได้ ส่วนเวอร์ชัน npm registry จะตามมา ค่า --models (เช่น qwen3.5:2b) คือ local backend model ID ไม่ใช่ canonical ID ที่ใช้เรียกผ่าน API Authenticated ยืนยันเฉพาะการเชื่อมต่อ gateway เปิด /keys/byok?tab=byoc แล้วสร้าง byoc/qwen3.5-2b -> qwen3.5:2b จากนั้นเรียก byoc/qwen3.5-2b ผ่าน API

ติดตั้ง CLI แบบ global

ติดตั้ง CLI ภายใต้ MIT แบบ global จาก GitHub สาธารณะ

1
npm install -g github:Bazaarlinkorg/bazaarlink-byoc-agent

รับ BYOC key

ถ้ายังไม่มี key ให้ใช้ register พร้อม email, model และจำนวนงานพร้อมกัน

1
2
3
4
bazaarlink-byoc register \
  --email you@example.com \
  --models qwen3.5:2b \
  --max-concurrent 4

ล็อกอิน gateway

1
2
3
4
5
6
bazaarlink-byoc login \
  --key "byoc_..." \
  --gateway "https://byoc-gateway.bazaarlink.ai" \
  --models "qwen3.5:2b" \
  --input-price 0 \
  --output-price 0

เริ่มและเชื่อมต่อ

Authenticated ยืนยันเฉพาะการเชื่อมต่อ gateway เปิด /keys/byok?tab=byoc แล้วสร้าง byoc/qwen3.5-2b -> qwen3.5:2b จากนั้นเรียก byoc/qwen3.5-2b ผ่าน API

1
2
3
bazaarlink-byoc start
# Authenticated only confirms the gateway connection.
# Create byoc/qwen3.5-2b -> qwen3.5:2b in /keys/byok?tab=byoc

เครื่องลูกค้า → BYOC Agent → BazaarLink gateway → แอปลูกค้า

โมเดลและสภาพแวดล้อม inference อยู่ในอุปกรณ์ของคุณ Agent เชื่อม gateway, gateway ส่งงานของบัญชีคุณกลับไปยังโหนดของคุณ และแอปใช้ API เดียว

GPU ของคุณ

โมเดลและการประมวลผลอยู่บนเครื่องของคุณ

โมเดลของ BazaarLink

รับงานแทนเมื่อโหนดของคุณเต็มหรือออฟไลน์

BazaarLink BYOC

ทราฟฟิกผ่านโหนดของคุณเองไม่มีค่าบริการ BazaarLink

API key เดียว

ปลายทางเดิม ไม่ต้องแก้แอป

แอปของคุณ

local backend ที่เชื่อมได้ในปัจจุบัน

เลือก backend ในเครื่องที่รันโมเดล แล้วส่งค่าการเชื่อมต่อให้ Agent

Ollama

backend เริ่มต้นที่ http://localhost:11434

LM Studio / vLLM

ใช้ --backend openai และ --url พร้อม local model ID

llama.cpp server

ใช้ OpenAI-compatible streaming โดยไม่แปลงชื่อโมเดล

ทำไมจึงเชื่อม compute กับบัญชีของคุณ

โมเดลทำงานบนอุปกรณ์ของคุณ

คุณดูแลไฟล์โมเดล inference ฮาร์ดแวร์ และสภาพแวดล้อมในเครื่องเอง

traffic BYOC นี้ราคา BazaarLink 0

BazaarLink ไม่คิดราคากับ traffic ผ่าน node BYOC ของคุณ แต่อุปกรณ์และการดำเนินงานเป็นความรับผิดชอบของคุณ

แอปใช้ API เดียว

โมเดลในเครื่องเชื่อมผ่าน gateway จึงไม่ต้องเขียน transport layer แยกตาม backend

โหนดให้บริการเจ้าของเท่านั้น

งานผูกกับบัญชีเจ้าของและไม่เข้า shared pool หรือตลาด compute

รายละเอียดทางเทคนิค

ค่าต่อไปนี้ตรงกับ CLI และ package metadata ปัจจุบัน ก่อนเวอร์ชัน npm registry จะมา ให้ติดตั้งจาก GitHub สาธารณะ

npm package: @bazaarlink/byoc-agent v0.1.0 · MIT · ติดตั้งจาก GitHub, เวอร์ชัน npm registry จะตามมา
แหล่งซอร์ส: github.com/Bazaarlinkorg/bazaarlink-byoc-agent
CLI: bazaarlink-byoc
runtime: Node.js 18+
การเชื่อมต่อ: Agent เชื่อม outbound ไป gateway /ws ไม่ต้องเปิด inbound port
การตั้งค่าในเครื่อง: ~/.bazaarlink/config.json
ราคาใน login: --input-price และ --output-price จำเป็นในปัจจุบัน; 0 เป็นค่าเพื่อความเข้ากันได้

ติดตั้ง CLI จาก GitHub

1
npm install -g github:Bazaarlinkorg/bazaarlink-byoc-agent

ติดตั้ง CLI แบบ global จาก GitHub สาธารณะได้แล้ว ส่วนเวอร์ชัน npm registry จะตามมา

Ollama: ล็อกอินและเริ่ม

1
2
3
4
bazaarlink-byoc login   --key "byoc_REPLACE_WITH_YOUR_KEY"   --gateway "https://byoc-gateway.bazaarlink.ai"   --models "qwen3.5:2b"   --input-price 0   --output-price 0
bazaarlink-byoc start
# Authenticated only confirms the gateway connection.
# Create byoc/qwen3.5-2b -> qwen3.5:2b in /keys/byok?tab=byoc

--backend ollama เป็นค่าเริ่มต้น หากใช้ที่อยู่อื่นให้เพิ่ม --ollama-url

OpenAI-compatible: ล็อกอินและเริ่ม

1
2
3
4
bazaarlink-byoc login   --key "byoc_REPLACE_WITH_YOUR_KEY"   --gateway "https://byoc-gateway.bazaarlink.ai"   --backend openai   --url "http://localhost:1234/v1"   --models "your-model-id"   --input-price 0   --output-price 0
bazaarlink-byoc start
# Authenticated only confirms the gateway connection.
# Create byoc/qwen3.5-2b -> your-model-id in /keys/byok?tab=byoc

LM Studio, vLLM และ llama.cpp ใช้ --backend openai และต้องระบุ --url

เหมาะกับทีมแบบใด

มี GPU host และ local model ต้องการดูแลโมเดลกับ inference environment เอง แต่ให้ผลิตภัณฑ์ใช้ API entry ที่คุ้นเคย

ไม่ต้องการปล่อย compute ว่างให้ผู้อื่นใช้หรือส่งคำขอไปยังโหนดร่วม BYOC เชื่อมอุปกรณ์ บัญชี และ gateway ของคุณ

ตรวจสอบด้วยเครื่องของคุณหนึ่งเครื่อง

เชื่อมต่อ BYOC โหนดแรก

เตรียมเครื่องรันโมเดลในเครื่องและ BYOC key เพื่อดูการทำงานร่วมกันของ compute โหนด และ API เดียว