GPU ของคุณ
โมเดลและการประมวลผลอยู่บนเครื่องของคุณ
หนึ่งคำขอเดินทางอย่างไร?
แอปของคุณ
model: "byoc/office-llm"
BazaarLink BYOC
ส่งต่อไปยังโหนดของคุณ
① โหนดของคุณ
โหนด GPU ของคุณ
ค่าโมเดล: ศูนย์
② ตัวสำรอง (ตามที่คุณตั้ง)
แพลตฟอร์ม BazaarLink
เรียกเก็บ: เครดิตแพลตฟอร์ม
แอปของคุณส่งคำขอตามปกติ ไม่ต้องแก้โค้ด
แอนิเมชันตัวอย่าง Agent เชื่อมต่อออกไปยัง gateway จึงไม่ต้องเปิดพอร์ตขาเข้า ผูก byoc/<slug> กับรหัสโมเดลในเครื่องของคุณที่ “การผูกโมเดล” ก่อน
เครื่องลูกค้า → BYOC Agent → BazaarLink gateway → แอปลูกค้า
โมเดลและสภาพแวดล้อม inference อยู่ในอุปกรณ์ของคุณ Agent เชื่อม gateway, gateway ส่งงานของบัญชีคุณกลับไปยังโหนดของคุณ และแอปใช้ API เดียว
โมเดลของ BazaarLink
รับงานแทนได้เมื่อโหนดของคุณเต็มหรือออฟไลน์ ตามการตั้งค่า Fallback (ราคาแพลตฟอร์ม)
BazaarLink BYOC
ทราฟฟิกที่โหนดของคุณประมวลผลไม่มีค่าโมเดลของ BazaarLink
API key เดียว
ปลายทางเดิม ไม่ต้องแก้แอป
แอปของคุณ
local backend ที่เชื่อมได้ในปัจจุบัน
เลือก backend ในเครื่องที่รันโมเดล แล้วส่งค่าการเชื่อมต่อให้ Agent
Ollama
backend เริ่มต้นที่ http://localhost:11434
LM Studio / vLLM
ใช้ --backend openai และ --url พร้อม local model ID
llama.cpp server
ใช้ OpenAI-compatible streaming โดยไม่แปลงชื่อโมเดล
ทำไมจึงเชื่อม compute กับบัญชีของคุณ
โมเดลทำงานบนอุปกรณ์ของคุณ
คุณดูแลไฟล์โมเดล inference ฮาร์ดแวร์ และสภาพแวดล้อมในเครื่องเอง
traffic BYOC นี้ไม่มีค่าโมเดลของ BazaarLink
traffic ที่ node BYOC ของคุณประมวลผล BazaarLink ไม่เก็บค่าโมเดล หากใช้ฟีเจอร์ของแพลตฟอร์มร่วมด้วย เช่น การค้นเว็บ ฟีเจอร์นั้นจะคิดตามราคาแพลตฟอร์ม ส่วนอุปกรณ์และการดำเนินงานเป็นความรับผิดชอบของคุณ
แอปใช้ API เดียว
โมเดลในเครื่องเชื่อมผ่าน gateway จึงไม่ต้องเขียน transport layer แยกตาม backend ขณะนี้โหนดรับคำขอสำหรับ /v1/chat/completions, /v1/responses, /v1/messages และการสร้างรูปภาพ (/v1/images)
โหนดให้บริการบัญชีหรือองค์กรของคุณเท่านั้น
งานจะส่งให้เฉพาะโหนดที่ผูกกับบัญชีหรือองค์กรนั้น และไม่เข้า shared pool หรือตลาด compute
โหนดของคุณทำได้มากกว่าแชต
การสร้างรูปภาพ
Agent ส่งต่อคำขอสร้างรูปภาพไปยัง /images/generations ของ backend คุณ
การเรียกใช้ tool
tools และ tool_choice จะส่งต่อไปยัง backend ของคุณ และ tool_calls จะส่งกลับในรูปแบบ OpenAI (รองรับ backend แบบ OpenAI-compatible และ Ollama)
เนื้อหาการให้เหตุผล
โมเดลแบบ reasoning ส่งเนื้อหาการคิดกลับมาในฟิลด์ reasoning_content
ขอบเขตและ fallback
ในหน้า "การตั้งค่า Fallback" เลือกได้ว่าโหนดนี้ใช้กับ BazaarLink API key ใด เมื่อโหนดเต็ม ออฟไลน์ หรือเกิดข้อผิดพลาด คำขอจะลองแหล่งถัดไปตามลำดับ fallback คำขอที่โมเดลของแพลตฟอร์มประมวลผลจะคิดตามอัตราแพลตฟอร์ม
compute ของคุณเองก็ค้นเว็บได้
คำขอที่โหนดของคุณประมวลผลก็เพิ่ม :online ได้ ให้โมเดลค้นเว็บก่อนตอบ การค้นหาทำฝั่งแพลตฟอร์ม แล้วส่งผลลัพธ์พร้อมคำถามไปยังโหนดของคุณ ไม่มีค่าโมเดล เก็บเฉพาะค่าค้นหาตามราคาแพลตฟอร์ม บัญชีจึงต้องมียอดเงินพอสำหรับค่าค้นหา
Entry protection
You manage the local logs for BYOC; before a request reaches your GPU, the platform entry still applies moderation, and sensitive-data filtering is available as an opt-in.
Platform moderation
Platform moderation runs at the API entry (/v1/chat/completions, /v1/responses) before the request is processed; BYOC cannot disable it. Blocked requests do not reach your node.
Sensitive-data filtering you can enable
This is opt-in: organization keys use the organization rule, while personal keys are enabled by the key owner at /content-filter. Once enabled, inbound prompts replace API keys (OpenAI/Anthropic/GitHub/Google/AWS), JWTs, private keys, credit-card numbers, and Taiwan national ID numbers with [REDACTED:TYPE] before the node; prompt injection is blocked (403, code: content_filter).
Enable at /content-filterจากการติดตั้ง GitHub จนเชื่อมต่อ
@bazaarlink/byoc-agent v0.2.0 อยู่ภายใต้ MIT ติดตั้ง CLI แบบ global จาก GitHub สาธารณะได้ ส่วนเวอร์ชัน npm registry จะตามมา Authenticated ยืนยันเพียงการเชื่อมต่อ gateway เปิด /keys/byok?tab=byoc แล้วจับคู่ canonical API ID เช่น byoc/<lowercase-slug> กับ model ID ที่ local backend ของคุณรับได้จริง จากนั้นเรียก canonical ID นั้นผ่าน API
01
ติดตั้ง CLI แบบ global
ติดตั้ง CLI ภายใต้ MIT แบบ global จาก GitHub สาธารณะ
npm install -g github:Bazaarlinkorg/bazaarlink-byoc-agent02
รับ BYOC key
ถ้ายังไม่มี key ให้ใช้ register พร้อม email ของบัญชี
bazaarlink-byoc register \
--email you@example.com \
--max-concurrent 403
ล็อกอิน gateway
login เรียก /auth/byoc/login และเก็บ key กับ token อายุสั้นไว้ในเครื่อง
bazaarlink-byoc login \
--key "byoc_..." \
--gateway "https://byoc-gateway.bazaarlink.ai" \
--input-price 0 \
--output-price 004
เริ่มและเชื่อมต่อ
Authenticated ยืนยันเพียงการเชื่อมต่อ gateway เปิด /keys/byok?tab=byoc แล้วจับคู่ canonical API ID เช่น byoc/<lowercase-slug> กับ model ID ที่ local backend ของคุณรับได้จริง จากนั้นเรียก canonical ID นั้นผ่าน API
bazaarlink-byoc start
# Authenticated only confirms the gateway connection.
# In /keys/byok?tab=byoc, map byoc/<lowercase-slug> to exact backend ID.รายละเอียดทางเทคนิค
ค่าต่อไปนี้ตรงกับ CLI และ package metadata ปัจจุบัน ก่อนเวอร์ชัน npm registry จะมา ให้ติดตั้งจาก GitHub สาธารณะ
- npm package
- @bazaarlink/byoc-agent v0.2.0 · MIT · ติดตั้งจาก GitHub, เวอร์ชัน npm registry จะตามมา
- แหล่งซอร์ส
- github.com/Bazaarlinkorg/bazaarlink-byoc-agent
- CLI
- bazaarlink-byoc
- runtime
- Node.js 18+
- การเชื่อมต่อ
- Agent เชื่อม outbound ไป gateway /ws ไม่ต้องเปิด inbound port
- การตั้งค่าในเครื่อง
- ~/.bazaarlink/config.json
- ราคาใน login
- --input-price และ --output-price จำเป็นในปัจจุบัน; 0 เป็นค่าเพื่อความเข้ากันได้
ติดตั้ง CLI แบบ global จาก GitHub สาธารณะได้แล้ว ส่วนเวอร์ชัน npm registry จะตามมา
--backend ollama เป็นค่าเริ่มต้น หากใช้ที่อยู่อื่นให้เพิ่ม --ollama-url
LM Studio, vLLM และ llama.cpp ใช้ --backend openai และต้องระบุ --url
เหมาะกับทีมแบบใด
มี GPU host และ local model ต้องการดูแลโมเดลกับ inference environment เอง แต่ให้ผลิตภัณฑ์ใช้ API entry ที่คุ้นเคย
ไม่ต้องการปล่อย compute ว่างให้ผู้อื่นใช้หรือส่งคำขอไปยังโหนดร่วม BYOC เชื่อมอุปกรณ์ บัญชี และ gateway ของคุณ
เชื่อมต่อ BYOC โหนดแรก
เตรียมเครื่องรันโมเดลในเครื่องและ BYOC key เพื่อดูการทำงานร่วมกันของ compute โหนด และ API เดียว
จัดการ BYOC node