Solutions / BYOC

Hubungkan komputasi Anda ke pintu API Anda
BYOC (Komputasi Milik Sendiri)

Jalankan model di perangkat yang Anda kelola, sementara aplikasi tetap memakai satu pintu API BazaarLink. Node hanya melayani akun pemiliknya, bukan pasar komputasi bersama.

Kelola node BYOC

Dari instalasi GitHub sampai terhubung

@bazaarlink/byoc-agent v0.1.0 berlisensi MIT. Instal CLI secara global dari GitHub publik; versi npm registry akan menyusul. Nilai --models (misalnya qwen3.5:2b) adalah ID model backend lokal, bukan canonical ID untuk panggilan API. Authenticated hanya mengonfirmasi koneksi gateway. Buka /keys/byok?tab=byoc, buat byoc/qwen3.5-2b -> qwen3.5:2b, lalu panggil byoc/qwen3.5-2b melalui API.

Instal CLI secara global

Instal CLI berlisensi MIT secara global dari GitHub publik.

1
npm install -g github:Bazaarlinkorg/bazaarlink-byoc-agent

Dapatkan BYOC key

Jika belum punya key, gunakan register dengan email, model, dan konkurensi.

1
2
3
4
bazaarlink-byoc register \
  --email you@example.com \
  --models qwen3.5:2b \
  --max-concurrent 4

Login ke gateway

1
2
3
4
5
6
bazaarlink-byoc login \
  --key "byoc_..." \
  --gateway "https://byoc-gateway.bazaarlink.ai" \
  --models "qwen3.5:2b" \
  --input-price 0 \
  --output-price 0

Mulai dan hubungkan

Authenticated hanya mengonfirmasi koneksi gateway. Buka /keys/byok?tab=byoc, buat byoc/qwen3.5-2b -> qwen3.5:2b, lalu panggil byoc/qwen3.5-2b melalui API.

1
2
3
bazaarlink-byoc start
# Authenticated only confirms the gateway connection.
# Create byoc/qwen3.5-2b -> qwen3.5:2b in /keys/byok?tab=byoc

Mesin pelanggan → BYOC Agent → BazaarLink gateway → Aplikasi pelanggan

Model dan lingkungan inferensi tetap di perangkat Anda. Agent terhubung ke gateway, gateway mengirim pekerjaan akun Anda ke node Anda, dan aplikasi tetap memakai satu API.

Kapasitas GPU Anda

Model dan inferensi tetap di perangkat Anda

Model BazaarLink

Mengambil alih saat node Anda penuh atau offline

BazaarLink BYOC

Tanpa harga BazaarLink untuk trafik lewat node sendiri

Satu API key

Endpoint sama, aplikasi tidak perlu diubah

Aplikasi Anda

Backend lokal yang tersedia

Pilih backend lokal yang menjalankan model Anda, lalu berikan pengaturannya kepada Agent.

Ollama

Backend default dengan URL http://localhost:11434.

LM Studio / vLLM

Gunakan --backend openai dan --url dengan model ID lokal.

llama.cpp server

Memakai jalur streaming OpenAI-compatible tanpa menerjemahkan nama model.

Mengapa menghubungkan komputasi ke akun sendiri

Model berjalan di perangkat sendiri

Anda mengelola file model, proses inferensi, hardware, dan runtime lokal.

Traffic BYOC ini tanpa harga BazaarLink

BazaarLink tidak memberi harga pada traffic melalui node BYOC Anda; perangkat dan operasi tetap menjadi tanggung jawab Anda.

Satu API untuk aplikasi

Model lokal masuk lewat gateway sehingga kode produk tidak perlu lapisan transport per backend.

Node hanya untuk pemilik

Pekerjaan terikat pada akun pemilik dan tidak masuk pool atau pasar komputasi bersama.

Detail teknis

Nilai berikut mengikuti CLI dan metadata paket saat ini. Sebelum versi npm registry tersedia, instal dari GitHub publik.

npm package: @bazaarlink/byoc-agent v0.1.0 · MIT · instal dari GitHub, versi npm registry menyusul
Sumber: github.com/Bazaarlinkorg/bazaarlink-byoc-agent
CLI: bazaarlink-byoc
Runtime: Node.js 18+
Koneksi: Agent outbound ke gateway /ws; tanpa inbound port
Konfigurasi lokal: ~/.bazaarlink/config.json
Flag harga login: --input-price dan --output-price saat ini wajib; 0 adalah nilai kompatibilitas

Instal CLI dari GitHub

1
npm install -g github:Bazaarlinkorg/bazaarlink-byoc-agent

CLI dipasang secara global dari GitHub publik; versi npm registry akan menyusul.

Ollama: login dan mulai

1
2
3
4
bazaarlink-byoc login   --key "byoc_REPLACE_WITH_YOUR_KEY"   --gateway "https://byoc-gateway.bazaarlink.ai"   --models "qwen3.5:2b"   --input-price 0   --output-price 0
bazaarlink-byoc start
# Authenticated only confirms the gateway connection.
# Create byoc/qwen3.5-2b -> qwen3.5:2b in /keys/byok?tab=byoc

--backend ollama adalah default. Tambahkan --ollama-url bila alamatnya berbeda.

OpenAI-compatible: login dan mulai

1
2
3
4
bazaarlink-byoc login   --key "byoc_REPLACE_WITH_YOUR_KEY"   --gateway "https://byoc-gateway.bazaarlink.ai"   --backend openai   --url "http://localhost:1234/v1"   --models "your-model-id"   --input-price 0   --output-price 0
bazaarlink-byoc start
# Authenticated only confirms the gateway connection.
# Create byoc/qwen3.5-2b -> your-model-id in /keys/byok?tab=byoc

LM Studio, vLLM, dan llama.cpp memakai --backend openai; --url wajib diisi.

Untuk tim seperti apa

Anda memiliki host GPU dan model lokal, ingin mengelola model serta lingkungan inferensi sendiri, dan tetap memakai pintu API yang dikenal oleh produk.

Anda tidak ingin menyewakan komputasi idle atau mengirim permintaan ke node bersama. BYOC menghubungkan perangkat, akun, dan gateway Anda.

Verifikasi dengan satu mesin sendiri