Solutions / BYOC

내 컴퓨팅을 내 API 입구로 연결
BYOC(내 컴퓨팅 사용)

직접 관리하는 장비에서 모델을 실행하면서 애플리케이션은 BazaarLink의 통합 API 입구를 사용합니다. 노드는 소유자 계정만 처리하며 공유 컴퓨팅 마켓이 아닙니다.

GitHub 설치부터 연결까지

@bazaarlink/byoc-agent v0.1.0은 MIT 라이선스입니다. 공개 GitHub에서 CLI를 전역 설치할 수 있으며 npm registry 버전은 추후 제공됩니다. --models 값(예: qwen3.5:2b)은 로컬 backend의 model ID이며 API에서 호출할 canonical ID가 아닙니다. Authenticated는 gateway 연결만 확인합니다. /keys/byok?tab=byoc를 열어 byoc/qwen3.5-2b -> qwen3.5:2b을 만든 뒤 byoc/qwen3.5-2b을 API로 호출하세요.

CLI 전역 설치

공개 GitHub에서 MIT 라이선스 CLI를 전역 설치합니다.

1
npm install -g github:Bazaarlinkorg/bazaarlink-byoc-agent

BYOC key 받기

key가 있으면 다음 단계로 갑니다. 없으면 email, 모델, 동시성을 지정해 register를 실행합니다.

1
2
3
4
bazaarlink-byoc register \
  --email you@example.com \
  --models qwen3.5:2b \
  --max-concurrent 4

gateway 로그인

login은 /auth/byoc/login을 호출하고 key와 단기 token을 로컬에 저장합니다.

1
2
3
4
5
6
bazaarlink-byoc login \
  --key "byoc_..." \
  --gateway "https://byoc-gateway.bazaarlink.ai" \
  --models "qwen3.5:2b" \
  --input-price 0 \
  --output-price 0

시작하고 연결

Authenticated는 gateway 연결만 확인합니다. /keys/byok?tab=byoc를 열어 byoc/qwen3.5-2b -> qwen3.5:2b을 만든 뒤 byoc/qwen3.5-2b을 API로 호출하세요.

1
2
3
bazaarlink-byoc start
# Authenticated only confirms the gateway connection.
# Create byoc/qwen3.5-2b -> qwen3.5:2b in /keys/byok?tab=byoc

고객 장비 → BYOC Agent → BazaarLink gateway → 고객 앱

모델과 추론 환경은 내 장비에 둡니다. Agent가 gateway에 연결하고 gateway가 소유 계정의 작업을 내 노드로 전달하며 앱은 하나의 API 입구를 유지합니다.

내 GPU 자원

모델과 추론은 내 장비에 남습니다

BazaarLink 모델

노드가 가득 차거나 오프라인일 때 대신 처리

BazaarLink BYOC

내 노드를 지나는 트래픽에는 BazaarLink 요금 없음

API 키 하나

같은 엔드포인트, 앱 수정 불필요

내 애플리케이션

현재 연결 가능한 로컬 backend

모델을 실행할 로컬 backend를 선택하고 연결 설정을 Agent에 전달합니다.

Ollama

기본 backend이며 기본 URL은 http://localhost:11434입니다.

LM Studio / vLLM

--backend openai와 --url을 사용하고 로컬이 받는 model ID를 입력합니다.

llama.cpp server

모델 이름을 변환하지 않고 같은 OpenAI-compatible streaming 경로를 사용합니다.

내 계정에 컴퓨팅을 연결하는 이유

모델은 내 장비에서 실행

모델 파일, 추론 과정, 하드웨어, 로컬 환경을 직접 관리합니다.

이 BYOC 트래픽은 BazaarLink 가격 0

내 BYOC 노드에서 실행되는 트래픽에 BazaarLink 가격을 붙이지 않습니다. 장비와 운영 비용은 내가 부담합니다.

애플리케이션에는 하나의 API

로컬 모델을 gateway로 연결하므로 backend마다 별도 전송 계층을 만들 필요가 없습니다.

노드는 소유자 전용

작업은 소유 계정에 묶이며 공유 풀이나 컴퓨팅 마켓에 들어가지 않습니다.

기술 세부 정보

다음 값은 현재 CLI와 package metadata에 맞습니다. npm registry 버전 전에는 공개 GitHub에서 설치하세요.

npm package: @bazaarlink/byoc-agent v0.1.0 · MIT · GitHub에서 설치, npm registry 버전은 추후 제공
소스: github.com/Bazaarlinkorg/bazaarlink-byoc-agent
CLI: bazaarlink-byoc
runtime: Node.js 18+
연결: Agent가 gateway /ws로 outbound 연결; inbound port 불필요
로컬 설정: ~/.bazaarlink/config.json
login 가격 인자: --input-price와 --output-price는 현재 필수이며 0은 호환 설정입니다

GitHub에서 CLI 설치

1
npm install -g github:Bazaarlinkorg/bazaarlink-byoc-agent

공개 GitHub에서 CLI를 전역 설치하세요. npm registry 버전은 추후 제공됩니다.

Ollama: 로그인과 시작

1
2
3
4
bazaarlink-byoc login   --key "byoc_REPLACE_WITH_YOUR_KEY"   --gateway "https://byoc-gateway.bazaarlink.ai"   --models "qwen3.5:2b"   --input-price 0   --output-price 0
bazaarlink-byoc start
# Authenticated only confirms the gateway connection.
# Create byoc/qwen3.5-2b -> qwen3.5:2b in /keys/byok?tab=byoc

--backend ollama가 기본값입니다. 다른 주소면 --ollama-url을 추가합니다.

OpenAI-compatible: 로그인과 시작

1
2
3
4
bazaarlink-byoc login   --key "byoc_REPLACE_WITH_YOUR_KEY"   --gateway "https://byoc-gateway.bazaarlink.ai"   --backend openai   --url "http://localhost:1234/v1"   --models "your-model-id"   --input-price 0   --output-price 0
bazaarlink-byoc start
# Authenticated only confirms the gateway connection.
# Create byoc/qwen3.5-2b -> your-model-id in /keys/byok?tab=byoc

LM Studio, vLLM, llama.cpp는 --backend openai를 사용합니다. --url은 필수입니다.

이 구성이 맞는 팀

GPU 호스트와 로컬 모델을 보유하고 모델과 추론 환경은 직접 관리하면서 제품에는 익숙한 API 입구를 남기고 싶은 팀.

유휴 컴퓨팅을 빌려주거나 공유 노드로 요청을 보내고 싶지 않은 팀. BYOC가 장비, 계정, gateway를 하나의 경로로 연결합니다.

내 장비 한 대로 확인