Все остальные функции — потоковая передача, вызов инструментов, структурированный вывод, асинхронность — работают точно так же. Единственное изменение — это base_url, api_key и добавление префикса провайдера к идентификаторам модели.
const stream = await client.chat.completions.create({
model: "openai/gpt-4o",
messages: [{ role: "user", content: "Tell me a story" }],
stream: true,
});
forawait (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}
LangChain
Используйте BazaarLink с LangChain, настроив совместимую с OpenAI базу URL.
1
2
3
4
5
6
7
8
9
10
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
base_url="https://api.bazaarlink.ai/v1",
api_key="sk-bl-YOUR_API_KEY",
model="anthropic/claude-sonnet-4.6",
)
response = llm.invoke("Explain BazaarLink in one sentence.")
print(response.content)
LlamaIndex
Используйте BazaarLink в конвейерах LlamaIndex RAG. LlamaIndex поддерживает любую конечную точку, совместимую с OpenAI — просто измените два параметра.
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
from llama_index.llms.openai import OpenAI
from llama_index.core import Settings
Settings.llm = OpenAI(
model="openai/gpt-4o",
api_base="https://api.bazaarlink.ai/v1",
api_key="sk-bl-YOUR_API_KEY",
)
# Now use LlamaIndex normally — it calls BazaarLinkfrom llama_index.core import VectorStoreIndex, SimpleDirectoryReader
documents = SimpleDirectoryReader("./docs").load_data()
index = VectorStoreIndex.from_documents(documents)
query_engine = index.as_query_engine()
response = query_engine.query("What is this documentation about?")
print(response)
Vercel AI SDK
Интегрируйте Vercel AI SDK с BazaarLink в свое приложение Next.js. Поддерживает потоковую передачу, вызов инструментов и структурированный вывод.