BazaarLinkBazaarLink
Đăng nhập
Tài liệuTham chiếu APITham chiếu SDKSử dụng AgentKỹ năng AI
Tìm kiếm web

Thu thập trang web

Khám phá đồ thị liên kết của website từ URL gốc và trích xuất nội dung của các trang thành công. Xác thực bằng Bearer API key hoặc truyền api_key trong JSON body làm phương án tương thích; hỗ trợ cả https://api.bazaarlink.ai/v1 và https://bazaarlink.ai/api/v1. Trường không nhận biết sẽ bị bỏ qua. Phản hồi gồm các trang thành công, response_time, usage.credits, usage.cost bổ sung của chúng tôi (credit nhân với đơn giá mỗi credit do quản trị viên đặt) và request_id. Tavily cho timeout 10–150 giây, nhưng giới hạn hiệu dụng của BazaarLink là 90 giây; giá trị trên 90 sẽ được hạ xuống 90 để nằm dưới giới hạn edge 100 giây. Chi phí là phần mapping cộng phần extraction: 10 trang basic thành công tốn 1 + 2 = 3 credit; advanced extraction nhân đôi phần extraction, còn instructions nhân đôi phần mapping. Trang thất bại được miễn phí. Credit thực tế trừ từ hạn mức miễn phí hằng ngày dùng chung; nếu ước tính theo limit vượt phần còn lại, phần vượt được tính vào số dư, hoặc trả 432 khi không có số dư và khuyên giảm limit. Ví dụ SDK; hãy giữ khóa trong biến môi trường hoặc một cấu hình an toàn phía máy chủ khác. Python: from tavily import TavilyClient client = TavilyClient(api_key="...", api_base_url="https://api.bazaarlink.ai/v1") response = client.crawl("docs.tavily.com", instructions="Find Python SDK pages") JavaScript: import { tavily } from "@tavily/core" const tvly = tavily({ apiKey: process.env.BAZAARLINK_API_KEY, apiBaseURL: "https://api.bazaarlink.ai/v1" }) const response = await tvly.crawl("docs.tavily.com", { instructions: "Find Python SDK pages" }) LangChain (crawl only): from langchain_tavily import TavilyCrawl tool = TavilyCrawl(api_key="...", api_base_url="https://api.bazaarlink.ai/v1") response = tool.invoke({"url": "docs.tavily.com", "instructions": "Find Python SDK pages"})

POST/v1/crawl

Xác thực

Authorizationbắt buộc
string · header

API key dưới dạng bearer token trong header Authorization.

Body

urlbắt buộc
string

URL gốc để thu thập; có thể bỏ scheme, ví dụ docs.tavily.com.

required; scheme optional
Example: "docs.tavily.com"
instructions
string

Chỉ dẫn bằng ngôn ngữ tự nhiên; khi có, chunks_per_source khả dụng và phần mapping tốn 2 credit cho mỗi 10 trang thành công.

Example: "Find Python SDK pages"
chunks_per_source
integer

Số đoạn nội dung ngắn tối đa mỗi nguồn; chỉ dùng khi có instructions, từ 1 đến 5, mặc định 3.

1-5; only with instructions; default: 3
Example: 3
max_depth
integer

Độ sâu thu thập tối đa, từ 1 đến 5, mặc định 1.

1-5; default: 1
Example: 1
max_breadth
integer

Số liên kết tối đa theo mỗi trang ở mỗi cấp, từ 1 đến 500, mặc định 20.

1-500; default: 20
Example: 20
limit
integer

Tổng số liên kết xử lý trước khi dừng; tối thiểu 1, mặc định 50.

minimum: 1; default: 50
Example: 50
select_paths
string[]

Mảng mẫu regex cho chọn đường dẫn; tối đa 50 mục, mỗi mẫu dài tối đa 200 ký tự.

max 50 entries; max 200 characters per regex
Example: ["^/docs/.*"]
select_domains
string[]

Mảng mẫu regex cho chọn miền; tối đa 50 mục, mỗi mẫu dài tối đa 200 ký tự.

max 50 entries; max 200 characters per regex
Example: ["^docs\.example\.com$"]
exclude_paths
string[]

Mảng mẫu regex cho loại trừ đường dẫn; tối đa 50 mục, mỗi mẫu dài tối đa 200 ký tự.

max 50 entries; max 200 characters per regex
Example: ["^/private/.*"]
exclude_domains
string[]

Mảng mẫu regex cho loại trừ miền; tối đa 50 mục, mỗi mẫu dài tối đa 200 ký tự.

max 50 entries; max 200 characters per regex
Example: ["^private\.example\.com$"]
allow_external
boolean

Có đưa liên kết ngoài miền vào kết quả cuối hay không, mặc định true.

default: true
Example: true
include_images
boolean

Có đưa hình ảnh trích xuất từ trang vào hay không, mặc định false.

default: false
Example: false
extract_depth
string

Độ sâu trích xuất. advanced xử lý thêm bảng/nội dung nhúng và nhân đôi phần credit trích xuất cho mỗi 5 trang thành công.

default: basic
basicadvanced
Example: "basic"
format
string

Định dạng nội dung trang: markdown hoặc văn bản thuần, mặc định markdown.

default: markdown
markdowntext
Example: "markdown"
include_favicon
boolean

Có đưa URL favicon vào mỗi kết quả hay không, mặc định false.

default: false
Example: false
timeout
number

Số giây chờ crawl. Tavily cho phép 10–150 nhưng giới hạn hiệu dụng của BazaarLink là 90 giây; giá trị trên 90 được hạ xuống 90.

Tavily: 10-150; BazaarLink default/effective maximum: 90 seconds; values above 90 are lowered to 90
Example: 90
include_usage
boolean

Có đưa usage vào phản hồi hay không, mặc định false; khi có sẽ có credits và usage.cost.

default: false
Example: false
POST /v1/crawl
curl https://api.bazaarlink.ai/v1/crawl   -H "Authorization: Bearer $BAZAARLINK_API_KEY"   -H "Content-Type: application/json"   -d '{
    "url": "docs.tavily.com",
    "instructions": "Find Python SDK pages",
    "limit": 20,
    "timeout": 90,
    "include_usage": true
  }'
Ví dụ phản hồi

Crawl hoàn tất. results chứa các trang thành công; usage.credits là credit thực tế và usage.cost là giá khách hàng theo đơn giá do quản trị viên đặt.

{
  "base_url": "docs.tavily.com",
  "results": [
    {
      "url": "https://docs.tavily.com/welcome",
      "raw_content": "Welcome to the docs",
      "favicon": "https://docs.tavily.com/favicon.ico"
    }
  ],
  "response_time": 1.23,
  "usage": {
    "credits": 3,
    "cost": 0.03
  },
  "request_id": "crawl_123e4567-e89b-12d3-a456-426614174111"
}
Support
Support
Hi! How can we help you?
Send a message and we'll get back to you soon.