Webseiten crawlen
Erkunden Sie ab einer Stamm-URL den Linkgraphen einer Website und extrahieren Sie erfolgreiche Seiten. Authentifizieren Sie sich mit einem Bearer-API-Schlüssel oder übergeben Sie api_key als Kompatibilitätsfallback im JSON-Body; beide Basis-URLs werden unterstützt: https://api.bazaarlink.ai/v1 und https://bazaarlink.ai/api/v1. Unbekannte Felder werden ignoriert. Die Antwort enthält erfolgreiche Seiten, response_time, usage.credits, unser additives usage.cost (Credits mal vom Administrator festgelegter Preis pro Credit) und request_id. Tavily erlaubt timeout von 10 bis 150 Sekunden, aber das effektive Maximum bei BazaarLink beträgt 90 Sekunden; höhere Werte werden auf 90 gesenkt, damit das 100-Sekunden-Edge-Limit eingehalten wird. Die Abrechnung besteht aus Mapping- plus Extraktionskosten: 10 erfolgreiche Basic-Seiten kosten 1 + 2 = 3 Credits; advanced extraction verdoppelt den Extraktionsanteil und instructions den Mapping-Anteil. Fehlgeschlagene Seiten sind kostenlos. Tatsächliche Credits werden dem gemeinsamen täglichen Freikontingent entnommen; überschreitet die Schätzung aus limit den Rest, wird der Überschuss vom Guthaben abgerechnet oder ohne Guthaben mit 432 zurückgewiesen und ein kleineres limit empfohlen. SDK-Beispiele; speichern Sie den Schlüssel in einer Umgebungsvariable oder einer anderen sicheren serverseitigen Einstellung. Python: from tavily import TavilyClient client = TavilyClient(api_key="...", api_base_url="https://api.bazaarlink.ai/v1") response = client.crawl("docs.tavily.com", instructions="Find Python SDK pages") JavaScript: import { tavily } from "@tavily/core" const tvly = tavily({ apiKey: process.env.BAZAARLINK_API_KEY, apiBaseURL: "https://api.bazaarlink.ai/v1" }) const response = await tvly.crawl("docs.tavily.com", { instructions: "Find Python SDK pages" }) LangChain (crawl only): from langchain_tavily import TavilyCrawl tool = TavilyCrawl(api_key="...", api_base_url="https://api.bazaarlink.ai/v1") response = tool.invoke({"url": "docs.tavily.com", "instructions": "Find Python SDK pages"})
/v1/crawlAutorisierung
AuthorizationerforderlichAPI-Schlüssel als Bearer-Token im Authorization-Header.
Body
urlerforderlichStamm-URL für den Crawl; das Schema ist optional, zum Beispiel docs.tavily.com.
"docs.tavily.com"instructionsNatürlichsprachige Crawl-Anweisungen. Wenn gesetzt, ist chunks_per_source verfügbar und der Mapping-Anteil kostet 2 Credits je 10 erfolgreiche Seiten.
"Find Python SDK pages"chunks_per_sourceMaximale kurze Inhaltsabschnitte je Quelle; nur mit instructions verfügbar, 1 bis 5, Standard 3.
3max_depthMaximale Crawl-Tiefe, 1 bis 5, Standard 1.
1max_breadthMaximale Anzahl verfolgter Links je Seite und Ebene, 1 bis 500, Standard 20.
20limitGesamtzahl der Links bis zum Stopp; mindestens 1, Standard 50.
50select_pathsRegex-Muster für Pfadauswahl; höchstens 50 Einträge, jedes Muster maximal 200 Zeichen.
["^/docs/.*"]select_domainsRegex-Muster für Domainauswahl; höchstens 50 Einträge, jedes Muster maximal 200 Zeichen.
["^docs\.example\.com$"]exclude_pathsRegex-Muster für Pfadausschluss; höchstens 50 Einträge, jedes Muster maximal 200 Zeichen.
["^/private/.*"]exclude_domainsRegex-Muster für Dom Ausschluss; höchstens 50 Einträge, jedes Muster maximal 200 Zeichen.
["^private\.example\.com$"]allow_externalOb Links externer Domains in die Ergebnisse aufgenommen werden; Standard true.
trueinclude_imagesOb aus Seiten extrahierte Bilder enthalten werden; Standard false.
falseextract_depthExtraktionstiefe. advanced verarbeitet mehr Tabellen und eingebettete Inhalte und verdoppelt den Extraktionsanteil je 5 erfolgreiche Seiten.
basicadvanced"basic"formatFormat des extrahierten Seiteninhalts: markdown oder Text, Standard markdown.
markdowntext"markdown"include_faviconOb für jedes Ergebnis eine Favicon-URL enthalten wird; Standard false.
falsetimeoutWartezeit für den Crawl in Sekunden. Tavily erlaubt 10–150, BazaarLinks effektives Maximum ist 90; höhere Werte werden auf 90 gesenkt.
90include_usageOb usage in der Antwort enthalten ist; Standard false, mit credits und usage.cost bei true.
false