企業知識管理（KM）導入 AI：RAG 架構、模型選擇與多部門成本歸戶

企業 KM 導入 AI 失敗的根本原因是『公共 AI 工具不知道你公司的私有知識』。本文說明正確的 RAG 架構、embedding 與生成模型的選擇策略，以及如何用 BazaarLink 部門 Key 把 AI 成本歸戶到各個業務單位。

企業知識管理（KM）為什麼用了 AI 還是找不到答案？

「我們已經把所有文件上傳到 AI 了，但員工還是不用它。」

這是企業 KM 導入 AI 之後最常見的抱怨。問題不在模型不夠聰明，而在於工程基礎設施沒有跟上。

典型的失敗路徑

1. 把內部文件上傳到 ChatGPT 或 Claude
2. 請員工「去問 AI」
3. 員工問出錯誤答案（因為模型沒有最新文件）
4. 員工放棄，回頭用 Google 或問人

這個問題的根本原因是：公共 AI 工具不知道你公司的私有知識。建立真正有用的企業 KM，需要 RAG（Retrieval-Augmented Generation）架構。

企業 KM 的正確架構

員工提問
  → 搜尋向量資料庫（公司文件 embedding）
  → 取出相關段落
  → 連同問題送進 LLM
  → 得到有依據的答案（附原始文件連結）

這個架構有幾個關鍵選擇：

Embedding 模型：便宜且夠用

文件向量化（embedding）不需要高端模型，text-embedding-3-small 就可以做出高品質的語意搜尋：

from openai import OpenAI

client = OpenAI(
    base_url="https://bazaarlink.ai/api/v1",
    api_key="sk-bl-YOUR_KEY",
)

def embed_document(text: str) -> list[float]:
    response = client.embeddings.create(
        model="openai/text-embedding-3-small",
        input=text,
    )
    return response.data[0].embedding

def embed_query(question: str) -> list[float]:
    return embed_document(question)

回答生成：依問題複雜度選模型

KM 問題的複雜度差異大：

def answer_question(question: str, context_chunks: list[str]) -> str:
    context = "\n---\n".join(context_chunks)
    
    # 用 Claude Sonnet 處理需要推理的複雜問題
    # 用 Gemini Flash 處理簡單查詢，節省成本
    model = "anthropic/claude-sonnet-4-6"
    
    return client.chat.completions.create(
        model=model,
        messages=[
            {
                "role": "system",
                "content": f"根據以下公司文件回答員工問題，若文件中沒有相關資訊，明確說明。\n\n文件內容：\n{context}"
            },
            {"role": "user", "content": question}
        ],
    ).choices[0].message.content

企業 KM 的四個核心文件類型

每種類型的 embedding 策略略有不同——產品知識適合細切 chunk，合約適合以條款為單位。

多部門 KM 的成本歸戶

KM 系統如果跨部門共用，需要知道每個部門消耗了多少 API 費用。

BazaarLink 的部門（Team）功能讓每個部門有獨立的 Key 和預算：

企業 KM 系統
  └─ 業務部 KM key：$50/月（查詢客戶資料）
  └─ 工程部 KM key：$80/月（查詢技術文件）
  └─ HR KM key：$30/月（查詢人事規範）
  └─ 法務 KM key：$40/月（查詢合約條款）

月底匯出報表，IT 部門可以精確計算每個部門的 AI 使用成本，為下一年度的 AI 預算提供依據。

讓 KM 真的被使用的關鍵

技術架構正確只是第一步。讓員工真正使用 KM 的關鍵是回答可信賴：

1. 附來源：每個答案必須標示來自哪份文件的第幾頁
2. 承認不知道：沒有依據的問題要明確說「找不到相關文件」
3. 時效性：文件更新後立即重新 embedding，避免舊資訊

# 好的 KM 回答格式
{
    "answer": "根據《員工手冊 2026》第 12 頁，特休假計算方式為...",
    "sources": [
        {"doc": "員工手冊 2026", "page": 12, "chunk": "..."},
    ],
    "confidence": "high",  # 有明確文件依據
}

結論

企業 KM 導入 AI 的成功關鍵不在於「選最強的模型」，而在於：

1. 正確的 RAG 架構：讓 AI 知道你的私有知識
2. 模型路由：embedding 用便宜的，回答依複雜度選擇
3. 成本可見性：每個部門的 KM 消耗清楚歸戶
4. 可信賴的輸出：附來源、承認不知道

BazaarLink 的統一 API endpoint 讓你在同一個系統裡呼叫 embedding 模型和生成模型，不需要管理多組 API Key，月底一張帳單清楚說明每個部門花了多少。

台幣計費・統一發票・主流 AI 模型・OpenAI 相容 API