企業知識庫與 AI Agent
RAG 是什麼？企業知識庫的運作方式與限制
RAG 是 Retrieval-Augmented Generation 的縮寫，常譯為檢索增強生成。它在模型回答前，先從外部知識來源找出相關內容，再把內容連同問題交給模型生成答案。它適合需要使用最新內規、產品文件或私有資料的問答，但不能保證每次都正確。
RAG 的四個主要步驟
- 匯入文件：從雲端硬碟、網站、資料庫或檔案取得內容。
- 處理與切塊：清理格式，把長文件切成可搜尋片段並加入中繼資料。
- 檢索：把問題轉成搜尋表示，找出可能相關的片段。
- 生成：模型依問題、指令與檢索片段組合答案，最好同時顯示引用。
Google Cloud 的 RAG 概覽也依序描述資料匯入、轉換、embedding、索引、檢索與生成。原始 RAG 論文則把參數化模型與外部非參數化記憶結合，用來改善知識密集任務。
RAG 能解決什麼
- 讓回答參考模型訓練後才更新的文件。
- 使用公司允許的內部資料，而不把所有知識重新訓練進模型。
- 透過來源連結協助使用者核對回答。
- 依文件更新流程重新索引，比重新訓練模型更容易維護知識時效。
RAG 不能保證什麼
如果檢索找錯片段、文件本身過期、切塊失去上下文，模型仍可能回答錯誤。即使檢索正確，生成階段也可能加入來源沒有支持的敘述。引用存在不等於引用真的支持每一句答案，因此驗收要分開看「找得對不對」與「答得有沒有根據」。
另外，模型原有知識可能和公司文件衝突。系統應明確規定來源優先順序、無資料時要拒答，並讓高風險問題轉人工，而不是要求模型自信地補完。
企業導入前先整理資料
先選一個明確場景，例如客服產品規格、員工制度或業務提案素材。盤點文件 owner、有效日期、版本、機密等級與可見群組；過期、重複、掃描品質差或權限不明的文件不要直接全部匯入。
接著建立真實問題集，包含可回答、不可回答、跨文件、過期版本與權限隔離情境。每次更新 embedding 模型、切塊方式、提示或模型版本都重跑測試。
最小可行架構
第一版可以只做單一部門、數十份已審核文件與唯讀問答。回答顯示文件名、版本與段落連結；沒有足夠證據時明說找不到。等正確率、權限與更新流程穩定，再擴大資料來源。
下一步可看企業文件整理清單、RAG 驗收方法與企業 AI 知識庫服務。