RAG 知識庫成本怎麼估？文件、索引、查詢與人工維護四層
RAG 成本不只有回答時呼叫模型。文件盤點與清理、OCR、切分、嵌入、索引、儲存、查詢、重排、生成、引用、權限、評測、監控與人工更新都會產生成本。若只用一次示範的 token 推估年度預算，容易漏掉正式營運的主要工作。
第一層：文件準備
先量文件數、頁數、格式、掃描比例、表格與圖片、語言、重複、版本與權限。人員要辨識正式來源、合併重複、標示生效日與 owner；低品質掃描還需 OCR 與抽查。這些多為一次性加持續新增成本。
使用RAG 就緒度檢查確認 owner、版本、權限與更新流程，再估工時。沒有治理的文件越多，索引費用與錯誤風險一起增加。
第二層：索引與儲存
成本驅動包括解析、切分、嵌入、向量與文字索引、metadata、備份、環境與重新索引。估算時把初次全量、每月新增、修改、刪除分開；文件更新不一定要全部重做，但必須能撤除過期內容。
若不同角色看不同內容，還要計入權限同步、測試與稽核。不能為省成本把所有文件放進同一個無權限索引。
第三層：每次查詢
一次使用者問題可能包含查詢改寫、嵌入、檢索、重排、多次模型呼叫、工具 API 與失敗重試。記錄每一步用量與成功成果，不把重試算成新的業務成果。
建立低、中、高三種情境：每月查詢量、平均輸入、檢索片段、輸出長度、快取命中、無答案與重試率。單價以當下供應商官方來源填入AI 專案預算估算器，保留查價日，不在文件裡永久寫死。
第四層：品質與人工營運
RAG 上線後需要更新文件、處理權限、抽查回答、維護測試集、調查錯引、回覆使用者與處理事故。高風險領域可能需要逐件專業複核，人工成本會高於模型費用。
使用RAG 評測紀錄表量測檢索、答案、引用、拒答與權限。較便宜的模型若讓人工修正增加，總成本可能更高。
建立單位成果成本
建議分母是「通過品質門檻且被工作流程採用的回答或任務」，不是總請求數。期間總成本包含攤提建置、平台、用量、人工、監控與事故，再除以合格成果數。FinOps Foundation 的 Unit Economics 強調以業務相關單位連接技術支出與價值。
同時追蹤每個答案的來源數、人工修正、拒答與轉人工。若系統用拒答保護安全，拒答不一定是失敗；應依任務分別定義正確拒答與不必要拒答。
三種常見架構的成本差異
託管 RAG 服務把多項費用整合在方案中，上手快但可見度與控制需確認；組合式 API 可逐層替換與量測，但整合與營運由團隊負責；自架增加環境控制，也增加容量、更新、安全與值班。用同一測試集比較品質、延遲、成本與維護，不只比較列表價格。
預算警戒與改善
設定每月總額、每個情境、每個合格成果與失敗重試警戒。改善順序可從刪除無用文件、增量索引、縮短不必要上下文、快取穩定答案、降低重試、為簡單任務使用足夠的小模型開始，每次都要確認品質沒有退化。
若要比較採購與自建，使用企業 AI 自建還是購買；正式上線前依AI 監控與日誌指南建立用量與品質追蹤。