AI 風險管理證據怎麼留?從風險清冊、測試到上線決策的完整清單
AI 風險管理最常見的缺口不是完全沒有政策,而是無法證明政策落到哪個系統、誰執行、測試結果如何,以及變更後是否重新評估。證據的目的不是堆文件,而是讓團隊能重現決策、追蹤問題、回應事件並持續改善。
情境與責任證據
每個 AI 應用要有唯一識別、用途與非目標、業務 owner、資料 owner、技術與事件聯絡人。保存利害關係人、受影響群體、人工決策點、外部供應商與 RACI。可從AI 系統清冊模板開始,但正式系統要連到公司授權與實際人員。
資料與供應鏈證據
保存資料來源、目的、適法依據、權限、品質、版本、保存刪除、跨境或分包路徑;供應商則保存條款版本、安全文件、事故通知、服務變更、資料匯出與退出測試。只留一張供應商簡報不代表已驗證回答,可用AI 供應商評估表要求證據連結與有效日期。
測試與門檻證據
記錄測試集來源、代表性、版本、指標、工具、環境與結果,包含一般、邊界、濫用、權限、拒答與回復情境。NIST AI RMF 的 Measure 功能強調記錄測試集、指標、TEVV 工具,以及在接近部署條件下量測;它是自願性框架,應依實際風險與規範調整。
不要只保存平均分數。每個失敗要能追到案例、嚴重度、處理決定與重測結果。RAG 專案可用RAG 評測紀錄表保存檢索、引用、拒答與權限結果。
上線與例外證據
保存 go/no-go 決策、批准人、未解風險、補償控制、限制條件、有效期限與下次複查日。例外不能永久存在:要有接受權限、到期、監控與退出條件。模型、資料、提示、工具權限或使用規模改變時,先定義哪些變更會觸發重測。
營運與事件證據
日誌至少支援追蹤版本、請求、資料範圍、工具動作、人工批准、錯誤、成本與警戒,但要同時遵守資料最小化與保存限制。事件記錄時間線、影響、遏止、通知、修復、復原與後續行動;近失事件也應記錄。可依AI 事件應變指南設計流程。
對照台灣框架時的界線
數發部風險分類框架的正式規範主體是目的事業主管機關;企業可參考其 20 種風險建立共同語言,但本站證據清單不是官方檢核表、法律意見或高風險認定。先到台灣 AI 風險治理資料庫找出相關風險,再由適任人員依產業規範決定必備證據。