如何驗證 AI 產出（避免無限循環）
面對主管「怎麼證明 AI 是對的」時，用規則、抽樣、金標準與確定性閘門建立可審計的驗證思維。
如何驗證 AI 產出（避免無限循環）
這篇整理自報價檢核練習後的主管提問：
「AI 講的怎麼證明是對的？資料很多怎麼人工驗？驗證器又誰來驗？」
目標：把直覺上的無限追問，收成可實作、可對外人說明的驗證框架。
1. 先記住一句話
AI 可以加速發現問題；「證明對錯」要落地到非 AI 的錨點。
- 不要把可信建立在「另一個模型也說對」。
- 要把可信建立在：明文規則、可重算、金標準、抽樣、變更治理。
2. 小資料時怎麼驗（例如三張報價單）
原則
把 AI 當初審助理，人做終審抽查。
做法
- 先寫死判準（可執行，不要「幫我看看對不對」）
- 統編：存在且 8 碼數字
- 金額：明細加總＝小計；小計＋稅＝含稅總計
- 效期：有效期限 ≥ 檢核日
- 每個「不通過」追證據鏈
例如：雲峰明細716000+70000+38000=824000，但小計列804000→ 30 秒可重算。 - 用已知埋錯當金標準
該抓的要抓到；乾淨樣本不能誤報。 - 檢查點放在錯誤會被放大之處
先確認檢核結果，再產出彙總表／備忘錄。
給主管的短答
「不是相信模型，是規則清楚＋對原始檔抽核關鍵數字後才採用。」
3. 大資料／DB／即時後台怎麼辦？
資料一多，不可能每筆人工驗。
人工驗證的單位要從「每一筆答案」改成「規則＋抽樣＋監控」。
三層驗證
| 層級 | 誰做 | 做什麼 |
|---|---|---|
| 全量自動 | 規則／SQL／schema／測試 | 用程式檢查可定義的正確條件 |
| 抽樣人工 | 人 | 每天／每批抽 N 筆；高風險與 AI 標異常必抽 |
| 監控回溯 | 儀表板＋日誌 | 錯誤率漂移、對帳、可重放同一時間點資料 |
給主管的短答
「全量靠程式驗；人驗系統有沒有壞掉（抽樣、金標準、告警），不是用人眼掃十萬筆。」
4. 「那驗證器怎麼證明是對的？」——如何拆掉無限循環
若邏輯是：
AI 產出 → AI 驗證 → 驗證 AI 再被誰驗證？ → …
確實會無限退。
正確架構是：
AI 可提議
最終裁決必須能 trace 到「非 AI 的真相來源」
四個錨點（循環停在這裡）
- 規格／定義：「對」＝符合白紙黑字規則（資料字典、品質規則）。
- 原始資料：結論能重算回 raw row／原始檔。
- 金標準集：人事先標註、OWNER 簽核的一小撮已知答案；每次回歸必過。
- 獨立確定性機制：驗證閘門盡量是規則引擎／SQL／單元測試，不是第二個 LLM。
關鍵區分
| 角色 | 可以是 AI？ | 說明 |
|---|---|---|
| 產出器／助手 | 可以 | 找可疑、寫說明、分類灰區 |
| 放行閘門 | 盡量不要只靠 AI | 必須能指出：哪條規則、哪個欄位、怎麼重算 |
若主管再問「金標準誰保證對？」
「金標準是業務／資料 OWNER 簽核的組織定義，屬治理決策，不是模型輸出。規則變更要同步改金標準並重新簽核。」
再往下是內控／稽核問題，不是「再叠一層 AI」。
5. 數據公司為什麼特別在意
數據公司常賣的是可信與可追溯，不是「模型很會寫」。
對外要能交代：
- Definition of correct：正確的定義是什麼
- Reproducibility：同一輸入能否重跑出同一檢核結果
- Evidence：失敗時有沒有欄位級證據
- Governance：誰改規則、何時生效、如何回滾
這是契約式正確（在約定定義下可審計），不是哲學上的絕對真理。
6. 建議落地架構（可畫給主管看）
原始資料 / DB / 報價檔
↓
確定性檢核（規則、SQL、schema） ← 錨點 A
↓
（可選）AI：灰區分類、說明、可疑提示
↓
金標準回歸 + 分層抽樣人工 ← 錨點 B
↓
放行 / 告警 / 人工佇列
實作順序建議：
- 列出 Top 錯誤類型（漏欄、加總錯、過期、重複、狀態非法…）
- 每類寫成可程式化檢查
- 建金標準集（先人工標一小撮，之後自動回歸）
- AI 只處理規則說不清的灰區，且輸出必須帶證據欄位
- 儀表板看：通過率、例外量、抽樣不符率；跌破門檻就降級
7. 可背的三句話（面試／對主管）
- 不保證 AI 100% 對；保證重要結論可還原到規則與原始資料。
- 全量自動、例外進人工；人審規則與抽樣，不審每一列。
- 驗證器若也是黑箱 LLM，就不能當唯一閘門。
8. 自我檢查清單
下次有人問「AI 結果可信嗎？」，先問自己：
- 「正確」有沒有寫成可執行規則？
- 不通過項目能不能指回原始欄位並重算？
- 有沒有金標準集／已知案例可回歸？
- 閘門是確定性檢查，還是另一個模型在互背書？
- 資料量大時，抽樣與監控門檻有沒有訂？
- 規則變更有沒有版本與負責人？
9. 相關練習脈絡
- 台大計中 Claude 工作坊 Lab2：報價單形式檢核（統編／金額／效期）
- Lab3：檢核後人工檢查點 → 再產出彙總表與備忘錄
本地成品可對照：
claude_class_0807/00_請由此開啟_工作坊完成成果/成品/05_報價單檢核/claude_class_0807/00_請由此開啟_工作坊完成成果/成品/06_採購決標彙整/
一句收束
無限循環來自把信任叠在黑箱上；學習重點是把信任落到可重跑的定義與證據上。