如何使用Progress Agentic RAG來識別知識缺口

不要等到錯誤的答案變成轉發的截圖。

當一個糟糕的 AI 回應出現在客戶電子郵件、董事會資料或內部決策討論串中時,問題不再是「為什麼檢索出錯?」而是「為什麼我們要從最不應該找到這個的人那裡學到這個?」

檢索失誤是警告,並非故障

大多數團隊會把弱的檢索增強生成(RAG)答案當作輸出問題。他們重跑提示、替換模型、修改系統指示,然後希望下一個答案能正常運作。

這是錯誤的第一步。

答案是故事的最後一幕,而不是情節。真正的故事早在這之前就開始了,當系統決定從哪裡檢索、哪些來源片段重要,以及檢索出的材料是否能支持答案。如果那條路徑是錯的,最終的回應即使看起來經過打磨,仍然會背叛你。

Progress Agentic RAG 為這項調查提供了一個起點,因為答案並不是獨立的產物。它與檢索上下文和評估信號相伴而坐。你無法僅透過盯著出來的句子來修正知識空白;你必須檢查背後的證據。

評估層 REMi 使得錯誤不再容易被忽視。它對 上下文相關性答案相關性基礎性進行打分,讓你可以讀取模式而不是感覺:

  • 低上下文相關性可能顯示缺失或檢索不當的證據。
  • 低答案相關性顯示答案並不匹配問題。
  • 低基礎性警告回應偏離了檢索的來源材料。
  • 沒有有用上下文意味著 Knowledge Box 检查在模型調整之前就該完成。

將這些信號視為一個叫「AI 質量」的總體,會讓補救變成一場表演。團隊爭論提示和模型,而知識庫中的空白卻靜靜等待。

讓日誌講述故事

在一個代理系統中,最有用的信號往往是沒有人願意閱讀的:從提出的問題到檢索的材料、顯示的答案和留下的反饋,這些失敗或低信心互動的痕跡。

在 Progress Agentic RAG 中,活動日誌 提供了這個記錄。日誌將一個糟糕的答案變成一個可以檢查的序列,而不是人們爭論的一個逸事。

一個失敗的答案留下了痕跡:

  • 首先,用戶的問題揭示了真正的需求。
  • 檢索的上下文暴露了系統認為重要的內容。
  • 評估分數顯示了那條檢索路徑是否有效。
  • 反饋告訴你答案是否在與使用它的人接觸後仍然存活。

將這個序列一起閱讀,這篇文章幾乎自己寫出了事件報告。客戶團隊並不是在詢問一個特殊的邊緣案例。政策是存在的,但檢索器卻浮現了舊版本。答案基於來源材料,但來源材料已經過時。用戶給了它一個不及格的評價,因為系統回答了錯誤版本的問題。

這個故事有解決辦法。「模型有問題」則不能。

在花費一整季之前,先分類知識空白

昂貴的錯誤是急著從「壞答案」跳到「重建知識庫。」」這個飛躍感覺果斷,但也讓時間以最不針對的方式被浪費。

先對空白進行分類。

空的檢索上下文可能表示 Knowledge Box 缺少信息。薄弱的上下文需要一個序列:首先檢查 Knowledge Box 是否包含該信息,如果有,再調整搜索或 RAG 策略。低答案和上下文相關性的基礎答案指向錯誤的上下文被檢索出來。重複的負面反饋標記了一個值得優先處理的用戶失敗,即使管道在技術上返回了一些東西。

一旦你能夠命名失敗,下一步就會變得更小。缺失的內容需要一位資料擁有者。隱藏的內容需要訪問審查。檢索不佳的內容需要檢索調整。過時的內容需要有約束力的管理,而不是另一個沒有人會維護的 PDF 資料夾。

這裡的情感利害關係很重要。知識空白不是一個抽象的內容衛生問題。在緊張的續約中,這是你的支持團隊自信重複的答案。在公司內部,它可以成為員工遵循的過時政策或需要在會議結束後糾正的高管更新。

最聰明的反對意見是合理的:為什麼不繼續添加文件,直到空白消失?因為數量不會消除模糊。大量組織結構不良的知識反而給檢索器帶來更多錯誤的途徑。如果問題是結構性的,就不要再添加文件了。使用增強技術,例如數據增強代理 或專門的 圖形提取代理,讓你現有材料中的關係易於檢索。否則,你就是在給系統餵養更多內容,同時讓盲點保持不變。

將盲點轉化為規律

一個修改過的答案並不是勝利。一個可重複的檢查迴圈才是。

從團隊能夠維持的小儀式開始。檢查最近的 無法回答的問題以及上下文相關性低的問題,然後使用活動日誌的 REMi 查詢 數據檢查它們後面的記錄。按客戶影響和擁有者排序。挑選出幾個最重要的。對於每一個,快速閱讀問題、上下文、答案和反饋。然後決定解決方案屬於內容、權限、檢索策略還是評估政策。

當答案聽起來更好時,別急著將問題標記為結束。重新執行原始提示,並將新痕跡與舊痕跡進行比較。檢查檢索材料是否因你預期的理由而改變,相關分數是否有變動,當 引用 啟用時,看看答案所使用的來源段落。如果沒有,那麼你改善了表現,而不是系統。

這個區別是一切的論證。知識空白的工作不是貼上 AI 標籤的內容維護。它是針對業務開始信任的答案進行的操作風險管理。

因此,站在某一邊。停止將弱答案視為一次性的困擾。將它們視為你知識庫最早給出的警告。拉出一周的低信心和負面評價的互動。然後在同一盲點變成其他人的截圖之前,對前十個失敗進行分類並指派擁有者。

常見問題

這些是當團隊開始將弱答案視為診斷證據而非孤立錯誤時,通常會浮現的實用問題。

誰應該負責知識空白檢查迴圈?

負責者應該是能改變真相來源的人。評估政策可以由 AI 平台擁有者持有,但修正必須由控制政策頁面、產品說明、支持文章或流程文檔的人負責。如果檢查者只能申請工單,那麼迴圈就有交接問題。

如果用戶反饋和 REMi 分數不一致怎麼辦?

將不一致視為檢查觸發。活動日誌可以顯示用戶反饋和 REMi 分數字段,因此在更改內容或檢索之前,一起檢查提示、檢索的上下文、答案和用戶信號。

何時應更改內容而不是檢索策略?

當來源材料缺失或過時,或日誌顯示來源本身不清晰時,應更改內容。當正確的材料存在但系統持續檢索錯誤的證據或僅在非常狹窄的提示下工作時,更改檢索策略。關鍵在於首先診斷錯誤的類別,以便小的內容修正不會變成平臺計劃。

文章來源: How to Use Progress Agentic RAG to Identify Knowledge Gaps

You cannot copy content of this page