請告訴你的團隊找出你們的 AI 助手開始出現品質下降的確切日期。不是「最近感覺不對」，而是「Context Relevance」（是否能檢索到正確來源內容的分數）下降的那一天。沒有 Slack 考古學，沒有重新跑上季的測試查詢，沒有詢問 Marcus 上週二做了什麼改變，沒有對比範圍配置。五分鐘，我們會等。

現在請讓他們查明「Groundedness」（是否能由檢索到的內容實際支撐答案的分數）開始看起來可疑地高的那一天，而當時 Context Relevance 已經陷入低谷——這顯示出你的 AI 正在自信地引用錯誤的來源。同樣的時鐘，CIO 和企業架構師都需要那個答案。需要修正它的平台工程師也是如此。Progress Agentic RAG，這個擁有多步推理能力的檢索增強生成平台，讓這兩個問題在幾分鐘內即可回答——前提是你的團隊正在使用它的實驗室和評估工具。

為什麼 Agentic RAG 會以你想不到的方式出現問題

Agentic RAG 提供了比基本的向量搜尋加上LLM設置更多的配置選項，這些選項以意想不到的方式互相影響。你不是在調整一個變數，而是在幾個變數的交叉點上運作，包括：

每個配置都可能改善一個指標，同時默默地降低另一個指標。

值得計畫的失敗模式並不是顯而易見的。高 Groundedness 低 Context Relevance：一個系統自信地引用錯誤的來源內容。被檢索的文本區塊（Agentic RAG 系統從你的Knowledge Box中拉取並提供給 LLM 的分段段落）是忠實引用的；它們只是用戶實際需要的段落。你的 LLM 無法區分，也用戶無法區分。這樣的錯誤配置可能會在幾週內未被察覺。

現實檢查：「這個測試得很好」不是 QA 策略，當你測試的是與實際部署的配置不同的東西。

在沒有實驗室的情況下，典型的迭代循環看起來是這樣的。平台團隊的 Marcus 更換了嵌入模型，在 Jira 票據關閉前，兩個測試查詢在集成環境中運行。四天後，CIO 開始詢問為什麼知識助手提供給客戶的契約條款不正確。分支測試再部署的循環需要數天，並且沒有記錄什麼有效。

這就是Prompt Lab 和 RAG Lab 所解決的問題，它們不僅僅是便利工具，更是確保你實際部署內容的機制。

Prompt Lab：首先鎖定 LLM 行為

RAG 流程中的生成部分有其自己的失敗面，與檢索分開。對一個模型有效的提示，在沒有改變底層指令的情況下，可能會在另一個模型上失敗。不同的分詞器，不同的後訓練數據，不同的強化學習歷史，同樣的提示也可能產生實質上不同的輸出。兩個模型對同一提示的差距無法在紙面上預測，必須並排測量。

Prompt Lab 給團隊提供了一個隔離環境，使得這種比較變得明確。你可以在一個點擊間切換 Google Gemini、OpenAI、Anthropic、Mistral、Llama 和 DeepSeek，使用來自 Knowledge Box 的真實數據，採用相同的檢索上下文和你的配置系統提示。任何你的團隊已經使用的工具都可以通過 Progress 的OpenAI兼容LLM橋接連接。團隊通常在部署後才發現這個問題：為一個前沿模型校準的提示在另一個模型上會產生迴避性過度謹慎的輸出。Prompt Lab可以在成為平台團隊的緊急情況之前揭示這一點。

在實驗室中通過的配置直接部署。你測試的就是將發佈的內容。驗證版本與實時版本之間沒有漂移，這聽起來似乎是低標準，但當你計算有多少生產 AI 事件追溯到正是這個差距時，你就會發現這並非如此簡單。

RAG Lab：在 LLM 看到之前修正檢索

檢索是所有其他內容的上游限制。如果它檢索到錯誤的文本區塊，即使是稍微錯誤，也無法通過任何調整提示來修正輸出。你是在裝飾一個糟糕的基礎。

RAG Lab 將你的檢索管道暴露為一組可測試的變數，你可以並排調整：結合語義和關鍵字匹配的混合搜尋配置、上下文擴展（拉入每個匹配周圍的相鄰文本區塊）、元數據增強參數和重排序方法。它在不重建基礎設施的情況下，並行運行多個配置。在測試之間，曾經需要數週的時間（啟動配置，運行，拆除，再啟動下一個）現在可以在幾個小時內完成。

小技巧：上下文擴展聽起來微不足道，直到你的檢索總是落在答案的前一句話，而不是在答案本身。

通過的 RAG Lab 配置可以保存並重複使用於共享相同 Knowledge Box 的每個應用程序。對你的內部知識助手有效的檢索策略也適用於面向客戶的搜尋，而無需從頭調整。

REMi 縮短實驗室與生產之間的循環

實驗室讓你有一個迭代的地方。REMi，Progress 的 RAG 評估模型，告訴你該回到哪個實驗室。沒有它，評估只是定性的：「這似乎更好」是基於 Priya 上週四運行的任何測試查詢。這是伪裝成流程的直覺。

REMi 為 RAG 三合一的每個互動打分。兩個向量（Context Relevance 和 Answer Relevance）為生成步驟的前後打分。Groundedness 打分它們之間的關聯。每個都映射到一個修正路徑：

你不是在猜測根本原因。分數告訴你問題所在。

每次互動的打分在規模上變得可行：持續監測而非每週審計。你的平台團隊在小範圍的回歸出現時就能看到，而不必在客戶投訴後四天再發現。

關鍵見解：REMi 不僅報告得分。它提供 Answer Relevance 指標的推理，讓你的工程師可以理解為什麼一個回應不符合預期，而不僅僅是知道它的確不合格。

這週值得採取的行動是。打開 Prompt Lab，針對當前的 Knowledge Box，對你的前幾個生產提示進行測試，並在下一次例會之前查看得分差異。那些 Slack 討論不斷出現「有沒有人上週更改什麼？」的團隊，正是那些在使用實驗室的團隊。

你可以在 Progress Agentic RAG 中免費試用Prompt Lab，提供 14 天的免費試用。

常見問題

團隊應該多久在 Prompt Lab 和 RAG Lab 進行實驗，還是這只是初始設置？

實驗室不是啟動檢查清單。將它們視為持續的基礎設施。知識庫的變更會將你拉回來，包含添加新的 AI 體驗、REMi 分數漂移、每季 LLM 模型發佈或支持團隊希望測試的新提示模式。計劃進行定期的迭代週期。

單個 RAG Lab 配置能否在多個 AI 應用中使用，還是每個應用都需要自己的調整？

通過的 RAG Lab 配置可以保存並部署於任何共享相同 Knowledge Box 的應用中。你的平台團隊只需調整一次並進行推廣，但前提是這些應用有相似的查詢模式。內部法律搜索和客戶面對的產品助理即使共享數據，可能仍需要不同的 Top-K 設置和重排序方法。

當底層的 LLM 供應商發佈新模型版本時，REMi 分數會發生什麼變化？

模型更新是導致默默回歸的最常見原因之一：新版本推出後行為轉變的方向往往未經過測試。在它觸及生產之前，將更新的模型路由到 Prompt Lab，並將輸出與你用於先前版本的相同測試查詢和基準進行比較。在實驗室中捕捉漂移總是比在支援票中捕捉更便宜。