近來大型長上下文模型（large-context models）與自主代理（agentic workflows）的進步，再次引發熟悉的預測：

「RAG（檢索增強生成）很快就會被淘汰。」

畢竟，如果模型已能一次讀取數百萬個 token，而代理又能自動跨系統推理與行動，為什麼還需要檢索？

但現實沒那麼簡單。長上下文與代理確實擴大了 AI 的可能性，但它們並沒有消除檢索的必要性。相反地，它們讓檢索變得更關鍵、更具策略性，並更深度地整合於 AI 系統的推理架構中。

檢索不只是「抓資料」

RAG 從來不只是為了找到正確的一段文字。

它其實是一個框架，用來設計與應用不同類型的檢索策略——包括語意式（semantic）、字詞式（lexical）、結構化（structured）、或圖譜式（graph-based）檢索——以組合出模型在特定任務中所需的精準證據。

這些策略決定了 AI 如何「看待」並「推理」你的資料，同時確保邊界、相關性與真實性。
即使模型擁有百萬 token 的上下文，這種選擇性仍然至關重要。
更大的上下文能降低操作摩擦，但無法取代判斷能力。

若將整個資料庫都丟給模型，只會導致注意力分散、延遲上升與成本浪費。檢索仍然是目前最有效的「壓縮原語」（compression primitive）——它決定哪些內容值得模型花心力關注。

資料擷取階段的智慧仍然決定品質

RAG 的威力，其實在生成之前就開始了——從資料「擷取」（ingestion）階段就決定勝負。

像是標註（labeling）、實體擷取（entity extraction）、**表格正規化（table normalization）與存取控管（access control）**等步驟，能將原始文件轉化為結構化、可檢索的知識。

這些在擷取階段完成的強化，使下游系統不僅能「對資料進行推理」，更能「針對資料本身進行推理」——依據標籤、政策、敏感度或資料來源進行判斷。

更大的上下文並不會消除這些需求；反而更加放大其重要性。

若沒有結構化的擷取流程，代理根本無法有原則地判斷哪些內容該信任、該優先。

你的索引流程越聰明，你的代理就越有效率。

代理與 MCP：互補而非競爭

代理（Agents）與檢索（Retrieval）在整個 AI 堆疊中扮演不同層次的角色。

代理負責規劃、推理與執行；而檢索則確保在執行過程中，代理的推理建立在正確的依據之上。

像 Model Context Protocol（MCP） 這類協定，進一步擴展了這種結合，讓你的 RAG 管線能連接至各種系統——如 CRM、資料湖（Data Lake）、API——讓代理能從任何地方取得上下文。

但 MCP 並不決定要取什麼或如何融合，那是檢索邏輯的工作。
檢索邏輯定義了什麼是「相關的」、什麼是「允許的」、以及什麼是「最適合納入的」。

評估的關鍵在於檢索溯源（provenance）

高品質的輸出不只依賴推理能力，也仰賴評估（evaluation）。

當我們使用 LLM 作為「審查員」來判斷內容是否有事實依據、是否有引用出處、或是否避免幻覺時，這都必須建立在明確的檢索溯源之上——包括可辨識的資料段落、來源與時間戳記。

若沒有這些資訊，整個驗證過程就會變得不透明，也無法滿足合規要求。

RAG 是讓推理可被解釋的關鍵。

從「傳統 RAG」走向「Agentic RAG」

正在消逝的並不是「檢索」本身，而是那種脆弱、外掛式的舊式 RAG 管線。

下一代的系統——Agentic RAG（代理導向的 RAG）——將檢索視為動態基礎層（dynamic substrate）。

在這種架構下，代理會主動選擇與調整檢索策略，結合語意與符號方法，為取用的資料提出理由，並不斷迭代範圍，直到上下文既精準又有根據。

RAG 並沒有被長上下文或代理取代，

它的地位被提升了——從「權宜之計」昇華為「核心基礎」。