甚麼是 Agentic RAG？一份直話直說的指南

Agentic RAG（代理式檢索增強生成）是一種 AI 系統：它會規劃如何尋找資訊、從一個或多個來源檢索、核查找到的內容，然後才產出答案或採取行動。與傳統的檢索增強生成不同，它可以自行決定下一步搜尋甚麼，而不是依賴一次固定的查找。

當問題太寬、答案散落在多份文件之中，或系統需要先使用工具才能回覆時，這一點就很重要。

重點摘要

• 直接的問題、加上一個小而整齊的知識庫，用標準 RAG。
• 當系統需要規劃、拆解問題、搜尋多個來源或自我核查時，用 Agentic RAG。
• Agentic RAG 可以產出更有根據的答案，但也增加成本、延遲、技術複雜度和更多故障點。
• 測試整條工作流程，不要只看最終答案。檢查檢索、來源質素、工具選擇、推理步驟及安全行為。

甚麼是 Agentic RAG？

Agentic RAG 把檢索增強生成與代理行為結合起來。系統先弄清楚自己需要甚麼資訊，再選擇搜尋方式或工具、審視結果，並判斷證據是否足以作答。它可能重複這個過程好幾次，才給出回應。

**代理式（agentic）**這個詞在這裡是關鍵。標準 RAG 系統通常走一條固定路線：接收問題、搜尋向量資料庫、把相關段落加進提示、生成答案。Agentic RAG 在首次搜尋不完整時，可以改走另一條路。

例如，使用者可能會問：

「下一季有哪些客戶合約到期？他們提出過甚麼問題？每個客戶由誰負責？」

單次搜尋很難答好這條問題。系統可以把要求拆成幾條小問題：調出續約記錄、搜尋支援對話、查核客戶負責人，再把結果整合起來。

這個概念在 Agentic Retrieval-Augmented Generation 綜述中有詳細討論 — 該文把 Agentic RAG 描述為一個更廣的系統類別，讓規劃、檢索、工具使用與回饋協同運作。

理解 Agentic RAG 的最好方式，是把它看成一條內建決策能力的檢索工作流程。 系統不再是抓取一批固定段落就立即回覆，而是決定要檢索甚麼、核查證據是否切合問題，並在答案仍不完整時再搜尋一次。

Agentic RAG 與傳統 RAG 有甚麼分別？

傳統 RAG 通常在生成之前只做一次檢索；Agentic RAG 則可以規劃多個步驟，並在不同檢索方法或工具之間選擇。標準 RAG 較簡單、通常較快；Agentic RAG 更適合需要在零散或不斷變化的資訊之間展開調查的問題。

這不代表 Agentic RAG 自動更好。如果客戶問的退貨政策存放在一份可靠的文件裡，基本檢索系統可能才是對的工具。加上規劃和重複搜尋，只會增加工作量而添不了多少價值。

這個區分，類似「快速答問系統」與「擁有一項任務的 AI 工作者」之間的分別。想了解這個更宏觀的差異，可閱讀 AI 助理與 AI 代理比較。

實務上的分界線是任務複雜度。 一次搜尋就能找到答案時，傳統 RAG 表現良好。當系統必須決定搜尋甚麼、整合多處證據，或從一次失敗的首輪結果中恢復過來，Agentic RAG 才真正物有所值。

Agentic RAG 系統逐步如何運作？

Agentic RAG 系統先解讀使用者的要求，然後制定檢索計劃、選擇來源或工具、收集證據，並對照原本的任務核查結果。如果重要資訊缺失或互相矛盾，它會先修訂計劃，才產出最終答案。

典型的工作流程是這樣：

1. 理解要求
   系統識別目標、限制、日期、實體及所需的輸出格式，也可能發現問題其實包含幾項獨立任務。

2. 規劃工作
   它決定哪些問題要先有答案。一條關於客戶帳戶的要求，可能需要分別搜尋帳戶資料、近期通訊、未解決問題及續約資訊。

3. 拆解查詢
   查詢分解（query decomposition）把一個大要求變成多個小搜尋。每次搜尋的用詞更具體，檢索效果往往更好。

4. 選擇來源與工具
   系統可能搜尋文件庫、資料庫、網站、工單系統、日曆或其他經批准的工具。可用的工具取決於系統如何搭建。

5. 檢索並排序證據
   它收集相關的段落或記錄，按契合度排序。好的設計還會追蹤每一項資訊的出處。

6. 審視證據
   系統核查結果是否回答了要求的每一部分。它可以標示缺口、矛盾的記錄、薄弱的來源，或需要人跟進的問題。

7. 回應或行動
   證據充分之後，它撰寫答案、產出報告，或執行一項獲授權的行動。

PlanRAG 論文研究了「先規劃、後檢索」的做法 — 把規劃放在資訊檢索之前。當要求涉及決策或多個相依步驟時，這個次序會有幫助。

Agentic RAG 是一個迭代循環，不是一個搜尋框。 系統由問題走到計劃、由計劃走到檢索、由檢索走到核查、由核查走到回應。第二次搜尋只有在修補一個已知缺口，或驗證一項重要的不確定時，才有價值。

Agentic RAG 架構有哪些主要組件？

Agentic RAG 架構通常包括：語言模型、規劃器、檢索系統、外部工具、記憶或狀態、核實步驟，以及權限與安全控制。這些組件不一定是獨立產品，但每項功能都需要一份清晰的職責。

主要構件如下：

• 語言模型： 解讀要求、撰寫搜尋查詢、審視證據、產出最終回應。
• 規劃器： 決定要發生甚麼、按甚麼次序。它可以先訂一份簡短計劃，並在任務途中修訂。
• 檢索器： 搜尋內部文件、結構化記錄、網站或其他經批准的來源。
• 工具層： 讓系統執行資料庫查詢、計算或預約系統等行動。
• 工作記憶： 儲存目前的問題、之前的搜尋、已檢索的證據，以及任務過程中的決定。
• 核實器： 檢查來源相關性、完整性、矛盾之處，以及回應是否有證據支持。
• 防護欄： 限制存取、控制行動、保護敏感資料，並把不確定的個案轉交真人。

系統也可以對不同資料使用不同的檢索方法。關鍵字搜尋適合準確的名稱或參考編號；語義搜尋能找到措辭不同的文件；結構化查詢則更適合日期、金額、狀態等欄位。

架構應該跟隨工作，而不是倒過來。 回答政策問題的系統，可能需要文件檢索和來源核查；編製帳戶報告的系統，則可能還需要資料庫、計算、權限和審計記錄。

為甚麼規劃、查詢分解、工具使用與反思很重要？

規劃給系統一條穿越複雜要求的路線。查詢分解令搜尋更精準，工具使用觸及文件提供不了的資訊，反思則核查收集到的證據是否足夠。這些步驟合起來，減低了「一次失準的搜尋主宰整個答案」的風險。

規劃

規劃幫助系統識別依賴關係。它可能要先找到客戶編號，才能搜尋該客戶的記錄；可能要先確定日期範圍，才能查核交易。

計劃也能防止無關的搜尋。系統的每一步都有理由，而不是把同一條寬泛的問題問完又問。

查詢分解

長問題往往包含幾個意圖。拆開之後，每個意圖都能得到更清晰的搜尋。

例如「我們的招聘流程改了甚麼？誰需要培訓？哪些應徵者受影響？」包含文件比對、員工識別和應徵者配對三項任務，可能需要不同的來源和不同的搜尋字眼。

工具使用

文件搜尋無法可靠地告訴您今日的預約空檔，也算不出實時記錄的總和。工具延伸了系統的觸及範圍，但每個工具都應有界定好的權限，以及清晰的失敗處理方式。

反思

反思不代表系統擁有完美的推理，而是代表工作流程內建了一道核查。系統可以自問：要求的每一部分都有證據嗎？兩個來源有沒有互相矛盾？答案有沒有講多過來源所支持的？

額外的推理步驟，只有在服務一個可核查的目的時才有幫助。 規劃應該識別工作，檢索應該收集證據，反思應該檢驗結果。如果一個步驟甚麼都改變不了、又無法被評估，它可能只是增加延遲而沒有改善答案。

Agentic RAG 有哪些好處與應用場景？

當資訊分散在多個系統、問題需要多次搜尋，或答案必須以最新業務記錄為根據時，Agentic RAG 就派得上用場。只要工具、權限和來源受控，它可以支援研究、內部營運、客戶服務、報告及知識型工作。

常見應用包括：

• 內部研究： 比對政策、合約、項目筆記或市場文件。
• 客戶支援： 找出正確的政策、查核帳戶背景，並草擬一份有來源支持的回覆。
• 營運： 整合不同系統的記錄，準備狀態更新。
• 招聘流程： 在準備回應之前，搜尋應徵者資料、客戶簡報及流程文件。
• 銷售跟進： 檢視客戶歷史，識別下一個獲准採取的步驟。
• 管理層報告： 把數字、解釋和來源出處匯成一份報告。

對考慮 AI 員工的企業而言，有用的問題不是「這個系統識唔識答問題？」，而是：「這項任務是否需要一位 AI 工作者先在多個地方找齊資訊，才能擁有下一步？」

負責記錄新查詢的 AI 接待員或負責有系統跟進的 AI 潛在客戶開發專員這類服務，正是可以坐落在更大工作流程之中的角色。至於 Agentic RAG 是否屬於那條工作流程，則取決於所涉及的資訊與行動。

最強的應用場景有三個特徵：資訊分散、決策可重複、獲准行動有清晰界線。 如果一份穩定的文件就能答到，基本 RAG 可能已經足夠；如果需要多個來源和一連串核查，Agentic RAG 的理據就更充分。

有哪些限制、成本與風險？

Agentic RAG 比標準 RAG 有更多活動部件，所以成本可能更高、耗時更長、出錯的方式也更多。系統可能選了一個差的計劃、檢索了錯的證據、呼叫了不合適的工具、洩露了資訊，或憑不完整的來源產出一個自信十足的答案。

主要風險都很實在：

• 營運成本更高： 更多模型呼叫、搜尋、重排序步驟和工具呼叫，都會推高用量。
• 回應更慢： 多步驟的調查，比一次檢索花時間。
• 錯誤鏈： 計劃早段的一個錯誤，可以扭曲之後的每一步。
• 來源問題： 過時、重複、缺失或矛盾的文件，依然產出劣質證據。
• 權限失守： 存取範圍過寬的系統，可能檢索到使用者不應看見的資訊。
• 行動風險： 審批和限制薄弱時，工具使用會造成真實後果。
• 除錯更難： 您需要檢視計劃、搜尋、來源、工具呼叫和最終答案。

這些風險不代表應該避開這個方法，而是代表：由一項窄的任務開始、界定系統可以存取甚麼，並在敏感或不可逆轉的行動上保留人工把關。

Agentic RAG 無法靠「想深一層」修復壞的來源資料。 如果政策過時或記錄矛盾，額外的檢索或許能暴露問題，但在沒有負責人、來源優先級或人工覆核的情況下，它無法安全地裁定真相。

應如何評估一套 Agentic RAG 系統？

在每個階段評估 Agentic RAG：它有沒有理解要求、訂出合理計劃、找到正確證據、正確使用工具、註明來源出處、遵守權限規則。如果系統是經由不安全或不可靠的步驟得出好答案，那個好答案並不足夠。

用真實例子和邊緣情況測試系統，包括：

• 資料缺失的問題。
• 需要兩個或以上來源的要求。
• 相似的名稱、重複的記錄、不同的日期格式。
• 同一政策的矛盾版本。
• 超出系統知識範圍的問題。
• 無權查看某些記錄的使用者。
• 工具失效、逾時及搜尋結果為空。
• 需要人工審批的要求。

追蹤系統是否檢索到正確來源、是否覆蓋問題的每一部分、有沒有無據的主張，以及證據不足時懂不懂停下。同時記錄延遲、工具呼叫量、失敗率及完成一項任務的成本。

Microsoft Learn 的 Agentic RAG 架構指南描述了圍繞規劃、檢索與編排的設計考量，在制定評估計劃時很有參考價值。

可靠的評估既查終點，也查路線。 覆核最終答案之餘，也要檢視它檢索了哪些來源、呼叫了哪些工具、應用了哪些權限，以及系統知不知道何時該停下或求助。

企業何時應該用 Agentic RAG，而不是標準 RAG？

當任務需要多步驟研究、多個資料來源、工具呼叫，或固定檢索流程應付不了的證據核查時，選 Agentic RAG。當問題可預測、文件整齊、一次搜尋通常奏效、而速度與簡單比靈活規劃更重要時，選標準 RAG。

用這個快速測試：

由小做起。選一條目前正在浪費時間的工作流程 — 人們要在幾個地方翻找、重複同樣的核對，或以人手拼湊同一類回應。

不要一開始就接入全公司的文件和所有可用的工具。

常見問題

Agentic RAG 跟 AI 代理是同一回事嗎？

不是。AI 代理是一個更廣的系統類別，能為目標作規劃和採取行動。Agentic RAG 是一種方法，讓這類系統在回應或行動之前，以有結構的方式尋找和核查資訊。代理可以使用 RAG，但不是每個 AI 代理都使用 Agentic RAG。

Agentic RAG 能消除幻覺（hallucination）嗎？

不能。它可以透過把回應建基於檢索到的來源、並核查證據是否足夠，來減少無據的答案。但它仍可能檢索錯內容、誤解要求、信了一份過時文件，或把證據組合得一團糟。來源質素、權限、評估和人工覆核依然重要。

Agentic RAG 比標準 RAG 貴嗎？

可能會。Agentic RAG 或會進行多次模型呼叫、執行多次搜尋、重排序結果並使用外部工具。這些額外步驟會推高成本和回應時間。正確的比較，是整條工作流程的成本，對比更好的研究、更少的人手核對或更安全的決定所帶來的價值。

Agentic RAG 可以處理公司的私有資料嗎？

可以 — 它可以設計成檢索私有業務資料，但存取必須受控。系統需要清晰的權限、來源規則、日誌記錄，以及對敏感資料的處理方式。把私有記錄接上任何 AI 工作流程之前，應先確認資料如何儲存和存取。

甚麼時候應該由人覆核結果？

當答案影響金錢、法律責任、僱傭決定、私隱、對客戶的承諾，或不可逆轉的行動時，人工覆核就有必要。來源互相矛盾、或系統回報信心偏低時，也應由人把關。覆核點應在部署前定好，而不是出事之後才補。

結語

Agentic RAG 給了 AI 系統更多空間，在作答之前先行調查。這對混亂、多步驟的工作有幫助，但同時帶來簡單查詢並不需要的額外成本、延遲與複雜性。快速的事實性問題請使用標準檢索；當多個來源、工具或驗證步驟確實能改善結果時，才使用代理式檢索。