企業代理檢索:提升 RAG 與 AWS Bedrock 知識庫的效能
在生成式 AI 的應用中,Retrieval‑Augmented Generation(RAG) 常以「一次檢索 + 一次產生」的方式運作。當問題變得複雜、答案需要跨多個資料來源,或系統必須先判斷要查詢哪個知識庫時,單一檢索的模型便會失效。為了解決這個瓶頸,AWS 於 Amazon Bedrock 推出 Managed Knowledge Base 搭配 AgentCore,實現「企業代理檢索」的多回合、語意路由與引用生成機制。
為何需要「代理」的 RAG
傳統 RAG 只執行一次向向量資料庫的搜尋,然後直接把檢索結果交給大型語言模型(LLM)產生回應。企業場景往往要求:
-
問題推理:先判斷問題屬於哪個領域或主題。
-
語意路由:根據推理結果選擇最相關的知識庫(可能有多個 Managed Knowledge Base)。
-
多輪檢索:可重複查詢、逐步細化答案。
-
引用產出:最終回應必須附上來源,以符合合規與可追溯性需求。
這些步驟在 AgenticRetrieveStream API 中已被封裝為一個完整的工作流,使得開發者不必自行編寫複雜的迴圈邏輯。
端對端架構概覽
圖一展示的解決方案從 Amazon S3 中的合成語料開始,經過兩個 Managed Knowledge Base,再由 AgentCore Gateway(AgentCore 的入口服務)將請求導向執行中的代理。代理在七層觀測與評估模組的支援下,完成多輪檢索、答案合成與引用產出。整套系統全部以 AWS CloudFormation(基礎建設即程式碼)部署,確保環境可重現、可版本管理。
可觀測性與評估的內建設計
在企業級應用中,僅有「答案」不足以驗證系統品質。AWS 在此方案中將 observability(可觀測性) 與 evaluation(評估) 直接嵌入工作流:
- 每一次檢索、路由決策與生成步驟皆留下日誌與度量指標。
- 評估模組自動比對生成的引用與原始文件,提供正確率與召回率等指標。
這種「從一開始就設計」的做法,避免了事後再行加入監控所產生的資訊斷層。
未來展望與讀者啟示
隨著 Amazon Bedrock Managed Knowledge Base 逐步成熟,企業將能以更低的運維成本,建置具備 多知識庫語意路由、多輪檢索 與 可追溯引用 的智慧助理。未來可能的發展方向包括:
- 將外部 API 整合為檢索工具,擴大資訊來源。
- 結合自動化測試框架,持續驗證代理的推理正確性。
- 以微服務方式拆解 AgentCore,支援跨雲或混合雲環境。
對於希望在自家產品或內部知識平台上導入 RAG 的技術負責人而言,現在正是利用 AWS Bedrock 的代理檢索能力,從「單一向量搜尋」升級到「企業級多知識庫推理」的最佳時機。透過完整的 CloudFormation 部署與內建觀測,開發團隊可以更快驗證概念、縮短上線週期,同時確保答案的可信度與合規性。
