AWS 推出非同步 Bedrock AgentCore 以提升 AI 流程效能

核心重點

Amazon Bedrock AgentCore 允許開發者在無伺服器（serverless）工作流程中以非同步方式呼叫 AI 代理（agent），大幅降低因等待回應而產生的閒置運算成本。此舉對需要文件驗證、合約審核等高延遲 AI 任務的企業，尤其在金融與房地產等後勤環境中，具備顯著的成本與效能優勢。

背景與技術說明

在傳統的無伺服器管線中，常見的做法是使用 AWS Lambda、容器或 Amazon EC2 以同步方式呼叫 Bedrock AgentCore，然後一直阻塞等待結果。雖然 Bedrock AgentCore 本身採用消耗式計費（只在代理實際執行 CPU 時收費），但呼叫方的計算資源仍會持續佔用 CPU，導致整體成本等同於代理的完整執行時間。

Bedrock AgentCore 的非同步模式則把「等待」的階段交還給平台，呼叫方只需在發送請求後立即釋放資源，待代理完成後再以回呼（callback）或事件方式恢復工作流程。文章中示範了三種實作方式：

Task‑Token 回呼 – 透過 Step Functions 的任務令牌，讓工作流程在代理完成前暫停，完成後自動繼續。
直接服務整合 – 讓 Lambda 直接以非同步 API 呼叫 AgentCore，並透過 SNS/SQS 等訊息服務接收結果。
Durable Function（持久化函式） – 使用 Azure Durable Functions 類似概念的 AWS Step Functions，將長時間運算拆解為多個短暫任務，避免單一函式長時間阻塞。

相較於阻塞式反模式（同步呼叫後一直等待），上述三種模式皆能讓呼叫方只為發送請求的瞬間付費，顯著降低閒置 CPU 的開銷。

影響與未來展望

成本效益：對於需要大量文件比對或合約審核的金融、房地產後勤系統，非同步模式可將雲端運算費用削減 30% 以上（具體幅度視工作負載而定）。
擴展性：因為呼叫方不再被 CPU 佔用，系統可在同一時間同時處理更多代理請求，提升整體吞吐量。
開發彈性：AgentCore 支援任意模型或框架，開發者可自行選擇最適合的大型語言模型（LLM）或自訂工具，並透過上述非同步模式無縫整合至既有的無伺服器管線。

未來，AWS 可能會進一步將 Model Context Protocol（MCP） 與非同步呼叫深度整合，提供更細緻的資源計費與監控功能，讓企業在 AI 工作流的每一個環節都能做到「只付所用、即時回應」。

結語

AWS 透過 Bedrock AgentCore 的非同步呼叫模式，為 AI 驅動的業務流程提供了更省錢、更高效的解決方案。企業若能善用 task‑token、直接服務整合或 durable function 等設計模式，將能在保持模型精準度的同時，顯著降低雲端運算成本，為 AI 應用的規模化鋪平道路。