Amazon Bedrock AgentCore 觀測能力解鎖 AI潛力

Amazon Bedrock AgentCore 觀測能力解鎖 AI潛力

Amazon Bedrock AgentCore 是一個平台，允許用戶建構、連接和優化代理程式（agents）於大規模環境中，無論使用何種框架或模型。當您部署以 Strands Agents、LangGraph 和 CrewAI 等框架建造的 AI 代理程式時，您需要觀測其效能。這點在代理程式於 Amazon Elastic Kubernetes Service（Amazon EKS）、Amazon Elastic Container Service（Amazon ECS）、AWS Lambda、內部部署或其他雲端供應商（如 Google Cloud Platform（GCP）或 Microsoft Azure）上運行時尤其重要。

觀測能力的重要性

Amazon Bedrock AgentCore Observability 是 Amazon Bedrock AgentCore 的一項功能，提供原生追蹤、監控和分析，相較於本地雲端監控工具，它提供了更多的功能。但是，它僅支援在 AWS 雲端上以 AgentCore 執行時期部署的代理程式。如果您的代理程式運行於其他環境，您需要進行額外的設定，以將遙測資料傳送到儀表板。這篇文章將介紹如何為運行於 AWS 之外的代理程式設定觀測能力。

解決方案概覽

解決方案使用 AWS Distro for OpenTelemetry（ADOT）在代理程式應用程式中執行。ADOT 自動儀表代理程式框架，捕捉生成式 AI 語義約定範圍，然後使用 SigV4 驗證和 AWS Identity and Access Management（IAM）憑證，直接將遙測資料導出到 Amazon CloudWatch OpenTelemetry Protocol（OTLP）端點。將遙測資料從您的 AI 代理程式傳送到 Amazon Bedrock AgentCore Observability 需要三個核心組件：代理程式應用程式、ADOT 和 Amazon CloudWatch。

結構和功能

如以下圖所示，該跨平台觀測解決方案整合了多個 AWS 服務。Amazon CloudWatch 作為基礎，負責遙測資料的攝取和儲存。Amazon Bedrock AgentCore Observability 提供了針對 AI 代理程式的專用監控儀表板。AWS Distro for OpenTelemetry（ADOT）提供了跨平台的儀表功能。IAM 保障了外部環境和 AWS 之間的驗證安全。

未來展望

觀測能力是負責任 AI 的基礎柱。通過將遙測資料導向 AgentCore Observability，您可以更好地了解代理程式的效能和行為，從而優化您的 AI 解決方案。隨著 AI 技術的不斷發展，觀測能力將在 AI 的應用中發揮越來越重要的角色。因此，了解和應用觀測能力對於企業和開發者來說是非常重要的。透過 Amazon Bedrock AgentCore 和 AWS 服務，您可以輕鬆地建立和優化您的 AI 代理程式，解鎖 AI 的全部潛力。