Strands Harness 降低 Claude 與 GPT 代理詞元成本 28%

AWS 開源 AI 代理專案 Strands Agents 近日推出 Strands Harness，一套已預先配置好的通用 AI 代理執行框架。開發者不必自行組合工具、記憶與上下文管理機制，即可直接使用。官方以相同的 Claude 或 GPT 模型執行六項基準測試，結果顯示 Strands Harness 的詞元（Token）成本平均比 Claude Code、Codex 等傳統代理框架低 28%，而測試分數則相差無幾。

背景與技術亮點

AI 代理除了大型語言模型本身，還需要軟體層負責 工具呼叫、工作狀態與上下文管理，此層通常稱為 Harness。Strands Harness 的核心做法是提供一套經基準測試的 預設配置，涵蓋：

工具與提示快取：重複使用先前的提示內容，減少重新計算的次數。
上下文與記憶壓縮：當工具執行結果超過約 1,500 個詞元時自動截斷；若上下文視窗使用率超過 85% 則對較早的內容進行摘要，降低上下文窗口佔用。較大的工具結果則搬移至檔案保存，避免佔用即時記憶。
工作階段管理：內建長期記憶、任務清單與 Skills 載入功能，支援命令列、檔案與網頁操作。

這些機制共同降低了每次呼叫所需的詞元數，直接轉化為成本節省。

多模型與跨雲部署

Strands Harness 支援 Amazon Bedrock、Anthropic、OpenAI、Google、Ollama 以及 LiteLLM 等多家模型供應商，開發者可自由選擇 Claude、GPT 或其他模型。部署方面不受限於 AWS，亦可在支援 Linux 容器的平臺上運行，包括 Modal、Cloudflare Containers、Azure Container Apps、Google Cloud Run、Amazon ECS 以及 Amazon Bedrock AgentCore。

此外，Strands 提供命令列介面（CLI），開發者可先加入模型、提示與工具測試代理，完成原型後透過 /export 指令輸出 Python 或 TypeScript 程式碼，快速投入實務開發。

未來展望

Strands 團隊表示，將於近期發表與基準測試相關的學術論文，屆時可更完整驗證 28% 成本差異的來源與可重現性。對於希望在多雲環境下以較低成本部署 AI 代理的企業與開發者而言，Strands Harness 提供了一條即插即用的解決方案，未來有望成為 AI 代理開發的事實標準配置。

讀者提示：若您正考慮在現有應用中加入 AI 代理，建議先以 Strands Harness 的預設配置進行概念驗證，評估詞元成本與效能，再根據實際需求調整工具與記憶策略，以達到最佳的成本效益平衡。