AWS Bedrock 推出 OpenAI GPT‑5.6 模型,支援跨區域推論
Amazon Bedrock 近期在 25 個以上 AWS 區域 上開放 OpenAI GPT‑5.6 系列模型,並首次支援 跨區域推論(Cross‑Region Inference,簡稱 CRIS)。本次上線的三款變體——Sol、Terra、Luna——分別在效能與成本之間取得不同平衡,皆可接受文字與影像輸入,回傳文字結果,並提供 100 萬 token(語言單位)的上下文視窗。
背景與技術概念
CRIS 透過 推論設定檔(Inference Profile) 來運作:使用者在來源區域呼叫設定檔,Bedrock 會自動將請求轉送至具備可用運算資源的目的區域執行。此機制的核心是 容量彈性:當單一區域的算力接近飽和時,請求會被導向其他區域,提升整體吞吐量並確保負載高峰期的效能穩定。
- 地理推論設定檔:限制在同一地理區域內(如美國境內)傳遞資料,符合資料主權與合規需求。
- 全球推論設定檔:可跨所有支援商業區域,依即時容量自動選擇最佳目的地,提供最廣泛的資源存取。
計費與配額仍以使用者帳號為單位統一記錄,無論請求最終由哪個區域完成,都會納入同一筆消費與流量統計。
影響與應用場景
-
提升服務可靠度:跨區域調度避免單點瓶頸,對需要即時回應的聊天機器人、客服系統尤為重要。
-
降低成本波動:使用者可依需求選擇成本較低的變體(如 Luna),同時享有全球資源的備援。
-
符合合規要求:地理設定檔讓企業在資料必須留在特定區域時仍能利用 Bedrock 的先進模型,減少自行建置本地化基礎設施的負擔。
GPT‑5.6 系列同時支援 推理模式(Reasoning Mode)、伺服端工具呼叫(Server‑Side Tool Calling) 以及 提示快取(Prompt Caching),開發者可透過 OpenAI Responses API、OpenAI Chat Completions API 或 Amazon Bedrock Converse API 直接呼叫,且支援串流回傳(Streaming)以即時呈現回應。
未來展望
跨區域推論的推出標誌著雲端 AI 服務從「單區域」向「全球彈性」的演進。隨著更多模型加入 Bedrock 生態系,預計會出現更多針對特定產業(如資安、醫療)的專屬變體,同時結合多區域運算的優勢,為企業提供更高可用性與成本效益的 AI 解決方案。對於關注資料主權、效能穩定與成本控制的使用者而言,現在正是評估將關鍵工作負載遷移至 Bedrock 的最佳時機。
