儲存在代理人工智慧工作流中的關鍵角色

儲存在代理人工智慧工作流中的關鍵角色

儲存是每個代理人工智慧（Agentic AI）工作流中的活躍成員。當代理人检索企業知識、存取持久記憶、重複使用金鑰值（KV）快取資料、執行工具和生成新結果時，儲存系統必須持續提供和保存代理人推理迴圈所需的資料。

每個代理人步驟都可能觸發多個儲存操作，這些操作可能在成千上萬個並行代理人中重複執行，且上下文窗口不斷擴大。提供和保存這些資料需要的不僅是基本的讀寫操作。人工智慧推理運行在圖形處理器（GPU）上，但代理人過程、工具呼叫、資料管理任務和支持它們的儲存服務運行在中央處理器（CPU）上。

在寫入過程中，儲存可能會壓縮和加密資料、計算校驗和、計算冗余度。在讀取過程中，可能需要驗證、解密、解壓縮或重建資料才返回給應用程式。這些功能對於人工智慧系統的安全性和韌性至關重要。每個功能都需要額外的CPU處理，當資料通過儲存路徑時。

隨著代理人並行（多個使用者、人工智慧代理人或任務並行運行）和上下文容量的增長，儲存必須在不限制應用程式響應或令牌生成的情況下執行更多工作；它必須以加速計算所需的速率提供資料。許多這些功能都直接位於資料路徑中；一個延遲的操作可能會減慢更廣泛的資料流。使用傳統CPU擴展它們可能需要更多核心、電力和冷卻，增加基礎設施成本，但仍然使性能依賴於最慢的步驟。更快的固態硬碟（SSD）和網路無法發揮其全部潛力，如果保護和準備資料的處理器無法跟上。

NVIDIA Vera BlueField-4 STX儲存處理器

NVIDIA Vera BlueField-4 STX儲存處理器是NVIDIA STX基礎設施的關鍵組件，為人工智慧原生資料平台帶來了NVIDIA Vera CPU性能。與NVIDIA Rubin GPU配合使用的相同Vera CPU架構加速了CPU側的儲存處理。

基準測試結果顯示Vera在加密和解密、恢復、完整性檢查、壓縮和解壓縮以及多階段儲存管道等方面都優於x86 CPU。這些收益使儲存平台能夠處理更多資料並應用基本的企業服務，同時具有較低的CPU和電力負荷，同時更高的壓縮吞吐量有助於減少儲存容量和帶寬需求。

未來展望

儲存在代理人工智慧工作流中的關鍵角色不容忽視。隨著人工智慧技術的不斷發展，儲存系統的需求也將不斷增加。未來，儲存系統需要更高的性能、更低的延遲和更強的安全性。NVIDIA Vera BlueField-4 STX儲存處理器是解決這些挑戰的一個重要步驟，它將為人工智慧原生資料平台提供更高的性能和效率。因此，對於企業和開發者來說，選擇合適的儲存系統和處理器是非常重要的，以滿足人工智慧應用程式的需求。