加速 AI 工作負載的 RDMA 檔案與物件儲存存取

核心重點

AI 基礎建設正快速轉向 RDMA（遠端直接記憶體存取） 以實現零拷貝、低延遲的檔案與物件儲存存取。NVIDIA 近期將 xio‑sig 擴充至支援 cuObject，同時公布 cuObject 客戶端與伺服器函式庫的正式版，並推出 SCADA Server SDK，讓儲存供應商能建置符合 GPU 發起請求的加速伺服器。這兩項技術共同提供了跨雲端與本地環境的統一 API 與線路協定，降低開發者在不同平台間的整合成本。

背景與技術挑戰

AI 工作負載（模型訓練、微調、推論、工具呼叫、搜尋與資料庫查詢）對資料存取速度的需求日益嚴苛。大部分訓練資料以檔案或物件形式散佈於本地儲存與雲端儲存，傳統的 CPU 主導資料搬移已成為瓶頸。

• GPU、TPU、XPU 等運算加速卡需要 NIC（網路介面卡）或 DPU（資料處理單元） 加速的 RDMA 來直接將資料從儲存裝置搬入顯示記憶體，避免 CPU 介入的額外拷貝與快取失效。
• 以往開發者必須面對各家雲服務供應商不同的 API 與協定，物件儲存的 RDMA 甚至缺乏統一的線路協定，導致只能採用供應商專屬的整合方式或回退至傳統的 NFS/SMB 等協定。

xio‑sig 的擴充提供了 cuObject API 以及標準化的 RDMA 線路協定，開發者只要遵循此協定，即可讓客戶端與任何符合規範的伺服器互通。SCADA（Scaled Accelerated Data Access）Server SDK 則讓儲存供應商以 GPU‑initiated request 為核心，快速構建支援此協定的伺服器端實作，IBM 已示範與 IBM Storage Scale 的原型互通。

產業影響與未來展望

1. 跨平台互操作性提升：開發者不再需要為每個雲端或本地儲存寫不同的介面，降低開發與維護成本。

2. 加速細粒度 I/O：隨著 AI 模型越來越依賴大量小型、細粒度的 I/O 請求，SCADA 為 GPU 主導的高速存取提供了基礎設施，預計會成為新一代 AI 儲存的事實標準。

3. 產業標準化推動：NVIDIA Storage‑Next 計畫已聚集超過 40 家供應商與客戶，致力於將 GPU‑driven storage 的最佳實踐轉化為開放標準，未來有望形成類似 NVMe‑OF 的產業規範。

對於 AI 應用開發者、開源框架維護者以及儲存服務提供商而言，現在是採用 cuObject 與 SCADA 介面的關鍵窗口。透過這些共通 API 與 RDMA 協定，能在保持資料安全與高吞吐的同時，為下一波大模型訓練與即時推論奠定更堅實的基礎。未來，隨著更多供應商加入標準制定行列，AI 工作負載的儲存存取將更加統一、快速且具成本效益。