核心亮點
- CUDA Toolkit 13.4 正式加入 Windows on Arm 支援，讓原本僅在 Linux 上的 Arm 開發環境，首次可在 Windows 平台直接編譯與執行 CUDA 程式。
- 以 Rubin（計算能力 107）GPU 架構提供 預覽版 功能，開發者可提前移植與優化 AI 工作負載。
- Multi‑Process Server (MPS) V3 引入全新控制層，支援 CLI 指令、伺服器實例、命名空間與 TOML 設定檔，並整合 cgroup 記憶體上限，強化容器化環境下的 GPU 資源分配。
- CUDA Compute Fabric Transport (CFT) 以端點 ID 與偏移量的方式，提供跨 NVLink 纖維的非同步資料搬移，降低大型多 GPU 系統的虛擬位址壓力。
- 其他更新包括 CUDA Python、CCCL（CUDA C++ 標準函式庫）功能擴充，及 Nsight 開發工具與核心數學函式庫的升級。
背景與技術細節
Windows on Arm 的意義
過去 NVIDIA 的 CUDA 只在 Arm‑Linux 環境取得支援，開發者若想在 Windows 裝置（如 ARM‑based 平板或筆記本）上使用 GPU 加速，必須透過雙系統或遠端編譯。13.4 版直接在 Windows on Arm 上提供驅動與工具鏈，讓 Windows 原生應用也能呼叫 CUDA API，對於行動 AI、嵌入式視覺與邊緣運算都有實質助益。
Rubin GPU 的預覽支援
Rubin 為 NVIDIA 針對 代理式 AI（agentic AI） 所設計的下一代 GPU，具備更高的張量運算密度與 NVLink 互連帶寬。13.4 版以 預覽模式 開放 compute capability 107，開發者可在正式 GA（General Availability）前測試程式碼路徑、編譯最佳化選項，減少未來遷移成本。
MPS V3 的資源管理創新
- CLI 與命名空間：開發者可透過指令列腳本自動建立與銷毀 MPS 伺服器實例，並以命名空間區分不同工作負載。
- TOML 設定：支援以易讀的 TOML 檔案描述 SM（Streaming Multiprocessor）分割、記憶體上限等參數。
- cgroup 整合：在 Linux 容器中，GPU 記憶體上限與 CPU 資源可同步受控，確保多租戶環境的資源隔離。
此套件特別適合雲端服務供應商與大型超算中心，在不犧牲硬體利用率的前提下，提供精細的 GPU 分割與排程。
CFT 的傳輸模型
傳統的遠端 GPU 記憶體映射會將每張 GPU 的位址映射至應用程式的虛擬位址空間，隨著 GPU 數量激增，會產生巨大的位址壓力。CFT 改以 邏輯端點 ID + 偏移 的方式直接在 GPU 端發起 非同步 put / get / reduction（寫入、讀取、歸約）指令，支援單播與多播模式，並回報完成與錯誤狀態，讓上層通信庫（如 NCCL、NVSHMEM）能更快偵測與重試失敗的傳輸。
產業影響與未來展望
CUDA 13.4 的這波功能釋出，首先為 Arm 生態系 注入了更完整的 GPU 加速能力，預期會促進 Windows‑ARM 裝置在 AI 推論與高效能計算（HPC）領域的採用。Rubin 的早期支援則為即將到來的 代理式 AI 應用鋪路，開發者可在正式上市前完成模型調校與效能驗證。
MPS V3 與 CFT 的結合，使得 容器化 AI 工作負載 能在多租戶環境中更安全、更高效地共享 GPU，對雲端平台與超算中心的資源調度策略產生深遠影響。未來若 NVIDIA 在正式版中加入更完整的 CUDA Python 與 CCCL API，將進一步降低資料科學家與軟體工程師的學習門檻。
對於讀者而言，現在是評估 Windows on Arm 與 Rubin 兼容性、測試 MPS V3 容器化部署的最佳時機。掌握這些新工具，將有助於在 AI 時代的競爭中保持技術領先。