英偉達 FLARE 簡化跨平台聯邦學習部署

核心重點

NVIDIA FLARE 以雙層架構將「永續聯邦服務」與「工作執行」分離，使同一聯邦中的各參與站點能依自家環境選用 Docker、Kubernetes 或 Slurm 等執行平台，同時保留對 GPU、資料、機密與排程政策的本地控制。

背景與挑戰

傳統聯邦學習 (Federated Learning, FL) 專案在規模擴大時，往往從「一台伺服器、數個客戶端」的簡單佈局，演變為需要同時管理多套 GPU 資源、分離的研究工作與各組織的資料主權。若所有參與者必須統一使用相同的基礎設施，平台標準化便成為合作的門檻。實務上，一方可能只配備 Docker 主機，另一方則以 Kubernetes 叢集運作，甚至還有研究中心採用 Slurm 排程系統。如何在不改變既有環境的前提下，保持聯邦服務的連續性與安全性，是目前的主要痛點。

FLARE 的雙層解決方案

FLARE 將 永續聯邦服務（長時間執行的伺服器與客戶端父程序）與 工作執行者（實際跑 FL 任務的子容器或 pod）分開。父程序負責認證、協調與維持聯邦連線，始終保持在系統上，但不佔用 GPU。當資料科學家提交任務時，父程序會根據站點設定的執行平台，啟動相應的工作容器：

Docker：適用於工作站、實驗室伺服器或單機邊緣裝置。FLARE 的父容器使用「父映像」(parent image) 內建 FLARE 執行時，任務則以「工作映像」(job image) 動態產生新容器。
Kubernetes：適合大規模叢集環境，FLARE 會將資源需求轉換為 pod 規格，由叢集排程器分配 CPU、GPU 與記憶體。
Slurm：在高效能運算中心常見，FLARE 2.9 起支援將任務轉為 Slurm 作業，利用排程器分配節點與 GPU。

任務本身僅描述 資源意圖（例如需要 2 顆 GPU、4 個 CPU 核心、8 GB 記憶體），不涉及具體平台細節。站點的啟動器會把這些需求與本地研究設定結合，產生相應的 Docker 容器、Kubernetes pod 或 Slurm 配額，完成「按需」資源使用。

影響與未來展望

此種「父子分離」的設計，使聯邦服務可長期保持在線，而工作資源則在需要時即時建立、完成後即釋放，提升 GPU 利用率並降低運維成本。更重要的是，站點仍能自行管理資料、機密與排程政策，符合資料主權與合規要求。

未來，隨著 FLARE 持續支援更多雲端原生工具（如 OpenShift、Nomad），以及加入自動資源預測與彈性伸縮功能，跨組織的聯邦學習將更易於部署與擴展。對於希望在多元基礎設施間協同訓練大型模型的企業與研究機構而言，FLARE 已成為降低技術門檻、加速創新的一把關鍵鑰匙。