Nvidia 推出 PAIR:讓家庭網路成為分散式 AI 工作平台
Nvidia 最近發布的 Personal AI Router(PAIR),是一套開源軟體,能自動將本機 AI 請求分散到家中所有可用的裝置上。使用者只要把原本的 Ollama、LM Studio 等前端工具接到 PAIR,便可把運算負載交給網路上閒置的 GPU 或 Apple Silicon,無需改動既有的代理程式或應用程式。
背後的技術與運作方式
PAIR 充當「虛擬路由器」的角色,位於前端工具與家中電腦之間。當一個 AI 任務產生多個子代理(sub‑agent)時,PAIR 會即時偵測哪台機器有空閒的 GeForce RTX 20 系列以上、RTX Pro 工作站、DGX Spark,或是 Apple Silicon(自 M4 起),並把請求轉發給該機器執行,最後再將結果彙整回呼叫端。整個通訊過程全部採用 MTLS(雙向 TLS)加密,確保資料在不同機器之間傳輸時的安全性。
效能驗證
在一個示範測試中,三台設備組成的叢集執行含五個子代理的任務,總耗時 9 分鐘 左右;相同任務若只在單一筆記型電腦上執行,則需要 18 分鐘。可見,透過分散式運算,PAIR 能將等待時間減半,提升多代理任務的平行效能。
支援平台與未來布局
目前 PAIR 已提供 Windows、macOS 與 Linux 版的 beta 測試。Nvidia 透過此舉,進一步將開源 AI 生態系與自家硬體緊密結合,與去年斥資 129 億美元 收購 Hugging Face 的策略相呼應,意圖在 AI 基礎設施市場佔據更大話語權。
展望與讀者啟示
對於擁有多台高效能電腦或最新 Apple Silicon 的家庭使用者而言,PAIR 提供了一條低成本、即插即用的分散式 AI 解決方案。未來若能持續擴充支援的硬體類型與 AI 框架,甚至加入自動資源調度與成本優化功能,將有望把「家用 AI 超級電腦」的概念變為日常。對於關注 AI 效能與資安的讀者,現在正是試用 PAIR、觀察其在實務環境中表現的好時機。
