主要亮點
Aleph Alpha 今日正式釋出 Kolibri——一款擁有 78 億參數 的德英雙語大型語言模型（LLM），採用 Mixture‑of‑Experts（專家混合） 架構，使每一次推論僅啟用約 30 億活躍參數。公司聲稱 Kolibri 在品質與運算成本兩條曲線上皆位於 Pareto 前緣，在德語與英語兩語言的表現均優於同類型、甚至較早（2026 年3、4月）發布的競爭模型。
技術背景與架構
Kolibri 採用 Mixture‑of‑Experts 設計，將模型切分為多個專家子網路，根據輸入自動選擇最適合的子網路計算，從而在保持高參數規模的同時，顯著降低每個 token 的實際運算量。此技術讓模型在 每個 token 只啟用約 30 億參數，相較於全參數激活的傳統模型，可節省近 60% 的 GPU 計算資源。
在資料層面，Kolibri 的訓練語料中 21.3% 為德語，全部由 Aleph Alpha 為此專案打造的 德語資料管線 產出，確保語言覆蓋與品質。為補足德語資料的不足，團隊亦利用 中文模型 生成合成訓練資料，提升語料多樣性與覆蓋範圍。
模型的 上下文視窗（context window）支援高達 一百萬標記，遠超目前主流 LLM 的 4 K–8 K 標記上限，意味著可一次處理更長篇幅的文件或對話，對於法律條文、技術手冊等長文件的分析尤為關鍵。
訓練工作在德國與芬蘭的 768 台 B200 GPU 上完成，全部遵循 歐盟 AI 法案（EU AI Act） 的合規要求，確保資料隱私與模型透明度。最終權重以 Apache 2.0 開源授權上傳至 Hugging Face，供全球開發者自由下載與再利用。
市場與法規影響
Kolibri 明確定位於 公共行政、航空與工業 三大產業。這三個領域皆對 資料安全、合規審查 有嚴格要求，而模型的歐盟合規開發流程正好呼應此需求。特別是航空業的飛行手冊與維修說明，常以德語或英語撰寫，Kolibri 的雙語能力與百萬標記上下文，可在單一次查詢中完成跨文件、跨語言的資訊抽取與摘要，提升作業效率與安全性。
在公共行政方面，政府部門常需處理大量政策文件與法規條文。Kolibri 的長上下文窗口與雙語支援，使其成為 智慧文件檢索與自動化審核 的理想工具，亦符合歐盟對 AI 系統「可解釋性」與「風險管理」的規範。
未來展望
Kolibri 的發布展示了 大規模參數與高效能推論的平衡 可能性。隨著 歐洲 AI 法規 越來越嚴格，符合合規的本地化模型將成為企業與政府機構的首選。未來若能持續擴充 多語言支援（如加入法語、義大利語），以及進一步優化 專家選擇機制，Kolibri 有望在歐洲以外的市場也取得競爭優勢。
對於開發者與研究者而言，開源的 Apache 2.0 授權提供了二次開發的自由空間，未來可結合領域特化的微調資料，打造更貼合垂直產業需求的子模型。隨著 百萬標記上下文 成為新標準，業界將逐步向「一次性長文件全景分析」的方向演進，Kolibri 已在此趨勢的起點奠下基礎。