微軟轉向令牌效率，開發緊湊型人工智慧模型

微軟轉向令牌效率，開發緊湊型人工智慧模型

微軟近期將重心轉向令牌效率（token efficiency），著重開發小型專家模型（specialist models），而非一般性的大型模型（general-purpose frontier models）。根據微軟人工智慧（Microsoft AI）的CEO穆斯塔法·蘇萊曼（Mustafa Suleyman）的說法，業界必須在頂級效能和成本之間取得平衡。微軟並不再追求單一的通用模型，而是訓練出適用於特定領域的小型模型。

緊湊型模型的優勢

微軟最新的網路安全模型MAI-Cyber-1-Flash便是一個例子。該模型在CyberGym的基準測試中，超越了Anthropic的Mythos模型12個百分點，且只需一半的成本。然而，這一成果需要配合MDASH系統（MDASH system），該系統可以協調多個模型，並在需要時將難以處理的任務轉交給OpenAI的推理模型（reasoning models）。此外，微軟還表示，MAI-Image-2.5-Flash模型可以將GPU成本降低最高84%，相較於GPT-Image-2模型。

未來展望

蘇萊曼還希望開發出可以互換的模型（swappable models），以避免微軟過度依賴單一模型家族。然而，目前尚不清楚小型MAI模型是否能夠完全取代OpenAI模型，並達到相同的效能。競爭的焦點正從個別模型轉向模型的調度軟體（harnesses），即負責分配任務和提供上下文的軟體。這種軟體可以將大部分工作分配給更廉價的專家模型，並保留最先進的模型來處理較為困難的案例。

競爭與未來

Anthropic和Sakana等公司已經開始採用這種方法，開發出如Claude Fable 5和Fugu等模型。未來，人工智慧的發展將不再僅僅集中在單一模型的效能上，而是更加重視模型之間的協調和整合。作為使用者，我們可以期待未來出現更加高效、更加智能的人工智慧系統。同時，業界也需要不斷地探索和開發新的技術，以滿足日益複雜的需求和挑戰。