OpenAI 啟動 Ultrafast 模式，GPT-5.6 Sol 模型輸出效率大幅提升
OpenAI 正式啟動其新款「Ultrafast」模式，這項技術可以將旗艦模型 GPT-5.6 Sol 的輸出效率提升至每秒 750 個輸出 token。這項推動來自於 Cerebras 公司，早先與 OpenAI 簽署了一份價值一千億美元的合作協議。這項服務最初僅通過 OpenAI API 對 GPT-5.6 Sol 模型開放，並且僅限於特定的客戶。OpenAI 計劃逐步擴大這項服務的使用範圍，隨著容量的增加。
技術背景與影響
Ultrafast 模式的推出，旨在結合小型模型的速度和大型模型的能力，從而實現 OpenAI 所謂的「每秒更有用的工作」。例如，在事件響應期間，工程師可以在中斷仍然發生時分析日誌、代碼變更和報告，從而快速地找出原因並準備修復方案。OpenAI 已經在內部使用這項模型來實現這一目的。
應用場景
OpenAI 還提出了其他幾個應用場景。在金融領域，模型可以評估市場信號並在條件仍然變化時標記可疑交易。在客戶支持方面，複雜的查詢可以在實時解決，即使找到答案需要多個步驟或系統。在電子商務方面，模型可以回答產品問題、檢查庫存水平和根據用戶偏好進行個人化推薦，從而在猶豫的買家放棄購物車之前提供即時的服務。
研究與發展
研究是 OpenAI 突出的一個領域。以前需要過夜運行的實驗可以變成交互式工作會議，讓團隊測試想法、查看結果、調整方法、並啟動另一輪運行，而無需中斷工作流程。
商業模式
OpenAI 已經在分級收費中實現了推理速度的商業化。通過 API，它提供了一種「快速模式」，承諾 GPT-5.6 Sol 的速度提高了 2.5 倍，延遲更低，價格約為兩倍。Ultrafast 模式添加了一個更快、更昂貴的級別。這種邏輯與雲服務提供商如 AWS 相似，後者長期以來一直為相同服務的更高性能級別收取更高的費用。OpenAI 將這種模式應用於 AI 推理。如果速度成為各行各業的瓶頸，這種分級模式可以讓 OpenAI 直接分享由更快的推理創造的收入增長。
未來展望
OpenAI 的 Ultrafast 模式標誌著 AI 技術在速度和效率方面的重大突破。隨著這項技術的逐步推廣和應用，各行各業都可能在速度和效率方面取得顯著的提升。然而，價格和服務的可及性仍然是需要考慮的重要因素。未來，OpenAI 和其他 AI 技術提供商將如何平衡速度、效率和成本，將對整個 AI 行業的發展產生深遠的影響。