OpenAI的Astra模型接近重大安全門檻，加強安全防護

OpenAI的Astra模型接近重大安全門檻，加強安全防護

OpenAI初步評估顯示，新模型Astra可能已逼近準備框架最高的重大（Critical）資安能力門檻，因此收緊模型連網、工具存取與隔離執行規範，並暫停未達新要求的內部活動。這一發展表明，Astra的自主程式開發與資安能力有明顯進展，引發了OpenAI對其安全性的高度關注。

背景分析

OpenAI表示，即將推出的Astra模型在自主程式開發與資安能力上有明顯進展，最新內部評估結果顯示，目前已無法排除其資安能力達到準備框架（Preparedness Framework）所定義的重大（Critical）資安能力門檻。這意味著Astra可能具備在沒有人介入的情況下，針對多種經過嚴密防護的真實關鍵系統找出各種嚴重程度的零時差漏洞，並進一步開發可實際發動攻擊的程式，或只取得概略攻擊目標，就能自行規畫並執行一整套針對嚴密防護目標的新型網路攻擊策略。

安全措施

為應對Astra可能達到的Critical門檻，OpenAI已加強模型開發環境的管制，包括使用隔離的測試環境、限制模型連上網路及使用外部工具、強化模型權重的保護與加密，並增加監控及異常行為偵測。程式執行也會限制在隔離環境內，降低模型影響外部系統的可能性。同時，OpenAI對Astra所有可自主操作的應用加入監控，涵蓋模型訓練與能力測試，監控系統會檢查模型執行任務時的思考過程與行為，一旦發現高風險操作或行為偏離預期，就會啟動安全處置，進一步檢查並中止高風險活動。

未來展望

接下來OpenAI將與相關政府機關及部分AI安全組織合作測試Astra，並提供第三方測試夥伴較高風險測試所需的安全控制建議。這一合作不僅可以進一步評估Astra的安全性，也有助於開發出更安全、更可靠的AI模型。同時，OpenAI也強調，Astra並未參與先前OpenAI模型在資安測試期間入侵Hugging Face的事件，表明OpenAI對安全性的重視和透明度。隨著AI技術的不斷發展，安全性將成為越來越重要的考量，OpenAI的這一舉措為業界提供了寶貴的經驗和參考。