OpenAI 解散「準備」團隊，引發安全疑慮

OpenAI 近期解散了其「準備」團隊，該團隊負責評估公司的 AI 模型是否可能帶來嚴重或災難性的風險。根據《金融時報》報導，該團隊的工作已被分配給現有的團隊，包括評估生物和網絡風險的任務。

安全風險評估

前任團隊負責人 Dylan Scandinaro 現今專注於評估「遞迴自我改進」AI 的安全風險，這類系統可以自我優化和訓練其他模型。OpenAI 的共同創辦人 Greg Brockman 表示，公司已將安全工作更加緊密地融入模型開發中。然而，多名安全人員最近已離職，包括首席倫理官 Chloe Bakalar 和 Joshua Achiam。公司內部正逐漸形成一種不安的氛圍，一位消息源描述了一種「潛伏的責任感和恐懼感」，即 OpenAI 對安全問題的處理尚不夠。

員工的擔憂

員工們也公開表達了他們的擔憂，特別是在 Hugging Face 的自主駭客事件發生後。一位員工希望 OpenAI 能夠將此事件視為一個「警告信號」。這些擔憂和不滿情緒反映了公司內部對安全問題的重視和不確定性。

未來展望

OpenAI 的「準備」團隊解散和安全人員的離職引發了人們對 AI 安全性的關注。隨著 AI 技術的不斷發展和應用，安全風險的評估和管理將成為一項重要的挑戰。公司需要加強安全工作，並與員工和外界溝通，以確保 AI 技術的安全和可靠性。

技術術語解釋

遞迴自我改進：一種 AI 系統，可以通過自我優化和訓練其他模型來改進自己的性能。
生物風險：指與生物體或生物系統相關的風險，例如基因編輯或生物攻擊。
網絡風險：指與網絡或計算機系統相關的風險，例如駭客攻擊或資料泄露。

OpenAI 的「準備」團隊解散和安全人員的離職是一個警示信號，提醒我們需要更加關注 AI 安全性和風險管理。未來，公司需要加強安全工作，與員工和外界溝通，以確保 AI 技術的安全和可靠性。