OpenAI 把安全評估前移 川普主張加速 AI 研發保住領先
核心要點
OpenAI 執行長 Sam Altman 於 9 月 13 日宣布，將原本在模型完成訓練後、部署前進行的安全評估，提前至可能大幅提升模型能力的強化學習（Reinforcement Learning，簡稱 RL）訓練之前。此舉旨在避免模型能力超越現有的對齊與監控措施。與此同時，美國前總統川普在同一天於愛爾蘭高爾夫球場接受採訪時，公開反對因安全疑慮而放慢 AI 發展速度，強調美國必須維持對中國的 AI 競爭優勢。
背景與爭論的起點
9 月 12 日，Anthropic 執行長 Dario Amodei 在長文中警告，AI 能力的提升速度已快到安全機制可能跟不上，呼籲業界降低前沿模型的能力提升速率，並建立第三方評估、產業安全標準與國際協調機制。Altman 隨即表態支持 Amodei 的觀點，並在次日具體說明 OpenAI 的新作法。
OpenAI 的安全前移策略
Altman 透露，OpenAI 先前的《準備框架》（Preparedness Framework）聚焦於模型訓練完成後的風險評估。現在，對於預期會顯著提升模型能力的 RL 訓練，OpenAI 會在訓練啟動前先建立 安全論證（Safety Cases），即系統化說明如何確保新能力不會超出現有的對齊（Alignment）與監控手段。
「延緩前沿 AI 發展不等於停止發展，只是接受安全措施所需的時間與運算成本，讓進步速度比完全不考慮安全成本時稍慢。」—— Sam Altman
Altman 強調，即便面臨中國的競爭壓力，也不能成為犧牲安全、讓模型能力失控的理由。
川普的加速主張
同日，川普在接受媒體提問時指出，美國目前在 AI 領域仍領先中國，必須「保持優勢」才能「贏得未來」。他認為可以設置安全護欄，但對於「負面力量」所提出的風險持懷疑態度，認為許多風險「不會發生」。
川普的言論凸顯了美國政界與科技產業在 安全與競爭 兩大議題上的分歧：一方主張在技術突破前先行做好安全防護，另一方則擔心過度保守會喪失相對於中國的領先地位。
未來展望與讀者啟示
OpenAI 的安全前移措施若能成功示範，可能成為業界新標準，促使更多公司在模型能力提升前完成風險評估，降低失控的可能性。相對地，若政治層面持續強調「加速」而忽視安全，可能導致監管空窗，增加意外事件的風險。
對於關注 AI 發展的讀者而言，關鍵在於平衡：既要確保美國在全球 AI 競賽中保持領先，也必須讓安全機制同步跟上，避免因技術失控而產生更大的社會與經濟衝擊。未來，產業、政府與國際組織的協調將是決定 AI 走向的關鍵因素。