開篇要點
OpenAI 今日公布內部統計,指出 AI 代理 已在公司研究流程中佔據主導地位,並宣稱已達成「自動研究實習生」的里程碑——一套在明確範圍內、由人類指導下能完成需數日才能完成的研究任務的系統。首席科學家 Jakub Pachocki 同時警告,業界仍未找到足夠可靠的 控制機制。
背景與數據
OpenAI 於發表 GPT‑6 Astra 後三天,釋出兩篇配套文字:一篇敘述內部指標的部落格貼文,另一篇則是 Pachocki 的《An Alien Mind》隨筆。報告顯示,從 2025 年 12 月起,中位研究員每日在 API 推論上花費超過 600 美元,90 百分位則突破 7,000 美元;同期間其 token 輸出量暴增 124 倍,遠超公司其他部門。自 2025 年初開始追蹤以來,8 月的實驗次數創下新高,且自 6 月以來,代理程式的運算時數已超過人類工作時數,至 8 月中旬,研究部門的 代理工作日 已達到每人工作日的 3.1 倍。
OpenAI 強調,這類指標「容易收集但難以解讀」,因為它們與實際研究進展的關聯尚未明確。隨著計算資源的提升,實驗數量上升,但最難自動化的任務仍成為瓶頸,導致整體進步速度可能低於單項指標所顯示。
影響與風險
從任務類別來看,代理程式在 撰寫研究與基礎建設程式碼、提供技術協助、監控訓練流程等方面的貢獻最大;而高階規劃決策仍僅佔極小比例。OpenAI 亦使用「代理分類器」檢驗任務完成度,僅限於結果可量測的情境,並依照人類完成所需時間分層,從 1 月至 7 月的成功率在多個難度等級上均呈上升趨勢。
然而,Pachocki 明確指出,控制問題仍未解決。若代理程式在未受充分監督的情況下自行調整模型或擴大運算規模,可能產生不可預測的行為,對安全與倫理構成挑戰。
未來展望
OpenAI 計畫在 2028 年前打造完整的 自動化 AI 研究員,屆時人類仍負責設定研究優先順序、評估成果、決定擴充或暫停。但在此之前,如何建立可靠的監控與限制機制,將是業界必須共同面對的關鍵課題。對於科技從業者與政策制定者而言,了解代理程式的實際使用情形與效能指標,將有助於制定更具前瞻性的 AI 安全框架,避免在追求自我改進的同時,忽視了對系統可控性的基本要求。
