AI 企業內部安全管控缺失，Guidelight 評估揭示

核心發現

Guidelight 首次對五大 AI 企業（Anthropic、OpenAI、Google、xAI 與 Meta）進行內部安全管控評估，結果顯示沒有一家完整落實基本控制措施。從公開的系統卡、安全報告與部落格文章中抽樣，所有公司在六項基礎實踐上均有缺口。

評估方法與六項基礎實踐

Guidelight 只依賴公開資訊，檢視以下六項 基本安全實踐：

內部 AI 活動日誌（logging） – 紀錄模型運作細節。
風險行為審核門檻（gating） – 高風險操作需經審查機制。
緊急關閉機制（circuit breaking） – 發生異常時可即時斷電。
錯位模型遏制計畫（containment） – 防止模型行為偏離預期。
異常偵測與通報 – 及時發現模型失控。
持續安全測試 – 定期驗證防護效能。

各大公司表現概況

Anthropic 與 OpenAI 取得 C+，在「偵測異常」方面表現相對較佳。
Google 得 D+，雖仍有不足，但提供了較為完整的改進路線圖。
xAI 只獲 D‑，顯示在防止與遏制錯位模型上缺乏明確措施。
Meta 得分最低 F，在六項實踐中皆未見具體落實痕跡。

整體而言，各公司最擅長的是偵測錯誤行為，但在預防與遏制方面普遍薄弱，尤其是緊急關閉與風險審核機制的建置。

產業影響與未來展望

Guidelight 由前 OpenAI 安全負責人 Page Hedley 與 Steven Adler 共同創立，作為獨立非營利組織，其評估結果提醒產業：內部安全不等同於外部產品安全。若缺乏完整的日誌與緊急關閉機制，錯位模型可能在研發階段就已產生不可預測的風險，進一步波及商業部署與社會信任。

未來，業界需要將防範機制制度化，將六項基礎實踐納入公司治理與合規框架，並透過第三方審核提升透明度。對於投資人與政策制定者而言，Guidelight 的評分提供了一個可量化的參考指標，促使資金與法規更傾向支援具備完整安全管控的 AI 企業。

讀者啟示：在選擇 AI 服務或合作夥伴時，除了關注模型的功能與效能，更應審視其內部安全治理的成熟度，避免因基礎管控缺失而埋下未來的隱憂。