特朗普政府推出人工智慧監管框架

特朗普政府推出人工智慧監管框架

特朗普政府已經完成了一個計畫，以解決人工智慧（Artificial Intelligence, AI）模型日益增強的網路安全風險。根據一位白宮官員向 WIRED 透露，白宮已經邀請來自 OpenAI、Anthropic、谷歌、Meta、英偉達 等領先的 AI 公司的工作人員，分享其新的 AI 監管框架的概覽。然而，至少目前，白宮並沒有公開更多詳細資訊。

監管框架的內容

根據相關人士的描述，AI 開發商將可以自願提交新的模型給聯邦政府，在公開發布前 30 天內進行審查。然後，白宮將根據一個分類的基準系統對其網路安全能力進行評估，並將 AI 模型共享給聯邦機構和可信的企業合作夥伴。然而，白宮並沒有公開其測試標準或哪些 AI 模型將受到此框架的規範，儘管據稱開放模型將被排除在外。

影響和爭議

這個監管框架的細節並沒有公開，讓小型 AI 創業公司、安全倡導者和第三方研究人員對於聯邦政府如何解決先進 AI 系統的網路安全風險感到不明確。有些人認為，這個保密的過程將會讓大型公司佔據優勢。其中一位人士表示：「他們基本上是在為大型 AI 模型提供者創造一個固守的計畫，這些提供者現在被視為最先進的。」這個計畫將會為關鍵基礎設施創造一個經濟激勵，讓其只使用大型公司的 AI 模型，而小型創業公司將被排除在外。

未來展望

白宮可能因為國家安全問題而保持其 AI 安全框架的保密性。然而，一些 AI 安全倡導者認為，任何 AI 公司被要求遵守的規則都應該公開，以確保第三方組織可以讓其承擔責任。美國負責創新組織（Americans for Responsible Innovation）會長 Brad Carson 表示：「這個問題太重要了，不能被保密的面紗遮掩。」他強調，這不是一個與科技公司的握手協議，而是一套規則，以確保科技公司不會危及公眾。如果只有科技公司知道規則的內容，那就不會有效。