AI 專家籲國際合作規範AI發展

AI 專家籲國際合作規範AI發展

頂尖AI公司員工近日發表公開信，呼籲美國政府推動國際合作，預先建立必要時可共同放慢AI研發的技術與治理機制。這份名為《調控頂尖AI發展步調》（Pacing the Frontier）的公開信，已經獲得逾千名AI業界人士的連署，包括來自OpenAI、Anthropic、Google DeepMind、Meta、微軟、Mistral及Thinking Machines等公司的員工。

背景與影響

公開信指出，領先AI公司認為，AI可能即將具備自動執行AI研究的能力，進而協助開發能力更強的下一代模型。一旦AI研發速度大幅加快，現有安全措施及監督制度可能來不及因應。這種情況被稱為「遞迴式自我改進」（recursive self-improvement），即AI系統可以自我改進並加速自己的發展速度。然而，在激烈的市場與國際競爭下，任何公司或國家都難以單獨放慢腳步，因此有必要預先建立跨公司及跨國協調的減速機制。

企業回應

Anthropic和OpenAI等公司都對公開信表達支持。Anthropic表示，自己的AI系統Claude已經可以協助加快內部AI開發，未來甚至可能自主設計及開發下一代模型。面對這類風險，Anthropic主張建立可讓全球領先AI業者共同減速或暫停開發的機制。OpenAI同樣支持這項訴求，認為成立國際組織協調主要AI開發商，必要時共同放慢頂尖AI發展，是為了為社會強化防護能力及解決AI安全與對齊問題爭取時間。

未來展望

公開信的發表和企業的回應，顯示出AI業界對於AI發展的風險和挑戰的關注。隨著AI技術的不斷進步，國際合作和規範AI發展的呼聲將會越來越大。未來，國際社會可能需要建立更加完善的AI治理機制，包括設立監管機構、制定行為準則和安全標準等，以確保AI的發展和應用對人類是有益的。同時，企業和研究機構也需要加強合作，共同推動AI的安全和負責任的發展。只有通過國際合作和規範，才能真正發揮AI的潛力，帶來更大的經濟和社會效益。