Anthropic執行長倡導聚焦人工智慧監管

Anthropic 執行長倡導聚焦人工智慧監管

Anthropic 執行長 Dario Amodei 近日發文澄清，公司不支持全面禁止開放權重模型，認為政策應聚焦限制中國取得高階 AI 晶片、遏止工業規模模型蒸餾，並對高能力模型實施發布前安全測試。這一系列措施旨在應對人工智慧（AI）帶來的風險和挑戰，尤其是在國安和監管方面。

背景和影響

近期，美國開放權重模型政策爭議引起廣泛關注。部分美國官員考慮禁止美國企業使用中國開放權重模型，多家科技公司因此聯名支持開放權重。然而，Dario Amodei 表示，全面禁令無法處理主要國安風險，因為最危險的模型可能由威權政府祕密訓練，僅供軍事、情報或監控用途。開放權重模型在網路攻擊、生物攻擊及模型對齊方面，可能比封閉模型帶來更高風險。

Anthropic 的建議

Anthropic 提出的第一項措施，是限制中國取得高階 AI 晶片與晶片製造設備，並加強取締走私及規避出口管制的管道。這是因為先進模型仍高度依賴運算資源，限制高階晶片供應，比依模型是否開放權重實施禁令更直接。第二項措施是打擊工業規模模型蒸餾。蒸餾可利用能力較強模型的輸出訓練其他模型，所需運算資源低於從頭訓練。第三項措施則是對具足夠能力的模型實施發布前安全測試，評估網路、生物及對齊風險，不因模型來源國家或採開放、封閉權重而有不同標準。

未來展望

Dario Amodei 主張，開放權重是否提高風險，以及相關風險能否降低，應由實際測試判定，而非預先認定。測試若要有效，也需要各國共同採行。這一系列措施和建議，旨在促進人工智慧的健康發展和安全使用，同時也反映出全球對 AI 監管的重視和挑戰。隨著人工智慧技術的快速發展，如何平衡發展和安全的關係將成為未來的一大挑戰。