Anthropic 對 Fable 5 生物安全過濾進行升級

Anthropic最近宣布對其 Fable 5 的生物安全過濾進行了升級，將 假陽性 （false positives）減少了約85%。這項升級對於使用Fable 5進行生物相關研究的科學家来说是一个重大的改进。

背景分析

之前，幾乎所有生物學查詢都被阻擋並重定向到能力較弱的 Opus 5，引起了科學界的強烈批評。這種限制使得科學家們難以使用Fable 5進行生物相關研究，例如解釋實驗室結果、理解症狀和回答醫學問題。Anthropic的這項升級將使科學家們能夠更好地利用Fable 5進行生物相關研究。

限制和未來展望

雖然升級了生物安全過濾，但Anthropic仍然對一些 "雙用途" 主題（如病毒學、毒理學和分子設計）進行限制。這些主題可能會為壞人提供在其他地方無法獲得的能力。Anthropic正在建立訪問計劃，以便研究人員最終能夠使用這些受限功能。

安全性考量

Anthropic認為，生物風險可能比網絡攻擊更難以控制。一旦病毒被釋放，就無法關閉，且反制措施需要時間。美國情報機構的分析、ChatGPT聊天記錄中要求生物武器指示的審查、研究人員的聯合警告以及斯坦福大學使用AI設計完全合成病毒的項目，都表明這種威脅是真實的，不僅僅是Anthropic的擔憂。

結論

Anthropic對Fable 5的生物安全過濾升級是對於科學界的一個重大的改进。雖然仍然存在一些限制，但這項升級將使科學家們能夠更好地利用Fable 5進行生物相關研究。同時，Anthropic也在努力建立訪問計劃，以便研究人員最終能夠使用受限功能。未來，隨著AI技術的發展，生物安全過濾的重要性將越來越高，Anthropic和其他AI公司將需要繼續升級和改進其安全措施，以確保AI技術的安全和負責任的使用。