Anthropic 阻止研究者利用 AI 獲取病原體資訊，警示濫用風險

Anthropic 阻止研究者利用 AI 獲取病原體資訊，警示濫用風險

近期，AI 可能成為「人類滅絕」的隱憂頻頻登上頭條。除了擔心聊天機器人被惡意利用發動網路攻擊，或在自主性過高時失控外，AI 直接協助製造生物武器的危機也已不再是純粹的科幻。

AI 與「增功能」研究的衝突

本月初，AI 初創公司 Anthropic 公布一份「濫用」報告，披露了 五起 外國科學家企圖繞過其大型語言模型 Claude 安全防護，查詢「增功能」（gain‑of‑function）相關資訊的案例。

「增功能」指的是 改造病原體基因，使其傳染力、致死率或跨種傳播能力提升。此類研究在防疫藥物與疫苗開發上具備正面價值，卻同時屬於 「雙重用途」（dual use）技術——好壞兩端皆可被利用。

Anthropic 在確認使用者的查詢屬於高風險後，立即 拒絕提供答案，並關閉相關帳號。公司聲明即使動機未必惡意，亦必須防止資訊外流，因為同樣的基因改造知識若落入不法分子手中，可能被用來製造大規模生物武器。

科學社群的兩難

長期關注 增功能 爭議的分子生物學者指出，研究人員往往傾向「發表」而非「封存」資料，認為了解致病基因特徵有助於未來防範疫情。然此種開放態度也埋下 意外洩漏 或 惡意利用 的隱憂。

作者 Annie Jacobsen 近期出版的《Biological War: A Scenario》再次提醒讀者，除了核戰的荒謬計畫外，美國在生物戰防禦上的準備同樣缺乏全盤規劃。她的調查顯示，政府與軍方對於如何應對突發的生物災害仍缺乏明確指引，這讓 AI 可能成為加速危機的催化劑。

未來展望與讀者啟示

• 強化 AI 安全防線：平台需持續優化「防護欄」與使用者身份驗證，防止高危資訊被不當查詢。
• 建立雙重用途審查機制：科研機構與政府應共同制定資訊共享與限制的標準，確保正當研究不被濫用。
• 提升公共認知：社會大眾與政策制定者必須了解 AI 與基因工程的交叉風險，避免因過度信任或恐慌而錯失防範機會。

Anthropic 的即時干預提醒我們：技術本身無善惡，使用者的動機與監管的嚴謹度，才是決定未來是否會因 AI 而出現新型生物威脅的關鍵。在 AI 持續滲透科研領域的今天，唯有多方協作、透明審查，才能在創新與安全之間取得平衡。