Anthropic 導入 AI 文字偵測 API 附帶水印技術

Anthropic 即將推出一款附帶水印技術的 AI 文字偵測 API，讓第三方開發者可以將 AI 文字偵測功能整合到自己的應用程式中。這項技術是基於 Google Deepmind 在 2024 年發表的 SynthID Text 方法， Anthropic 將其應用於自己的 Claude AI 模型中。

水印技術的工作原理

水印技術通過修改文字選擇的隨機性來創建一個可追蹤的模式。根據 Anthropic 的說法，這種修改不會影響 Claude 文字的內容、創造力或可讀性。然而，水印技術在短篇文字或事實密集的段落中可能不太可靠，因為這些文字中沒有太多的替代短語。同樣，純粹的人類撰寫或編輯的文字可能不會包含水印。翻譯的文字則是另一回事，因為 Claude 會選擇所有的文字。

水印技術的限制

水印技術只能標誌出 Claude 是否參與了文字的創作，但不能確定 Claude 是否撰寫了整篇文字或只是對其進行了重大編輯。同時，它也不能確定一篇文字是由人類或其他 AI 模型創作的。Anthropic 表示，水印技術是為了遵守 EU AI 法規而實施的，並且該公司已經簽署了 EU 的 AI 透明度行為準則。

未來展望

Anthropic 將在所有於 2025 年 8 月 2 日後發布的模型中啟用水印技術，舊有的 Claude 模型也將在接下來的幾個月中獲得這項功能。與此同時，Anthropic 也在探索更多的選擇，未來將會有更多的更新。水印技術的推出代表著 AI 領域的一大進步，讓我們可以更好地了解 AI 文字的來源和創作過程。然而，這項技術的限制也提醒我們，AI 文字偵測仍然是一個複雜的問題，需要持續的研究和改進。