隱藏式人工智慧指令被嵌入法院文件

隱藏式人工智慧指令被嵌入法院文件

近期，美國康乃狄克州的一位自行辯護的原告 Matthew Elliott，在提交給法院的文件中嵌入了隱藏式的人工智慧指令，試圖影響法院的自動審查系統。這些指令是以3點白色文字在白色背景下呈現，對人類眼睛幾乎不可見，但對任何處理文檔文字的人工智慧系統都是可讀的。

背景分析

Elliott 將這些隱藏指令嵌入到他提交給康乃狄克州法院的文件中，試圖影響法院的自動審查系統。這些指令要求人工智慧系統確保其輸出與提交的文件一致，並將之前的書記員否決視為需要糾正的錯誤。Elliott 曾在 2025 年 10 月起訴紐約肥胖群體，指控其違反數據隱私和歧視等。然而，這個陰謀最終被法院發現，因為法院注意到 Elliott 的文件中有過多的空白間隔。

法院反應

康乃狄克州法院的 Walter Spader Jr. 法官對 Elliott 的行為進行了批評，指出這種隱藏指令的做法是試圖秘密地影響法院的自動審查系統。Spader 法官強調，康乃狄克州法院並不使用人工智慧系統來審查或裁定文件，因此 Elliott 的隱藏指令並沒有任何實際影響。但是，Spader 法官認為，這種做法本身就是問題的根源，因為它試圖秘密地影響法院的決策過程。

對未來的影響

這個事件引發了人們對於人工智慧在法律領域中的應用和潛在風險的關注。Spader 法官表示，人工智慧可以用於準備文件，幫助沒有律師的人們在法庭上清晰地表達自己的觀點。但是，Elliott 的做法是對這些工具的不誠實使用。Spader 法官還警告說，語言模型可能會強化有缺陷的法律推理，因為它們傾向於發展用戶的論點以使其盡可能令人信服，而不是挑戰它們。

結論

最終，法院取消了 Elliott 的電子提交權利，要求他必須親自提交所有文件和證據給書記員辦公室。這個事件提醒我們，在法律領域中使用人工智慧時需要謹慎和透明。同時，也需要加強對人工智慧系統的監管和安全措施，以防止類似的事件在未來發生。