澳洲通訊局警示：代理型 AI 提示詞注入風險 建議嚴格權限管控
核心訊息
澳洲政府情報與資安機構澳洲通訊局（ASD）近日發布《代理型 AI 安全指引》，指出 提示詞注入（Prompt Injection） 仍缺乏可靠防禦技術。企業在部署 Agentic AI harness（負責讓大型語言模型（LLM）連結資料、工具與其他系統的機制）時，必須依照 最小權限原則 限制 AI 代理的存取範圍，敏感或高影響操作則需 人工核准，並完整保留操作紀錄。
背景與技術挑戰
LLM 以自然語言解讀使用者輸入，若惡意內容被偽裝成指令，模型可能執行未授權的操作，這就是所謂的提示詞注入。與傳統的 SQL 注入 不同，LLM 並未將資料與程式指令明確分離，難以透過參數化查詢等防護手段阻止攻擊。ASD 透露，現階段唯一可行的防禦是 降低成功機率 並 減輕可能衝擊。
Agentic AI harness 為 AI 代理提供權限與安全控制，可由企業自行開發或採用商業產品。若多代理系統中的任一元件被入侵，因共用上下文與信任關係，攻擊可能波及整個系統。ASD 因此建議將整套多代理系統視為單一代理，進行統一的安全評估。
企業應採取的具體措施
-
最小權限原則：僅授予 AI 代理執行任務所必需的資料、工具與網路服務存取權。
-
人工核准機制：對涉及敏感資料或可能產生重大影響的操作，必須由人員審核後方可執行。
-
完整紀錄保存：保存提示詞、模型回應、工具呼叫、人工核准與系統組態變更等全部日志，以備事後追蹤與法規遵循。
-
統一安全評估：將多代理環境視為單一攻擊面，定期執行滲透測試與風險評估。
未來展望與讀者啟示
隨著 代理型 AI 逐漸滲透企業工作流程，提示詞注入將成為資安防線的薄弱環節。雖然目前尚無完美的技術解決方案，但透過嚴格的權限管控與人工審核，可大幅降低攻擊成功率。企業領導者應將 AI 安全治理 列入資訊安全策略的核心，並持續關注澳洲通訊局、英國國家網路安全中心（NCSC）等機構的最新指引。唯有在技術與治理雙管齊下的情況下，才能在 AI 時代維護企業資產與資料的完整性。