AI 攻擊自動化鎖定軟體供應鏈與雲端資源

Google 威脅情報小組（GTIG）在 2024 年第二季的觀測顯示，攻擊者已從單純的 提示詞（Prompt）操作，演進為 代理式 AI 工作流程，將多個攻擊步驟以 AI 自動化。此舉不僅大幅加速攻擊節奏，還把防禦人員的應變時間壓縮至數小時，甚至在 6 小時內完成大規模弱點掃描與 API 憑證竊取。

軟體供應鏈成為新焦點

GTIG 追蹤到的駭客組織 TeamPCP（代號 UNC6780）使用惡意程式 DUSTMAKER，從 GitHub Actions runner 的記憶體中擷取 OpenID Connect（OIDC）權杖。取得權杖後，攻擊者可冒充可信任發布者，發布經過 SLSA Build 3（供應鏈安全認證）驗證的竄改套件，順利通過 AI 程式開發代理的自動信任檢查。自 2024 年 3 月起，TeamPCP 持續針對包括 LiteLLM 在內的開源專案發動供應鏈攻擊，甚至在惡意 JavaScript 註解中植入特定敏感字串，利用 提示詞注入 干擾大型語言模型（LLM）安全掃描工具，使其忽略或錯誤解析惡意程式碼。

AI 開發工具與雲端資源遭盯緊

除了供應鏈，GTIG 也觀測到攻擊者直接竊取 AI 程式開發工具的設定檔。5 月份，ACRSTEALER 竊取了 Cline 與 Continue AI 等工具的配置檔，這些檔案常含 API 金鑰、自訂模型路由端點等敏感資訊。取得後，攻擊者即可濫用受害者的付費 AI 模型額度與雲端運算資源，進一步執行間諜、勒索或資源竊取等惡意行為。

未來展望與防禦建議

隨著 AI 技術日益成熟，代理式 AI 將成為攻擊者加速自動化的核心工具。企業在防禦上需：

嚴格管理 OIDC 權杖與 API 金鑰，採用最小權限原則與定期輪換機制。
加強 CI/CD 流程的供應鏈驗證，除 SLSA 之外，結合多層次的二次簽章與行為分析。
監控 AI 助理的提示詞輸入，針對可能的 Prompt Injection 進行即時偵測與隔離。
部署 LLM 安全掃描工具的多重防護，避免單一模型被惡意指令繞過。

總結而言，AI 正從輔助工具演變為攻擊的加速器，資安團隊必須同步提升 AI 安全治理 能力，才能在攻防節奏日益加快的環境中保持主動。