政府導入 AI Agent：模型中立、Human‑in‑the‑Loop 與全自動 AI 員工

核心訊息：在公部門部署 AI Agent 時，最重要的不是單一大語言模型（LLM）的效能，而是 模型中立的架構、人機協作（Human‑in‑the‑Loop） 與 全自動 AI 員工 的適切選型，同時建立 權限、用量與稽核 三大治理機制，才能讓 AI 真正減壓而不取代專業能力。

1. 為何要採取模型中立？

目前 LLM 市場變化快速，排行榜每隔數月即會更新。若政府系統綁定單一模型，未來升級或切換將面臨高昂的成本與技術障礙。黃建璋建議從一開始就採用 模型中立 的設計——即透過抽象層將 LLM、工具（Tools）與提示詞（Prompt）解耦，讓系統能隨技術演進自由選擇最適模型，保持彈性與永續性。

2. AI Agent 的完整組成

一個合格的 AI Agent 不僅包含 LLM，還必須具備：

| 組件 | 功能說明 | |------|----------| | 工具（Tools） | 連接資料庫、API、內部系統，提供執行環境 | | 提示詞（Prompt） | 引導模型產出符合任務需求的回應 | | 上下文（Context） | 管理任務相關的歷史資訊與環境狀態 | | Agent Loop | 讓 Agent 能自行規畫、執行、檢查、迭代，缺少此環節的系統不稱為新一代 AI Agent |

透過 Agent Loop，AI 能根據目標自動選擇執行方式，而非僅依固定流程運作。

3. 兩種落地型態：Human‑in‑the‑Loop vs. Autonomous Agent

| 型態 | 適用情境 | 人員介入點 | |------|----------|------------| | Human‑in‑the‑Loop（人機協作） | 公文審核、行政決策等高風險業務 | AI 完成大部分工作後，由專業人員審核再進入下一步 | | Autonomous Agent（全自動 AI 員工） | 電子郵件分類、文件整理、跨系統資料比對等高頻、標準化作業 | 只在異常或事後稽核時由人員介入 |

若 AI 完成分類後仍需人工逐件確認，則失去降低工作負擔的意義，這類工作更適合採用 全自動 AI 員工。

4. 與傳統 RPA 的差異

RPA（機器人流程自動化）只能執行預先寫好的腳本；AI Agent 能 動態調整流程、理解自然語言與非結構化文件，並可透過更新知識文件改變工作規則，無需重新開發程式，屬於在既有資訊系統上加添智慧判斷層。

5. 治理三大重點：權限、用量、稽核

權限：重新定義 AI Agent 的身分（使用者、代理或獨立），與 AD 等既有身分管理機制整合。
用量：細緻監控 Token 消耗，依使用者、Agent、工作階段分別記帳，掌握模型、API 與工具的資源成本。
稽核：完整記錄每一次模型調用、工具使用與資料存取，建立可追溯的操作紀錄，並以跨模型、跨廠商的治理平台統一管理。

6. 未來展望

隨著 AI 從個人工具演變為組織數位同事，政府的 AI 治理焦點將從單一模型管理，逐步轉向 AI Agent 生態系治理。只要保持模型中立、選對 Human‑in‑the‑Loop 或 Autonomous Agent 的落地型態，並落實權限、用量與稽核的全方位監控，AI 就能在不削弱專業知識傳承的前提下，真正為公務工作減壓、提升效率。