AI Agent / 企業治理 · 2026-08-05
在自動化之前,先設計 AI Agent 的責任邊界
AI 能做越多事,企業越需要先確認哪些事情能交給它,哪些事情必須由人決定。
AI 能不能做,和應不應該由 AI 自己決定,是兩件事
現在的 AI Agent 已經能協助讀取 Email、整理資料、查詢系統、產生文件,甚至呼叫 API 執行操作。但如果要把這些能力真正放進企業,我認為不能只問「AI 能不能做」,也要確認「這件事應不應該由 AI 自己決定」。
假設業務收到客戶詢價,希望 AI 自動整理產品資料並產生報價草稿,這很適合進行可行性評估。但如果進一步讓 AI 查詢客戶專屬價格、修改折扣,甚至直接寄出正式報價,問題就不只是技術能不能實現。
- AI 是否有權限讀取這個客戶的資料?
- 折扣是否超過公司允許的範圍?
- 正式報價是否需要主管核准?
- 發送錯誤時,要如何追蹤與補救?
Agent 至少需要四個管理機制
第一是明確的任務與權限。AI 只能在授權範圍內使用資料、執行操作,不能因為具備技術能力就取得所有系統的權限。
第二是人工核准。涉及價格、付款、重要資料異動或對外承諾時,應依風險與企業政策設定人工確認條件。
第三是例外與停止條件。當資料不完整、結果不合理或執行發生異常時,要有暫停、重試或轉交人工的處理機制。
第四是操作紀錄。事後應能確認 AI 使用了哪些資料、做了哪些操作、誰核准,以及最後產生什麼結果。
治理不該等到功能完成才加入
很多專案在開發初期,先把重點放在功能是否能成功執行。但對企業來說,更重要的是它能不能長期可靠地運作,以及發生問題時能不能管理。
因此,我認為 Agent 的權限、核准、異常處理與稽核,應該是工作流程設計的一部分,而不是系統完成後才補上的功能。
AI Agent 的價值,不只是自動完成多少工作,而是企業能否放心地把適合的工作交給它。