AI代理治理第二部分 – 實踐中的良好範例：如何治理AI代理
如果AI代理人正逐漸成為組織行為者，那麼治理就需要從原則轉向運作結構。
在Camille Stewart Gloster即將出版的書籍《你建立的內部人》中，她解釋到治理並不是由政策或結構所定義，而是在於它是否能夠在運行時實際影響系統行為。在代理環境中，治理僅在能夠塑造、約束及介入決策的情況下才存在。
她的簡化框架專注於三項能力：
- 權限設計：定義代理人被允許做的事情
- 運行時執行：確保治理在執行時運作
- 歸屬與學習：維持可追溯性並隨時間提升
Chinnaraju在2026年發表的論文中指出，有效的AI代理治理要求組織將代理視為正式的組織行為者，而非實驗工具。1
這首先是建立代理憑證，該憑證為每個代理人提供身份證明。可以將這些視為每個AI代理人的操作執照或護照，明確定義：
- 邊界：代理人被允許做什麼、可以存取哪些數據
- 權限：其權限的止境何在
- 升級：在何種情況下必須升級或關閉
沒有這種正式文件，代理人將運作在灰色地帶，導致權限不明且責任無法強制執行。
擁有權
自主性並不會消除責任，而是重新分配責任。該論文確定了四個關鍵功能：
- 贊助者：負責目的和對齊
- 管理者：管理代理生命周期
- 風險/合規擁有者：確保符合監管及倫理準則
- 還有關鍵的運營控制者：可以實時監控及覆蓋代理的行為
這些角色共同形成了一個控制迴路，其中權威流向代理，但責任則通過監控流回。將這些角色嵌入訪問控制系統、工作流程及批准過程中，並用審核日誌支持是至關重要的，以避免非正式或不清楚的責任。
運行時執行與監控
代理人必須融入企業系統（例如ERP、CRM、交易平台），但至關重要的是，他們必須能夠在即時中被觀察和控制。如果組織在執行時無法監控行為或介入，他們就會創造出論文中所定義的結構治理失敗，即運作能力存在但治理能力缺失。2
這意味著需要實時監控、動態授權、升級觸發器，以及能在決策過程中進行介入或覆蓋的能力。換句話說，治理不是事先設置的，而是必須在決策時刻執行的。
基於成熟度的自主性管理
為了管理這一風險，論文提出了一種基於成熟度的自主性管理方法，其中權限將在四個階段中逐漸增加：
- 首先從輔助系統開始（僅提供建議）
- 進入監督執行
- 具備條件的有限自主性與升級
- 最後才考慮完全自主
核心原則是，自主性應該是通過控制和可靠性的證據獲得的，而不是事先授予。
治理的擴展
最後，這些元素被整合進分階段實施路線圖中，從治理準備、試點部署、受控擴展，最終到制度化。在這些階段中的推進是有條件的，並要求在擴大代理使用之前展示有效的監督、監控和對齊。在成熟時，代理將嵌入核心業務中，並受到合規周期和董事會級別的監督。
治理應該在哪裡運作？
隨著組織開始實現AI治理，問題隨之而來：治理應該在代理系統中實際存在於何處？新興的研究指向三種主要模型：
- 集中治理：單一控制層或監督者監督所有代理
- 分散治理：每個代理管理自己的行為
- 混合模型：結合中央監督與地方控制
Caldeira和Banerjee的比較研究（2025）凸顯了一個重要的權衡：分散模型提高透明度但降低效率，而集中模型提高性能卻減少可見性。可解釋性和性能經常處於緊張關係中。在實踐中，這並不是一種通用的答案，而是依賴於組織的規模和行業合規要求。大多數組織可能需要混合方法，以平衡控制、擴展性和可解釋性。
超越系統的治理：領導問題與代理風險管理（ARM）
近期對AI產業中的領導進行的審查也突顯出治理的另一個深刻且常被忽視的層面：高層的人類責任。調查引發了一些不舒服但重要的問題，關於在這麼高的風險時，信任、透明度和最終掌握權力的誰。當治理依賴於少數幾個人的誠信，而這種誠信受到質疑時，整個系統都變得脆弱。
對於組織來說，教訓是明確的：治理不能依賴於個人或承諾，必須結構性地嵌入、可獨立驗證，並在面對領導失敗時具備韌性。
有效的治理需要明確的「權力分割」。雖然業務單位應擁有代理，定義其目的、管理其「維修」並獲取其帶來的收益，但資訊安全部門則可以擁有「停止開關」。這確保了當代理偏離或受到威脅時，停止操作的決定由優先考慮安全的相關人員作出，而非僅僅是性能。
這是代理風險管理（ARM）概念變得至關重要的地方。我們必須將AI代理視為我們擴展勞動力的一部分。正如我們管理承包商和第三方供應商一樣，我們需要一個框架來管理我們的AI行為者的數字身份和行為。
在KnowBe4，我們認為責任必須設計至系統中，而非僅僅依賴假設。通過將代理視為你的勞動力中的一個關鍵分支，並通過代理風險管理（ARM），治理變得可獨立驗證，並且對領導失敗具備韌性。在一個AI擁有行動能力的世界中，我們必須確保人類「參與其中」的角色保持授權、知情，並最終保持控制。
參考文獻：
Caldeira, V. & Banerjee, A (2025). Where Should Control Reside in Multi-Agent Language-Model Systems? Proceedings of the 6th International Conference on AI Research (ICAIR 2025) 6(1). https://papers.academic-conferences.org/index.php/icair/article/view/4157
Chinnaraju, A. (2026). When AI Agents Act: Governance, Accountability, and Strategic Risk in Autonomous Organizations, 12(12), https://doi.org/10.51244/IJRSI.2025.12120050
Damien, C. (2026). AI Hallucination Cases.
https://www.damiencharlotin.com/hallucinations/
MyBroadband (2026). Scandal erupts over South Africa’s new draft AI policy which used fake references generated by AI.
https://mybroadband.co.za/news/government/643743-scandal-erupts-over-south-africas-new-draft-ai-policy-which-used-fake-references-generated-by-ai.html
Stewart Gloster C. (2026). The Insider You Build. John Wiley & Sons Canada, Limited.
https://camillestewartgloster.com/theinsideryoubuilt
文章來源: AI Agent Governance Part 2 – What Good Looks Like: Governing AI Agents in Practice
