當前企業對 AI 的導入有兩大明確的關注方向，一是如何讓 AI 變得更強，二是如何確保 AI 可控。而在企業追求 AI 生產力之際，信任更是不可或缺的前提，隨著 Agent 的興起與普及，負責任且更值得信任的 AI 就成為重中之重。
Agent 治理三要件：邊界、檢查點與稽核
企業要安心將權限與各種大小決策交付給 AI Agent 的前提，在於具備足夠的信任技術，邊界、檢查點與稽核則是最為必需的三大基礎要件，獨立機構 CNCF（Cloud Native Computing Foundation）提出的 OPA（Open Policy Agent）對此已有相關規範。
「邊界」用以明確界定 Agent 可以做的事，也就是劃定框架。邊界是由 Agent OS、Agent Mesh、Agent Runtime、Agent SRE 四個核心所組成的系統架構，涵蓋了 Agent Stack 的各層架構如何做整合、Agent 的大腦源於哪個模型、如何信任互動的其他 Agent、如何確保可靠性等事項。
由此延伸的實際措施包括身分驗證、權限分級（一般使用者、訪客或其他分類）、各個執行動作的可稽核性和記錄等，都是核心模組必須包含的功能，目前包括 Microsoft Agent Governance Toolkit 在內的多種開源的開發框架皆提供支援。
「檢查點」著重在 Agent 與其他 Agent、資料、應用程式及人的互動時，界定各個檢查點的風險高低，找出需要由人介入或簽核的環節，除了受監管的高風險產業，還包括高風險的業務場景。
開源框架設定了八個檢查點，透過「Policy as Code」的作法涵蓋 Agent 從啟動到結束運作的完整過程，每個檢查點都提供放行、警示放行、拒絕、升級呈核等不同應對方式。例如微軟的 Agent Control Specification，可將 Agent 行為的核准與權限落實成文件，並轉化為確實的系統邊界。
「稽核」不僅確保事後可以追查，還要防止竄改，讓 Agent 的一舉一動都必須透明和具備可檢視性。相較於以往檢查應用程式弱點，可透過訊息的回覆來確認無誤，但生成式 AI 的幻覺問題，可能導致雖然回應正常但產出結果有誤，遵循 Open Telemetry 機制建立證據鏈，就能將每一次模型呼叫、工具呼叫都變成可回溯、可評測的數據軌跡。
善用多模型，加速 AI 進程及成效
Agent 的可控不只在管理面，成本面的可控更是近來備受關注的課題，就實務運作而言，從開發、應用，甚或資安，對於模型的需求本就各不相同，以排名為依據或只使用同一個模型，不僅難以發揮最佳效益，更可能造成成本虛增。因此，微軟從 GitHub 到 Microsoft Foundry 皆提供多模型選擇，以多元、開放、異質的模型平台，讓企業為每一種工作負載選對智慧。
簡言之，模型的選擇取決於工作負載的適合度。在選擇之前應該先定義任務契約，也就是根據特定任務，模型需要做什麼、成功標準是什麼、必須遵守的限制，以及不可接受的失敗模式。舉例來說，分類、路由或高流量對話，適合使用小型、低延遲的模型；影像、語音或實體 AI，則可選擇特定模態模型。即便不確定該如何選擇模型也沒關係。Microsoft Foundry 提供 Model Router 能力，可根據任務類型、回應品質、延遲需求與成本效益等因素，智慧地將請求路由至最適合的模型。讓開發團隊不必在眾多模型之間反覆評估與切換，也能獲得兼顧品質、效能與成本的最佳結果。
目前，Microsoft Foundry 已集結 40 多家供應商提供超過 11,000 個模型，以一站式平台讓企業快速搜尋、評估及部署最合適的 AI 模型。可選擇的模型來源之一是已納入 Azure 服務的模型，由微軟提供支援並高度整合於 Azure 服務及基礎架構，具備企業級的擴充性、可靠度與安全性。
另一個可選擇的模型來源則是由可信任的第三方、合作夥伴與社群提供，能更聚焦於特定情境或產業的專業應用，並可快速取得最新版本的模型或技術。至於運作方式，則有託管運算或無伺服器部署，無論哪種作法都可結合 Azure 既有的安全機制與相關的資安服務，例如 Microsoft Entra 認證、Azure AI 內容安全過濾器。
有效的模型選擇取決於四個面向，也就是能力、安全性、延遲與成本。對此，Microsoft Foundry 進一步在系統層級，為開發者提供橫跨品質、成本與延遲的最佳化技術，例如：智慧路由可根據複雜度和預算將個別任務送交給正確的模型、批次處理使用非同步作法來處理不需要即時回應的工作負載、快取機制則可避免重複因相同或類似的請求而支付額外費用。
尤其，微軟針對企業所提供的資料僅用於服務提供，不會用於模型訓練，亦不會提供給模型供應商，將模型選擇權交還給企業，由企業依需求自主選擇及部署不同的模型。
打造負責任與可信任的 AI
微軟從 2016 年就投身於負責任 AI，歷年都有進展與成果，例如：在 2019 年成立負責任 AI 辦公室、2022 年提出第二版的負責任 AI 標準。2022 年也展開對可信任 AI（Trustworthy AI）的關注，根據負責任 AI 的六大原則，提出具體可落實的步驟，涵蓋原則、目標、需求到工具和實踐。
此外，2024 年和 2025 年皆發表微軟負責任 AI 透明度報告，並提出企業 Agent 治理框架和服務，2025 年更順利取得 ISO/IEC 42001:2023 認證。值得一提的是，Microsoft Agent Governance Toolkit 與開源框架可協助開發者以更少的時間、更快速地因應相關法規，包括 2026 年 8 月生效的歐盟 AI 法案透明度義務，以及美國 NIST AI RMF、OWASP Agentic AI Top 10 與 SOC 2。 從開發端、治理端到使用者端，微軟透過 GitHub、Microsoft Foundry、Microsoft 365 Copilot、Teams 全面納入安全機制，以確保 Agent 的可控性。而在日前登場的 Microsoft Build 年度開發者大會裡，已經上線或正在預覽階段的多項服務也持續加強對 Agent 的可觀測性及投資回收的計算。
舉例來說，已經正式上線的 Agent Governance Toolkit 是串連證據鏈的工具。正在預覽階段的 Agent Optimizer 可根據成本、品質等不同需求，對 Agent 進行最佳化，在語境和語意不變的情況下，修正提供給基礎模型的描述，甚至是切換及測試Agent的最佳運作設定。
微軟的每項行動與解決方案，是讓信任成為 AI Agent 內建的機制，以信任為前提，企業才能安心將權力、權限、執行小決策的鑰匙交給 Agent，加速釋放其潛力。當治理讓信任沉澱為底層、多模型讓智慧用在合適的地方，企業便同時握有「智慧（Intelligence）」與「信任（Trust）」兩大基礎 —— 這正是前瞻轉型（Frontier Transformation）的起點：不只是追求更快、更省，而是讓 AI 放大人的企圖心，達到最高期望與成長潛能。當人與 Agent 開始協作，企業便從「導入 AI」晉升為以智慧與信任驅動成長的前瞻企業。
本文轉載自 iThome。