跳過主内容

企業生成式 AI 六問六答

在過去幾個月中,全球目光被生成式 AI 和相關應用所吸引,比如 Bing 中的新聊天體驗,它可以根據自然語言的簡單提示找到原文並生成回覆。隨著在微軟商務應用 Dynamics 365、Viva Sales 和 Power Platform 陸續導入生成式AI 功能(Copilot),在企業商務場景及流程中應用 AI 將變得簡單且輕鬆。

透過 Copilot,大家可以在 Dynamics 365 和 Power Platform 中以新時代的方式來獲得創新想法和內容草稿,以及獲取和整理業務資訊。那麼,Copilot 又是如何做到這一切的?以下,我們將針對 Copilot 如何運作、生成回應和保證業務資料安全等六個常見問題進行解答,以幫您更好的認識和使用企業級的生成式 AI —— Copilot。

一、ChatGPT 和 Copilot 有什麼區別?

ChatGPT 是一個通用的大型語言模型(LLM),由 OpenAI 在大量的文本資料庫上進行訓練,目的在模擬近似人類的對話,回答各種主題的問題。Copilot 雖然也使用 LLM,但這個企業級 AI 在技術層面,針對業務流程、業務資料以及安全和隱私要求都進行了提示和優化,它可以針對您的業務需求進行調整。對於微軟 Dynamics 365 和 Power Platform 使用者,Copilot 會根據手上的任務提供可選操作和內容建議,其在自然語言生成方面有一些獨特之處:

  • AI 生成的回應來自您的業務資料,具有獨特的場景前後文,並與您的手頭任務相關 —— 包括在 Dynamics 365 內部回覆一封電子郵件,建立一款可以自動化特定手動流程的低程式碼應用,或是從客戶關係管理(CRM)系統中建立目標客戶細分清單。
  • Copilot 使用了類似 GPT 的 LLM 和企業的業務資料以產生更準確、更有相關性和個人化的結果。簡而言之,企業的業務資料只留存於租戶內部環境,並僅用於改善企業自家使用場景中的前後文,而 LLM 本身並不會從這些使用中進行學習。
  • 由微軟 Azure OpenAI 服務驅動的 Copilot,在底層設計中便擁有了企業級安全性、合規性和隱私性的基礎。

二、Dynamics 365 和 Power Platform 中的 Copilot 是如何運作的?

借助 Copilot,Dynamics 365 和 Power Platform 可以利用基礎模型的強大功能以及應用於業務資料的專有微軟技術:

  • 搜索(使用Bing和Microsoft Azure 認知搜索):為Copilot的提示帶來特定領域的前後文,使回應能夠整合來自爬取內容的資訊,如手冊、檔案或組織內部的其他資料。目前,微軟 Power Virtual Agents 和 Dynamics 365 Customer Service 使用這種 檢索-增強生成(retrieval-augmented generation) 方法作為調用 LLM 的預處理。
  • Microsoft 應用程式 (如 Dynamics 365 和 Power Platform)以及儲存在 Microsoft Dataverse 中的業務資料。
  • Microsoft Graph:Microsoft Graph API 將來自客戶訊息的其他前後文導入提示中,例如來自電子郵件、聊天、檔案、會議等的資訊。

Copilot 要求企業使用者在一個應用程式中輸入提示(prompt),如 Dynamics 365 Sales 或 Power Apps。然後,Copilot 將 prompt 透過一個叫 「Grounding」 的方法傳給  Graph,從而提升 prompt 的品質,最終您將能得到高相關性且可操作的答案以執行您的具體任務。它透過調用 Microsoft Graph 和 Dataverse,存取您同意並已授權的企業資料,以檢索您的業務內容和前後文。微軟還將「Grounding」範圍限定為透過基於角色的存取控制 (RBAM),對通過身份驗證的用戶開放檔案和資料的存取權限。例如,與企業福利相關的內部問題便只會返回基於員工角色的相關文件的答案。

這種資訊檢索被稱為檢索增強生成,使 Copilot 能夠準確地提供正確的資訊類型,作為對 LLM 的輸入,將這些使用者資料與其他輸入(如從知識庫文章中檢索的資訊)相結合,以改進提示。Copilot 從 LLM 獲得回應,並對其進行後處理。這個後處理包括對 Microsoft Graph 的其他「Grounding」調用、負責任的 AI 檢查、安全、合規性和隱私審查,以及命令生成。

最後,Copilot 返回一個推薦的回應給用戶,並將命令返回至應用程式,其中使用者可以進行審查和評估。Copilot 會以反覆運算方式處理和協調這些複雜的服務,以產生與您的業務相關、準確且安全的結果。

三、Copilot如何使用您的專有業務資料?它是否用來訓練AI模型?

Copilot 透過將 LLM 與您的業務資料連接起來,以一種安全、合規、保護隱私的方式釋放商業價值。

Copilot 可以即時存取您的內容以及 Microsoft Graph 和 Dataverse 中的前後文。這意味著它可以根據您的業務內容,包括您的檔案、電子郵件、日曆、聊天記錄、會議、連絡人和其他業務資料生成答案,並將它們與您的工作環境,例如您現在正在參加的會議、針對特定主題進行的電子郵件溝通或是上週的聊天對話記錄等資訊結合起來,從而提供準確、相關且符合前後文的回覆。

微軟不會使用客戶的資料來訓練 LLM。客戶的資料是屬於客戶自己的資料,與微軟的資料隱私政策保持一致。AI 驅動的 LLM 是在一個龐大但有限的資訊語料庫中進行訓練,透過 Microsoft Graph 和 Microsoft 服務獲取的提示、回應和資料不會被用於訓練 Dynamics 365 Copilot 和 Power Platform Copilot 的能力,所以其他客戶不會使用到您的資料。此外,基礎模型也不會透過您的使用來改善。這代表,您的資料只能被您組織內且經過授權的使用者存取,並由您來控制存取或使用權限。

四、Copilot 的回應總是事實嗎?

儘管使用生成式 AI 產生的回應,並不能保證 100% 的事實性。但微軟正在持續繼續改善提供基於事實的詢問及回應,您在審查輸出結果時可以透過您的判斷力來讓最終結果更符合您的需要。Copilot 讓您充分掌握主導權,同時提供有用的草稿和摘要,幫助您實現更多。

微軟團隊正在努力解決諸如錯誤/虛假資訊、內容攔截、資料安全以及根據我們的人工智慧原則防止推廣有害或歧視性的內容等問題。同時,微軟還在用戶體驗中提供指導,以加強對 AI 生成的內容和行動進行負責任的使用。為了幫助用戶如何使用 Copilot,以及如何正確使用建議的行動和內容,微軟提供:

  • 指導性的指引和提示。在使用 Copilot 時,資訊元素將指導使用者如何負責任地使用建議的內容和動作,包括在使用前需要根據需要審查和編輯的提示,以及手動檢查事實、資料和文本的準確性。
  • 引用來源。Copilot 會在適當的時候引用公開來源,而您能看到它引用的網路內容的連結。

五、Copilot 如何保護敏感的業務資訊和資料?

微軟在提供企業級 AI 方面具有獨特的優勢。在 Azure OpenAI 的支持下,Copilot 內建了負責任的 AI 和企業級的 Azure 安全性。

  • 在安全性原則層面:基於微軟全面的安全、合規和隱私權原則建立。Copilot 被整合到像 Dynamics 365、Power Platform 和 Microsoft 365 等微軟服務中,並自動繼承並符合您公司的所有安全、合規和隱私政策和流程等價值。雙因素身份驗證、合規邊界、隱私保護等功能,使 Copilot 將成為您可信任的 AI 解決方案。
  • 在技術架構層面:為保護租戶、團體和個人資料而設計。資料洩露是大家都在關心的問題,微軟 LLM 不會接受有關租戶資料或提示的進一步訓練,也不會從中學習。在您的租戶內部,Copilot 經過時間測試的許可權模型提供了像微軟 Azure 產品/服務一樣的安全防護和企業級安全性。在個人層面,Copilot 只提供您可以存取的資料,使用的是微軟多年來一直用於保護客戶資料的技術。
  • 在核心設計層面:目的在學習新技能。Copilot 的基礎技能對生產力和業務流程來說將改變遊戲規則。這些能力讓您能夠使用特定的業務內容和前後文來建立、總結、分析、協作和自動化。但它的能力並不止於此。Copilot 為用戶推薦行動(例如,「建立一個時間和費用的應用程式,讓員工能夠提交他們的時間和費用報告」)。而且,Copilot 的設計是為了學習新技能。比如,使用 Viva Sales,Copilot 可以學習如何連接到 CRM 系統記錄,將客戶資料(如互動和訂單歷史記錄)提取到訊息中。而隨著 Copilot 對新領域和流程的不斷學習,它將能夠執行更複雜的任務和查詢。

六、Copilot 是否能滿足合規監管要求?

Copilot 在 Azure 生態系統內提供,因此遵循 Azure 的合規性。此外,Copilot 遵守微軟對負責任 AI 的承諾,具體描述在相關檔案原則中,歡迎至相關頁面查看。

隨著 AI 領域監管法規的演變,微軟將繼續適應並回應,以滿足這一領域未來的監管要求。

致力於以負責任的原則提供 AI 服務:微軟致力於設計並創造負責任的 AI 服務。微軟的工作以一套核心原則為指導:公平、安全可靠、隱私與安全、包容性、透明度以及負責任。微軟正在賦能讓每一位客戶能負責任地使用 AI 產品,分享成果與經驗,並建立基於信任的夥伴關係。對於這些新服務,微軟會向客戶提供有關 AI 平台服務的預期用途、能力和限制的資訊,以便他們擁有做出負責任部署選擇所需的知識。

Copilot 作為跨越微軟商業應用的下一代人工智慧,隨著不斷發展,將使跨業務的角色和流程與 AI 的互動變得輕而易舉。歡迎點擊閱讀原文,瞭解更多企業級AI —— Copilot的創新能力。

閱讀原文:https://www.microsoft.com/en-us/ai/dynamics-365-ai?rtc=1

您也可點擊下方文章,查看 Copilot 在 Dynamics 365 和 Power Platform 中提供的不同體驗。

延伸閱讀 

閱讀新聞】劃重點!這些新功能可以這麼用 Power Platform & Dynamics 365 發佈會

閱讀新聞】 簡單幾步 Power Platform 整合 Azure OpenAI,打造企業級的智慧助手

閱讀白皮書】2022 Forrester TEI 經濟效益報告書 Power Platform 進階功能

更多資源

免費試用】Microsoft Dynamics 365 官方網頁

聯絡我們】Microsoft Power Platform 官方網頁

免費學習】Microsoft Learn – Dynamics 365 雲端商務應用

免費學習】Microsoft Learn – Power Platform 低程式碼平台

觀看影片】微軟智慧商務應用Microsoft Intelligent Business Applications