微軟更新負責任 AI 指導準則,將限制部份臉部辨識能力

認知服務團隊致力於確保負責任地開發和使用 AI 技術。微軟遵循六項 AI開發及應用準則於人工智慧領域,包括公平性、可靠性、隱私及安全性、多元性、透明性及權責。另外,我們也覺察到,臉部辨識技術的潛在風險需要專屬一套指南原則

為了強化我們的承諾,並為未來打好基礎,微軟宣佈更新負責任的 AI 準則,這些準則是我們 AI 產品開發和部署的教戰手冊。為了使產品與新準則保持一致性,我們更新了臉部辨識技術,包括限制部分功能,刪除敏感性的AI分類器,並增加對公平性和透明度的投資。

負責任使用的保障措施

我們繼續就臉部辨識技術的負責任部署提供一致、明確的指南,並倡導法律對其進行規範,但我們要做的不只這些。

從今天開始,新客戶需要申請存取許可才能在 Azure Face API、Computer Vision 和 Video Indexer 中使用臉部辨識技術。現有客戶有一年的時間申請並根據其提供的案例批准存取臉部識別服務。透過限制存取功能,為臉部識別的使用和部署增加了額外審查機制,以確保這些服務的使用符合微軟的負責任 AI 準則,並對用戶和社會效益做出貢獻,包括引入案例和客戶資格要求,以獲得對這些服務的存取許可。點擊此處閱讀案例範例以及應避免的案例。從 2023 年 6 月 30 日起,如果現有客戶的臉部識別應用程式未獲批准,將不能存取臉部識別功能。點擊此處提交 Face API、Computer Vision、Azure Video Indexer 中的臉部識別操作申請表,團隊將透過電子郵件與您聯繫。

另一個改變是,限制 Azure Face 臉部辨識服務的能力。依循新準則,我們將拿掉情緒識別的功能,以及辨識性別、年齡、微笑、臉部毛髮、頭髮及化妝的能力。以情緒狀態為例,除了隱私問題外,科學家對情緒的判定尚未有共識,無法跨各種情境、地區或人口屬性適用,草率適用將帶來刻板印象、歧視或拒絕服務。

為了避免臉部辨識 AI技術出差錯,Microsoft Face  API 將不再提供一般用途系統介接,讓這些客戶用來掃瞄人們臉部,根據臉部表情或動作推論出情緒。從2022年6月21日起,我們已不再提供這項功能給新客戶。既有客戶則只能用到2023年6月30日,之後也將關閉

雖然不再提供客戶一般用途使用,但是一些針對身障人士的受控辨識應用情境,這些功能很有價值,我們仍會持續支援,透過將這些功能彙集到 Seeing AI 等應用程式中來支援這一目標。另外,我們也承諾未來會對用來推論人們情緒的所有 AI系統謹慎分析,包括使用臉部分析或其他 AI 科技的系統。

負責任的發展:提高多元性 AI 的性能

根據微軟的 AI 公平原則以及負責任的 AI 準則中的目標和要求,我們正加強於公平性和透明度方面的投資。我們正在進行相關資料收集,以識別並減少不同族群在人口統計技術性能方面的差異,並評估我們呈現這些資訊的方法。

鑒於臉部識別技術潛在的風險,我們正已微軟內外的統計資料,AI / ML公平專家和人機互動專家的專業知識參與這項工作。我們還諮詢了人類學家,以幫助我們加深對人類臉部形態的理解,並確保我們的資料收集能反映客戶在其應用中所面臨的多樣性。

在進行這項工作的同時,除了上述保護措施外,我們還提供指引和工具,使客戶能夠負責任地部署這項技術。微軟為客戶提供了新的工具和資源,以協助評估模型的性能,並使用該技術瞭解部署中的限制。Azure 認知服務客戶現在可以利用開源 Fairlearn 資料包和微軟的 Fairness Dashboard 來衡量微軟臉部驗證演算法的公平性,使客戶能夠在部署技術之前識別和解決可能影響少數族群的潛在公平性問題。歡迎與我們聯繫,詢問如何使用自己的資料進行公平性評估。

我們還更新了透明度文件,以提供指引,透過結合有意義的人工審查來偵測和解決錯誤識別或其他故障案例,以及透過識別和解決由操作條件變化而導致的準確性波動,從而幫助客戶提高系統的準確性和公平性。

在與使用臉部服務的客戶合作時,我們還意識到一些公平性問題的是由於圖像品不好所引起的。若提交的圖像太暗或太模糊,模型可能無法正確匹配。這種低品質圖像可能會不公平地集中在某個族群中。

這就是為什麼微軟提供客戶新的 Recognition Quality API,該 API 標記圖像中的光線、模糊、遮擋物或角度問題。微軟還提供了一個參考應用程式,提供實時建議,以幫助使用者捕獲更高品質的圖像,產生更準確的結果。

若要運用圖像品質功能,使用者需要使用臉部偵測 API。請參閱快速入門:使用臉部服務以測試 API。

常見問題

  • 如何獲得辨識技術存取權?

請針對您想要使用的每個限制存取服務提交表單:

 

  • 申請存取權需要多久的時間?

提交申請後檢閱可能需要 5-10 個工作天。 一旦通過檢閱,您就會收到電子郵件。

 

  • 我是否有資格使用限制存取的服務?

限制存取的服務僅適用由 Microsoft 管理的客戶。 此外,限制存取服務僅適用于特定使用情境,而且客戶僅能在應用程式中原先申請的情境下使用。

請在您的應用程式中使用與您的組織相關聯的電子郵件地址。 以個人電子郵件地址提交的應用程式將會遭到拒絕。

如果您不是受管理的客戶,我們邀請您使用相同的表單提交應用程式,我們會與您聯繫關於加入計畫的機會。

 

  • 如果我不知道我是否為受管理的客戶,該怎麼辦? 如果我不知道我的 Microsoft 連絡人或不知道我的組織是否有連絡人,該怎麼辦?

請提交表單填寫想要使用的功能,我們會確認您的存取資格。

 

  • 如果我是現有的客戶,但沒有提交表單,會發生什麼事?

現有的客戶在 2023 年 6 月 30 日之前提交進入表單,並核准在 2023 年 6 月 30 日之後繼續使用限制存取服務。 建議您保留 10 個工作天進行檢閱。 若沒有核准的應用程式,您將會在 2023 年 6 月 30 日之後遭到拒絕存取。

 

  • 我是使用自訂神經語音(Custom Neural Voice)或說話者辨識(Speaker Recognition)的現有客戶,我是否必須提交這個申請以繼續使用這些服務?

我們正在尋找改善負責任 AI 計畫的機會,而限制存取是服務管制程式的更新。如果您先前已申請並被授與自訂類神經語音(Custom Neural Voice)或說話者辨識(Speaker Recognition)的存取權,您需要提交新的表單,您必須在 2023 年 6 月 30 日之前提交含所選使用案例的表單,以繼續在 2023 年 6 月 30 日後使用這些服務。建議您保留 10 天檢閱期。

現有的客戶可以繼續使用服務, 2023 年 6 月 30 日之後,現有的客戶必須經過核准才能存取。

 

  • 如果我的使用功能不在表單上,該怎麼辦?

限制存取功能僅適用於表單上所列的使用功能。如果您所需的使用功能未列出,請在此 意見反應表單 中讓我們知道,以便我們改善。

 

  • 我可以在哪裡使用限制存取服務?

在這裡搜尋限制存取服務以檢視其區域可用性。 在巴西南部和阿拉伯聯合大公國北部資料中心區域中,我們會優先存取由 Microsoft 管理的商業客戶。

如需自訂類神經語音(Custom Neural Voice)和說話者辨識(Speaker Recognition)作業支援區域的詳細資訊,請參閱這裡

 

  • 如果我的應用程式遭到拒絕,資料會發生什麼情況?

如果您是現有的客戶,且您的應用程式遭到拒絕存取,基於Microsoft 的資料保留原則,您將無法在 2023 年 6 月 30 日之後再使用限制存取功能。

我們對 Azure AI 的未來以及負責任地開發的技術可以為世界帶來的改變感到興奮。我們感謝客戶和合作夥伴採用負責任的 AI,並與我們一起踏上這段旅程。隨著我們為臉部識別服務推出新的有限存取政策,除了新的電腦視覺功能外,您的反饋將讓我們更進一步瞭解您對負責任 AI 技術的需求。

 

下載負責任的 AI 十項準則白皮書

完整常見問題請見此

相關文章