マイクロソフトの信頼できる AI: 人間の可能性を解き放つ鍵は信頼から

エグゼクティブバイスプレジデント兼チーフマーケティングオフィサー
沼本健

※本ブログは、米国時間 9 月 24 日に公開された “Microsoft Trustworthy AI: Unlocking human potential starts with trust” の抄訳を基に掲載しています。

AI が進化する中、私たちは皆、AI のポジティブな影響を世界中の組織やコミュニティに広げる役割を担っています。そのため、マイクロソフトはお客様が信頼できる AI、つまり安全性、セキュリティ、プライバシーが確保された AI を使用し、構築できるよう支援することに注力しています。

マイクロソフトは、信頼できる AI を確保するため全力を尽くしており、業界をリードするサポート技術を構築しています。このコミットメントと能力を連携させ、お客様と開発者があらゆるレイヤーで保護されるようにしています。

こうしたコミットメントに基づき、本日、AI システムのセキュリティ、安全性、プライバシーを強化する新しい製品機能を発表します。

セキュリティ

セキュリティは、マイクロソフトにとって最優先事項であり、拡大されたセキュアフューチャーイニシアチブ (SFI) は、お客様の安全を確保するための企業全体のコミットメントと責任を強調しています。今週、私たちは、初の SFI 進捗レポートを発表し、文化、ガバナンス、技術、運用に関する最新情報を紹介しました。これは、セキュリティを最優先するという誓約を実現するもので、Secure by Design (設計としての安全性)、Secure by Default (既定設定での安全性)、Secure Operations (安全な運用) の 3 つの基本原則に基づいています。また、Microsoft Defender や Purview といった自社製品に加え、当社の AI サービスには、プロンプトインジェクションや著作権侵害を防ぐ機能が組み込まれており、基本となるセキュリティコントロールが備わっています。これらに基づき、本日、2 つの新機能を発表します。

リスクの事前評価をサポートする Azure AI Studio での評価機能。
管理者とユーザーが Web 検索によって Copilot の応答がいかに向上するかをより理解できるよう、Microsoft 365 Copilot における Webクエリの透明性を提供。近日公開予定。

当社のセキュリティ機能は、すでにお客様に利用されています。エンジン製造とクリーンエネルギー技術の開発で知られる創業 105 年のカミンズ (Cummins) は、データの分類、タグ付け、ラベル付けを自動化することで、データセキュリティとガバナンスを強化するために Microsoft Purview を導入しました。ソフトウェアエンジニアリングとビジネスコンサルティングを手がける EPAM Systems は、マイクロソフトからデータ保護を導入していることから、300 人のユーザー向けに Microsoft 365 Copilot を展開しました。IT 部門のシニアディレクターである J.T. Sodano 氏は、「Microsoft Purviewで設定した情報とデータ保護のポリシーが Copilot にも適用されることを知っていたため、他の大規模言語モデル (LLM) と比較して、Copilot for Microsoft 365 に対して遥かに自信を持っていました。」と述べています。

安全性

セキュリティとプライバシーの両方を含むマイクロソフトの広範な責任ある AI の原則は、2018 年に制定されて以来、当社全体で AI を安全に構築および展開する指針となっています。具体的には、有害なコンテンツ、偏見、誤用、その他の意図しないリスクなど、望ましくない行動を回避するために、システムを適切に構築、テスト、監視することを意味します。長年にわたり、私たちはこれらの原則を守り、安全に AI を構築および展開するために、必要なガバナンス構造、ポリシー、ツール、プロセスの構築に多大な投資を行ってきました。マイクロソフトでは、責任ある AI の原則を遵守するための取り組みで得た知見を、お客様と共有することをお約束します。独自のベストプラクティスと学びを活かして、私たちが目指すものと同じ高い基準を共有する AI アプリケーションを構築するための機能とツールを、人々や組織に提供しています。

本日、AI の利点を追求しながらリスクを軽減するための新しい機能を発表します。

Microsoft Azure AI Content Safety の根拠性検出機能における修正機能: ユーザーが閲覧する前にリアルタイムで幻覚 (ハルシネーション) の問題を修正するのに役立ちます。
埋め込み型 Content Safety: お客様は、Azure AI Content Safety をデバイスに埋め込むことが可能になります。これは、クラウド接続が断続的、または利用できない可能性があるデバイス上での使用シーンにおいて重要です。
Azure AI Studio の新たな評価機能: お客様が出力の品質と関連性、および AI アプリケーションが保護された素材をどれくらいの頻度で出力するかを評価するのに役立ちます。
Protected Material Detection for Code (コード用保護済み素材の検出): Azure AI Content Safety のプレビュー版で利用可能な機能で、既存のコンテンツやコードを検出するのに役立ちます。この機能は、GitHub リポジトリで公開されたソースコードを探索する際に、開発者がコラボレーションと透明性を促進しながら、より多くの情報に基づいたコーディングの判断ができるようになります。

様々な業界のお客様が、すでにマイクロソフトのソリューションを活用し、より安全で信頼性の高い AI アプリケーションを構築しています。例えば、3D ゲームのプラットフォームである Unity は、Microsoft Azure OpenAI Service を利用して、ゲーム開発を容易にする AI アシスタント、Muse Chat を構築しました。Muse Chat は、Azure AI Content Safety のコンテンツフィルタリングモデルを使用して、ソフトウェアが責任を持って使用されるようにしています。また、約 900 のブランドパートナーを持つイギリスのファッション小売業者 ASOS は、同じ Azure AI Content Safety の組み込みコンテンツフィルターを使用して、顧客が新しいスタイルを見つけるのを支援する AI アプリを通じて、質の高いやり取りをサポートしています。

教育分野でも、その影響が見られます。ニューヨーク市の公立学校はマイクロソフトと提携し、教育現場に適した安全なチャットシステムを開発し、現在、学校で試験運用を行なっています。南オーストラリア州教育省も同様に、生成 AI を EdChat で教室に取り入れ、同じインフラを利用して、生徒と教師が安全に使用できるようにしています。

プライバシー

データは AI の基盤であり、マイクロソフトは、長年のプライバシー原則に基づいて、顧客のデータが保護され、遵守されることを優先しています。これには、ユーザーのコントロール、透明性、法的および規制上の保護が含まれます。この理念に基づき、本日、以下を発表します。

Azure OpenAI Service Whisper における機密推論のプレビュー版を提供。これにより、お客様は検証可能なエンドツーエンドのプライバシーをサポートする生成 AI アプリケーションを開発できます。機密推論は、訓練された AI モデルが新しいデータに基づいて予測や判断を行う際に、機密性の高い顧客データが安全かつプライベートに保たれることを保証します。これは、医療、金融サービス、小売、製造、エネルギーなど、規制が厳しい業界にとって特に重要です。
NVIDIA H100 Tensor Core GPU を搭載した Azure Confidential VM の一般提供。これにより、お客様は GPU 上で直接データを保護することができます。この技術は、マイクロソフトのコンフィデンシャルコンピューティングソリューションを基盤としており、顧客データが暗号化され、安全な環境で保護されるため、許可なしに情報やシステムにアクセスできないようにします。
Azure OpenAI Data Zones が EU と米国向けに間もなくリリースされます。これは、Azure OpenAI Service が提供しているデータ所在地機能を基に、生成 AI アプリケーションのデータ処理と保存をより簡単に管理できるようにするものです。この新機能により、顧客はデータ処理と保存をEUまたは米国内に限定して管理しながら、地域内のすべての Azure リージョンで生成 AI アプリケーションを柔軟にスケーリングできるようになります。

顧客のコンフィデンシャルコンピューティングへの関心と機密 GPU への期待が高まっている中、アプリケーションセキュリティプロバイダーの F5 は、NVIDIA H100 Tensor Core GPU を搭載した Azure Confidential VM を使用して、モデルが分析するデータの機密性を確保しながら、高度な AI 搭載セキュリティソリューションを構築しています。また、多国籍銀行であるカナダロイヤル銀行 (RBC Royal Bank) は、Azure コンフィデンシャルコンピューティングを自社のプラットフォームに統合し、顧客のプライバシーを保護しながら暗号化されたデータを分析しています。NVIDIA H100 Tensor Core GPU を搭載した Azure Confidential VM の一般提供により、RBC はこれらの高度な AI ツールを活用して、より効率的に作業し、より強力な AI モデルを開発できるようになりました。

信頼できる AI でより多くのことを達成

私たちは皆、信頼できる AI を必要とし、期待しています。信頼できる方法で AI を活用することで、従業員の体験を豊かにし、ビジネスプロセスを再構築し、カスタマーエンゲージメントを改革し、日常生活を再構築することが可能であることを目の当たりにしてきました。セキュリティ、安全性、プライバシーを向上させる新しい機能により、私たちは引き続き、お客様が信頼できる AI ソリューションを使用し、構築できるようにし、地球上のすべての個人と組織が、より多くのことを達成できるよう支援していきます。最終的に、信頼できる AI はマイクロソフトのすべての活動に関わっており、機会の拡大、信頼の獲得、基本的権利の保護、そして持続可能性の推進に取り組む私たちの使命において不可欠なものです。

マイクロソフトの信頼できる AI: 人間の可能性を解き放つ鍵は信頼から

信頼できる AI でより多くのことを達成

関連情報:

関連記事