著: ナターシャ クランプトン (Natasha Crampton) 責任ある AI 担当 最高責任者
※本ブログは、米国時間 2026 年 9 月 1 日 に公開された “Responsible AI in 2026: How we are adapting for what’s ahead – Microsoft On the Issues”の抄訳を基に掲載しています。
本日、マイクロソフトは 「2026 Responsible AI Transparency Report（2026年版 責任ある AI 透明性レポート）」 を公開しました。本レポートでは、責任ある AI の開発と展開に向けた取り組みの進捗に加え、お客様における活用支援、そして責任ある AI を支えるガバナンス、ツール、実践の強化に向けた取り組みをご紹介しています。
レポートの全文は、こちらからご覧いただけます。
AI は急速に進化し、社会の期待もまた急速に変化しています。AI によって人々が実現できることの範囲は広がり、AI システムがどのように設計、構築、利用されているのかについて、コミュニティから寄せられる問いも増えています。AI が暮らしや仕事により深く組み込まれるにつれ、その信頼性と安全性への確信は、AI を社会に広く浸透させ、その恩恵を実現していくうえで欠かせないものになりつつあります。
マイクロソフトは約 10 年にわたり、「責任ある AI 」のプログラムを構築してきました。その根底には、2 つの基本的な信念があります。1つは、AI の恩恵を実現するには信頼が不可欠であること、そしてもう一つは、人々と組織のエンパワーメントを戦略の中心に据え続けなければならないということです。AI の能力が進歩し、導入が加速する中、これまでに培った経験が、現在の状況に対応し、その先に適応していく力となっています。
第3回 Responsible AI Transparency Report では、責任ある AI に関する私たちの取り組みがどのように進化しているのか、そしてこの取り組みの方向性をどのような優先事項が形づくっているのかをご紹介します。この1年、私たちは 3 つの領域に重点的に投資してきました。第一に変化に対応するガバナンスと技術リスク管理、第二に実践的なツールと機能、第三は共通の実践と強固なパートナーシップです。これらの取り組みにより、より広い規模で信頼を組み込むことが可能になりました。また、これらの投資は、エージェント型 AI の急速な拡大をはじめとする、AI を取り巻く5つの主要なトレンド全体を支えるものとなっています。
こうしたトレンドと投資から見えてくるのは、AI のインパクトはモデルの能力だけで決まるものではないということです。実際のインパクトを決定づけるのは、真の価値を生み出す AI ソリューションを開発、展開し、信頼を獲得、維持するために必要なガバナンスを着実に実践できる組織です。
変化に対応するガバナンスと技術リスク管理
AI 技術が急速に進化する中で、私たちはガバナンスの適応力を高め、エンジニアリング ワークフローとの統合をさらに強化しています。具体的には、AI のテクノロジースタックとバリューチェーンにより適合するようポリシーを更新し、新たな AI の能力とリスクに対応できるようリスク管理の実践を進化させました。また、プログラムを全社規模で実践、運用する責任ある AI コミュニティの体制強化も進めています。
今年、私たちは責任ある AI 標準（Responsible AI Standard) を再設計し、変化する技術的な現実、用途、リスク、規制要件に、より柔軟に適応できるようにしました。新しい Standard は、モデル、プラットフォーム サービス、アプリケーションといったテクノロジースタックの各構成要素と、それらの開発または展開において マイクロソフトが担う役割に基づいて構成されています。常に適用される中核的な要件と、能力やリスクの変化に応じて進化できる、より対象を絞ったシナリオ固有の要件を組み合わせています。たとえば、特に高度なサイバー能力を持つ AI システムには、最も厳格なリスク管理策の一部を適用しています。これにより、AI の進歩が、重要なデジタル インフラの保護を担う防御側に有利に働くよう支援しています。
技術リスク管理の実践も進化させています。能力が向上したシステムは、記憶を保持し、ツールを利用し、データにアクセスし、ユーザーに代わってアクションを実行できるようになっています。こうしたシステムに対して効果的なガバナンスを行うには、個々のモデルやアプリケーションの挙動だけでなく、モデル、エージェント、アプリケーション、ツール、データ、人の間で生じる相互作用まで視野に入れる必要があります。そのため私たちは、エージェント ID、ツールのアクセス許可、アクションの監視といったコントロールの強化に、これまで以上に注力しています。
ガバナンスは、人々がそれを実践してこそ機能します。そのため私たちは、マイクロソフト全体で責任ある AI の実践能力の向上に取り組み、数千人のエンジニアやプロダクト マネージャーに対して、エージェント型 AI の脅威モデリングやプロンプト インジェクション対策などに関するトレーニングを提供してきました。
これらの投資を組み合わせることで、私たちは、より継続的でシステムのライフサイクルに基づく AI ガバナンスへと移行しつつあります。エージェント型 AI では、システムが環境、ユーザー、ほかのシステムと相互作用するにつれて、リスクも変化する可能性があります。ガバナンスもこうしたエージェント型の能力とともに進化し、テストと展開から得られた学びを取り込む必要があります。
実践的なツールと機能
効果的なガバナンスには、ポリシー上の目標を行動に移すためのツールが欠かせません。開発者や組織が、より複雑化する技術や規制に対応するには、リスクを特定し、システムを評価し、制御を確立し、現実の世界で AI がどのように動作するかを監視するための実践的な方法が必要です。
私たちは、弊社における AI ガバナンスから得た学びを、マイクロソフト以外の開発者や組織にも役立つツール、機能、リソースとして提供しています。私たちのプラットフォーム上で構築する場合も、オープンソース プロジェクトを活用する場合も、こうした実践を行えるよう支援します。
この度、AI システムをライフサイクル全体で評価するためのツールを拡充しました。新しい AI Red Teaming Agent は、リスクの特定と評価を迅速化します。Agent evaluators は、エージェント型アプリケーションの品質、安全性、パフォーマンスを開発者が測定できるよう支援します。RAMPART はレッドチームの検出結果を反復可能なテストに変換し、システムの変化に合わせて、より継続的に検証できるようにします。
エージェント型システムの可視性と制御性の向上にも取り組んでいます。ASSERT と Agent Control Specification により、開発者は自社のポリシーに照らしてエージェントを評価し、エージェントのワークフローの重要なポイントに実行時の制御を配置し、挙動を監視できます。
これらのツールと機能は、進化の方向を示しています。システムがより動的になるほど、ガバナンスはより運用に根ざしたものに変わる必要があります。組織は、展開前に評価するだけでなく、システムが何をしているのかを把握し、どのように動作するかをテストし、必要に応じて介入できなければなりません。
組織には、責任ある AI の実践が一貫して実施されているという確信が必要であり、その実施状況を示す必要性もますます高まっています。Microsoft は、Microsoft 365 Copilot、Foundry、GitHub Copilot を含む幅広いポートフォリオで ISO 42001 認証を取得している数少ない企業の一つです。この 1 年、私たちは認証を支える社内プロセスを簡素化し、強化しました。
最終的に、責任ある AI のガバナンスは、AI のバリューチェーン全体で共有される責任です。私たちの目標は、その責任を果たすために必要な実践と能力を、より利用しやすく、実践的で、幅広く展開できるものにすることです。
共通の実践と強固なパートナーシップ
AI ガバナンスの課題は、一社だけで解決できる規模を超えています。AI システム同士のつながりが強まる中、協働の重要性はさらに高まっています。
AI の導入が国境や業界を越えて広がる中、システムの評価、監視、ガバナンスの理想像について共通の認識を形成するとともに、ツール、データ、システム間の相互作用を可視化できる相互運用可能な標準化を進める必要があります。また、効果的なガバナンスとは何か、そしてどのような課題が残されているのかについて、厳密かつ実践的な知見を得られるよう、基盤となる研究や技術的な取り組みを引き続き発展させていく必要があります。
その基盤となるのが研究です。この 1 年、私たちは US Center for AI Standards and Innovation、ならびにオーストラリア、シンガポール、英国の AI Safety and Security Institutes との連携を強化し、AI 評価の科学と実践の発展に取り組んできました。
こうした取り組みを支えるうえで、共通の技術的実践と標準の確立は不可欠です。 Frontier Model Forum、OpenTelemetry、Appia Foundation を通じて、フロンティア サイバー ベンチマーク、エージェント性を高めるシステムのエンドツーエンドの可観測性、サプライチェーンや業界全体における AI 保証に関するアプローチの発展に貢献しています。また、組織や法域を越えて透明性レポートの相互運用性を高める取り組みにも貢献しています。その一例が、Hiroshima AI Process Reporting Framework version 2.0 を策定した OECD 主導の非公式タスクフォースです。
進捗を測るための共通の方法も必要です。組織ごとに AI リスクの測定方法が異なれば、進捗を意味のある形で評価することはできません。MLCommons との取り組みを通じて、AILuminate をより幅広い信頼性ベンチマーク群へと拡張し、ジェイルブレイクへの耐性、多言語性能、会話型 AI における心理社会的リスクなどの領域を評価する共通のアプローチづくりを支援しています。
学び、実践と標準、測定方法を共有することで、信頼に対する共通の期待を高めながら、エコシステム全体の発展を促すことができます。
今に向き合い、未来に投資する
この 1 年の経験から、責任ある AI は静的なものであってはならないことが改めて明らかになりました。開発プロセスに組み込まれ、実践的なツールに支えられ、継続的な学びを反映する必要があります。だからこそ、責任ある AI への投資は、私たちが構築するシステムから、お客様に提供するツール、さらに広範なエコシステムとともに発展させる研究、実践、測定アプローチにまで及んでいます。
2026 Responsible AI Transparency Report では、Responsible AI Standard をどのように再設計したか、エージェント型 AI のガバナンスをどのように強化しているか、評価をどのように前進させ、AI の悪用にどう対処しているかなど、これらの取り組みをさらに詳しく紹介しています。私たちが何を学び、何を変え、優先事項をどのように実践へ移しているのか、ぜひレポートをご覧ください。
AI がより強力になり、人々の生活により深く浸透する中、私たちはこれからも幅広い関係者の声に耳を傾け、学び続け、セーフガードを強化していきます。そして今後も、人々と組織のエンパワーメントを戦略の中心に据えていきます。
———————————
本ページのすべての内容は、作成日時点でのものであり、予告なく変更される場合があります。正式な社内承認や各社との契約締結が必要な場合は、それまでは確定されるものではありません。また、様々な事由、背景により、一部または全部が変更、キャンセル、実現困難となる場合があります。予めご了承下さい。