ブラッド スミス
マイクロソフト コーポレーション 副会長 兼 プレジデント
※本ブログは、2023 年 10 月 5 日 (米国時間) に公開した “Advancing AI governance in Japan” の抄訳をもとにしています。
本ブログは、ブラッド スミス (マイクロソフト コーポレーション 副会長 兼 プレジデント) が当社のレポート「Governing AI: A Blueprint for Japan (AI のガバナンス: 日本に関する青写真)」向けに執筆した序文です。本レポートの第一部では、日本が AI に関する政策、法律、規制を検討する 5 つのポイントについて述べています。また、第二部では、マイクロソフト社内の倫理的な AI への取り組みに焦点を当て、どのように責任ある AI の運用を行い、文化を構築しているかを紹介しています。さらに、第三部では、AI がすでに日本の主要な社会問題の解決に役立っていることを示す事例を紹介しています。レポートの全文はこちら。
「問うべきなのは、『コンピューターで何ができるか』ではない。『何をすべきか』である」
これは、私が 2019 年に Carol Ann Browne と共同執筆した書籍の AI と倫理に関する章のタイトルです。当時、「これは私たち世代の代名詞になるような問いかもしれない」と書きましたが、4 年経った今、この問いは世界中の首都においてだけでなく、多くの食卓においても、話題の的となっています。
OpenAI の GPT-4 の基盤モデルの力を利用したり、その噂を耳にする人が増えるにつれ、驚きの声やあっけにとられる声があちこちから上がってきました。多くの人が熱狂し、興奮している一方、懸念を示す人、恐怖を感じる人もいます。著書で 4 年前に指摘したことが、ほとんどの人々にも明らかになりました。要するに、私たちは、これまで人間にしかできなかった意思決定ができる機械を人類の歴史上初めて作り上げた世代となったのです。
世界中で、次のような共通の疑問が呈されています。この新しいテクノロジを使ってどのように問題を解決できるのか。このテクノロジが引き起こし得る新たな問題をどのように回避し、管理するのか。これほど強力なテクノロジはどのように制御すればよいのか。こうした問いには、幅広く思慮深い対話だけでなく、断固とした効果的な行動も求められます。
日本の場合、これらの問題はさらに重要です。過去半世紀の間、日本ほど強靭性と革新性に富んだ国はあまりありませんでした。しかし、この先 2030 年までとそれ以降、国民の要求と議論の中心がテクノロジに集中するような新たな機会と課題が生じるでしょう。
日本で問われている問題の 1 つは、労働人口の減少と高齢化にどう対応し、支えるのかです。日本は、AI の力を活用して、人口構成の変化やその他の社会変化に対応しながら経済成長を促進する必要があるでしょう。本書では、マイクロソフトの企業としてのアイデアと提案を日本の状況に当てはめていくつかご紹介します。
世界の人々の役に立ち、信頼される AI ソリューションを開発するために、マイクロソフトは取り組みの指針となる倫理原則を定義、公開し、実践してきました。また、これらの原則を実践するべく、エンジニアリングとガバナンスのシステムを構築し、継続的に改善してきました。マイクロソフトでは現在、約 350 名が責任ある AI に取り組んでおり、社会に役立つよう設計された安全かつセキュアで透明性の高い AI システムを構築するにあたってベスト プラクティスが実践できるよう支援しています。
人間の状態向上に向けた新たな機会
こうしたアプローチが進化した結果、マイクロソフトでは責任ある AI が人々の生活を向上させる方法が増大していく様子が見えるようになり、その力に確信を持つようになりました。GPT-4 のような基盤モデルの力が、生活の中で副操縦士として機能することで、検索がさらに強力な調査ツールへと変わり、仕事の生産性を高めます。また、13 歳の子供の代数の宿題を手伝いたいが思い出せなくて四苦八苦している親にとっては、AI ベースのアシスタントが家庭教師になって助けてくれます。
このテクノロジは、作業の迅速化、簡素化、向上を支援することで日常的な作業に役立つ一方で、AI の真の可能性は世界の最も捉えにくい問題のいくつかを明らかにすることが期待されていることにあります。個人の視力を補助する、がんの新しい治療法を進化させる、タンパク質に関する新たな知見を生み出す、危機的天候から人を守る予測を提供する、など AI の活躍も目にしてきました。その他にも、サイバー攻撃を回避する、外国からの侵略や内戦に苦しむ国々において基本的人権を保護する、などにイノベーションが役立てられています。
マイクロソフトは、本書の第 3 部で取り上げる日本からの革新的なソリューションについて楽観的に捉えています。これらのソリューションは、教育、高齢化、医療、環境、公共サービスなどのさまざまな領域における喫緊の課題のいくつかが、日本の創造性とイノベーションによって対処可能であることを示しています。
AI は非常に多くの点で、おそらくこれまでのどの発明よりも人類に利益をもたらす可能性を秘めています。1400 年代に活版印刷機が発明されて以来、人類の繁栄は加速度的に拡大してきました。蒸気機関、電気、自動車、飛行機、コンピューティング、インターネットなどの発明は、現代文明の構成要素の多くをもたらしてきました。そして AI は、印刷機自体と同じく、人間の学習と思考の進化を真に支える新しいツールなのです。
将来に向けた安全対策
もう 1 つの結論も同様に重要です。それは、AI の使用で生活を向上させるさまざまな機会に焦点を当てるだけでは十分ではないということです。これはおそらく、ソーシャル メディアの役割から得た極めて重要な教訓の 1 つと言えるでしょう。10 年余り前、技術者も政治評論家も、「アラブの春」の間に民主主義を広めるにあたってソーシャル メディアが重要な役割を果たしたことを熱弁していました。しかし、それから 5 年後、ソーシャル メディアはそれまでの多くのテクノロジと同じく、武器にもツールにもなることを私たちは学びました。このときは、民主主義それ自体がターゲットでした。
10 年経った今、私たちはさらに賢明になっており、その知恵を働かせる必要があります。そして、今後待ち受けている可能性のある問題について、早い段階から明敏に考える必要があります。
また、AI を適切に制御することは、そのメリットを追求するのに匹敵するほど重要であると考えます。マイクロソフトは企業として、安全かつ責任ある方法で AI を開発し、展開することにコミットしており、断固とした姿勢で取り組んでいます。AI に必要な安全対策は、広範囲で責任を共有する必要があり、テクノロジ企業だけに任されるべきではありません。私達の AI 製品やガバナンス プロセスは、多様な利害関係者の観点が反映されるべきであり、それが私達自身とは異なる文化状況や社会経済状況の下で AI テクノロジを開発し、展開する助けになります。
2018 年、マイクロソフトは AI に関する 6 つの倫理原則を採択し、そのうちの説明責任という 1 つの原則が他のすべての基盤であると記しました。なぜならば、今後も機械が人間の効果的な監視対象であり続けるようにし、機械を設計し運用する人が他の全員に対して説明責任を果たすようにすることは根本的な要件だからです。要するに、AI を常に人間の支配下に置くことを保証する必要があります。これは、テクノロジ企業にとっても政府にとっても最優先事項にしなくてはなりません。
またこれは、もう 1 つの重要な概念に直結しています。民主主義社会の根本原則の 1 つに「法を超越した存在はない」というものがあります。政府も法を超越した存在ではなく、企業であれ、製品やテクノロジであれ、法を超越した存在であってはならないのです。ここから重要な結論が導き出されます。AI システムを設計し運用する人が説明責任を果たすには、その意思決定や行動が法律に基づいていなくてはならないのです。
これは色々な意味で、目下展開されている AI の方針と規制に関する議論の中心となっています。では、AI が法規制に従うよう保証するために政府はどうすればよいでしょうか。言い換えれば、新しい法律、規制、方針はどのような形を取るべきでしょうか。
AI の公共ガバナンスのための 5 項目から成る青写真
マイクロソフトは、責任ある AI プログラムで得られた教訓を基に、AI ガバナンスの推進に役立つ 5 項目から成るアプローチの詳細を示す青写真を 5 月に公開しました。ここでは、日本の状況に即してそうした政策アイデアや提言を示します。提言にあたって、この青写真のすべての部分がより幅広い議論により改善の余地があること、そしてさらに深く展開する必要があることを謙虚に認識しています。しかし、この青写真の提供により今後の取り組みに建設的に寄与することを願っています。そのための具体的なステップは以下のとおりです。
- 政府主導の新たな AI 安全フレームワークを実装し、それをベースに構築する
- 重要インフラストラクチャを制御する AI システムのために、効果的な安全ブレーキを義務付ける
- AI のテクノロジ アーキテクチャに基づく、幅広い法規制の枠組みを策定する
- 透明性を促進し、学術界や非営利団体が AI を利用できるようにする
- 新たな官民パートナーシップの推進により、新しいテクノロジに付随する不可避の社会的課題に対処するための効果的なツールとして、AI を使用する
さらに広い意味では、AI ガバナンスのさまざまな側面を国際レベルで正しく機能させるには、各国の国内ルールを結び付けて、ある法域で安全と認められた AI システムが別の法域でも安全と認定できる多国間の枠組みが必要になるでしょう。実際、この前例は数多くあります。たとえば、国際民間航空機関が定めた共通安全規格がそうで、これは東京からニューヨークへの飛行中に機体の改修が不要になることを意味します。
日本は、現在の G7 議長国として、広島 AI プロセス (HAP) の立ち上げと推進に素晴らしいリーダーシップを発揮してきた実績があり、AI 問題に関する世界的な議論や多国間の枠組みを前進させることができる立場にあります。HAP を通じて、G7 首脳と各方面の関係者は AI ガバナンスに対する協調的アプローチの強化と、人権と民主主義的価値観を支持する信頼できる AI システムの開発の促進を図っています。世界的な原則の策定に向けた努力は、G7 を超えて OECD や GPAI (Global Partnership on AI) などの組織にも広がりつつあります。
2023 年 9 月に発表された G7 デジタル技術大臣会合閣僚宣言では、AI システムの開発者と導入者を含むすべての AI 関係者に対する国際的な基本原則を策定する必要性を認めています。また、高度な AI システムを開発する組織の行動規範も支持しています。こうした取り組みへの日本のコミットメントとこれらの対話における戦略的位置を考えると、多くの国が AI 規制に関する日本のリーダーシップと模範的行動に期待を寄せるでしょう。
日本が示しているように、責任ある AI に対する国際的に相互運用可能かつ俊敏なアプローチの実現に向けた取り組みは、AI のメリットを地球規模で最大化するために欠かせません。マイクロソフトは、AI ガバナンスが目的地ではなく継続的な取り組みであることを認識しながら、これらの活動を何か月も何年もかけて支援していきたいと考えています。
マイクロソフト内での AI ガバナンス
最終的には、高度な AI システムを開発/使用するすべての組織が独自のガバナンス システムを発展させ、実装する必要があります。第 2 部では、マイクロソフト内での AI ガバナンス システム、つまり、私たちがどこからスタートし、現在はどこに位置し、どのように未来に向かっているのかについて説明します。
このセクションで確認したとおり、新しいテクノロジに対応する新しいガバナンス システムの開発は、それ自体が 1 つの過程です。10 年前、この分野はかろうじて存在している程度でした。現在、マイクロソフトには AI を専門とする従業員が 350 名ほどおり、この数をさらに増やすために、来年度への投資を行っています。
このセクションで述べてきたとおり、過去 6 年間で、さらに包括的な AI ガバナンスの構造およびシステムをマイクロソフト全体で構築してきました。私たちはゼロからスタートしたのではなく、サイバーセキュリティ、プライバシー、デジタルの安全性を保護するためのベスト プラクティスを流用しました。これはすべて、企業の包括的なエンタープライズ リスク管理 (ERM) システムの一環であり、現代の世界における企業およびその他多くの組織を管理するうえで欠かせないものとなっています。
AI に関して、マイクロソフトはまず倫理原則を策定しましたが、これを基にさらに具体的な企業ポリシーを作成する必要がありました。現在は、これらの原則を具体化した企業基準のバージョン 2 を整備して、エンジニアリング チームが従うべきより的確なプラクティスを定義しています。この標準の実装にあたっては、迅速かつ継続的に成熟しているトレーニング システムやツール システム、テスト システムを活用しています。この標準は、監視、監査、コンプライアンス対策など、追加のガバナンス プロセスによってサポートされます。
人生のすべてに言えることですが、人は経験から学びます。AI ガバナンスに関しては、さる機密性の高い AI のユース ケースをレビューする際に必要となった詳細な作業から、特に重要な学習ができました。2019 年、マイクロソフトは社内でも最も機密性の高い斬新な AI ユース ケースを対象として、機密性の高いユース ケースのレビュー プログラムを設定し、厳密で専門的なレビューを実施して、カスタマイズされたガイダンスが得られるようにしました。それ以降、マイクロソフトが完了した機密性の高いユース ケースのレビュー件数はざっと 600 件になります。この活動のペースは AI の進化のペースに匹敵する速度で加速しており、過去 11 か月間でほぼ 150 件にのぼるレビューを行っています。
こうしたことはすべて、マイクロソフトが企業文化を通じて責任ある AI を推進するため行ってきた取り組みに基づいており、この取り組みは今後も続けていきます。つまり、今後も新しく多様な人材を採用し、責任ある AI のエコシステムを成長させると共に、社内の既存の人材に投資してスキルを高めてもらい、AI システムが個人や社会に与える潜在的影響についてより幅広い視野から考えられるよう能力を強化するのです。また、テクノロジの最前線には、これまで以上に優れたエンジニアと多彩な教養分野の才能ある専門家を組み合わせた分野横断的なアプローチが求められます。
マイクロソフトの責任ある AI プログラムの開発には世界中の関係者が関与しています。マイクロソフトにとって重要なのは、これらの問題に取り組んでいる世界中の人々の優れた意見をプログラムに取り入れながら、AI ガバナンスに関する代表的議論を前進させることです。日本で近く開催されるマルチステークホルダー会議に参加できることに胸を躍らせているのはそのためです。
今年 10 月、日本政府は「私たちが望むインターネット – すべての人々のエンパワーメント」をメイン テーマに、インターネット ガバナンス フォーラム 2023 (IGF) を開催する予定です。IGF では、国際的な基本原則やその他の AI ガバナンスのトピックを推進するために、重要なマルチステークホルダー会議が予定されています。日本でのこれらの会議で他の参加者から学んだり、自社の高度な AI システムの開発と展開の経験をお話ししたりしながら、共通のルール作りに向けて前進できることを楽しみにしています。
マルチステークホルダー エンゲージメントのもう 1 つの例として、マイクロソフトの責任ある AI オフィスは 2023 年、スティムソン センターの Strategic Foresight Hub (戦略的展望ハブ) と組んで Global Perspectives Responsible AI Fellowship を立ち上げました。このフェローシップの目的は、AI とその社会に与える影響、および AI システムが導入される様々な社会状況、経済状況、環境状況をより適切に組み込む方法に関する実際の議論に、グローバル サウス諸国の市民社会、学界、民間部門からさまざまな関係者を招き入れることです。世界規模の包括的な調査の結果、アフリカ (ナイジェリア、エジプト、ケニア)、ラテン アメリカ (メキシコ、チリ、ドミニカ共和国、ペルー)、アジア (インドネシア、スリランカ、インド、キルギスタン、タジキスタン)、および東欧 (トルコ) からフェローを選定しました。今年中には、目下の課題に光を当てるための対話の結果とビデオ投稿を共有するほか、AI アプリケーションのメリットを活かすための提案、グローバル サウスにおける AI の責任ある開発と利用について重要な洞察を示す予定です。
本書の内容はすべて、私たちは人工知能の責任ある未来を築き上げるための共同の旅路に乗り出しているという精神で書かれています。私たちは皆、お互いに学び合うことができます。また、今日どんなに良いと思えても、さらに良くし続ける必要があります。
テクノロジの変化が加速する中、責任ある AI ガバナンスへの取り組みもその変化に遅れずについていく必要があります。常に全世界の AI システムの中心に人間を据えながら適切なコミットメントと投資を行えば、実現できるはずです。
マイクロソフト、副会長兼プレジデント
—
本ページのすべての内容は、作成日時点でのものであり、予告なく変更される場合があります。正式な社内承認や各社との契約締結が必要な場合は、それまでは確定されるものではありません。また、様々な事由・背景により、一部または全部が変更、キャンセル、実現困難となる場合があります。予めご了承下さい。
