※本ブログは、米国時間 2023 年 2 月 2 日に公開された ”Meeting the AI moment: advancing the future through responsible AI” の抄訳を基に掲載しています。
昨年の初夏、マイクロソフトのシニアリーダーと責任ある AI の専門家による小規模グループが、現在世界で ChatGPT として知られているものと類似した OpenAI のテクノロジを使い始めました。2019 年以来 OpenAI でこのテクノロジの開発者と緊密に協力してきた人たちにとっても、最近の進歩は目を見張るものだと感じるようです。2033 年頃になるだろうと思われていた AI の開発は、どうやら 2023 年に到来することになりそうです。
この業界の歴史を振り返ると、重要な分岐点となる年があったことがわかります。例えば、1995 年にはブラウザの流行によってインターネットの利用が爆発的に増加しましたし、2007 年には iPhone の発売でスマートフォンの成長が加速しました。そして今、2023 年が人工知能にとって重要な変曲点となる可能性が高まってきたのです。これは人類にとって大きなチャンスであるとともに、この技術を開発する人たちの責任がさらに重くなるということです。この分岐点となる年を、単に AI を新たに進化させる年とするだけでなく、その先にある見込みと危険に対し、責任を持って効果的に対処する年にしなくてはなりません。
これは大きな賭けとなるでしょう。AI は、生涯で最も重要なテクノロジの進化となるかもしれないのです。大げさに聞こえるかもしれませんが、そう言うには十分な理由があります。現在の最先端 AI は、批判的思考力を高め、創造的表現を刺激する強力なツールです。情報を探すだけでなく、疑問に対する答えを得ることもできるのです。複雑なデータやプロセスの中から知見を見いだすこともできますし、学んだことをより早く表現できるようにもなります。そして最も重要なのは、こうした能力がすべて数ヶ月から数年でどんどん高まっていくことなのです。
私は何ヶ月も前から、ChatGPT だけでなく、マイクロソフト社内で開発中の内部 AI サービスを使用しています。その中で、日々このテクノロジを最大限に活用する新たな方法を学んでいますが、より重要なこととして、この新しい AI 時代がもたらすより幅広い次元についても考えるようになりました。そこでの疑問は尽きません。
例えば、これで何が変わるのでしょうか?
端的に言うと、時間とともにほぼすべてが変わるでしょう。というのも、AI はこれまでのテクノロジと異なり、その進化によって人間の思考力や推論力、学習力、そして表現力を高めるものだからです。実際、産業革命は今、知識労働の分野に到来しようとしています。その知識労働は、あらゆるものの基本となるものなのです。
これは、世界をより良くする大きなチャンスです。AI は生産性を高め、経済成長を促します。多くの仕事における雑務を減らすことにもなりますし、効果的に利用すれば仕事での創造力が高まり、生活に影響をもたらすことにもなります。大規模なデータセットから新しい知見が見いだせるようになれば、医学の新たな進歩や科学分野での新たな開拓を促進するとともに、ビジネス分野での新しい改善や、サイバーセキュリティと国家安全保障での新しい強力な防衛にもつながるでしょう。
こうした変化のすべてが良いものなのでしょうか。
そうあってほしいと願ってはいますが、当然そういうわけにはいきません。これまでのすべてのテクノロジがそうであったように、一部の人やコミュニティ、そして国家は、この進歩を道具だけでなく武器にも変えてしまうのです。残念なことに、このテクノロジを使って人間の本質的な欠陥を悪用する人や、意図的に偽情報を流す人、民主主義を弱体化させる人、さらにはより高度に悪を追求しようと新たな方法を模索する人もいます。新しいテクノロジは、残念ながら人の良い面も悪い面も引き出してしまうものなのです。
そして何より、このことは深い責任感をもたらします。あるレベルでは全員にとっての責任感であり、さらに高いレベルでは、テクノロジそのものの開発と展開に携わる人たちにとっての責任感です。
人類が AI をどう活用することになるのかを考えると、楽観的になる日もあれば悲観的になることもあります。何よりも、私たち全員が確固たる態度でいるべきなのです。期待に対する熱意を持ってこの新しい時代に突入すると同時に、しっかりと目を見開き、その先にある避けられない落とし穴には断固とした姿勢で対処していかなくてはならないのです。
幸いにも、私たちはまったく何もない状態から始めているわけではありません。
マイクロソフトでは、2017 年より責任ある AI インフラの構築に取り組んでいます。これは、サイバーセキュリティ、プライバシー、デジタルセーフティの領域における同様の取り組みと並行して進めており、より大きな企業リスク管理のフレームワークともつながっています。このフレームワークが、責任ある AI の原則や、ポリシー、プロセス、ツール、ガバナンスシステムの構築に役立ちました。その過程で、OpenAI にて同様に真摯な取り組みを進める責任ある AI の専門家と共に作業し、共に学びました。
今、この責任にあらためてコミットし、過去 6 年間の取り組みを集約させてより多くのことをより迅速に進めなければなりません。マイクロソフトと OpenAI は、テクノロジが進化し続けていることを認識しており、継続的な関与と改善を進めていく考えです。
責任ある AI の基盤
マイクロソフトは 6 年間にわたり、当社の AI システムが確実に責任を持って設計されるよう、全社的なプログラムに投資してきました。2017 年には、研究者、エンジニア、政策専門家による Aether Committee (エーテル委員会) を立ち上げ、責任ある AI の課題に焦点を当てて AI の原則を構築、その原則を 2018 年に採択しました。2019 年には、責任ある AI のガバナンスを調整するため、Office of Responsible AI (責任ある AI 事務局) を設立し、責任ある AI 基準の最初のバージョンを立ち上げました。これは、当社におけるハイレベルの原則を、エンジニアリングチーム向けの実用的なガイダンスに置き換えるフレームワークです。2021 年には、このプログラムを運用するための主要な構成要素を解説しています。これには、ガバナンス構造の拡大や、従業員が新たなスキルを身につけられるようなトレーニング、実装をサポートするプロセスやツールなどが含まれています。そして 2022 年には、責任ある AI 基準を強化し、第 2 バージョンへと進化させました。これは、事前に危害を及ぼすであろうものを特定し、それを測定して軽減できるよう、実用的なアプローチを用いて AI システムを構築し、最初からシステム内に制御が組み込まれるようにする方法を定めたものです。
責任ある AI プログラムの設計と実装においては、常に学ぶことが多く、しかも重要なことばかりでした。2022 年の夏に最初に取り組んだことのひとつは、学際的なチームと協力してOpenAI と連携し、彼らの既存研究に基づき、追加で保護手段を適用することなく最新のテクノロジがどのように機能するか評価することでした。すべての AI システムに言えることですが、製品開発に取り組む際は、テクノロジの機能だけでなく、その限界についても深く理解できる初期の基準値を設定した上でアプローチすることが重要です。そこでまずは、固定概念を存続させるようなコンテンツを生成する機能がモデルにあることや、説得力はあるものの実際には間違った回答を作り出す機能がこのテクノロジにあることなど、よく知られたリスクを一部特定しました。人生のあらゆる側面と同じで、問題解決における最初の鍵となるのは、その問題を理解することだからです。
こうした初期の知見による恩恵を受け、当社の責任ある AI エコシステムの専門家はさらなる措置を講じました。研究者や政策専門家、そしてエンジニアリングチームが力を合わせ、このテクノロジの潜在的な危害を研究、特注で測定パイプラインを構築し、効果的な緩和策を繰り返したのです。こうした措置の多くは前例がなく、中にはこれまでの考えを疑うようなものもありました。マイクロソフトでも OpenAI でも、関係者は急速な進歩を遂げました。責任ある AI の最先端技術を発展させるために必要な専門知識の深さと幅広さ、そして新しい規範や基準、法律の必要性が高まっていることを、ここであらためて実感しました。
この基盤をベースに
当社では、将来に向けてさらなる取り組みを進める予定です。AI モデルが継続的に進化する中で、新たな疑問や未解決の研究課題に対応する必要があることも、測定ギャップを埋め、新たな施策やパターン、ツールを設計する必要があることも理解しています。この先に進むにあたっては、謙虚な姿勢で日々耳を傾け、学び、改善することを忘れずに取り組んでいく考えです。
ただし、当社自身の努力や、同じ志を持った組織の努力だけでは不十分です。AI によるこの変革の瞬間には、このテクノロジがもたらす影響について、プラス面もマイナス面も含めてより広大な視野で捉え、関係者間でより幅広く議論する必要があります。さまざまな分野で深く対話し、協力体制を敷き、未来の指針を定めなくてはならないのです。
そこで、3 つの重要な目標に焦点を当てる必要があると考えています。
まず 1 点目は、AI が責任を持って倫理的に構築され、使用されるようにすることです。AI のような変革的なテクノロジには新たな規則が必要だということは、歴史が物語っています。責任ある企業が積極的に自主規制することで、その新たな法律への道を切り開くことにもつながりますが、すべての組織が自発的に責任ある慣行を採用するわけではないこともわかっています。国やコミュニティは、民主的な法律制定プロセスによって人が法の下で保護されるよう、どこに線を引くべきか社会全体で議論しなくてはなりません。当社の見解では、効果的な AI 規制というものは、最もリスクの高いアプリケーションに重点を置き、急速に進歩するテクノロジと変化する社会の期待の中では結果を重視し、永続的なものにしなくてはならないという考えです。AI のメリットをできるだけ広く普及するには、世界中の規制手段も AI そのものと同様、相互運用性と適応性を備えている必要があります。
2 点目は、AI によって国際競争力と国家安全保障を確実に高めるようにすることです。認めたくない人もいるとは思いますが、この世の中は技術的優位性が国際競争力と国家安全保障の核となる断片化した世界であり、それを認めなくてはならないのです。AI は、その競争の中で次の最先端領域となるものです。OpenAI とマイクロソフト、そして Google の DeepMind との組み合わせにより、米国は技術的リーダーシップを維持する最適な立場にあるといえます。他の国でもすでに投資が行われているため、民主的価値観を持つ他の国でも米国がその足場を拡大することに目を向けるべきでしょう。ただし、この AI の次の波における第 3 の主要プレイヤーとして、北京智源人工智能研究院 (Beijing Academy of Artificial Intelligence) の存在も忘れてはなりません。また、先週には中国の Baidu が、AI のリーダー的役割を担うと表明しています。米国と民主主義社会は、データ、AI スーパーコンピューティングのインフラ、人材といった領域に関するより広範な公共政策のリーダーシップとともに、AI の発展を支える複数の強力なテクノロジリーダーがより幅広く必要になってくるのです。
3 点目は、AI が狭い範囲にとどまらず、広く社会に役立つものにしなくてはならないということです。これまでの歴史から、重要な技術的進歩が人や組織の適応能力を越えてしまうこともあることがわかっています。そこで、足並みを揃えるための新たな取り組みを用意することで、労働者が AI によって能力を高め、学生がより良い教育成果を達成し、個人や組織が公平で包括的な経済成長を享受できるようにする必要があるのです。子どもをはじめ最も弱者とされる人たちが AI を駆使した世界で成功するには、これまで以上にサポートが必要です。また、この技術革新の次の波が、精神衛生やウェルビーイングを徐々に損ねるものではなく、確実に高めるようにしなくてはならないのです。そして最終的に、AI は人、そして地球に役立つものでなくてはなりません。AI は、環境への影響を分析し、クリーンエネルギー技術の開発を進めるとともに、クリーンな電力への移行を加速するなど、気候危機に対処するにあたり極めて重要な役割を果たすことができるでしょう。
この目標達成の瞬間に向け、マイクロソフトは公共政策への取り組みを拡大する予定で、市民社会や学界、政府、産業界とのより深い新たなパートナーシップの構築に取り組んでいます。協力して取り組む必要があるのは、対処すべき懸念点と、最も有望と考えられる解決策をより完全に理解することです。今こそ AI の進む道に関する規則について協力する時なのです。
最後に、ここ数ヶ月でこうした課題について考える中で、私の脳裏に何度も浮かんだ共通する思いについてお話しします。
まず、この問題は、技術者だけに任せておくわけにはいかないほど重要なことだという点です。また同様に、テクノロジ企業を巻き込むことなくこうした進歩を予測する方法も対処する方法もないということです。この取り組みには、これまで以上に大きな器が必要となるのです。
次に、人工知能の未来には学際的なアプローチが必要だということです。テクノロジ業界はエンジニアが築いたものですが、AI が真に人類に役立つものとなるには、将来的にコンピュータやデータサイエンティストはもちろん、あらゆる職業やあらゆる考えの人を結びつける必要があります。このテクノロジには、これまで以上に人文科学や社会科学の教育を受け、平均以上の常識を身に着けた人材が必要となるのです。
最後に、おそらく最も重要なことですが、自信よりも謙虚さがより役に立つということです。意見や予測を語る人はこれからも後を絶たないでしょうし、その多くは検討する価値もあるでしょう。それでも私は、ウォルト ウィットマン (Walt Witman)、いやテッド ラッソ (Ted Lasso) だという人もいるかもしれませんが、その人によるお気に入りの言葉について考えることがよくあります。それは、
「批判するのではなく、興味を持て」
という言葉です。新しい時代に突入しようとする今、私たちは共に学ぶ必要があるのです。
—
本ページのすべての内容は、作成日時点でのものであり、予告なく変更される場合があります。正式な社内承認や各社との契約締結が必要な場合は、それまでは確定されるものではありません。また、様々な事由・背景により、一部または全部が変更、キャンセル、実現困難となる場合があります。予めご了承下さい。
