副会長兼プレジデント
ブラッド スミス (Brad Smith)
※本ブログは、米国時間 2 月 16 日に公開された “Meeting the moment: combating AI deepfakes in elections through today’s new tech accord” の抄訳を基に掲載しています。
2024 年も数か月を過ぎた中、誰もが民主主義とテクノロジの歴史において特別な 1 年を経験することになります。人類史上最も多くの国と国民が、選挙で選ばれる指導者に投票することになります。同時に、AI の技術進化はますます加速しており、未曾有の利点を提供する一方で、悪質なアクターが候補者などの人物のリアルな「ディープフェイク」を作成し、有権者を欺くことも可能になっています。新テクノロジの将来性と危険性の対比が、これほど際立っていることはめったにありません。
結果的に、今年は、民主主義を尊重する私たち全員が力を合わせて、この課題に立ち向かわなければならない年になりました。
本日、Munich Security Conference において、テクノロジ業界関係者が一堂に会し、重要な一歩を踏み出しました。20 社 [1] が協力し、新たに Tech Accord to Combat Deceptive Use of AI in 2024 Elections を発表しました。その目的はシンプルですが、非常に重要です。立候補者や選挙関係者などの重要な利害関係者の外見、声、行動を偽造または改ざんする動画、音声、画像に対抗することが含まれています。党派的な取り組みでも、表現の自由を阻害するためのものでもありません。有権者がこの新たなタイプの AI による情報操作から解放され、自分たちを統治する人物を選ぶ権利を維持できるようにすることを目的としています。
これは困難な課題であり、非現実的な期待は避けなければなりません。しかし、この協定は、3 月初旬から年末にかけて 65 か国以上で実施される選挙を守らなければならないこの重要な時期に、テクノロジ業界を具体的かつ自主的なコミットメントで団結させるという、稀に見る決定的一歩が踏み出された点で意義のあるものです。
さらなる対策が必要ではあるものの、本日は、直ちに実践的な措置を講じ、より広範な行動の機運を生み出すための、真に世界的なイニシアティブの発足を記念するものです。
解決すべき問題は何か?
まず、解決すべき問題は何かから説明していきましょう。新たな生成 AI ツールにより、人の外見、声、行動を摸倣した、リアルで説得力のある音声、映像、画像を作成することが可能になりました。いわゆる「ディープフェイク」と呼ばれるものです。作成コストは安価ですが、驚異的な結果が得られます。昨年、マイクロソフトの AI for Good Lab が初めてこのことを実証してくれました。彼らは既製の製品を使い、計算時間に 20 ドル以下を費やしただけで、私の口から好きな言葉を発声させるだけでなく、声の響きや唇の動きに合わせてスペイン語や北京語でも話せるようにしたリアルなビデオを作成しました。
実際、私はフランス語が苦手で、英語ですらもつっかえることがあります。他の言語では片言しか話せません。しかし、私のことを知らない人から見れば、動画は本物に見えました。
AI は、偽のウェブサイトやソーシャルメディア上のボットなど、私たちが 10 年以上にわたって取り組んできたものよりも危険性が高い新たな形の情報操作を可能にします。ここ数か月で、この拡大する問題と、それが選挙にもたらすリスクを、より多くの国民が認識するようになりました。ニューハンプシャー州の予備選に先立ち、有権者の元に AI を使ってバイデン大統領の声と言葉を偽った自動音声通話がかけられました。これは、12 月に始まったスナク英国首相の複数のディープフェイク動画公開に続く動きです。これらの動画は、本物のニュース動画に偽の音声を挿入するロシアが主導した取り組みなど、MTAC (Microsoft Threat Analysis Center) の調査により国家支援型アクターによるものと判断されたディープフェイク動画と類似しています。
これらすべては、悪質なアクターが AI やディープフェイクを使って選挙で国民を欺く危険性が高まっていることを示しています。そして、これは、世界のあらゆる民主主義社会の礎石である、正確な情報に基づいた国民が、自分たちを統治するリーダーを選ぶ能力にも関わってきます。
このディープフェイクへの挑戦は、テクノロジ業界の 2 つの部分をつなぐものです。1 つ目は、リアルなビデオ、オーディオ、画像ベースのコンテンツを作成するために使用できる AI モデル、アプリケーション、サービスを提供している企業です。そしてもう 1 つは、個人がディープフェイクを一般に配布するために利用できる消費者向けサービスを運営する企業です。マイクロソフトはこの両方の領域で活動しています。データセンター内の Azure で AI モデルやサービスを開発、ホスティングし、音声合成テクノロジを開発し、Copilot や Bing で画像作成ツールを提供し、高品質な画像を容易に作成できるグラフィックデザインアプリである Microsoft Designer のようなアプリケーションを提供しています。そして、LinkedIn や Gaming ネットワークといったホスト型の消費者向けサービスも運営しています。
これにより、マイクロソフトは、問題の変化の全容と新たな解決策の可能性の両方を見ることができる立場にあります。この問題が大きくなるにつれ、マイクロソフトの AI for Good Lab のデータサイエンティストやエンジニア、そして MTAC のアナリストは、ディープフェイクの特定、悪質なアクターの追跡、その戦術、技術、手順の分析などに、より多くの力を投入するようになりました。ある面では、ダークウェブでの調査活動など、Digital Crimes Unit の活動を通じてマイクロソフトが長い間行ってきた取り組みに類似しています。ディープフェイクの挑戦に打ち勝つのは難しいでしょうが、マイクロソフトはすぐに使えるツールを数多く有していることを確信しています。
他の多くのテクノロジの問題と同様に、最も基本的な課題は技術的なものではなく、完全に人間的な要素です。2023 年の終盤、世界中でディープフェイクが話題に上るようになりました。しかし、何かをしなければならないということには誰もが同意しているようでしたが、特に共同作業ベースで十分なことをしている人はあまりにも少なかったのです。選挙の時は迫っており、時間がないように感じられました。何にも増して、この新たな危機感の必要が、本日、ミュンヘンで発表された協定につながる共同作業の火付け役となりました。
テクノロジ業界による本日の発表内容は何なのか? それは変化をもたらすのか?
本日は、テクノロジ業界全体にわたる多くの企業の優秀な人々の努力の集大成であり、重要な日だと考えています。新協定は、ディープフェイクの作成に使用できる AI サービスを開発する企業と、ディープフェイクが広まる可能性のあるホスト型消費者サービスを運営する企業という、業界の関連する両グループの企業を結集したものです。この挑戦は手強いものですが、今年行われる選挙を適切に守るための重要な一歩です。
この協定が何を目指すのか、そしてマイクロソフトとして直ちに何を行うのかを説明するのは有益でしょう。
この協定は、具体的に定義されたディープフェイクの悪用に明確にフォーカスしています。「欺瞞的な AI 選挙コンテンツ」に対応するものです。これは「民主的選挙において、政治家立候補者、選挙管理人、その他の重要な利害関係者の外見、声、行動を欺瞞的に偽造または変更する、あるいは有権者に対し、いつ、どこで、どのように合法的に投票できるかについて虚偽の情報を提供する、AI が生成した説得力のある音声、映像、画像」と定義されます。
この協定は、8 つの具体的なコミットメントを通じて、このコンテンツの乱用問題に対処します。どれも一読の価値があります。私の考えでは、これらは熟考すべき 3 つの領域に分類されます。
第 1 に、この協定のコミットメントによって、悪質なアクターが正規のツールを使ってディープフェイクを作成することがより困難になります。協定の最初の 2 つのコミットメントは、この目標を推進するものです。その一環として、コンテンツ生成ツールを作成する企業の活動にフォーカスし、悪用を防ぐためのリスク評価と管理強化によって、AI サービスの安全アーキテクチャを強化するよう求めています。これには、継続的なレッドチーム分析、先制的クラシファイア、悪用プロンプトのブロック、自動テスト、システムを悪用するユーザーの迅速な利用禁止などの要素が含まれます。これらはすべて、強力で広範なデータ分析に基づいている必要があります。これは設計思想としての安全性と見なすことができます。
また、ハイテク業界がコンテンツプロヴェナンスと呼ぶ出所確認や電子透かしを進めることで、コンテンツの信憑性にもフォーカスしています。動画、音声、画像を制作する製品は、誰がいつ作成したか、どの製品が使用されたか、そして、制作に AI 関与したかに関する情報をメタデータに添付したり、作成したコンテンツに信号を埋め込んだりすることで、コンテンツプロヴェナンス機能を組み込むことができます。これにより、メディア企業、さらには、消費者のコンテンツの真贋判別能力を向上できます。ここで、朗報として、業界全体が C2PA 標準という共通アプローチに迅速に結集していることが挙げられます。
しかし、プロヴェナンスだけでは十分ではありません。悪質なアクターは他のツールを使ってコンテンツからこの情報を取り除くことができるからです。その結果、C2PA で署名されたメタデータと共に不可視の電子透かしを埋め込むなどの方法を追加したり、これらの信号が削除されたり劣化した後でもコンテンツを検出する方法を探求することが重要になります。たとえば、画像に一意のハッシュをフィンガープリントすることで、安全なデータベース内の出所記録と照合することができます。
本日の協定は、このような技術的アプローチへのコミットメント、イノベーション、そして採用において、テクノロジ業界をさらに前進させる一助となるものです。これは、昨年 7 月に米国のいくつかの企業が初めて取り入れたホワイトハウスの自主的コミットメントと、欧州連合のデジタルサービス法が選挙プロセスの完全性に焦点を当てていることに基づいています。マイクロソフトでは、製品やサービス全体にわたって、この分野での取り組みを加速しています。そして、来月には、マイクロソフトの専門チームが支援する、世界中の政治家候補を支援するための新サービスである Content Credentials as a Service を開始します。
多くの意味で、これらの新テクノロジが、私たちが 25 年以上にわたってマイクロソフトで追求してきた仕事の最新の章を表しているという事実に勇気づけられています。1990 年代初頭に CD-ROM や DVD が普及すると、模倣品業者はマイクロソフトの人気製品の本物そっくりの偽バージョンを作り、消費者を欺こうとしました。
マイクロソフトは、目に見えない物理的な電子透かしなどの高度な偽造防止機能で対応しました。これは、マイクロソフトが今日進めているデジタル保護の先駆けです。マイクロソフトの Digital Crimes Unit は、この機能をグローバルに展開し、長期的に偽造技術に対抗できるアプローチを開発しました。犯罪を根絶することは不可能ですが、今日の技術進化を効果的に活用するために、マイクロソフトは再びこうしたチームと決意と協力の精神を活かすことができます。
第 2 に、この協定は、選挙におけるディープフェイクを検知し、対応するためにテクノロジ業界を結集させるものです。この第 2 のカテゴリーはきわめて重要です。というのも、強固な悪質なアクター、特に資金力のある国家支援型アクターは、ディープフェイクを作成するための独自のテクノロジやツールに投資し、それらを使って選挙を混乱させようとするからです。その結果、私たちはこの活動を検知し、対応するための集団的行動に投資する必要があると考えなければなりません。
本日の合意における第 3 と第 4 のコミットメントは、業界の検出と対応能力を向上させるものです。マイクロソフトは、この両分野に迅速に取り組んでいます。検出の面では、AI for Good Lab と MTAC チームのデータサイエンスと技術力を活用し、インターネット上のディープフェイクの検出を強化しています。また、Digital Crimes Unit の専門知識を活用し、AI を活用した犯罪行為の早期発見のための新たな脅威インテリジェンスに投資していきます。
また、政治家候補が自分自身のディープフェイクに関する懸念をマイクロソフトに報告できる新しいウェブサイト Microsoft-2024 Elections を本日付で立ち上げます。言わば、これは世界中の立候補者によるディープフェイク検出を支援するものです。
この取り組みに加えて、Digital Safety Unit を拡大して再起動します。これは、既存のデジタルセーフティチームの活動を拡張するものです。当チームは、児童に影響を与えたり、過激派の暴力を助長したりする、虐待的なオンラインコンテンツや行為に長年取り組んできました。このチームは、大規模な銃乱射事件などの反社会的コンテンツを削除するために、24 時間 365 日対応する特別な機能を持ちます。
マイクロソフトは表現の自由に深くコミットしていますが、本日の協定の対象になるディープフェイクなどの欺瞞的な AI 選挙コンテンツが保護されるべきとは考えていません。そのため、LinkedIn や Gaming ネットワークなどの関連するマイクロソフトのサービスからポリシーと慣行に従ってこの種のコンテンツを削除し、禁止するために迅速に対応します。同時に、マイクロソフトの基準とアプローチを明確にしたポリシーを速やかに公表し、ユーザーが自分のコンテンツが誤って削除されたと考えた場合に迅速に対応できるよう、不服申し立てプロセスを設けます。
同様に重要な点として、協定の第 5 のコミットメントで取り上げられているように、マイクロソフトは、検知したディープフェイクに関する情報や、開発を支援しているベストプラクティスやツールについて、他のテクノロジ業界企業や適切な NGO と積極的に共有しています。マイクロソフトは、より強力な集団行動の推進にコミットします。これは、児童を保護し、インターネット上の過激派暴力に対処するために不可欠であることが証明されてきました。マイクロソフトは、他のテクノロジ企業や NGO がこれらの分野で長年進めてきた活動を深く尊重し、高く評価しています。これには、GIFCT (Global Internet Forum to Counter Terrorism) やChristchurch Call による政府や市民社会との協力が含まれます。
第 3 に、この協定は、選挙の透明性を高め、ディープフェイクに対する社会的な対応力を強化するのに役立ちます。協定の最後の 3 つのコミットメントは、透明性の必要性と、世界の民主主義国家全体で育まなければならない広範な対応力を扱っています。
協定の 第 6 のコミットメントに反映されているように、マイクロソフトは企業、そして、広範な組織の活動に関する公的な透明性の必要性を支持します。この透明性へのコミットメントは、マイクロソフトの Digital Safety Unit が立候補者のディープフェイクや、本日の協定で対象となったその他のカテゴリーに取り組む際のアプローチの一部となります。これには、マイクロソフトのポリシーとその適用方法に関するデータを網羅した新しい年次透明性報告書の作成も含まれます。
協定の第 7 のコミットメントは、テクノロジ業界が多様なグローバル市民社会組織、学術界、この分野の専門家との関与を続けることを義務づけるものです。これらの団体や個人は、世界の民主主義を推進し、保護する上で欠くことのできない役割を果たしています。2 世紀以上にわたり、奴隷制廃止や米国における選挙権拡大など、民主主義の権利と原則を推進するための重要な役割を担ってきました。
マイクロソフトは企業として、これらのグループの継続的関与を期待しています。多様なグループが一堂に会する時、いつも同じ視点からスタートするとは限りません。対話が困難な時も来るでしょう。しかし、私たちは長年の経験から、民主主義の特徴のひとつが、人々が常に互いに同意するわけではないということにあることを理解しています。しかし、人々が異なる意見に耳を傾ける時、ほとんどの場合、何か新しいことを学びます。そしてこの学びから、より良いアイデアとより大きな進歩の基盤が生まれます。おそらく、民主主義とテクノロジとの橋渡しをするためには、これまで以上に、さまざまなアイデアに耳を傾けるための広い視点が必要です。
また、これは、欺瞞的な AI の選挙コンテンツに関する国民の意識と対応力を促進するための活動への支援という、協定の最終コミットメントの基盤にもなるでしょう。フィンランドや台湾のような互いに遠く離れた地域の最近の選挙で私たちが直接学んだように、適切な情報を備えた国民こそが、選挙におけるディープフェイクのリスクに対する最善の防御策になるかもしれません。コンテンツが本物であるかどうかを示す C2PA インジケーターを容易に探せるようにすることが、マイクロソフトの広範なコンテンツプロヴェナンスの取り組みの目標のひとつです。しかし、そのためには、人々がどこをどのように探せばいいのかを知るための啓蒙活動が必要です。
マイクロソフトはこの最終的なコミットメントを実行に移すため、他のテクノロジ企業との協力関係構築や、一般市民が必要な情報を得られるようにするための市民団体の支援など、迅速に行動していきます。今後数週間のうちに新たなステップと発表がありますので、ご期待ください。
本日発表されたテクノロジ業界の協定は必要なことすべてに対応できるのか?
これが、今日踏み出した重要な一歩を考える上で、私たち全員が問うべき最後の質問です。そして、私の熱意とは裏腹に、この協定は選挙を守るために必要な多くの重要な措置のひとつに過ぎないということを最初に申し上げておきます。
その理由のひとつは、この挑戦があまりにも手強いためです。この取り組みでは、さまざまな企業が新たな一歩を踏み出す必要があります。悪質なアクターは自らイノベーションを行っていく可能性が高く、基礎となるテクノロジも急速に変化し続けています。私たちは高い目標を持つ必要がありますが、同時に現実的でもあるべきです。私たちは学び、革新し、適応し続ける必要があります。企業として、また業界として、マイクロソフトとテクノロジ業界は今日の一歩を基盤として、さらなる投資を続けていく必要があります。
しかし、それ以上に重要なのは、ハイテク業界だけでは、このような新しいタイプの選挙妨害から選挙を守ることはできないということです。仮にできたとしても、それは適切ではないでしょう。結局のところ、これは民主主義における指導者の選挙についての課題です。そして、テクノロジ企業の経営者や企業を国のリーダーに選んだ人はいません。
この最も基本的な命題を少しでも考えれば、選挙を守るためには、私たち全員が協力し合うことが必要であることは明らかです。
多くの点で、これは選挙で選ばれた指導者と、彼らが率いる民主的制度から始まります。民主主義社会の究極の保護は、法の支配そのものです。そして、他の場所でも述べたように、この拡大しつつある問題に対処するためには、既存の法律を行使すると共に、新たな法律の整備を支援することがきわめて重要です。つまり、世界は、選挙で選ばれた指導者たちによる新たな取り組みを必要としているのです。
とりわけ、十分な資金を持つ国家支援型の AI ディープフェイクの使用に対処するためには、これが不可欠です。サイバーセキュリティやサイバーインフルエンスに関するさまざまな分野で見られるように、高度な技術を持つ少数の政府が、個人、組織、さらには国に対する新しいタイプの攻撃に多大なリソースと専門知識を投入しています。おそらくは、まもなくサイバースペースこそが法の支配が最も脅かされている場所になるでしょう。そして、この問題に取り組むためには、政府間の協力によるリーダーシップが今まで以上に必要になるでしょう。
将来を考えれば、マイクロソフトで働く私たちには、新しい形のマルチステークホルダーのアクションも必要と思われます。パリ宣言やクライストチャーチ宣言のような取り組みが世界にプラスの影響を与えたのは、まさに政府、テクノロジ業界、市民社会から人々が集まり、国際的に協力するようになったからだと考えています。マイクロソフトは、ディープフェイクだけでなく、今日世界で起きているほとんどすべての技術的な問題に取り組んでおり、社会の一部が行動することで大きな問題を解決できることは考えにくいと感じています。
だからこそ、本日の協定で、「選挙の公正さと公共の信頼の保護は、党派的利害や国境を越えた共通の責任であり、共通の利益である」と明確に認識されたことが非常に重要なのです。
おそらく何よりも、これが私たちの究極の指針になるべきです。
巨大な技術革新の時代に、私たちは、互いに協力し合うことによってのみ、時代を超えた価値と民主主義の原則を守ることができるのです。
[1]Adobe, Amazon, Anthropic, ARM, ElevenLabs, Google, IBM, Inflection AI, LinkedIn, McAfee, Meta, Microsoft, Nota, OpenAI, Snap, Stability AI, TikTok, TrendMicro, TruePic, and X.
—
本ページのすべての内容は、作成日時点でのものであり、予告なく変更される場合があります。正式な社内承認や各社との契約締結が必要な場合は、それまでは確定されるものではありません。また、様々な事由・背景により、一部または全部が変更、キャンセル、実現困難となる場合があります。予めご了承下さい。
