※本ブログは、米国時間 2 月 22 日に公開された “A promising step forward on disinformation” の抄訳を基に掲載しています。
「何かできることはないだろうか」
2019 年初頭にダボスで開催された世界経済フォーラムから戻って以来、この言葉が私の心の中で響き続けていました。この問いかけは、マイクロソフトの民主主義保護プログラム (Defending Democracy Program) に関する取り組みについて議論するためにある大手報道機関のディレクターとミーティングを設定し、ディープフェイク (人工知能によって作られた偽物) ビデオをいくつか見た際に、そのディレクターが私に対して投げかけた率直な言葉です。そのビデオは、政治家リーダーが言ってもいないことを、AI やグラフィックを駆使して説得力のあるリアルな描写で生成できる様子を映し出していました。
合成メディアや巧みに処理されたメディアによって、ジャーナリズムと民主主義はリスクにさらされています。このことについて何かできることはないのでしょうか。新たな形式による偽情報と、口コミで共有されるインターネットコンテンツの組み合わせによって、これまでにないような課題が生まれています。この課題にはどう対処すればよいのでしょうか。
簡単な答えはありませんが、期待できるアイデアもいくつか出てきています。偽情報対策の重要な方向性のひとつは、コンテンツの出所となるオンラインメディアの起源や信ぴょう性、そして履歴を証明する技術を開発し、現場に投入することです。強力な組織間でのコラボレーションにより、この方向で進歩を遂げていることを嬉しく思います。
今日は新たな節目となる日です。マイクロソフトと BBC は、Adobe、Arm、Intel、Truepic と連携し、コンテンツの出所と信ぴょう性に関する連合 (C2PA: Coalition for Content Provenance and Authenticity) を設立しました。C2PA は、コンテンツの出所と信ぴょう性に対し、徹底したオープンスタンダードと技術仕様を策定する標準化団体です。基準の策定は、ニュース出版の起源に関する取り組みである Project Origin (Origin) と、デジタルコンテンツの属性に注目する Content Authenticity Initiative (CAI: コンテンツの信ぴょう性への取り組み) という 2 つの取り組みを基盤とする予定です。
C2PA は小規模な連合ですが、情報源の信ぴょう性を証明し、消費する情報の変化を追跡するという形でデジタルコンテンツの信頼をあらためて確立するという連合共通のミッションを掲げ、共に成長を続けます。この取り組みには、偽情報を撲滅したいと考えているグローバル組織や、見聞きするものに対する信頼を取り戻したいと考える消費者、また社会全体の利益を最優先に考える政策立案者や政治家らの参加が求められます。
探索から可能性へ
C2PA 設立の背景は、複数の組織による創造的な問題解決によるもので、革新的な取り組みが単独でも共同でも実施されています。
ダボスでのミーティング後、私は早速メディアの信ぴょう性と出所に対処するようなソリューションの簡単な概要を作ってみました。コンテンツのタグ付けには透かしと強力なセキュリティが必要なほか、時間とともに変化するコンテンツを保存し追跡する方法も組み合わせなくてはなりません。そこで、長年マイクロソフトリサーチに所属している同僚の専門知識を活用することにしました。その同僚とは、信号処理の専門家で、長年にわたって権利管理や圧縮技術に携わってきたヘンリケ (リコ) マルバー (Henrique (Rico) Malvar) と、セキュリティおよびプライバシーの専門家で、デバイス暗号化技術の Trusted Platform Module (TPM) を開発したポール イングランド (Paul England)、そして、安全でパフォーマンスの高いブロックチェーンネットワークの新たなカテゴリーを構築するオープンソースフレームワークである Confidential Consortium Framework (CCF) のプロジェクトを率いたセドリック フォーネット (Cédric Fournet) とマヌエル コスタ (Manuel Costa) です。
私はこの仲間に、次のような質問を投げかけました。オーディオコンテンツやビジュアルコンテンツのソースの正体を証明できるようなエンドツーエンドのパイプラインを構築し、コンテンツが送信される間、そしてそのコンテンツのライフサイクル全体にわたって、「カメラの感光面に当たるこの光の粒子は、消費者が見ているディスプレイの画素で適切に表現されている」と保証することはできないだろうか。また、こうした「ガラス対ガラス」のようなシステムが、コンテンツの生成後や送信時に一般的に発生する変化の許容範囲を超えた修正が行われているかどうかによって、デジタルメディアに対し正確に「合格」か「不合格」か採点することはできないだろうかということです。
私たちは何時間もホワイトボードに図を描き、アイデアをブレインストーミングし、潜在的ソリューションの弱点を探るなどして、やっと自信が持てる技術やテクニックのパイプラインにたどり着きました。初期メンバーとのこうした最初の取り組みは、ほんの始まりに過ぎませんでした。マイクロソフトリサーチのセキュリティ専門家であるジェイ ストークス (Jay Stokes) や、Azure Media Security 担当リーダーのアンドリュー ジェンクス (Andrew Jenks) など、その他多くの研究者やエンジニアの取り組みにより、メディアコンテンツの出所を証明する青写真となる Authentication of Media via Provenance (Amp: 出所によるメディアの認証) というソリューションを開発したのです。
ソリューションの実用化に向けて
提案されたソリューションを、ホワイトボードから紙、プロトタイプ、そして実際のニュースメディアへと移すには、強力なパートナーシップが必要で、特にコンテンツの制作・配信といった事業に携わるパートナーが求められます。強い共感が得られたのは、BBC の技術および番組担当のリーダー陣です。また、Partnership on AI が主催したメディアの整合性に対するAIの脅威を模索するワーキンググループを通じ、同様の考えを持った CBC Radio Canada や The New York Times のリーダー陣とも関係を構築しました。彼らもメディアの出所については深く考えており、マイクロソフトが追及してきた方向性に共感しているとわかってうれしく思いました。そこで彼らと協力し、アイデアを洗練させてより多くの放送に携わるコミュニティに提案したのです。
BBC、CBC Radio Canada、The New York Times、マイクロソフトは昨年、Origin Project を立ち上げました。Origin によるパートナーシップで目指しているのは、ニュースや情報コンテンツにフォーカスした新たなメディアの出所追跡プロセスの作成と採用に向け、コラボレーションと議論を促進することです。
現在は、Origin の技術的概念検証を実施し、出版社とエンドユーザー間での信頼の連鎖を確立しようとしています。詳細はこちらをご覧いただくか、こちらのヘンリケ リコ マルバーのビデオをお楽しみください。基本的な考えは、メディアファイルの発行者が、この場合はビデオになりますが、メディアの発行時にファイルに対してデジタル指紋を暗号化して署名するというものです。その署名と指紋が元帳となって、レシートが出版社に送られます。消費者がファイルを閲覧する際は、ブラウザやビデオプレーヤーが元帳の書類やレシートを確認し、ユーザーに対してそのコンテンツが認証されているかどうかを示す信号を表示するのです。
当チームでは Origin の他にも、関連する取り組みとして Adobe の Content Authenticity Initiative (CAI: コンテンツの信ぴょう性への取り組み) に協力し、貢献しています。CAI では、デジタルメディアの出所と履歴に関する情報を提供するシステムを構築しています。これは、クリエイターが著作権を主張する際のツールとなるほか、消費者側でも今見ているものが信頼できるものかどうか評価できます。
今後について
今回の C2PA は、Origin と CAI のリーダーが協力して立ち上げたものです。この進歩にはとても興奮しており、マイクロソフトがこの取り組みの一環を担えることを光栄に思います。Origin と CAI の取り組みも継続していきますが、C2PA の設立によってこれまでに学んだことを応用し、ソリューションの互換性を支える技術的要件と基準を確立するとともに、操作されたコンテンツを検出し阻止する技術をより幅広く適用できればと考えています
「何かできることはないだろうか」という問いかけがベースとなって、最初の取り組みが始まりました。あの時は、何も書かれていないホワイトボードの前でマーカーを握りしめていただけです。それが、研究者やエンジニア、テクノロジ専門家、アドバイザーなど、さまざまな専門知識を持つ人や組織の取り組みにより、ジャーナリズムを強化し民主主義社会の基盤を守る有望なソリューションを実用化することができたのです。
—
本ページのすべての内容は、作成日時点でのものであり、予告なく変更される場合があります。正式な社内承認や各社との契約締結が必要な場合は、それまでは確定されるものではありません。また、様々な事由・背景により、一部または全部が変更、キャンセル、実現困難となる場合があります。予めご了承下さい。
