虚偽情報対策に向けた新たな取り組みについて

2020 年 9 月 1 日

トム バート (Tom Burt) カスタマーセキュリティ&トラスト担当コーポレートバイスプレジデント
エリック ホービッツ (Eric Horvitz) チーフサイエンティフィックオフィサー

※ 本ブログは、米国時間 9 月 1 日に公開された “New Steps to Combat Disinformation” の抄訳です。

マイクロソフトは、虚偽情報対策に向けた 2 つの新技術と、この問題に関する教育への取り組み、そして技術と教育への取り組みを迅速に進めるパートナーシップを発表します。

世の中には虚偽情報がまん延しています。マイクロソフトが支援したプリンストン大学のジャコブ シャピロ (Jacob Shapiro) 教授の調査で、今月更新された情報によると、2013 年から 2019 年の間に、外国からの組織的活動によって影響が及んだ件数は、30ヶ 国で 96 件にのぼるとのことです。

こうした活動はソーシャルメディア上で展開されており、その目的は著名人の名誉を傷つけたり、世間を説得させたり、議論を二極化させたりすることです。活動の 26% は米国をターゲットとしたものですが、他にもアルメニア、オーストラリア、ブラジル、カナダ、フランス、ドイツ、オランダ、ポーランド、サウジアラビア、南アフリカ、台湾、ウクライナ、イギリス、イエメンといった国が対象となっています。このような活動のうち 93% が独自コンテンツを作成しており、86% が既存のコンテンツを増幅したもの、74% が客観的に検証できる事実を歪曲したものでした。最近では、新型コロナウイルス (COVID-19) のパンデミックに関する偽情報が広がり、病気を治すとされる実際には危険な治療に手を出した人が死亡したり入院したりしているとの報告もあります。

今回発表するのは、マイクロソフトの民主主義保護プログラム (Defending Democracy Program) の重要な一部となります。このプログラムにて、虚偽情報対策に取り組むことに加え、ElectionGuard で投票を保護し、AccountGuardMicrosoft 365 for CampaignsElection Security Advisors にて政治運動や民主的なプロセスに関わる活動を守ります。また、今回の発表は、ブラッド スミス (Brad Smith) とキャロル アン ブラウン (Carol Ann Browne) が「2020 年代のテクノロジポリシーの課題トップ 10 (Top Ten Tech Policy Issues for the 2020s)」で述べたように、ジャーナリズムの保護と促進に注力する取り組みの一環でもあります。

今回発表する新たなテクノロジ

虚偽情報にはさまざまな形があり、単一のテクノロジでは何が真実で正確かを読み解く際の課題を解決できません。マイクロソフトでは 2 つの技術によって、この課題を異なる側面から対処しようとしています。

ひとつ大きな問題となっているのは、ディープフェイクといわれる合成メディアです。ディープフェイクは、検知されにくいように人工知能 (AI) が操作した写真やビデオ、音声ファイルとなっており、言っていないことを言っているように思わせたり、行っていない場所にいたように見せたりすることができます。継続学習する AI が生成しているため、従来の検知技術では追いつきません。ただし、次の米国選挙のように短期的には、高度な検知技術がディープフェイクを識別する際に役立つかもしれません。

そこで本日マイクロソフトは、Microsoft Video Authenticator を発表します。Video Authenticator は、写真やビデオを分析し、メディアが人工的に操作されている確率や信頼度スコアをはじき出します。ビデオの場合は、再生中のフレームごとにリアルタイムで確率を表示します。これは、人間の目では検知しにくいディープフェイクと、微妙な色あせやグレースケールといった要素の境界線を見つけ出すという仕組みになっています。

このテクノロジの基となった技術は、マイクロソフトリサーチが、マイクロソフトの Responsible AI (信頼できる AI) チームと、Microsoft AI, Ethics and Effects in Engineering and Research (AETHER: エンジニアリングと調査における AI、倫理、影響) 委員会と協力して開発したものです。AETHER は、新たなテクノロジが確実に責任を持って開発され、展開されるよう支援するマイクロソフトの諮問委員会です。

Video Authenticator は、Face Forensic++ の公開データセットを利用して作られたもので、ディープレイク検出技術のトレーニングおよびテスト用の主要モデルである DeepFake Detection Challenge Dataset (ディープフェイク検知チャレンジデータセット) でテストされています。

合成メディアを生成する手法は今後も高度化することが見込まれます。AI 検知手法は失敗することもあるため、検知手法をすり抜けるディープフェイクを理解して対応していく必要があります。つまり長期的には、ニュース記事やその他メディアの信ぴょう性の維持と保証に向けたより強固な手法を模索しなくてはならないのです。いまのところ、オンライン上のメディアが信頼できるソースからのもので、改ざんされていないことを保証できるツールはほとんどありません。

そこでマイクロソフトは本日、操作されたコンテンツを検出し、視聴しているメディアが本物であることを保証する新たなテクノロジを発表します。同技術は 2 つのコンポーネントで成り立っています。そのひとつは、Microsoft Azure に組み込まれたツールで、コンテンツの制作者がデジタルハッシュと証明書をコンテンツに追加できるというものです。ハッシュと証明書は、コンテンツがオンライン上で移動してもメタデータとしてコンテンツと共に存在します。もうひとつのコンポーネントは、ブラウザの拡張機能などの形で提供されるリーダーです。このリーダーは、証明書を確認してハッシュを照合し、コンテンツが本物で変更されていないかどうか高い精度で判別するほか、製作者の詳細情報も提供します。

この技術は、マイクロソフトリサーチと Microsoft Azure、そして民主主義保護プログラムが連携して構築したものです。同技術は、BBC がこのほど発表した Project Origin という取り組みを支える技術となります。

パートナーシップについて

虚偽情報や有害なディープフェイクに対抗するにあたっては、単一組織だけで大きな影響をもたらすことはできません。マイクロソフトもできる限りの取り組みは進めていきますが、この課題の性質上必要となるのは、複数の技術を幅広く採用し、世界中の消費者に一貫した教育を施し、こうした課題の進化について継続して学び続けることです。

今回は、こうした取り組みを支えるために築いたパートナーシップをご紹介します。

まずは、AI Foundation とのパートナーシップです。AI Foundation は、サンフランシスコに拠点を置く営利・非営利という両側面を持った企業で、AI の力と AI の保護を世界中に届けることをミッションとしています。今回のパートナーシップでは、AI Foundation の Reality Defender 2020 (RD2020) イニシアチブにて、報道機関や政治キャンペーンなど民主活動に携わる組織に Video Authenticator を提供します。Video Authenticator はまず RD2020 を通じてのみ利用でき、利用する組織に対して RD2020 がディープフェイク検出技術固有の制限や倫理的留意事項を伝えます。キャンペーン運営組織やジャーナリストで詳細をご希望の方は、こちらから RD2020 にお問い合わせください。

もうひとつは、BBC、CBC / Radio-Canada、New York Times などのメディア企業コンソーシアムとのパートナーシップで、Project Origin に取り組むというものです。同プロジェクトでは、マイクロソフトの信ぴょう性技術をテストし、幅広く採用できる基準となるよう進化させます。さまざまな出版社やソーシャルメディア企業が参加する Trusted News Initiative も、同技術の活用に合意しています。マイクロソフトでは、今後数ヶ月かけてパートナーシップをさらに拡大し、テクノロジ企業やニュース出版社、ソーシャルメディア企業との取り組みを進めたいと考えています。

メディアリテラシーの向上

またマイクロソフトでは、ワシントン大学 (UW)、Sensity、USA Today と、メディアリテラシーに関して協力していきます。メディアリテラシーを向上させることで虚偽情報と真実が判別でき、ディープフェイクや安っぽい偽情報によるリスクに対処できるようになります。実践的なメディアの知識を持つことで、メディアの文脈を批判的に捉えられるようになり、風刺やパロディを楽しみつつ民政への関与を高められるようになります。すべての合成メディアが悪いわけではありませんが、メディアリテラシーに関する情報を少しでも入れておくことで、合成メディアを特定し、慎重に扱えるようになることがわかっています。

そこで今回マイクロソフトは、米国の有権者に向けたインタラクティブなクイズを立ち上げました。これは、合成メディアについて学び、批判的なメディアリテラシーのスキルを高め、民主主義における合成メディアの影響を把握するためのものです。Spot the Deepfake Quiz (ディープフェイクを見つけるクイズ) は、インタラクティブな体験型のメディアリテラシーツールで、ワシントン大学の情報市民センター (Center for an Informed Public) と、Sensity、USA Today とのパートナーシップによって開発されたものです。同クイズは、USA Today、マイクロソフト、ワシントン大学のウェブサイトとソーシャルメディアを通じて提供され、ソーシャルメディアの広告からもアクセスできるようになります。

このほかにもマイクロソフトは、Radio Television Digital News AssociationThe Trust Project、そしてワシントン大学の情報市民センターおよびソーシャルトランスフォーメーション推進プログラム (Accelerating Social Transformation Program) と共同で、公共広告 (PSA: Public Service Announcement) キャンペーンをサポートしています。この活動は、次の米国選挙を控え、ソーシャルメディア上で情報をシェアしたり宣伝したりする前に、反射的に一息入れて情報が信頼できるニュース組織からのものかどうか確認するよう呼びかけるものです。PSA キャンペーンは、誤った情報や虚偽情報による民主主義への悪影響をより深く理解し、時間をかけて信頼できる情報を特定して共有するなどして情報消費することの重要性を説いています。この広告は、9 月と 10 月に米国のラジオ局で流れる予定です。

最後に、ここ数ヶ月間でマイクロソフトが NewsGuard の導入を拡大してきたことについてもお話ししましょう。NewsGuard は、コンテンツを消費する前にオンラインニュースのソースについて知ることができるものです。経験豊富なジャーナリストチームが運営する NewsGuard では、オンラインニュースサイトを 9 つのジャーナリズム的な整合性基準によって評価し、各ニュースサイトに「成分ラベル」を付けたり、赤信号か青信号かを判別したりしています。NewsGuard サービスを利用するには、すべての標準ブラウザに対応したシンプルな拡張機能をダウンロードしてください。Microsoft Edge ブラウザのユーザーは無料で利用できます。マイクロソフトは、NewsGuard のレーティングに対する編集権限はありません。また、NewsGuard のブラウザ拡張機能によって情報へのアクセスが制限されることはありません。NewsGuard は、ニュースソースそのものに対する重要な情報を提供することで、透明性とメディアリテラシーを高めることを目指しています。

ポリシーに関する留意事項

虚偽情報や選挙妨害に幅広く対処するには、世界中の政府や企業、非営利団体など、さまざまな組織が重要な役割を担わなくてはなりません。2018 年には、Paris Call for Trust & Security in Cyberspace (サイバー空間の信頼性とセキュリティに関するパリ決議) にてグローバルリーダーの複数の関係者グループが集まり、オンライン上の平和と安全を確保する 9 つの原則に取り組むことになりました。その原則の中でも特に重要なのが、選挙プロセスを保護することです。5 月には、マイクロソフトと民主主義保護連合、カナダ政府が共同で、この原則に基づいたグローバルな取り組みを開始しました。この件に関心のある組織は、パリ決議に参加していただければと思います。

本ページのすべての内容は、作成日時点でのものであり、予告なく変更される場合があります。正式な社内承認や各社との契約締結が必要な場合は、それまでは確定されるものではありません。また、様々な事由・背景により、一部または全部が変更、キャンセル、実現困難となる場合があります。予めご了承下さい。

Tags: , ,

関連記事