顔認識テクノロジに関する当社の見解について：今が行動の時

（本記事は 2018 年 12 月 6 日に公開された “Facial recognition: It’s time for action” の参考訳です）

マイクロソフトは、今年の 7 月、高度化する顔認識テクノロジに対応するために、政府による規制と業界における方策が必要であるという見解を公表しました。今まで議論してきたように、このテクノロジは重要かつ刺激的な社会的利益とともに、乱用のリスクももたらします。マイクロソフトは、この課題に関する研究と議論を進めていく必要性があることを認識し、その後の数カ月間に、世界中のテクノロジ専門家、企業、市民社会団体、学術界、政府担当者などと議論を進めてきました。そして、これらの成果に基づいて、研究と議論の段階から一歩先に進むことが重要であると考えました。つまり、行動を取るべき時が来たのです。

当社は、2019 年中に、政府がこのテクノロジを規制するための法律を制定することが重要であると考えています。まさに、壺の中から顔認識の魔神が出現しようとしています。何も行動を取らなければ、5 年後には、顔認識サービスが社会的問題を悪化させるような状況に直面する可能性もあります。一度そうなってしまえば、課題を解決することははるかに困難となるでしょう。

特に、社会的責任と市場での成功のいずれかを選択しなければならないテクノロジ企業が、徹底的な市場競争において世界のために最善を尽くすことは考えにくいでしょう。このような状況を避ける唯一の方法は、健全な市場を保つための、責任の基準を作ることです。また、明確な基準を作るためには、このテクノロジとそれを開発し、活用する企業が、法の支配によって管理されることが必要です。

すべての質問に対する答えを持ち合わせているわけではありませんが、この分野において公共の利益を守りつつテクノロジを進化させていくため、最初の法制化を適切に行う上では、十分な答えを持っているとマイクロソフトは考えています。政府がこのテクノロジの進化に対応することがきわめて重要であり、段階的なアプローチを取ることにより、政府機関における迅速で適切な学びが実現されます。以下に、マイクロソフトの考え方をまとめました。一部の州と国の公共政策の議論において、マイクロソフトはこの議題を優先事項としていきます。

また、マイクロソフトは、これらの課題に広範に対応すべきであると考える一方で、政府が行動を起こすのをただ待っているべきではないとも考えています。マイクロソフトをはじめとするテクノロジ企業は、顔認識テクノロジに対応する安全策の立案を開始する必要があります。マイクロソフトは、このテクノロジが、重要かつ広範な領域でお客様に利益をもたらすと考えており、お客様が活用する多くの顔認識アプリケーションに励まされ、触発されています。しかし、このテクノロジの開発と活用には、他の多くのテクノロジ以上の注意が必要です。様々な議論とレビューを重ねた後に、マイクロソフトはこの課題に対応するため、 6 つの行動規範を制定しました。以下にこれらの行動規範を共有し、2019 年の第 1 四半期までに社内に導入する予定です。

また、お客様がこのテクノロジを責任ある形で利用できるように支援するための、資料とトレニーングリソースも公開していきます。特に、テクノロジの初期段階において言えることですが、顔認識テクノロジによるサービスの展開を成功させるためには、他の多くのテクノロジ以上に、テクノロジ企業とお客様の間の協力関係が必要です。官民問わず、マイクロソフトはお客様と緊密に連携していくことをお約束します。

顔認識テクノロジが乱用のリスクを避けながら広範な社会的利益を生み出すようにするためには、政府とテクノロジ業界の両方が重要な役割を果たします。多くの課題が明らかになりつつありますが、このテクノロジはまだ初期段階にあります。最初の質問に対応して先に進む中で、学びながら、テクノロジの進化と経験の蓄積に合わせて知識を深めていくことが必要です。時の経過と共に、さらなる方策が必要となる可能性が高いでしょう。しかし、マークトウェイン (Mark Twain) がかつて述べたように「前に進むための秘訣はとにかく始めること」なのです。今が始める時です。

顔認識テクノロジがもたらす機会

他のあらゆる新規テクノロジと同様に、顔認識テクノロジの活用が驚くべきペースで拡大しています。そして、これらの活用の多くが、世界中の人々に新たな利益をもたらしていることも明らかになりつつあります。

このイノベーションの幅広さは驚嘆に値します。最近、ニューデリーの警察は顔認識テクノロジを試行し、4 日間でおよそ 3,000 人の行方不明の子供たちを発見しました。米国の歴史学者は、1860 年代に撮られた南北戦争時代の写真から無名の兵士の肖像を特定しました。アフリカ人、アジア人、南米人に起こる希な遺伝病の診断に顔認識ソフトウェアが活用され、良好な結果がもたらされています。National Australia Bank は、10 月に顧客が顔認証と暗証番号だけで ATM から現金を引き出せるシステムの実証実験を行っています。

マイクロソフトは、顔認識テクノロジの開発で主要な役割を果たしている企業のひとつです。世界中のお客様と協力し、多様な年齢や肌の色に対応して顔認識の精度を向上するために、業界をリードする開発努力を積極的に推進しています。先月には、NIST (National Institute of Standards and Technology: 米国標準技術局) が行った評価テストにおいて、マイクロソフトの顔認識テクノロジが業界トップクラスであることが証明されました。マイクロソフトが評価用に提出したアルゴリズムは、テスト対象となった 127 種のアルゴリズムの中で、最も正確、あるいは、きわめて正確と評価されました。顔認識テクノロジの将来、そして、それがもたらす恩恵については楽観的に見ています。

対応すべき課題

同時に、私たちは顔認識テクノロジが乱用されるリスクと可能性にも注意を払う必要があります。このテクノロジが向かう先を評価する活動を継続する中で、政府が対応すべき 3 つの課題があると、マイクロソフトは考えています。

第一に、とりわけ開発が初期段階にある現状を考えれば、顔認識テクノロジの特定の利用法が偏見を含み、さらには、法に違反するような差別を含む意思決定（より一般的に言ええば、結果）を生み出すリスクを増す可能性があります。

第二に、このテクノロジの広範な利用が人々のプライバシーを侵害する可能性があります。

そして、第三に、政府による大規模監視のための顔認識テクノロジの利用が、民主主義の自由を損なう可能性があります。

マイクロソフトは、法整備によりこれらの問題を解決すべきと考えます。以下に詳細を述べていきましょう。

偏見と差別への対応

第一に、とりわけ開発が初期段階にある現状を考えれば、顔認識テクノロジの特定の利用法が偏見を含み、さらには、違法な差別を含む意思決定、結果、体験をもたらす可能性があります。たとえば、最近の研究において、一部の顔認識テクノロジが、女性や有色人種の判定において高いエラー率を示すことが明らかになりました。これにより、マイクロソフトをはじめとしたテクノロジ企業がこのようなエラーを低減し、正確性を向上することがますます重要になりました。この作業は進行中であり、すでに重要な進歩が達成されています。お客様と緊密に連携し、顔認識サービスがこれらのリスクを低減するよう適切な形で展開されるようにすることも同様に重要です。長期的に見れば、適切な市場力学により必要なテクノロジイノベーションが推進されると、マイクロソフトは考えています。

しかし、同時に、マイクロソフトはこの領域における法整備も必要と考えます。それには、2 つの理由があります。市場力学は、潜在的顧客が適切な認識を持ち、顔認識テクノロジが正確で偏見を含まない（特定のアプリケーションや環境における偏見を含みます）ことをテストできる場合にのみ、うまく機能します。この目的のために自社テクノロジを積極的に提供するテクノロジ企業もいれば、そうでない企業もいます。その結果、学術界におけるテストでは、一部の市場リーダーのテクノロジを対象にしていないものがありました。そして、ある影響力のある権利支持団体がそのテストを行おうとした時、一部のテクノロジ提供企業はテストに欠陥があるとしてテクノロジの提供を拒絶し、非難しました。社会として、私たちには、Consumer Reports に相当する公平なテストを行う団体が顔認識サービスの正確性と公平性のテストを透明性が高い形で行えるようにするための法制度が必要です。

この課題に対する新たな法整備には、 2 つの点から対応できると考えます。

透明性の要求：新たな法整備は、顔認識サービスを提供するテクノロジ企業に、顧客や消費者が理解できる形でテクノロジの能力と限界を説明した文書を提供するよう義務付けるべきです。
第三者によるテストと比較：新たな法整備は、顔認識サービスの提供企業に、第三者によって独立したテストを行わせ、正確性と偏見のなさに関するレポートを公表させることも義務付けるべきです。顔認識サービスをインターネットで提供するテクノロジ企業に対して、API 等の手段によってもサービスにアクセスできるようにすることを義務付けることも有効なアプローチです。

この領域における法整備が今必要であると考える第二の理由があります。それは、新たな法整備が対応すべき追加の方策に関連します。最終的には、市場力学が、偏見や差別に関する問題を解決してくれるであろうことに楽観的である一方、今まさに、顔認識サービスが消費者や市民に悪影響をもたらす兆しが見られます。

顔認識テクノロジが誤認識したことで、公共サービスにアクセスできなくなったり、イベントに入場できなくなったり、商品を買えなくなったりした場合、テクノロジはいつか向上すると考えても、あまり慰めにはなりません。企業が、現状のテクノロジの限界を越えて、あるいは、当初の設計目的と異なる用途に顔認識サービスを展開した場合、これらの問題はさらに悪化する可能性があります。新たな法整備により、企業や他のユーザーに過大な負担をかけることなく、これらの問題に対応できると、マイクロソフトは考えています。ここでも、二面的なアプローチが必要です。

人間による有効なレビュー：人間に間違いや偏見がないわけではありませんが、重要性が高い特定のシナリオでは、適切な人々が顔認識の結果をレビューし、単にコンピューターに委ねるのではなく、自ら重要な意思決定を行うことが必要です。ゆえに、新法規では、消費者に重大な影響を与え得ると定められた用途では、顔認識テクノロジを展開する企業が最終的な意思決定を行う前に、人間による結果の有効なレビューを行うことを義務付けるべきです。これには、意思決定が消費者に対して肉体的、または精神的な危害をもたらすリスクがある場合、人権を侵害する可能性がある場合、消費者の個人的自由やプライバシーが損なわれる可能性がある場合などが含まれます。
違法な差別への使用の排除：顔認識サービスを展開する企業は、消費者に対する差別を禁じる法規への準拠を免除されているわけではない点を認識することが重要です。これは、顔認識サービスの使用に基づいた意思決定について、法の下での最終的な説明責任を課された人間が意味のあるレビューを行うようにすることのもうひとつの理由でもあります。

人々のプライバシーの保護

第二に、顔認識テクノロジの広範な利用は人々のプライバシー侵害につながる可能性があります。たとえば、あらゆる公共施設がクラウドに接続したカメラを設置し、リアルタイムで顔認識サービスを行う可能性があります。

興味深いことに、米国のプライバシー活動は、カメラのテクノロジの進化から生まれました。1890 年に、後の最高裁判事であるルイスブランダイス（Louis Brandeis）は、同僚のサミュエルワーレン (Samuel Warren) との共著による Harvard Law Review の記事において、プライバシーを「独りでおいてもらう権利」とし、その保護に対する最初のステップを取りました。両名は、「インスタント写真」の発展と新聞社によるその流通により、新たな形の「プライバシー権」を保護する必要性が生じたと主張しました。

今日のテクノロジは「インスタント写真」という言葉に新たな意味を与えました。ブランダイスもワーレンも、そのことを想像すらできなかったでしょう。ショッピングセンターに一歩でも足を踏み入れた瞬間、写真を撮られるだけでなく、どこに行ってもコンピューターによって認識される可能性があります。1 台のカメラで 1 回写真を撮られるだけではなく、様々な場所にある複数台のカメラの画像を組み合わせることで長期間の履歴が取得されてしまいます。ショッピングセンターのオーナーはこの情報を店舗と共有できるかもしれません。店舗は、あなたの前回の来店の日付、何を見て、何を買ったかを迅速に知り、他の店舗と共有するかもしれません。そして、他の店舗はあなたが来店時に何を買おうとしているのかを予測できます。

ここで言いたいことは、商業施設によるこの新たなテクノロジの利用を法律によって禁止せよということではありません。それとはまったく反対に、マイクロソフトは、店舗が顔認識テクノロジをはじめとするデジタルテクノロジを責任ある形で活用し、消費者のショッピング体験を向上できるよう支援している企業のひとつです。顧客サービスの向上により得られる利益を多くの消費者が歓迎することでしょう。

しかし、人々にはこの種のテクノロジがいつ使われているかを知る権利があります。質問を行い、望む場合には別の選択を行えるようにすべきです。マイクロソフトは、このような透明性こそが、このテクノロジに対する公衆の知識と信頼感を確立する上で不可欠であると考えています。新たな法整備によるシンプルなアプローチによりこの問題に対応できます。

通知の義務化：消費者の識別に顔認識テクノロジを使用する企業は、そのようなサービスが使用されていることを明確に示す通知を掲示することを法律によって義務付けられるべきです。
明確な同意：上記の明確な通知が行われた敷地に入る時やオンラインサービスを使用する時に、消費者が顔認識サービスの使用に同意しているようにすることを法律によって義務付けるべきです。

このアプローチは実質的に人々が敷地内に足を踏み入れること（あるいは、キーボードや指の操作）によって同意を行う権利を与えていることになります。人々に情報を提供し、質問をする機会を与え、望む場合には別の場所で買い物できるようにしなければなりません。

消費者の同意を得るという点でもう一歩進んだ法整備を行うべきであると考える人々や消費者団体がいることは認識しています。すでに欧州ではそのような状況になっています。このような見解も検討に値します。たとえば、顔認識サービスの使用への同意に、最初に定義された目的以外での使用の制限やパーソナルデータへのアクセスと修正の権利などの関連するプライバシー基準を含めることが考えられます。しかし、マイクロソフトの見解では、おそらく米国においては特に言えることですが、この領域では、まず迅速に最初のステップを進め、経験から学んだ後に追加のステップを検討すべきでしょう。

民主主義の自由と人権の保護

第三に、政府による顔認識テクノロジの利用は民主主義の自由と人権を侵害する可能性があります。人々が私的な場でも公的な場でも自由に集まり、意見を交換することによってこそ民主主義は成立します。これには、人々が自由に移動でき、政府による長期的な監視対象とならないことが求められます。

上記のような問題を生じさせることなく、公共の安全とサービスの向上につながる顔認識テクノロジの政府による活用事例は数多くあります。このような事例が増えており、適切な保護を前提にして、その活用を奨励していくべきです。

しかし、顔認識テクノロジの活用には、私たちの自由にリスクをもたらし得るものがあります。様々な場所にあるカメラとクラウド上の膨大な計算能力とストレージの組み合わせにより、政府は顔認識テクノロジを使用して特定個人の長期的監視を行うことができます。これは、誰もがどこにいても、そのような監視対象になり得ることを意味します。監視は、いつでも、もしくは、常に行うこともできます。このような顔認識テクノロジの利用は、未だかつてない大規模な監視につながります。

未だかつてないことは確かですが、それを想像した人はいました。ジョージオーウェル (George Orwell) が小説「1984 年」で描いた、人々が政府の監視を逃れ、盗聴や盗撮を避けるために、暗い部屋の中で互いの腕を叩いてコミュニケーションするという未来です。オーウェルがこのような世界を想像したのはおよそ 70 年前のことでしたが、今日のテクノロジがそのような想像を現実のものにする可能性が生まれてきました。

もちろん、その可能性を避けることはできます。

2024 年があたかも小説「1984 年」の1ページのようにならないようにしなければなりません。いかなる政府も法の下にあるということは民主主義に不可欠な要素です。これは、政府による顔認識テクノロジの使用も法に拘束されることを意味します。新たな法整備によって、これを実現できます。

特定の個人に対する長期的な監視の制限：顔認識テクノロジが、民主主義の自由を侵害することがないように、法整備では、警察権力が特定の個人の公共スペースでの継続監視を以下の場合に限るよう定めるべきです。
- 特定の監視のために顔認識テクノロジの使用を許可する裁判所命令を取得できた場合
- 死や重大な傷害などの差し迫ったリスクがある場合

立法担当者が、この領域において裁判所の命令を得るための基準について考慮することが重要になるでしょう。多くの場合、これは、捜査令状を得るための相当な理由に関する従来型のルールに基づくべきと考えます。しかし、これ以外にも、たとえば行方不明者を探すなど、位置情報の利用が許容され得る限定的なケースがあるでしょう。

このアプローチは、最近の米国最高裁の判決に基づくものである点も重要です。6 月に、最高裁は、政府が捜査令状なしに人の物理的位置を示す携帯電話の基地局の記録を取得することを禁じました。｢カーペンター対合衆国｣ (Carpenter v. United States) 裁判において、最高裁首席判事ジョンロバーツ (John Roberts) は、個人が「（基地局に記録された）自身の移動に関する記録に対するプライバシーを正当に期待できる」とする法廷の多数意見を示しました。

私たちは、公共の場で電話を持って移動し、実質的に携帯電話会社に対して自分の位置情報を提供していますが、最高裁は、位置情報記録は憲法修正第 4 条により「不合理な捜索および押収または抑留から身体、家屋、書類および所持品の安全を保障される権利」として保護されると結論づけました。ゆえに、犯罪を行ったと信じるに値する相当な理由があることにより捜査令状を取得したのでない限り、政府は、電話と基地局の情報によって私たちの移動を監視してはなりません。

この文脈で考えると、顔認識テクノロジは新たな憲法上の論点をもたらします。すなわち、私たちの顔は私たちの電話と同等の保護を受けられるべきかというものです。マイクロソフトの考えでは、その答えは明らかなイエスです。

新規テクノロジが大規模な監視制度を実現し得る時代における人々のプライバシーを保護するために、2013 年以降、マイクロソフトは米国政府に対して 4 件の訴訟を提起しています。米国憲法修正第 1 条と第 4条で定められた継続的保護（マイクロソフトはそれが永遠の価値観と考えます）を繰り返し求めてきました。マイクロソフトの視点では、顔認識テクノロジの過剰な使用がこの自由を危険にさらす前に行動を起こすことが重要です。これらの課題は最終的には米国最高裁で争われることになるでしょう（今年の 2 月に上記の 4 件の訴訟のうちの 1 件がそうなりました）が、最初は、国民が自らの権利を守るために選挙で選んだ人々、すなわち、州議会やワシントンの議員によって検討されるべきです。

法制化の先にあるもの

新たな法規と規制が必要であることには疑いがない一方で、それにより、テクノロジ企業が果たすべき責任がなくなるわけではありません。7 月に、マイクロソフトは自社内の顔認識テクノロジ開発を評価し、それを統制する新たな行動規範を作成することを発表しました。本日、マイクロソフトの顔認識テクノロジに関する活動に採用する行動規範を公表することで、この発表を実行します。皆様からのフィードバックをお願いすると共に、実行の指針としてく所存です。

マイクロソフトが顔認識テクノロジに関する行動規範を採用
1．公正性 2．透明性 3．説明責任
4．差別的使用の禁止 5．通知と同意 6．合法的監視

過去 6 カ月間、マイクロソフトは、従業員、お客様、政府職員、学術界、市民社会団体からの助言を求めて多大な時間を費やしてきました。米国、そして、世界各国における議論から多くを学びました。本日、課題に対応するための 6 つの行動規範を発表し、次のステップへと進んでいきます。この行動規範には政府機関も対応する必要があると、マイクロソフトは考えます。これの行動規範とは以下のとおりです。

公正性：あらゆる人々を公正に扱う顔認識テクノロジの開発と展開を行います。
透明性：顔認識テクノロジの能力と限界について文書化し、明確に伝えます。
説明責任：顔認識テクノロジが重大な影響を及ぼす用途では、人間による適切なコントロールが行われるようお客様を支援していきます。
差別的使用の禁止：顔認識サービスが違法な差別に使用されることを利用規約により禁止します。
通知と同意：民間セクターのお客様に対して顔認識テクノロジの展開における通知と明確な同意を奨励します。
合法的監視：警察権力による監視の状況において人々の民主主義的自由が確保されるよう支援し、その自由が損なわれると考える目的では顔認識テクノロジを使用しません。

来週、これらの行動規範を詳細に説明した文書を公表し、さらに今後数カ月間にかけて、これらの行動規範を実行する上でのフィードバックや提言を関心のある個人やグループから募る予定です。

このステップにおいて、マイクロソフトは、これらの行動規範を全社的に有効に機能させられるようなポリシー、プロセス、ツールを作成していく必要性を認識しています。この作業を継続し、2019 年 3 月末までに、これらの行動規範を公式に確定し、関連するフレームワークを公表していきます。

上で述べてきた法整備の議論と同様に、マイクロソフトはこれらの行動規範の導入を段階的に進めていきます。現段階ですべての答えを持っていないことは明らかです。顔認識テクノロジが開発の初期段階にあることを考えれば、すべての質問がわかっているわけですらありません。しかし、行動規範に基づいたアプローチを取ることで、貴重な体験が得られ、より迅速に学べるものと考えています。その過程で学んだことを皆様と共有していくことをお約束します。おそらくは、お客様が、その利害関係者と公衆に対して安心感を提供できるような形で顔認識テクノロジを採用できるようにするための新たな資料と研修素材を提供していくことが中心になるでしょう。

—

本ページのすべての内容は、作成日時点でのものであり、予告なく変更される場合があります。正式な社内承認や各社との契約締結が必要な場合は、それまでは確定されるものではありません。また、様々な事由・背景により、一部または全部が変更、キャンセル、実現困難となる場合があります。予めご了承下さい。