Micosoft社が今月6日「facial recognition: It’s time for action」と題するオピニオンを公表しています（その邦訳版「顔認識テクノロジに関する当社の見解について：今が行動の時」も13日に公表されました。）。
これはここ10年ほどスタートアップコミュニティの中で目指されていたdisruptive innovation に対するアンチテーゼとして近年一部の人々の口に上るようになってきた、「responsible innovation」 という新しい潮流に合致した動きと言えます。
DL技術による顔認識能力の劇的向上への対処提案
顔と名前は物理空間のIDとして長年にわたり人間社会の中で機能してきましたが、外部に晒されている顔IDの判定能力がディープラーニング（DL）技術によって人間が及ばない範囲にまで強化されてしまいました。これによる驚くべき効率性の向上が社会に便益を提供すると同時に、大きな負の外部性を生み、それが民主主義社会を崩壊させる潜在性を持つことから、その外部性をコントロールするために社会に新たな規律を導入しようというのが、今回のMicrosoft 社の提案です。
Microsoft社は、まずはテクノロジー企業らしく顔認識技術の社会における革命的な効用について明るい未来を述べます。そのうえで、「顔認識技術が濫用されるリスクと可能性にも注意を払う必要がある」と述べ、政府が対応すべき課題を 以下の通り3 つ掲げます。
第1に、開発が初期段階にある現状から、その利用が社会の偏見を助長し、更には法令違反となる差別を含む意思決定を生み出すリスクが高まることを指摘しています。第2に、顔認識技術の利用によるプライバシー侵害の可能性、そして第3に、政府による大規模監視のための顔認識技術の利用が、民主主義を損なう可能性について言及しています。そのうえで、これらの問題に対処するためには、民間企業による自主規制では足りず、法規制の導入が必要であるというMicrosoft社の主張が展開されます。
それぞれの弊害に対してMicrosoft社が提案する法規制の内容は以下のとおりです。
1. 偏見と差別の助長への対応
透明性の確保：顔認識サービスを提供する企業は、顧客や消費者が理解できる形で顔認識技術の能力と限界を説明した文書を提供しなければならない。
これはEUにおけるデジタルプラットフォーマー規制の動向とも整合した提案となっており、世界への目配りを感じさせます。
独立した第三者によるレビューと公表：顔認識サービスの提供企業は、独立した第三者による技術レビューを受け、サービスの正確性と偏見がないことについての報告書を公表しなければならない。
面白いことに、Microsoft社は、この項目に関連してオープンAPI実装の義務付けについて言及しています。これは外部の事業者がソフトウェアなりデータなりに常時アクセスできることを確保することによって、サービスの変遷のモニタリングが可能になり透明性の確保に資すること、第三者（watch dog）による随時のレビューと社会への報告が可能になることを意識してのものと思います。
さらに、Microsoft社は、顔認識サービスに用いられるDL技術がまだ発展途上のものであることを踏まえ、その誤認識により社会に与える負荷を軽減するために、企業は以下の2点のアプローチを検討するべきだとしています。
人間によるレビュー： 重要な意思決定については、人間が顔認識の結果をレビューした上で、コンピュータに依存せずに自ら重要な意思決定を行うべきである。
この重要な意思決定には、消費者に対する精神的又は肉体的な危害をもたらすリスクがある場合、人権を侵害する可能性がある場合、消費者の個人的自由やプライバシーが侵害される場合が例示されています。つい先日、10月23日にICDPPCが人工知能に関する倫理とデータ保護宣言を採択しましたが、人間による関与はこの流れにも沿うものです。
非免責性：顔認識サービスの提供は、消費者に対する差別的取扱いを禁止する法規の適用を免除するものではないことを認識すべきである。
差別的取扱いを禁止する法規、について、これは米国などで例えば雇用の局面等において企業に課される明示的な法的義務でありますが、日本ではちょっと聞き慣れないかもしれません。ただ、雇用では男女について雇用期間均等が定められていたりしますし、保険業などは商品組成のレベルでこれが明示的に義務付けられています。また、それ以外の多くの領域では、社会における一般的な規範として、憲法的価値が公序良俗違反や不法行為等の一般法規を通じて民事法に反映されるという形で、日本にも採用されている法制度といえます。
このような法規範がある以上は、意思決定について、法の下で最終的な説明責任を課されている人間自身が、意味のあるレビューを行った上でこれを行う、という規範が、顔認識サービスを使用する企業には課されているのである、という考え方です。
2. プライバシー侵害への対応
通知の義務化： 消費者の識別に顔認識技術を使用する企業は、その旨を示す通知を明示的に掲載しなければならない。
明確な同意： 通知がなされた物理的な場所に入る際やオンラインサービスを使用する際には、消費者から顔認識サービスの使用につき同意を取得しなければならない。
プライバシー対応については、デジタルプラットフォームの規制論の中で様々な議論がされており、欧州のGDPRによる対応と米国の対応に温度差があること、これには歴史的、憲法的な背景があることはご存知の通りかと思います。グローバル企業としてのMicrosoft社は、より厳格なルールを提唱する欧州のような議論があることを承知しつつ、それ以外の地域、特に米国においては、上記のような規範からスタートし、経験を通じて徐々に規制がアップデートされていくというアプローチが採用されていることを強調しています。
3. 民主主義的自由の確保と人権擁護
特定の個人に対する長期的な監視の制限： 顔認識技術が民主主義的自由を侵害することがないよう、警察権力が特定の個人の公共空間での継続監視できる局面を、視野重大な障害などの差し迫ったリスクがある場合を除いて、裁判所による令状を得た場合に限定すべきである。
憲法におけるパブリックフォーラム論の説くところによりますと、民主主義は、人々が私的な場のみならず公的な場でも自由に集まり、意見を交換することによって初めて成立します。このパブリックフォーラムの成立のためには、人々の移動の自由が確保され、政府による監視の対象とならないことが必要であると考えられています。
このような憲法における民主主義的価値に照らした自由に関する理解のもと、Microsoft社は政府に対して、特定の行為に付き令状主義に服することで、自らの権力を縛ることが必要であると主張するものです。
Microfost社の提案への世界の受け止めパターン予測
Microsoft社の提案の詳細は、実際に公表分を読んでいただければと思いますが、一読していただきますとわかる通り、提案のバランスの良さが素晴らしいと思います。同業者的な目線で言うと、「極めて優秀な法律家の手になるものであることが一目瞭然」といったところです。
提案内容は、同じロジックのもとで同様の弊害が生じる可能性がある顔認証システム以外のDL技術を用いたソリューションにも多かれ少なかれ当てはまりえますので、政府によってはより一般化した形でこのメッセージを読み取って、規制を実装する可能性があるように思います。この場合、イノベーションによる将来の社会の効率性の拡大の可能性を事前に過度に制約することになるおそれが出てきます。
このバランスをどこでとるか、これは社会による合意形成の問題ということになり、国民国家ごとに線引きの仕方が異なり得るところです。Microsoft社はプラグマティズムが支配する米国の企業らしく、アジェンダ設定を当面の課題が明確に見え始めている顔認証技術に絞って行っています。これは、同じくプラグマティズムであるものの国家主義を採用する中国において現に現れ始めている現象ですので、米国としては乗りやすいアジェンダ設定なのではないかと思います。
逆に、このような自由主義的民主主義観に根ざしたアジェンダ設定であることが、特に中国には乗りにくいアジェンダ設定になっていると思います。これまでの中国は、こうした欧米的な価値観に対して、表面的には賛同した形を取りながら、運用実態において異なる対応を取るという基本戦略をとってきました。しかしこうした手法は、既に米国に見透かされており、もし米国がMicrosoft社のアジェンダ設定に乗った上で、これを世界展開しようとすれば、中国の長期基本戦略には打撃となるでしょう。テクノロジーの問題が地政学的な意味を持つという今日的なテーマの具体的実践が、顔認識技術を巡って展開されることを予感させます。
これに対して、欧州はAIと人権という観点から、もう少し広くDL技術全般がもたらしうる社会に対する弊害というアジェンダ設定をして、哲学的ないしストラクチャルにアプローチしてくるかもしれません。欧州はSingle Digital Market戦略のもと、統一された欧州における共通のデジタル政策を展開することで、競争を通じてより良いサービスを育成することを通じて、ITサービスにおいて米国に対抗するという長期基本戦略を持っていますが、AIサービス全般について、北米や中国に遅れを取っている現状に照らすと、欧州にとっては、AIサービス全般に対するアジェンダ設定を通じてAIサービスを規制していくことが、対米競争戦略としても、雇用確保を通じた欧州全体の安定を確保する観点からも、得策であると判断する可能性があるように思います。ちなみに、イーロン・マスクは、かねてよりAIは事前規制に服するべきであるという立場を採用しており、結果的には欧州的な規制方向を支持するこ形になっているように感じます。
日本は、闘争によって人権を獲得するという経験を経ていない国であることにより、基本理念に基づかない場当たり的な対応が適度なプラグマティズムを生むという特性と、社会の均質性の高さが生む、画一的で弱い消費者観のもと実体験に基づかない抽象的な規制志向を持つという特性が混在した国です。AI規制の構図は、米国との協調を通じた戦略遂行が、競争戦略としても、中国という地政学的な脅威への対抗策としても機能するという近時のデータ戦略の構造と同じであること、AIの応用は進んでいないにもかかわらず、画一的で弱い消費者観のもとで抽象的に手触り感のない規制を導入するモチベーションを持つ点でもデータ戦略の構造と似ていることから、データ戦略の場合と同様、悪く言えばどっちつかず、良く言えば中庸を行った態度をとる可能性が高いと思います。
政府ではちょうど人間中心のAI原則について検討している最中でありますので、Microsoft社の提案は、このアジェンダに跳ねる形で、顔認識技術に対する規制として結実する可能性があるように思います。そのうえで、具体的な規制のグローバルなハーモニゼーションとの位置づけのもと、米国と欧州とともに、場合によっては米国と欧州の間を取り持つ形で、グローバルな規制にこぎつけ、中国包囲網のタマの一つとして国家安全保障戦略の遂行につなげていく、というシナリオが考えられます。
大企業によるResponsible Innovation戦略
Microsoft社のことですから、以上のような国際的な対応を読んだ上で、今回の戦略は展開されているものと考えられます。
つまり、グローバル企業は、特定のアジェンダに対して各国の対応がバラバラになると、国際展開する企業はビジネスがやりにくくなるので、なんとかユニフォームなルール形成ができないか、ということを考えます。そこで、世界における規制の議論をコントロールするために、グローバルなルール形成を主導する主要国との間で、今このようなコミュニケーションを開始する、とMicrosoft社としては判断したということだと思います。
「今が行動の時」とは、社会に対する呼びかけのかたちを取りながら、実はMicorsoft社自身の世界戦略にとって、今やらなければならないということをも意味しているのだろうと考えるわけです。
responsible innovation は、大企業がイノベーション領域でグッドレピュテーションを獲得する手段として、なかなか有効なスローガンであると思います。また、そのオープンな実践は、ユニバーサルなルール形成を主導することによって、自らの世界戦略の遂行を効率化するという観点から、優れた戦略であると考えます。
更に、この戦略は、これから出てくるスタートアップを牽制し、社会を味方につけてあらかじめバリアを構築してしまうという競争戦略としても、クレバーな戦略だと思います。
アジェンダの設定とその世界的な展開は、それなりの準備と陣容が必要であり、大きな投資になります。しかしながら、これが成功すると、社会的責任を果たしたような形を取りながら自らの世界展開を効率化できるとともに、後発企業の追い落としも可能になるという意味で、企業価値の長期的な維持にとって大きな貢献をすることになります。
日本企業はこうしたものに対して、通常はフリーライド戦略を取ります。各社は社会の変革に対するコミットと投資を可能な限り小さく済ませたいと考える傾向があり、これが経済団体による国内に閉じたロビイングと国際展開に対する経済産業省への依存という構造を生むことになります。効率よく都合の良い規律を世界に実装するという観点からは、悪くはない戦略ではありますが、裏を返して言えば、これでは決してMicrosoft社のような偉大な世界的企業を生むことはできないということを示唆していると思います。
日本は小さな島国ですし、人口減で国力が低下しつつある国なので、今あるリソースで最大限の成果を出すための戦略を講ずるというのは決して悪いことではありません。特に、国家を次世代に引渡していかなければならないということを考えるリーダーは、自国の特性とリソースの限界を冷静に理解した上で、アジェンダ設定と政策の立案を考えていく必要があります。
ただ、イノベーションに携わり世界的企業を築く野望を捨てていない一流の起業家の皆さんには、Microsoft社のような戦略があること、その戦略の多重的な意味くらいは正確に理解していただき、その彼我の差を正しく踏まえて、明日の世界的企業を創造するべく、日々の自社の意思決定を積み重ねていただきたいと考えています。
