機械が人を支配するのではない、それを使って悪意ある人が人を支配するのだ

AIによる監視社会を避けるために、我々の愛する民主主義政治はどこまで役に立つだろうか?




ファーウェイ、ウイグル人を顔認識して警察に通報するテストへの関与を認める - Engadget 日本版
ということでevilなファーウェイさんが自供していたそうで。
ウイグル人強制労働防止法案に「反対」 ナイキなどロビー活動 - 産経ニュース
まぁ彼らは別に、グーグルやアップルやナイキのように「evilにならない!」とか「人種差別問題に反対します!」などと普段からカッコよくポーズも取っているわけでもないしね。
その意味で、少なくともファーウェイには「誠実さ」は担保されているとは言えるかもしれない。実際今回の件も協力していたことを認めているわけだし。ロビー活動をしていたことを隠そうとしていた人たちよりもずっと正直ではあるよねえ。

  • 誠実ではあるものの、最後の一線をあっさり越えてしまう企業と、
  • 最後の一線こそ守るものの、まったく誠実とはいえない企業。

……うーん、カレー味ウンコよりは、ウンコ味のカレーの方を選ばざるをえない私たちのいつもの光景らしくなってきたねえ。



ともあれ今回の件のように、しばしば、私たちは「AIに人間が支配される」なんてディストピアな未来を幻視してしまいますけども、

中国ハイテク大手のファーウェイが、少数民族ウイグル人をカメラシステムで特定し、地元当局に「ウイグル警報」を送る顔認識ソフトウェアのテストに関わっていたことが明らかとなりました。

この事実は米Washington Postが、セキュリティと映像監視に関する情報収集サイトIPVMから独占的に提供された文書を根拠とするもの。この文書はファーウェイのサイト内で見つかり、同社の代表者が署名していると伝えられています。IPVMのサイトでは、概要をまとめた動画も公開されています。

本文書によれば、ファーウェイは中国の代表的なAIスタートアップMegvii(顔認識技術「Face++」はアリババグループのアプリにも採用)と協力し、群衆の中で顔をスキャンして各人の年齢や性別、民族を推定できる人工知能カメラをテストした報告書だったとのことです。さらにイスラム教徒の少数民族の顔が検出された場合は「ウイグル警報」が発せられ、中国の警察に警告するとも伝えられています

ファーウェイ、ウイグル人を顔認識して警察に通報するテストへの関与を認める - Engadget 日本版

この構図を見れば明らかなように、結局のところAIや機械を利用して「人間を支配しようとする」のは、身も蓋もなく「技術を上手く利用できる、悪意ある人間」なんですよね。


悲しいかな、中国共産党よりも自国民から信頼されていない()、民主主義国家である欧米諸国や私たちの日本の政治家たちは、今回ような中国政府と同じようなことをするにはものすごいハードルが高い。
IBM、「偏見」を基にした顔認証技術の開発を中止へ - BBCニュース
最近もアメリカ警察の顔認証技術を巡って色々と荒れていましたけども、あれってむしろ健全な反応でもあるんですよね。
悪意ある(だろう)人間たちに、より大きな力を与えるだろう新たな『機械』『技術』を使わせたくないという率直なきもち。


一方で、ファーウェイが生み出す新たな技術を利用した、政府による「悪意ある支配」に抵抗できない中国国民たち。


つまり、如何にして悪意ある人間による新技術や機械の悪用を防ぐかというテーマって、ファーウェイのようなそれを開発した企業の善意や誠実さ云々の問題というだけでなく、ひたすら政治制度の問題でもあるんですよね。
技術進歩の果てにあるディストピアか、そうでないかを分ける一線として。
やっぱり民主主義政治がナンバーワン!





ちなみに、ここで面白いのは、近代国家として目指すようになった王という一個人に依らない権力機構を目指した政治制度って、その先駆者であるベンサムウェーバーあるいはホッブズが看破したように、その仕組みから国家とは『支配する機械』だと評されてきたわけで。
そして今のところのその極致である現代民主主義政治というのは、まさに個人を出来る限り排し機械的に(故に公正に)統治していくことを目指している。


民主主義政治という機械=仕組みを使って、悪意ある人間による新技術(機械)の悪用を防ごうとする今の私たち。
これもうわかんねえな。
ということは、民主主義という機械を悪用して、悪意ある支配をすることもまた可能ということでもあるわけで。
それって、もしかして、トランプ……。


最早ビッグデータやAIといった新技術がより利用されていく未来を避けることができない以上、その次善の策として、私たちは如何にして「技術の悪意ある利用」を避けるための制度を生み出す必要がある。。
民主主義があるので我々は中国のようにならない! ――というのは簡単なんですよ。
しかし、もし、その民主主義制度こそを悪用して、例えば「安全安心の為に、社会には顔認証システムが必要なのだ」と狡猾な政治家たちに囁かれたら……。
やっぱり今回の「ウイグルとファーウェイ」って他人事とはとても思えないよねえ。


みなさんはいかがお考えでしょうか?