梶谷懐・高口康太（2019）『幸福な監視国家・中国』
今回の備忘録は梶谷懐・高口康太（2019）『幸福な監視国家・中国』NHK出版。
ディストピア、データ資本主義、功利主義、行動科学、リバタリアン・パターナリズム、公共性、中華文明。現代中国のありのままの姿を描写しつつ、様々なトピックを用いて社会的・哲学的考察を行ったのが本書である。本題に入る前に、極々簡単に関連トピックについてまとめておく*。
ディストピアとは、社会の悲観的な未来予想図である。ジュール・ヴェルヌ『20世紀のパリ』は1860年に科学と金融が支配する社会を、ジョージ・オーウェル『1984年』は1949年に暴力装置のある監視社会を、オルダ・ハクスリー『すばらしい新世界』は1932年に遺伝子操作による人口統制社会を描いている。現代におけるディストピアは、一般に言って監視の行き届いた管理社会を指すことが多い。
データ資本主義
2017年、米誌エコノミストは「データの価値は石油を上回った」(“The world’s most valuable resource is no longer oil, but data”¹)という記事を出した。インターネット上のサービスを展開するGAFAのような巨大“プラットフォーマー”は、自社サービス上の顧客の消費行動・訪問サイト等の膨大な個人情報を収集・解析することで、的確なマーケティングに利用することが出来る。一方、Facebookが利用者の情報をデータ・コンサルティング会社ケンブリッジ・アナリティカに提供。ケンブリッジ・アナリティカは2016年アメリカ大統領選挙に影響を及ぼしたと疑惑をかけられ、廃業に至ったのは記憶に新しい²。彼らはFacebook利用者の属性から、D・トランプ支持派に親和性の高い人間を割り出し、効果的な選挙キャンペーンを行ったと言う。告発者の一人は、民主主義を“ハック”したと主張している。近年では、テック企業によるデータの濫用を恐れた人々によって、「個人情報の所有権」という概念が登場している。
行動科学
古くからフロイトをはじめとした心理学者らが人間の精神分析を行ってきたが、近年では神経科学と実験によって人間のありのままの思考様式を明らかにしようという試みが行われている。社会科学、人文科学、自然科学が合流した学際領域であり、近接学問として進化心理学、社会心理学、実験経済学、行動経済学、認知神経科学等がある。その結果、人間の思考には一定の傾向があることが判明しており、直感的な思考と合理的な思考の二つが働いているという二重思考過程仮説、複数の役割が分担して意識を形作っているという心のモジュール仮説、生得的に支持する道徳に偏りが存在するという道徳基盤理論等が提唱されるほか、様々な認知のバイアスが指摘されている³。
行動科学で明らかになった人間の認知バイアスを、政策に活用することはできないか？この発想を元に始まった試みがナッジ(Nudge: 軽く押す)である。例えば、非合理的に現状維持を選択してしまう現状バイアスは、消費者がより良い携帯契約に変更する機会を減じさせている。そこで、携帯各社に解約金の撤廃や透明性の高い契約内容を求めることで、消費者により良い意思決定を促すことができる。より簡単な例として、男子トイレの便座に描かれたハエの絵がある。ナッジの核心は消費者の選択権を維持しながら、より良い方向を自発的に選択するよう促す点にある。行動経済学者リチャード・セイラーらは、ナッジを積極的に利用するリバタリアン・パターナリズムを提唱した。従来のパターナリズムは対象本人の意思決定を蔑ろにする点を批判されていたが、ナッジであればあくまで自発的に選択を取らせることができるというわけだ⁴。一方、人々の思考を一方的に誘導することに危険性を認める主張も存在する。
『幸福な監視国家・中国』個人的要点
＊この項は梶谷懐・高口康太（2019）『幸福な監視国家・中国』に拠る。
・世界一のEC大国となった中国。アリババがアマゾンに勝利した背景には、中国人に適した「ヒト軸のEC」がある。アマゾンのような「モノ軸のEC」は、商品間の比較検討が難しく、リテラシーの低い人間には使いにくい。アリババは「誰から買うか」を重視した設計になっており、生産者本人が動画で紹介や質問対応をするライブコマースで購入の敷居を下げている。
・ECを支えるモバイル決済。普及した背景にはウィーチャット、アリペイといったスーパーアプリの利便性がある。一つのアプリ内でメール、通話、決済、ゲーム等のミニアプリを使うことができる。巨大テック企業は購入履歴から交友関係まですべてのデータを持つ。
・ギグ・エコノミーの発達。これは中国にはもともと二億人の「無業の遊民」がいたほか、需要の大きさにより充分な高給を得られることから、参入者が確保できた。
・中国人はプライバシーに無頓着なわけではなく、割に合わない場合は世間の批判を浴びる。彼らが個人情報を提供するのは、引き換えとして得られる莫大な利便性によるものである。アリババ・グループが展開する「芝麻信用」は、顧客の行動と金融能力から信用スコアを算出する。資産の保有証明書の提出で上昇、契約違反で減少といった具合である。この信用スコアに応じて、融資の限度額が変わるといったサービスを提供する。「芝麻信用」は、未だ金融機関で審査されたことのない多数の人々が融資を受ける上で役立った。また、ギグ・エコノミーの参入者に信用スコアをつけることで、顧客と労働者双方に利便性をもたらしている。
・中国ではテクノロジーの社会実装速度が非常に早く、民間企業が強力に推し進めたものを後から共産党が認可するという形を取っている。この点で、従来的な「イノベーションにおいて、情報を分散処理する民主主義は、集中処理する独裁より優れている」という主張は的を外している。
「カオスでアグレッシブ」から「お行儀の良い」社会へ
・何をするにも証明書が必要なので、行政の電子化が急速に進んだ。
・社会問題である誘拐を取り締まるため、監視カメラは非常に有用であると好意的に評価されている。テック企業各社が捜索に協力している。遺失物も見つかるらしい。
・中国共産党は、中国の社会信用は極めて遅れた段階にあり先進諸国に追いつく必要があると考え、「社会信用スコア」の実装を進めている。「社会信用スコア」は「金融」「懲戒」「道徳」の三つの役割がある。金融は「芝麻信用」を指す。懲戒は違反等によるスコア低下者へのサービス提供を制限する。政府公式の「信用中国」で各個人・企業に信用記録が紐付けられている。道徳は事細かな禁足事項を設定することで道徳的に振舞うことを促す。主に地方自治体で展開されている。
・「社会信用スコア」は、厳罰ではなくサービスの制限という緩やかな処罰によって、人民のルール順守を促す。道徳の禁則事項は特に村から都会へ出てきた人間に向け、村の文化が秩序を乱さないよう指導する目的がある。「社会信用スコア」はそのスコア算出がブラックボックスになっており、人々は「悪いことをしなければ関係ない」「便利だから従う」と自発的に制度を順守するようになっている。とはいえ、内実としてはまだまだ実効性のないものが多く、諸外国による監視社会への警戒は過度なものである。
・こうした制度設計によって人民を指導する「アーキテクチャ」「ナッジ」は公共にどのような影響を与えるのか？大屋雄裕は、監視システムのようなセキュリティをもたらすアーキテクチャは、市民の自由で民主的な欲求から生まれている以上、導入は避けられないと言う。結果出現しうる社会の候補の一つが、「ハイパー・パノプティコン」、万人の万人による監視である。監視が社会のいたるところで行われる結果、大衆もエリートも政府も「監視されるもの」として平等になる。その平等性への信頼によって社会の同一性と安定性が保たれる。誰もが平等に扱われるのだから、リベラリズムはこの社会を受け入れざるを得ない。
・もはやオーウェリアンな絶対的「監視者」と「我々」というイメージでは駄目で、監視の主体が多様化した流動的な「リキッド・サーベイランス」になっている。中国は、監視カメラで監視者を意識させる旧来の監視社会形成に加え、「社会信用スコア」による相互監視の実装を視野に入れている。
お馴染み、中国による言論統制
・独裁体制はむしろ民意を得る必要があるという逆説に苦しむ。意識習近平以前では、対処不可能な規模のネット世論に政府が譲歩するという例は数多かった。その際、批判の対象を末端の役人に限定し、共産党高官を有徳者とすることで譲歩を求めるやり方に、中華文明の思考様式を見ることができる。
・習近平は反腐敗キャンペーン、強力な活動家の取締り、世論誘導員の増員を行い、ネット世論を封じ込めた。加えて、某研究のようにSNS上で削除された書き込みを記録されることを防ぐため、「不可視」の検閲を行っている。書き込みを削除するのではなく拡散やハイライト表示を防ぐことでネット炎上を防ぐ仕組みが取られている。SNS上でも信用スコアの導入が始まっている。更にテンセントや百度が開発した「ネット世論監視システム」によって炎上を未然に防ぐ。
・ネットが大衆化したことで、政権への怒りではなくありふれた話題がネット空間を満たした。習近平政権は「正能量」ポジティブ・エネルギー、つまりポジティブな言葉を流通させて社会を肯定的に捉えようと促す。
中国における公共性
・人民は、私利私欲に走ることが第一にある。中華における「公」には、中華思想における天の概念が今も影響を与えている。天の意思に叶う存在でなければ「公」を担うことは出来ない。少数の統治者は、生民の幸福を充足させることを義務付けられている。共産党は、様々なキャンペーンを通して公共性をもたらそうとし、人民は私利私欲の狂乱から抜け出すためにキャンペーンを支持する。中国において近代市民社会は欧米的な意味では成立しておらず、日本資本主義論争のあった日本にも似た面がある。儒教的価値観では「公」と「私」を一体化することは難しい。
功利と統治
・巨大テック企業や政府が人民のデータを吸い上げ、功利主義的に最も望ましいアーキテクチャを構築すれば、幸福な社会が出来上がる。それを実現する道具的合理性を、市民的公共性に支えられたメタ合理性によって吟味・コントロールすることはできないか？
・一つの動きがEUによるGDPR一般データ保護規則である。ティロールは、簡単に得られるデータはテック企業が独占すべきではなく、提供者本人に所有権があるべきだと説く。また、AIによる差別の恐れから、GDPRにはAIによるプロファイリングに対して異議を唱える権利、自動処理のみに基づいて判断が決定されない権利、説明を要求する権利等が明記されている。
・中国の徳治は道具的合理性によるアルゴリズム的公共性に相性が良い。反抗は徹底的に弾圧しつつ、民草からの要望に中央が迅速・的確に対応する。儒教的価値観による権威の付与が為される。一方、西洋諸国でリベラリズムが揺らいだ結果として一部に見られる徳倫理の復活は、アルゴリズム的公共性の呼び水になりうるかもしれない。
道具的合理性の暴走
・自治区の話。
・著者の主張としては、市民的公共性が充分に成り立っていない状態で、後戻りのできないテクノロジーの進展と実装が為されていく状況に警鐘を鳴らすものだ。資本主義社会では、テクノロジーの利便性からどこでも中国と同様のことが起こる可能性がある。中国の監視社会について考えることは、我々のテクノロジーの使い方を考えることである。
雑な雑記
中国の現実を探るルポでも十分鳴らしただろうに、様々な議論を援用し更なる考察を行う本書は、新鮮かつ示唆的である。200頁超の新書とは思えない詰め込みぶり。そもそも中国が監視社会に向かっている理由の一つである「社会信用」、言ってしまえばマナーの悪さやむき出しの私利私欲といったものは、その他の中国解説本や中国でビジネス経験のある知り合いも指摘していたことで、中国が監視による近代化を図っているというのは興味深い。経済力、軍事力を大幅に増大させている中で、最後のフロンティアは人民性にあるということなのか。
中国はユートピアなのか、ディストピアなのか？著者は問い掛けはするも、結論は出さないし、そもそもそうした問自体あまり有用ではないと考えていそうだ。本書に描かれるように、中国人は自分たちの社会をユートピア/ディストピアなどと考えていない。あるのはただ現実である。我々の社会ではまだ顕在化していないために、彼らの社会を他者として見ることが出来るが、現実にテクノロジーの進展が監視社会をもたらしたとき、我々はどうそれを評価するのだろうか？功利主義的に最適化された、幸福な監視社会が実現したとしたとすれば、その住人にとっては『すばらしい新世界』である。歴史学においてよく為される言説として、「現代の価値観で過去の出来事を評価するべきではない」というものがある。では、未来の出来事はどうだろうか？今の我々は、将来的な『すばらしい新世界』の実現可能性をどのように評価するべきなのだろうか？
…もちろん、現実的な議論としては、権利の保護を主体として、監視社会における諸リスクに対応した法整備を行っていくことにはなるのだろうが。
本書でも指摘されている通り、テクノロジーの進展は監視社会を遠からず実現可能にするだろう。そして、その利便性と平等性を功利主義者もリベラルも否定することは出来ない。そう、後に残るは一部のリバタリアンだけ！ということで、リバタリアンのことも考えたい。
*トピックまとめは過去に読んだ資料に拠る私の解釈である。一般的に知られているものとしたが必要があれば典拠を示す
2 https://www.bbc.com/japanese/43985373
3 ダニエル・カーネマン（2011）『ファスト&スロー』
4 リチャード・セイラー，キャス・サンスティーン（2008）『実践 行動経済学』
