南井三鷹の文藝✖︎上等

デジタル・テクノロジーが社会を破壊する？

本書の著者のバートレットはイギリスのソーシャルメディア分析センターのディレクターなので、インターネットの専門家と言えると思います。
原題の直訳が『「国民」対「テクノロジー」：インターネットはどうやって民主主義の息の根をとめるのか（そして、いかにして民主主義を救い出すのか）』となるので、
デジタル・テクノロジーによる社会変化の負の側面を主に取り上げた本と言って良いでしょう。

本書はインターネットやAI、ハイテク企業の問題点を的確に指摘しているのですが、僕自身は驚くような恐怖が描かれているという印象は持ちませんでした。
日本の民主主義がイギリスより未熟なせいなのかもしれませんが、インターネットの存在とは関わりなく、大衆などそんなものだと思っているのかもしれません。
しかし、このような本を読むときに、人間がそうなるのはテクノロジーのせいなのか、そもそも人間とはそういうものなのではないのか、と疑っておくことは重要だと思います。
穏当な結論は、人間はもともとそういうものだが、インターネットはそれを増幅している、というものでしょう。
この発想は多くの人が受け入れやすいものでしょう。

テクノロジーは人間を安楽へと誘導します。
もう我慢しなくていいんだよ、と甘言を弄して、僕たちの行為への敷居をどんどんと低くしていきます。
こうして書いたものが人の手に渡るとき、大昔はすべてを書き写す労苦がありましたが、印刷術の発達によって大幅に作業が短縮されるようになり、インターネットによってとうとう即時的に世界中に発信することができるようになりました。
考えてみればおそろしい進歩ですが、僕たちはすぐにテクノロジーを自らの能力の拡張として把握してしまう、つまりは慣れてしまうのです。

自ら垂れ流すデータによる監視

第1章は「新しい監視社会」と題され、データ収集によって人々をコントロールする技術の進歩が語られます。
ビッグデータを使ったアルゴリズムでその人間がどんなタイプなのかをかなり正確に特定するという話が出てきます。

スタンフォード大学のマイケル・コジンスキー博士は、フェイスブックでどんな情報に「いいね！」ボタンを押したかでその人物の人間性が判定できる、という研究を行っています。

コジンスキーは自らのアルゴリズムをこう語っています。

「このアルゴリズムがまぎれもなく世界を変えてしまう点は、一見するとまったく無関係のようですが、音学嗜好あるいは読書傾向からあなたの信心深さ、リーダーとしての素質、政治的信条、パーソナリティなどに関し、性格を極めた情報を抽出できる点です」

このアルゴリズムの成果はバートレット自身が実験台になって体験しています。
もちろん趣味的傾向をデータとした分析で人間性を深く知ることは難しいでしょうが、フラットな選択肢の中から何かを「選択する」場面に限れば、たしかに高い信頼度を示すのではないかと僕も考えます。
バートレットがこのアルゴリズムを「私たちの理解を超えた新しい権力の源泉」だと表現するのも、わからなくはありません。

特にバートレットが懸念しているのが、民主主義的な選択の場面、つまり選挙のときに政党がこのデータを利用することで、個人の政治選択がコントロールされることです。
いや、すでにある程度実現されていることが本書の第3章で示されています。

このようにネット上のデータを分析することで、その情報を必要とする個人を特定し、そこへと効率的に情報を送り届けることを、バートレットはマイクロターゲットと呼んでいます。
これは広告の効率化を動機として発展した技術です。
広告は機械生成によって標的が完璧に定められ、人間のタイプや心的状態に訴えるようにして送りつけられるのです。
バートレットはこの技術が政治に使われることにより、どのようなパラダイムシフトが起こるかを考えています。

データの収集から分析・予測・ターゲティングへと至るこの一連のパターンは、民主主義の国で生きる市民に三つの課題を突きつける。
一番目は、ソーシャルメディアとデータ収集が絶えず目を光らせているもとで、私たちが政治的に成熟できるのかどうかという問題だ。二番目は、このような手法が人心操作のために使われ、市民の関心を逸らし、市民の利益を無視するような形で影響力が行使される危険性である。三番目の課題は、以上の課題よりもさらに仮定に基づく問いだが、そもそも私たちは、モラルをめぐる重大な決定をなしうるほど、自分たちを信頼しているのかどうかというものである。

バートレットの言う一番目は監視社会の問題です。
定番のパノプティコンが引き合いに出されるのですが、それより重要な指摘は、デジタル・テクノロジーは忘却と無縁だというところです。
「若気の至りで発した愚かなひと言も、その発言が未来永劫蒸し返され、当時の発言そのままで再現されるようになれば、黙っているに越したことはないと、ますます多くの人たちが考えるようになる」というのはその通りだと思います。
ネット空間では本当に謝らない人が多いと感じますが、一度謝罪するとそれが決定的に残り続けることが怖いからなのかもしれません。

二番目の人心操作については、すでにテレビの時代から考えられてきたもので、僕は特に新しい問題だとは思いません。
もちろん新しくないから重要ではないというわけではありません。
三番目は人間が面倒な問題を機械に任せてしまうため、機械に頼ってモラル上の選択を行なってしまうという問題です。

僕自身がこの問題で頭に浮かんだ実例は、プロスポーツの判定の一部をテクノロジーに任せたことです。
たとえば2014年サッカーW杯からボールがゴールラインを越えたかどうかをカメラやセンサーによって判定する「ゴールライン・テクノロジー」が導入されました。
人間の目でわからないものを機械の判定に任せることで、両者に遺恨を残さないことが可能なのですが、判定にまつわる「責任」と「心理的負担」から人間が簡単に逃げ出して良いものなのでしょうか。
こういうことを続けていれば、重要な場面になるほど審判は役立たずになるわけですから、いずれピッチ上の審判は審判としての権威を失って、実質的にはただのゲームの司会者となる恐れもあります。

バートレットはコンピュータへの依存によって人間が自由に考える能力を失うことを危惧しています。

ひと筋縄ではいかない判断では、へまばかりを繰り返してきた私たち自身を踏まえると、結果はアルゴリズムに任せたほうが賢明でもあり、痛みも少ない社会になるかもしれない。だが、そのような場所を民主主義と呼ぶわけにはいかない。

しかし、バートレットの心配する未来はすでに現実化しているように僕には思えます。
民主主義と大衆社会は深く結びつくもので、大衆は痛みや責任から逃れようとするものです。
現代には真のエリートなどはほとんど絶滅していると思いますし、システムの中でゲームに勝った人間が、大衆に媚びながら自らの地位を維持することに執心しているのが実情です。
このことは本書の第3章で具体的に書かれています。

つながるほどに分断されるという逆説

本書の第2章は政治集団が「部族化」していることを取り上げています。
情報が有り余る世界では利用できる情報が断片化していくので、偏った個人の先入観に合わせてニュースソースの方を改編できるようになりました。
「フィルターバブル」「エコーチェンバー」などと言われる現象がそれで、インターネットを介せば自分と価値観を同じくする人々との閉鎖的なコミュニティの一員になることはそんなに難しくはありません。
ネットによっていかに自分たちが抑圧されているかを知った人々が、怒りや不平を共有し、同じ意見を持つ集団をつくります。
このような集団をバートレットは「部族」と呼んでいます。

情報過多にさらされているインターネットの世界では、情報の「速さ」に対応する手段として直観による判断が優先されるようになります。
論理的な思考はむしろ「遅さ」を必要とするため、インターネットからは駆逐される運命にあります。
バートレットは部族主義と直観的感情的な思考にとって、分裂と不協和な状態はかえって望ましいことを強調し、 部族主義が部族ごとの対立によって相互共存をはかるものであることを示します。
「理性と論争は、感情と部族への盲目的な忠誠の前に膝を屈する」と、部族対立の先にある民主主義の破綻を視野に入れています。

要するに、バートレットが言いたいことは、インターネット上ではまともな議論は成立せず、分断を深めることしかない、ということです。
（ひどく当たり前のことでしかありませんが）
サイバー心理学者のジョン・スラーがインターネットの対話中に社会のルールや規範を無視してしまうことの理由を考察しています。

その理由とは、私たちは、対話している相手が誰なのか知らなければ、会ったこともないからである（相手もまた自分が誰かを知らなければ、会ったこともない）。ネット上のコミュニケーションは刹那的で、一見するとルールや説明責任が存在しない。すべては代替現実のように思える世界で起きているのだ。以上の理由から、実生活では決してしないような行動に出てしまう。スラーはこれを「有毒性脱抑制」と呼ぶ。

以上の考察には納得できなくもないのですが、僕の実感ではそれだけではないような気がしています。
多くの人は「実生活では決してしないような行動」にはなかなかネットでも踏み切れないと思います。
どこかそのような行動をする要素を持つ人だからこそ、そういうことをしてしまうのです。
何度も僕が言っていることですが、これは自己愛や自己承認の問題を無視しては語れないと思います。
ネットでのつながりは実際に会ったことのない人ばかりですが、その全員にルール無用な振る舞いをするわけではありません。
相手を自分のテリトリー内に踏み込んできた「よそ者」だと考えているから、そのような行為に及ぶわけです。
（「実生活では決してしないような行動」への敷居が低い場所とは、端的に戦場ではないでしょうか）
僕はインターネットが何より自分の部屋など、いつでも自分のテリトリー内で使用されているという感覚をユーザーに与えることが問題なのではないかと感じています。
僕はこうして文章を書くときに、論理を用いて書くように気をつけています。
しかし、論理を無視して粗い言葉尻だけを取り上げたり、恣意的な部分引用によって文句をつけたりする、感情的というより試行錯誤の上で相手に勝てそうなところを狙おうとしてくる人に多く出会いました。
こういう人は直観的感情的にふるまっている感じではなく、ある程度理性を働かせてなんとか相手にダメージを与えようと工夫しています。
つまり、そもそも「悪意がある」ことが多いのです。

自分のテリトリーであるツイッターでは好き勝手に言うわりに、よりニュートラルなテリトリーであるAmazonのコメント欄で応じることを避ける著名人は非常に多くいます。
著名人の権力の源泉は自らの立場の優位さにあるので、ニュートラルな場でやり合うと不利だと理性的に承知しているからこそ、自分のテリトリーからの発信にこだわるのだと思います。
（たとえば仲正昌樹や千葉雅也などは、著者という立場を必要以上に権威化して、批判者との対話から逃れることに必死です）
僕と五分五分の環境でコミュニケーションに応じた著名人はほとんどいません。
相手に会ったことがないということより、相手が不在の場所で発信するからこそ、その人の普段は出さない「権力的なふるまい」が露出するというだけのことに僕には思えます。
（ちなみに僕が面と向かって権力にケンカを挑む人間であることは、普段の僕を知る誰もが認知していることなので、僕の場合は実人格とのギャップはあまり大きくないと思います）
権力を持つと人間が変わるというのは昔からよくあることです。
バートレットもこのような状況は、テクノロジーのせいではなく、「人間の弱さに由来する」と述べています。

インターネットはマスコミ会社や出版社と同じく基本的に相手の不在状況を前提としているのですが、マスコミや出版社と違って競合他社による背後の圧力が存在しないため、使用者自身の自律性においてしか倫理が機能しません。
そのためプラットフォームの支配こそが最大の権力となるのです。

平気で矛盾したことを発信する政治の広告化

本書の論点はなかなかに豊かなので、いちいち書いていくとボリュームが大きくなるので、ここからは興味深かった点だけをあっさりと書きます。
個人のターゲット化が進むと、政治家はその個人の好みに合うように自由自在に選挙の公約ができるようになる、というところは興味深いものでした。
バートレットが未来の政治家を、「理念には乏しいが、論点をぼかし、曖昧模糊とさせることにかけては抜群の才能がある者かもしれない」と描くのは、政治家が相反する内容を含む何百ものバリエーションのメッセージを用意し、有権者の嗜好に合わせて送り届けるようになるからです。

有権者という有権者が政治家の意思を受け取るのではなく、広告を受容する単なるデータポイントになってしまえば、選挙はただのソフトウェア戦争にすぎなくなってしまう。

バートレットはこう述べるのですが、ここで問題となるのは「広告化」だといえるでしょう。
選挙公約も文学も思想もすべては広告になっていくのです。
ここで書かれている未来の政治家像は、すでに僕がよく知る研究者や売文家の姿そのものです。
つまり、政治の世界での顕在化は始まったばかりかもしれませんが、冷静に見れば、資本が十分に入り込んでいる業界では広告化のパラダイムシフトはすでに終わっているのです。

最近話題のAIについても取り上げています。
AIにできない非定型の仕事は高収入と低収入にくっきり二極化するとか、テクノロジーの利益は金持ちに集中するなどと指摘し、AIが格差を助長することを示唆しています。

第5章はデジタル・テクノロジーによって独占が作り出されている、という話です。
そのサービスを利用するユーザーが指数関数的に拡大し、利用者が増えるにつれサービス自体も向上し、さらなるユーザー拡大を導くと、何十億ドル規模の巨大企業が一夜にして誕生したりします。
このような「ネットワーク効果」による自己強化が、独占を生まないはずがありません。
バートレットが独占企業として挙げているのは、僕たちがよく知るGoogleやYouTube、Amazonなどの企業です。
独占力があれば、プラットフォームの支配を通じてライバルに圧力をかけることができます。

アマゾンの優位とは、正確に言えば本そのものの品揃えに抜きん出ているからではなく、本が売られている場所をアマゾンが支配しているからなのである。つまり、アマゾンが値段を決め、条件を決めることができ、他の小売業者はその条件を呑むしか手立てはない。

プラットフォームさえ支配してしまえば、そこで商売する他社との間に不均衡な関係を生み出します。
その事態は、ヤクザがショバ代を請求するのと似てくるのですから、それはそれは一方的な条件だって押し付けられるというものです。
僕がAmazonにレビュー消去の理由を何度問い合わせても返事メールすら送ってこないのも、相手が社会的企業ではなく反社会的集団だと思えば不思議はありません。
インターネットはこのような商売をのさばらせることに貢献したわけですから、西洋との対抗軸をめざす中国が自国のIT企業を後押しして対抗しようとするのは当然のことだと言えるでしょう。

どこまでの信憑性があるのかわかりませんが、第6章でシリコンバレーから逃げ出す者たちについて書かれたところも興味深く読みました。
フェイスブックの上級幹部だったアントニオ・ガルシア・マルティネスはワシントン州沖合のオーカスという小さな島で、銃やテントでのサバイバル暮らしを営んでいるようです。
彼はこの社会がディストピアに向かうと考えているのですが、ここまで極端なサバイバル生活でなくても、シリコンバレーの大富豪の半数は週末的な世界への備えを用意しているというのです。

テクノロジーから民主主義を救う対処法

巻末のエピローグには、バートレットが示す「民主主義を救う20のアイデア」が掲載されています。
具体的には20項あるのですが、大きく5つに分かれています。

「モラル上の自律性を備えた主体的な市民になるよう」が一つめです。
僕も前述したように、ネット上の倫理は自分自身で支えるしかありません。
バートレットも同様に考えているのがわかるのですが、僕はこのような状況下においてはカントが示す倫理が重要になってくると考えています。
理性に基づいた自律した意志で主体的かつ倫理的に行為することは、カント哲学の課題でもあります。
デジタル・テクノロジーに対する態度とカント哲学に対する態度には相関関係があると思います。
たとえばカントを批判したメイヤスーに対する態度がその人の心的デジタル浸透率を示すこともありえるということです。

「広告モデルから抜け出す」という提案は、消費資本主義のあり方を見直すという意味で本質的であると感じます。
広告を打つ側からすれば、金を払って消費をしていない人は顧客ではなく単なるデータポイントにすぎません。
バートレットは個人データを売買しないサイトを利用するように提案しています。

「自由で公平、そして国民の信頼を高める選挙」が二つめです。
ここではなかなか面白い提案がなされています。
選挙候補者の公約をじっくり検討する機会を設けるため、選挙を祭典とするというアイデアは悪くありません。
投票日当日の選挙活動は禁止なので、その前日あたりを公休日として選挙のことを考える1日にするというのは、実現できればいい効果があるのではないでしょうか。
また、botの撲滅も提案しています。

三つめが「平等性の維持と社会的投資を共有する活力に満ちた中流階級」です。
富の分配や新しいセーフティネットなどを提案していますが、バートレットはベーシックインカムはうまく機能しないだろうと思っているようです。
ロボット税の導入というアイデアもあります。

「競争力のある経済と自立した市民社会」が四つめ。
独占の禁止、特にAIを単独一社が所有し運用するような事態は避けるべきだと、バートレットは述べます。
デジタル・テクノロジーにおいて勝者総取りを防ぐ有効な手立てがあるかどうかは難しいところです。

「政府は国民の意思を実現する一方、国民に対する説明責任がある」が最後です。
バートレットはネット上をパトロールして情報収集や捜査活動をする「デジタルポリス」が登場するとしています。
ビットコインの規制などもここで問題にしています。

このような提案によって、バートレットはテクノロジーから政治を守ることが急務であることを示しています。
日本人は政治意識がかなり低く、マスコミを中心とするムードに流されて主体性を簡単に明け渡してしまうのが通例ですが、高齢化社会のためにネットの影響が政治を露骨に左右するまでにはかなりの時間的猶予がある気がします。
他国で問題が起こったのを見てから対策ができるという点では、日本には利があるのではないかと僕は勝手に楽観しています。