「システム・エラー社会」

ロブ・ライヒ, メラン・サハミ, ジェレミー・M.ワインスタイン
〝システム・エラー社会 「最適化」至上主義の罠〟(訳:小坂恵理)
について。

81o6DdRUNiL.jpg 本書の「はじめに」は次の文章で始まる。
 二〇二一年一月六日、アメリカ合衆国議会議事堂に暴徒が押し寄せた。この日、ドナルド・トランプ大統領が出席した集会で扇動され、行動を起こした人々である。彼らの目的は大統領選挙の結果を暴力に訴えて覆すことだった。すでに何週間も前から、「勝利は盗まれた」と偽りの情報を聞かされ続けていたからだ。このメッセージの発信源は、主にトランプ本人だった。選挙結果の無効を主張した訴訟で六〇回以上も敗北し、全米の選挙管理人から徹底的に反論されていたにもかかわらず、おとなしく引き下がる気配はなかった。

インターネットにはこのような偽情報が蔓延し、それを信じて暴徒化する人たちがいる、これは大きな問題である。しかし、本書はこうした事態は問題であるが、同時にそれを誰が止めるのかまで、広く、深い視野で考察する。実際、上の文章は次のように続く。
 巨大テクノロジー企業(ビッグ・ナック)のプラットフォームはその何か月も前から、選挙の「不正」を非難するために利用され続けてきた。しかし、一月六日、自分たちが招いた恐ろしい事態と向き合い、ビッグ・チックもついに目を覚ました。ツイッター社は、九〇〇〇万人ちかくのフォロワーを抱えるトランプの投稿を禁じ、アカウントを一時停止した。二日後には、「さらなる暴力を扇動するリスク」を理由に、トランプをプラットフォームから永久に追放し、彼のアカウント上のいっさいを抹消した。同様の使用禁止措置は、フェイスブック、インスタグラム、ユーチューブ、スナップチャットでも行なわれた。するとトランプは、まだアクティブだった@POTUSという政府のアカウントを利用して、自分は「沈黙させられた!」と投稿したが、このツイートも直ちにブラットフォームから削除された。
 トランプによる選挙関連の偽情報の発信を、プラットフォームはこのように厳しく取り締まったが、このことは一握りのビッグ・テックに権力が集中している証拠でもあり、警鐘として受け止めるべきだ。何しろ、しばしば「自由世界のリーダー」と称えられるアメリカ合衆国大統領が、何千万人ものフォロワーとコミュニケーションするためのお気に入りのツールを、突然奪われたのだ。このことが、選挙後のさらなる暴動のリスクを低減させるために必要な措置だったかどうかは別として、二〇二〇年の選挙のはるか以前から嘘を重ねてきた人物を黙らせるタイミングを見計らってきたプラットフォームが、ついにそれを実行に移したのだった。ビッグ・テックのエリートたちが、アメリカの選挙で選ばれた最高位の役職者を遠慮なく弾圧したということだ。 このことによって、テクノロジーやそれを開発した関係者が、私たちに対して絶大な力を持って君臨している現実が明らかになったのである。
 合衆国議事堂襲撃に至る出来事でビッグ・チックの果たした役割と対応は、テクノロジーに関する長年の懸案のごく一部にすぎない。 ビッグデータを利用してプライバシーを侵害しているとか、行動を操っているといった憶測は後を絶たず、ビッグ・テックは常に色眼鏡で見られるようになっている。インターネットやスマートフォン、コンピュータが私たちに提供する便利な道具の数々は、私たちを夢中にさせて注意を惹きつけ、画面にくぎづけにさせる。その間に、私たちのオンラインでの行動からたくさんの情報を集めているのだ。さらに、合衆国議会議事堂の出来事からもわかるように、ソーシャルメディアのプラットフォームには誤報や偽情報が溢れかえっている。その結果として科学への信頼は損なわれ、政治の分極化が進み、民主主義そのものの春まで脅かされている。これらのいっさいで、巨大な市場支配力と政治的影響力を持つ一握りの企業が黒幕として暗躍しているのだ。

はじめに
 
序章
 
第一部 「テクノロジスト」の解読
第一章 不完全なマインドセット「最適化」
私たちはすべてを最適化するべきか? /エンジニアの教育 /効率の非効率 /測定可能ならば意味があるとは限らない /価値のある複数の目標がぶつかり合うと何が起きるか
 
第二章 ハッカーとVCの結託は問題含み
権力を掌握したエンジニア /ベンチャーキャピタリストとエンジニアから成るエコシステム /最適化のマインドセットは企業の成長を後押しする /ユニコーン企業の人材ハンティング /新しい世代のベンチャーキャピタリスト /市場支配力を政治支配力に変えるテクノロジー企業
 
第三章 破壊的イノベーションVS民主主義
イノベーションと規制の対立は新しいものではない /「規制の不在」には政府が加担している /「プラトンの哲人王」の運命 /企業にとって良いことが健全な社会にとっても良いとはかぎらない /ガードレールとしての民主主義
 
第二部 「テクノロジー」の分析
第四章 アルゴリズムの意思決定は公正か
機械学習の時代の到来 /公正なアルゴリズムを設計する /試されるアルゴリズム /アルゴリズムの説明責任の時代 /アルゴリズムの決断に含まれる人間の要素 /アルゴリズムを管理する方法 /「ブラックボックス」を開ける
 
第五章 プライバシーに価値はあるか
データ収集の無法地帯 /デジタルのパノプティコン? /パノプティコンからデジタル・ブラックアウトへ /テクノロジーだけでは私たちを救えない /私たちは市場も当てにできない /プライバシー・パラドックス /社会のためにプライバシーを守る /あなたのプライバシーにとって重要な四文字 /GDPRの先には
 
第六章 スマートマシンの世界で人類は繁栄できるか
ブギーマンにご用心 /スマートマシンの何がスマートなのか /オートメーションは人類の役にたつのか /経験機械に接続する /人間の貧困からの大脱出 /あなたにとって自由の価値は? /調整のコスト /自動化すべきでないものはあるか /人間はどこに収まるのか /取り残された人たちに何を提供できるか
 
第七章 インターネットに言論の自由はあるか
言論の氾濫とその結果 /言論の自由が民主主義や尊厳と衝突するとき /オンラインのスピーチはオフラインにどんな危害を加えるか /AIはコンテンツの過激な傾向を和らげられるか /フェイスブックは最高裁? /自主規制を超える /プラットフォームの免疫の未来 /競争のスペースを創造する
 
第三部 「未来」を再コーディングする
第八章 民主主義は難局を乗り切れるか
では、私には何ができるだろうか /あなたひとりではなく、私たちみんなの問題である /制度を再起動する /テクノロジストよ、害をなすなかれ /企業の力に抵抗する新しい形 /テクノロジーに支配される前に、テクノロジーを支配する
つまり、著者たちは、フェイクがまかり通るネットの状況の問題と同時に、それをとめる権限は誰にあるのかという問いかけをしている。
本書の大きな構造は次のようになっていると思う。

旧来のメディア=テレビや新聞と、新しいメディア=Facebookはどう違うか。 意識している人はあまりいないかもしれないが、テレビや新聞は報道するものに対する編集責任を負っている。これらのメディアは誤報を流せば謝罪しなければならない。
対してFacebookやInstagram、Twitterなどのメディア(プラットフォーマー)は、直接的には編集責任を負わない。これは合衆国の通信品位法(Communications Decency Act)、とくに第230条(CDA230と言う)による。

通信品位法は、当初はインターネット・プラットフォーマーにも、テレビや新聞と同様の編集責任を負わせようしたそうだ。ただ、そうなると、勝手にどんどん書き込まれるメッセージの総体の編集者として責任を負わされ、黎明期のSNSにとっては、そのチェックにコストがかかりすぎて事業として成立しなくなる。このため猛烈なロビー活動が行われたそうだ。

そして、それの裏返しが、SNSの自主規制である。
だが、Facebookがどういう投稿を不適切と判断し削除するのか、一私企業であるMeta社に対して、政府は強制力のある指導はできない。それは合衆国憲法が保証する言論の自由だという。
結局、ビッグ・テックが情報流通を支配する。それも私企業の行うこととして、マーク・ザッカーバーグが裁定するという状態になっている。本書では「フェイスブックは最高裁?」と表現する。

本書の副題は"SYSTEM ERROR WHERE BIG TECH WENT WRONG AND HOW WE CAN REBOOT" である。BIG TECHとはGAFAなどを指す。
ただこの私企業が支配することが必ずしも悪と決められないとも思う。9.11の後、捜査当局がテロリストのiPhoneを押収し、AppleにiPhoneに記録されているデータの読み出し及びバックドアを仕掛けることを要請したが、Appleは拒否した。Appleはただ自社製品の評価を下げて販売成績が落ち込むのを嫌ったということもできるかもしれないが、Appleが取り組むセキュリティ対策、プライバシー保護対策はかなり真剣なもののようだ。


以上はSNSについての考察だけれど、本書のタイトル〝システム・エラー社会 「最適化」至上主義の罠〟が示すように、コンピュータによる「自動」判断を行うアルゴリズム(あるいはAI)全般に対して警鐘を鳴らしている。

欧米人の著作は、最初にトピックスを提示するものが多いと言われる。それによって著者が何が問題で、何を考えようとしているのかを読者にわかりやすくする。本書もその作法にのっとっている。序章では二人の、およそ正反対のITエンジニアを紹介している。

一人目はジョシュア・プラウダーである。
 ジョシュア・プラウダーは二〇一五年、若く才気あふれる学部生としてスタンフォードの一員となった。ウィキペディアによれば、彼は「イギリス系アメリカ人の起業家」で、『フォーブス』の「サーティ・アンダー・サーティ」のひとりに選ばれている。 スタンフォードに入学してからわずか三か月の間に、駐車違反切符の無効化を手助けするチャットボットをプログラムしたという。 起業については、入学前にロンドンで暮らしていたときから構想していた。「イギリスで高校生だった僕は、十八歳、つまり運転できる年齢になったばかりのとき、三〇枚の違反切符を切られたんだ。でも、罰金を払えなかった。払うべきことをしてしまったのかもしれないけど、支払う余裕がなかった。僕は自分自身と友人たちのためにソフトウェアを作ったんだ」。大学一年生が始める片手間のプロジェクトらしい単純さに思えるが、「世界中の誰もが違反切符を切られるのを嫌がる」ことをブラウダーは見逃さなかった。ほんの数年を早送りするように、ブラウダーはドゥ・ノット・ペイ (DoNotPay) というテクノロジー企業のCEOとしてスタンフォードを離れた。ドゥ・ノット・ペイは、ロンドンやニューヨークなどの大都市において、発行された駐車違反切符に異議申し立てをするための無料で自動化されたメカニズムを提供するベンチャー企業である。ブラウダーの輝かしい経歴を示すプロフィールによれば、二〇一六年六月の時点で、ドゥ・ノット・ペイのおかげで一六万枚以上の駐車違反切符が無効になり、取り消された金額は全部で四〇〇万ドルにのぼった。
 このサービスはかなりシンプルだ。ブラウダーは、交通法規に関する知識を無償提供してくれる弁護士のグループの協力を得て、駐車違反切符が無効になる一般的な理由を確認した。このように準備を整えたうえで、チャットポットはユーザーにいくつかの質問を行ない、その回答に基づき、ユーザーが控訴した場合に勝利できるかどうかを判断する。勝利を期待できそうなら、チャットポットは控訴のあいだユーザーを一貫してサポートするが、ユーザーは料金をいっさい請求されない。実はチャットポットは、違反切符が合法的に発行されたかどうか判断する能力をほとんど持たない。ユーザーに最適な苦情処理手続きを提供しているだけだ。もちろん、いきなり請求された高い金を払わずにすんだユーザーは嬉しい。ここでは、弁護士と政府だけが負けになる。プラウダーは、「違反チケットは弱者を苦しめる税金のようなものだ。本来は政府が守るべき集団に税金を課すのは間違っている」と主張した。おかげで彼は、「ワイアード」、「ビジ・インサイダー」、「ニューズウィーク」などの雑誌やウェブサイトで「神童」ともてはやされ、母校のスタンフォードでも賞賛された。さらに、シリコンバレーでも大成功を収めたペンチャーキャピタル企業のアンドリーセン・ホロウィッツから支援を受けた。同社は二〇一七年創業間もないプラウダーの会社のシードラウンド(資金調達)にして協力した。

英米ではいいかげんな交通取り締まりが行われていたということかもしれない。そしてドゥ・ノット・ペイによって、交通取り締まりの精度が上がったのなら、このサービスも社会的に意義あるものだと評価できるかもしれない。(ただしそうなったらドゥ・ノット・ペイの需要は各段に下がるだろう。)

それは措いて、著者は次のような指摘もする。
……たしかに違反切符を切られれば良い気分はしないが、合法的で重要な目的の多くに貢献していることも事実だ。違反切符を切られる可能性があれば、消火栓のそばに車を停めたり、私道を車でふさいだり、障害者専用スペースを占領する行為を慎むようになる。大都市では、違反切符を回避するために車を移動すれば、道路の清掃作業が楽になる。駐車取り締まを強化すれば、コミュニティは様々な優先事項を実現しやすい。たとえば交通量の減少や渋滞の緩和にもつながる。そしてもうひとつ、駐車違反切符は自治体にとって市や市民をサポートするために役立つ貴重な収入源でもある。
 プラウダーは、ロンドンの保守的なタブロイド紙の時代精神に影響されたのかもしれない。駐車違反切符を通じて歳入を増やす自治体の試みをタブロイド紙は酷評するが、実のところ、これは利便性や環境衛生の向上を理由に取り組む他の都市構想と矛盾しない。しかも交通量の減少は、多くの人から評価される可能性がある。さらにロンドンの地方議会は、駐車違反切符からの歳入を地域の交通事業に費やさなければならず、国道補修のためには九〇億ポンドが必要とされる点も見逃せない。インフラは公共財の典型例で、市場による供給が難しい。政府が介入しないと、消費者はインフラの使用料を支払わないまま好き勝手に利用することになる。ゆえに、税金や罰金や駐車違反切符にはそれ相応の役割がある。そして、駐車違反切符は弱者を思い撃ちした税金だという主張だが、実を言えば、誰が駐車違反の罰金を支払っているのか確認できる優れたデータは存在しない。むしろ、公共交通機関が効率的で料金も手ごろなロンドンなどの都市では、上流階級よりも低所得世帯のほうが、バスや地下鉄を利用する可能性はずっと大きいと推測して間違いない。一皮むけば、駐車違反切符は弱者に対する税金だという主張には、あまり説得力が感じられない。

もう一人はアーロン・スワーツというエンジニアである。
 シリコンバレーが「ドットコム不況」から回復し始めた二〇〇四年、アーロン・スワーツという若者がスタンフォード大学に入学した。ブラウダーと同様、彼は幼い頃からコンピュータプログラミングに魅了された。一三歳のときには、オンライン共有ライブラリの theinfo.orgを創造した功績を評価され、全米レベルの賞を受賞した。一四歳のときには、Really Simple Syndication (RSS) の仕様書の作成に協力するが、これがインターネットプロトコルとして広く利用されると、どこでもウェブサイトの更新情報へのアクセスが可能になった。 RSSの目標はオープン標準の創造で、実現すれば、誰もがインターネットで情報を共有・更新できる。
 :
 :
 スワーツは、コーディングをして時間の大半を過ごした。そして一年生に在学中、Infogami という新しい会社を立ち上げるため、創設まもないテクノロジー・インキュベーターのYコンビネータに支援を申し込んだ。その結果、Yコンビネータのサマー・ファウンダーズ・プログラムの第一期生のひとりに選ばれた。夏の終わりには、スワーツは会社をそのまま続ける決心を固めた。その後まもなく Infogami は、 やはりインキュベーターから支援されたスタートアップのレディットと合併する。 二年後にレディットはコンデナストに売却されるが、売値は一〇〇〇~二〇〇〇万ドルだと報じられた。 スワーツは、若くして大金持ちになった。レディットは今日、インターネットで最も人気のあるサイトのひとつで、会社の価値は三〇億ドルだと言われる。
 :
 :
 しかしアーロン・スーツは異色の存在だ。彼は金儲けよりも、テクノロジーのほうに興味があった。テクノロジーを利用して、人間が情報にアクセスして関わりあう方法を変化させたいと考えた。「情報は力である」と彼は二〇〇八年に「ゲリラ・オープン・アクセス・マニフェスト」で宣言し、つぎのように続けた。「ただしあらゆる力と同様、これを独り占めしたがる連中がいる……しかし、この特権を独り占めする必要はないし、道徳的に許されない。あなたには、この力を世界と共有する義務がある」
 :
 :
……彼はテクノロジーが解放され、ひいてはそれが政治の解放につながることを望んだ。
 コーディング言語やインターネットプロトコルに関してスワーツが作成したレキシコン(語彙目録)には、自由、平等、正義という言葉がちりばめられている。テクノロジーについての独自の見解から、彼はテクノロジー活動家になった。テクノロジーと政治の関わり合いについての独自の見解から、政治活動家になった。このふたつが連携した結果、彼の積極行動主義は複数の形で具体化された。
 二〇〇八年、スワーツは Watchdog.net を立ち上げた。政治家に関する情報を収集し、政治の透明性を高めて草の根の活動を促すことが目的である。つぎに、これまで出版された本のウェブページを作成するオンラインプロジェクト「オープン・ライブラリ」を始めた。二〇一〇年にはウェブの活動団体「デマンド・プログレス」を創設し、ネットの中立性を損ないかねない連邦法に抗議して、最後は廃案に追い込んだ。他には、 PACER (Publie Access to Court Electronic Recond) というデジタルシステムに保管された全米の裁判所の記録が、市民に一般公開されるためにも骨を折った。このようにスワーツは、市民や政治のためにテクノロジーを活用する方法を常に探し求めた。だから、テクノロジーが世界におよぼす影響について何も考えないコーダーが、私腹を肥やすためにテクノロジーを乗っ取るとかならず失望した。
 :
 :
 一方スワーツは、学者が生み出す知識へのオープンアクセスの実現にも情熱を注いだ。オンラインジャーナルのコンテンツを読むためには、大学の学生か職員になるか、あるいは多大な料金を支払う必要があり、そんな現状に彼は不満を抱いた。学者は所属する大学が公立にせよ私立にせよ、公的資金の援助を受けられる。しかも、金銭的利益を得るのは論文の著者ではなく、学生術誌を所有する大企業である。それなのに学術論文を著作権で保護するのはおかしい。そこで二〇一〇年、JSTORという学術リポジトリから何千本もの学術論文のダウンロードを始めた。それにはマサチューセッツ工科大学(MIT)のコンピュータネットワークが使われた。というのも、MITは開かれた学びの場の提供が長年の政策として定着しており、キャンパス内の誰でも部外者も含め大学のネットワークへのアクセスが許可されていたからだ。 JSTORのサービス利用規約では、論文にひとつずつアクセスすることが義務付けられていたが、彼がノートパソコンで書いたプログラムによって、ダウンロードのプロセスは自動的に進行した。スワーツはコンピュータ室を何度か訪れ、そこで自分のノートパソコンをMITのネットワークにつなげたうえで、何百万本もの論文のダウンロードに成功する。これはJSTORの政策に対 する違反であり、MITのネットワークを法律違反に巻き込んでしまった。
 MITはダウンロードを追跡調査した結果、犯人はスワーツのノートパソコンであることを発見し、彼のパソコンがネットワークにアクセスした現場となったコンピュータ室を突き止めた。そして二〇一一年はじめ、ダウンロードのために再びコンピュータ室を訪れたスワーツは、MITの警備員に逮捕され、重罪を意図した家宅侵入罪で告発された。スワーツがデータファイルを返還すると、JSTORは告訴を取り下げるが、MITにはそのつもりがなかった。二〇一二年、連邦検察官がさらに九件の重罪を追加した結果、スワーツは禁錮五〇年の最高刑を言い渡された。彼は鬱状態に陥り、二〇一三年はじめに裁判を控えて司法取引の準備が進められる最中、ブ ルックリンのアパートで自ら命を絶った。 まだ二六歳だった。
 :
 :
 スワーツは生前、多くの人たちにとって英雄であり、テクノロジーの世界の名士だった。 クリエイティブ・コモンズの発展に貢献する一方、テクノロジー活動家としてネットの中立性を守り、米国議会を撃退するための運動の先頭に立ち、知識へのオープンアクセスを熱心に訴えるエバンジェリストだった。テクノロジーは人類に権限や自由を付与するための手段だと確信するテクノロジストはかねてより存在したが、スワーツはこの流れを汲む最も新しい世代だった。したがって、テクノロジーがもたらす未来についてのビジョンはあまりにも理想的で、民主主義的傾向がきわめて強かった。このビジョンは、インターネットの創造やシリコンバレーの文化にも深く根づいている。

対照的な二人のエンジニアである。著者は、
 ジョシュア・ブラウダーのようなタイプが脚光を浴び、アーロン・スワーツのようなタイプが注目されない傾向からは、世界がシリコンバレーと向き合うための課題が見えてくる。私たちの時代に最も広範囲におよぶ変革をもたらしたもののひとつは、デジタルテクノロジーの大きなうねりだ。この波は生活のほとんどすべての側面を巻き込み、従来の傾向を一気に覆した。仕事や余暇、家族や友人、コミュニティや市民としての立場―これらのすべてが、いまやあちこちに存在するデジタルツールやプラットフォームによって形を変えた。現在の私たちは転機を迎えている。だからここで何をすべきか、それはなぜなのか、じっくり考えて理解しなければならない。

この二人を比較することで、著者は「金を儲けることが最大の価値」ということには否定的であること、そして民主主義を守るなどの崇高な目的に価値をおきたいと考えていることがわかる。そして同時に、そういう崇高な活動は、結局、金儲けに最大の価値をおく社会では悲劇を生むということも。

今日はこのぐらいにしておこう。

関連記事

コメントの投稿

非公開コメント

プロフィール

六二郎。六二郎。

ついに完全退職
貧乏年金生活です
検索フォーム

 記事一覧

Gallery
記事リスト
最新の記事
最新コメント
カテゴリ
タグ

飲食 書評 ITガジェット マイナンバー アルキビアデス Audio/Visual 

リンク
アーカイブ
現在の閲覧者数
聞いたもん