「自由主義的AI社会」と「統制主義的AI社会」

あけましておめでとうございます。
このブログも３ヶ月ほど間が空いてしまい、その間にはトランプ大統領当選という衝撃的な事もありました。その後の動きを見ていると、最も大きな影響を受けそうなのは中国となりそうです。これについては、大統領就任後の動きを見て、改めて記事にしようかと考えています。

さて、昨年大きな話題を呼んだものの一つに人工知能（AI）の発達がありました。機械学習、特にディープラーニング（深層学習）の技術が急速に発展し、囲碁の世界ではGoogleが開発した「AlphaGo」が世界のトップ棋士を破るという特筆すべき出来事がありました。さらに昨年年末から今年の初めにかけてはネット囲碁の世界でいくつもの「謎の棋士」が登場し、AIではないかと噂されています。その中で最強と言われ、世界的な棋士を次々と破っている「Master」が、実は「AlphaGo」の新バージョンであった事も明らかになりました。

Google DeepMindの共同創立者であるデミス・ハサビス氏が1月5日（日本時間）、Twitterを更新。年末年始に世界のトップ棋士を続々撃破していた謎の囲碁アカウント「Master」は、囲碁ソフト「AlphaGo」の新バージョンだと明らかにした。


謎の囲碁棋士「Master」の正体は「AlphaGo」　Googleが発表 - ねとらぼ

このように急速な発展を続けるAIですが、近い将来に人間と同等かそれ以上の知能を持つ「汎用人工知能（Artificial General Intelligence) 」が誕生し、飛躍的な生産性の向上をもたらすと同時に、人間の仕事をAIが奪う技術的失業が起こるのではないかと言われています。そのため、AIの影響は経済学の分野でも大きく論じられています。
日本でも井上智洋氏が「人工知能と経済の未来 2030年雇用大崩壊」という本でこの問題を論じており、汎用人工知能による技術的失業については、政府がベーシックインカム（BI）で所得を保障すべきだと結論づけています。同様の議論は欧米でも行われているようです。AIによって飛躍的な生産性向上が実現するならば、それが生み出す付加価値に課税する方法を見つければBIの財源を確保できるので、実現性の高い話になるでしょう。

asin:4166610910:detail


このように欧米や日本などの西側先進国では、AIによる生産性向上の成果を人々が享受し、それに伴う失業というマイナス面を克服することが社会的課題となっています。これらの国では、AIの発展を人々の生活水準や自由の向上に役立てようとしていると言えるでしょう。

しかし、中国はAIを別のことに利用しようとしているようです。

　杭州市政府が試験的に導入しているのは、共産党が2020年までに全国的に普及させたいとしている「社会信用」システムだ。同システムは、中国政府が共産党の正統性に対する脅威を回避するため使っている社会管理手法をデジタル化させたものだ。

　現在は30以上の地方政府が個人の信用度を格付けするべく、市民の社会行動および金融行動のデジタル記録を収集し始めている。例えば、不正乗車や信号無視、家族計画規則違反などさまざまな違反行為をすると罰点が科されるという。

　一部のシステム設計者への取材や政府文書の確認で分かったところでは、中国政府は早晩、個人のインターネット活動を含めた一段と大きな統合データプールを活用する見通しだ。システムは一連のデータを基に、各種アルゴリズムを使って市民の格付けを決定するという。その後、格付けはあらゆる意志決定に利用される。例えば、誰に融資を承認するか、政府機関で誰に迅速に対応すべきか、誰に豪華ホテルへの利用を認めるかなどだ。

　この試みは、党の権威をむしばむ恐れのある経済的な不透明感が強まっているなかで、権力支配を強化しようとする習近平国家主席の取り組みを強化するものだ。習主席は10月、「あらゆる形態のリスクを予見し、予防する能力を高める」べく、「社会統治」の革新を呼びかけた。

　立案文書のなかで繰り返されている文言によれば、全国的な社会信用システムの狙いは、「信用に値する者はどこでも歩き回れるようにする一方、信用を落とした者はただの1歩も踏み出させない」ようにすることだ。


中国が強化する社会統制：市民を信用格付け - WSJ

 外から見る限り、習近平氏に率いられた共産党はここ数十年で最も強くなっているように思われる。天安門事件以降、さえない役人は頭脳明晰なテクノクラートに、ときには起業家にまで取って代わられた。

 市民は事業を営む自由、外国に出掛ける自由、勝手気ままな人生を送る自由など、10年前には想像もできなかった自由を謳歌している。共産党は西側で使われているPRのテクニックを駆使し、大量消費のおかげで誰もが非常に楽しい時間を過ごしていることを忘れないようにと中国国民に呼びかけている。

 それにもかかわらず、共産党はまだ強い不安を覚えている。ここ数年は、反体制派やその弁護士たちを厳しく弾圧する必要があると考えており、最近でも、共産党の権威にたてついた香港の活動家を脅したり、不満を抱く少数民族を威圧したりしている。

 一方で、急速な経済成長のおかげで生まれた新興中間層は非常に規模が大きく、裕福になる機会を大いに享受しているものの、周囲の人や物事のすべてに不信感を持っている。国民の財産権を踏みにじる役人、腐敗にまみれた国営の医療制度、粗悪品を日常的に売り歩く企業、インチキやごまかしが普通になっている教育制度、犯罪歴や所得・資産の状況がどうしても調べられない人などがその主なところだ。

 ここまで互いに信頼し合えない社会は安定しない――そんなもっともな懸念を中国共産党は抱いている。

 そこで共産党は現在、驚くような改善策の実験を進めている。この改善策は「社会信用体系」と呼ばれている。同党によればその狙いは、デジタル形式で蓄積された情報を互いに結びつけ、借金を踏み倒した企業だろうと、税金や罰金の支払いを逃れている個人だろうと、誰もがより正直に行動するよう促すことにあるという。

 それだけ聞けば、結構な話だ。しかし、中国政府はこれを「社会管理」、すなわち個人の行動を支配する道具にするとも話している。何しろ、国民が自分の親に何回会いに行くかを見張ろうとする政治体制だ。監視の対象がどこまで広がるのか、予断を許さない。

 各市民に付与される格付けは、当人の身分証明書番号にリンクされる。そのため、低い格付けを取ってしまうと銀行に融資を断られたり、鉄道の切符を買う許可が下りないといった制裁を受けたりする恐れがある、それも、政治的な理由でそうなってしまうかもしれない、と不安を訴える人が少なくない。

 市民が心配するのももっともだ。実際、中国政府は今年、この社会信用システムを用いて、「社会秩序を攪乱するために集まる」という非常に曖昧な罪までも記録することを決めている。

 西側諸国でも、人々が生活において何かをする度に残していくわずかなデータを、グーグルやフェイスブックといった企業が電気掃除機のように吸い込んでいる。こうしたデータにアクセスできる人は、データを残した人々のことを当人よりも詳しく知ることになる。しかし西側であれば、ルールが設けられるだろう、国家が関与するなら特にそうだろうと少なからず確信することができる。

 中国では、そうはいかない。上記のような監視はデジタル・ディストピア（デジタルの暗黒郷）に行き着く恐れがある。

 中国政府の当局者は、「信用できる人はこの世のどこでも大手を振って歩くことができ、片や信用できない人は足を1歩踏み出すことも難しくなる」ようなシステムを2020年までに作りたいと話している。


ビッグデータと政府：中国のデジタル独裁 | JBpress(日本ビジネスプレス)

このように中国は、個人の社会行動や金融行動のデータを収集し、そのビッグデータを「社会信用システム」を使って格付けし、「信用に値する者はどこでも歩き回れるようにする一方、信用を落とした者はただの1歩も踏み出させない」社会を、2020年までに作ろうとしているようです。*1
中国でもAIの研究は盛んに行われていますが、深層学習のような技術は「社会信用システム」のビッグデータ処理に応用され、その結果が個人の格付けとなってその自由や生活を制限し、特に反政府的な人物については社会的活動が全くできなくなるようになるのでしょう。
中国ではAIの発展を人々の生活や自由の制限、管理に役立てようとしているようです。
多くのメディアが、中国のこのような動きをジョージ・オーウェルのディストピア小説「1984年」に例えています。この小説では世界が３つの全体主義国家「オセアニア」、「ユーラシア」、「イースタシア」によって支配されていますが、中国は現実世界で「イースタシア」を目指していると言えるでしょう。

すでに実際に複数の信用調査会社に対して国民の信用情報を収集・評価そして管理する権限を与えられ、その中にはゲーム形式のアプリで個人の信用度を割り出し、その点数をユーザーに競い合わせている会社もあるそうです。「1984年」のような重苦しい雰囲気ではなく、ゲームの点数を競い合うように個人信用度が競われているというのは、ブラックユーモアのような話です。

中国で、国家規模の社会評価制度が生まれようとしている。政府が独自の基準で、国民の信用度を定めるのだ。
新制度では、個人の金銭取引記録やオンライン・ショッピングに関するデータ、ソーシャル・メディア上での言動、そして、雇用履歴などが組み合わされ、全国民一人一人の総合的「社会信用度」が割り出される。信用度は、西洋でも金融制度の一環として利用されている。しかし、その内容は、各個人の金銭取引記録に基づいて弁済能力が定められ、ローンを借りるための条件付けが行われるだけである。ところが、中国で採用された信用度制は、個人の懐事情をちょっと確かめるという範疇を大きく超える。

中国政府が公表した「社会信用力制度構築のための概要計画」によると、制度の目的は政界、経済界、そして民間という３者間の信頼を精査し、高めることだけではない。政府業務や商取引上における信頼性と、社会的誠実性(誠信)を強化し、司法の中立性を構築することもその目標の内に掲げられている。

中国政府は信用力制度の試験的な実施にあたり、複数の信用調査会社に対して、国民の信用情報を収集・評価そして管理する権限を与えた。こうした仲介会社の中にはセサミクレジットと呼ばれるゲーム形式のアプリを作成し、制度試行の先導となったアント・ファイナンシャル（アリババ系列）も入る。

セサミクレジットでは、各個人がどの程度「良い」人なのかが割り出される。ユーザーは、取得した点数を知り合い等と共有するよう推奨されており、オンライン活動の如何によっては、月一回の更新で点数アップを狙うこともできる。ただし、利用するオンラインプラットフォーム及びサービスは、アリババ関連であることが必要だ。
上のビデオは12月下旬にアップロードされるや否や、ネット上で急速に拡散した。というのも、そのビデオが上記ゲームを「オーウェル風ディストピア」として評したためだ。


中国は「オーウェル風ディストピア」？「社会信用制度」とは · Global Voices 日本語

このように西側先進国と中国では、AIを利用する目的が大きく異なります。
西側先進国ではAIの発展を人々の生活水準や自由の向上に役立てようとしています。このような国々は「自由主義的AI社会」と言えるでしょう。
一方、中国ではAIの発展を人々の生活や自由の制限、管理に役立てようとしています。今後、統制主義的な国家がAIを導入するときも、中国式の方法を取り入れるでしょう。このような国々は「統制主義的AI社会」と言えるでしょう。
自由主義と統制主義（ファシズムや共産主義）との対立は20世紀の大きな対立軸でした。20世紀の対立は冷戦終結によって自由主義陣営の勝利で終わりましたが、その中を生き延びた中国が21世紀の統制主義陣営の中心となって、AIという新たな技術を取り入れて、再び自由主義陣営に挑もうとしているのだと思います。

日本や欧米ではAI社会の問題点として、技術的失業など「自由主義的AI社会」の問題点が論じられていますが、それと同じくらい「統制主義的AI社会」の問題点についても注目していく必要があると思います。そのような社会に向かって突き進んでいる中国の状況から、これからも目が離せません。

*1:なお、人間を格付けしようという中国政府の方針は、外国人も例外ではありません。すでに外国人を「ABCランクづけ」する制度が、今年４月から始まるようです。「前代未聞！ 中国が始める外国人「ABCランクづけ」制度（近藤 大介） | 現代ビジネス | 講談社（1/3）」