AIもデジタルも人の行動を監視するものではない

デジタル化とAI（人工知能）は、現在、最も大きな関心事になっています。アナログからデジタルへの移行、手作業から自動化へ、世界は大きく変わろうとしています。

デジタル化が進んだ社会、AIが何でも自動でやってくれる世界に変わった時、人類はいったいどうなるのでしょうか。

サイバー独裁

丸山俊一さんとNHK「欲望の時代の哲学」制作班による『マルクス・ガブリエル　危機の時代を語る』では、これから訪れるデジタル社会について興味深いことが述べられています。

ガブリエルさんは、「啓蒙なきモダニティというのは必然的にサイバー独裁に向かいます」と述べています。このまま進めば、全世界は北朝鮮や中国のような監視社会になることが危惧されるとのこと。

デジタル社会になることに利点を感じ、監視社会になるのを受け入れるのは、人類の一つの選択です。しかし、それが、本当に人類にとって好ましいことなのかは事前に考えなければなりません。

すでに過去のものとなった新型コロナウイルスの騒動時、欧米諸国は、都市封鎖により人々の行動を制限しました。これは、監視社会である中国にならったものです。民主主義国家が、疫病から身を守るため、独裁国家の真似をしなければならなかったのは何とも皮肉なことです。

新型コロナウイルスは、その病原性よりも、デジタルで人々を監視し、行動を管理する権限を国家が持つべきであると思い込ませたことが、最大の脅威だったと言えるでしょう。

社会的動物である人間

ガブリエルさんは、クリスチャン・マスビアウさんとの対談で、以下のように述べています。

私たちは、さまざまな心理状態を比較するという「視点の管理」を通して、近くの中で対象を構成していきます。だからこそ、私たちは社会的動物なのです。しかし、この社会性、視点の多様性を、現在のAIシステムによってはモデル化できていません。（79ページ）

人間社会は、数えられないほど多くの要素によって構成されています。だから、人間社会の特徴を一点に絞り込んで、これだと言うことは不可能に近いです。経済学のモデルが、実際の社会を表現するのが困難なのも、人間社会が複雑系だからです。

AIが、人間社会のありとあらゆるものを自動化するのは、おそらく不可能です。仮にできたとしても、それは、人類が望んだ自動化ではないでしょう。

ガブリエルさんは、自動車の自動運転について否定的な考えを持っています。自動運転により、安全性が向上する面はあるでしょうが、哲学を持たないAIには決められない問題が出てきます。それは、トロッコ問題のような場面に出くわしたときです。

ブレーキが壊れたトロッコが暴走し、このまま走っていけば3人の作業員をひいてしまう状況だったとします。この時、線路わきのレバーを倒せば、トロッコは、左に曲がり3人の命は助かります。しかし、トロッコが曲がった方向には1人の作業員がいて、ひかれてしまいます。

このようなトロッコ問題をAIは処理できないでしょう。できるとすれば、事故が起こる場合、犠牲者が少ない方を選択するとか、高齢者に突っ込むようにするとか、事前に学習させておくくらいのことです。それは倫理的にどうなのかと。

哲学なきデジタルの危うさ

全てを自動化するためのAIも、監視のためのデジタル化も、人類を幸福にするものではないでしょう。

AIもデジタルも、これまで人の手で時間をかけてやっていた作業を減らすために活用されるものです。国民の行動履歴を自動的に収集するためのAIとデジタル化は、窮屈な社会にするだけです。

また、AIやデジタル化によって収集された情報が一箇所に集中するのも危険です。第一次世界大戦は、新聞の大規模な戦争プロパガンダによって引き起こされたとの指摘もあります。現代は、当時と比較して、収集できる情報量が圧倒的に増加しています。その大量の情報を握り、多くの人に低コストで発信できる媒体を持った者が、人々の行動をコントロールできるようになっています。

情報を扱う者は、哲学を持たなければなりません。

哲学なき者が、AIやデジタルを使って不特定多数に情報を発信する行為は、非常に危ういことです。

AIもデジタルも、人々の行動を監視するものではありません。手間を減らすために活用されることで、人々を幸福に導くものなのです。

マルクス・ガブリエル 危機の時代を語る (NHK出版新書 635)

関連記事

• インターネットが民主主義を危うくする
• デジタル化がもたらすのは幸福か不幸か
• 陰謀論もエビデンス主義も想像力が欠如している点で同じ
• 人類の未来は技術に依存する
• 世界が抱える問題を解決する英断
• 深き知性から人類が進むべき道を探る