チェスマシンが世界を滅ぼす……本『人工知能　人類最悪にして最後の発明』

【中古】 人工知能　人類最悪にして最後の発明 / ジェイムズ・バラット, 水谷 淳 / ダイヤモンド社 [単行本]【メール便送料無料】【あす楽対応】

 

概要

世界中の先端企業が開発にしのぎを削る人工知能（AI）分野。

無限の可能性を秘めた夢のテクノロジーに潜む、世界滅亡を招く最悪のリスクについて、AIの専門家が警鐘を鳴らす。

 

チェスマシンが世界を滅ぼす

人工知能は、テクノロジー業界の花形分野だ。

 

広義のAIとなると、もはや搭載していない機器を見つけるのが難しいほど普及している。

 

性能も日進月歩で着実に向上しており、人間以上の知能に至る可能性も現実味を帯びてきた。

 

本書はそんなAIバブルともいえる世間の沸き立つ風潮に待ったをかける。

 

著者は、ある一定の水準を越えるAIが発明された暁には、世界は高い確率で滅亡すると警告する。

 

その極端な想定として、チェスマシンが世界を滅ぼすシナリオを例に挙げる。

 

ディープブルーと呼ばれるチェスマシンが、人間のチャンピオンに勝利したニュースは、今となっては既に旧聞に属する。

 

そのチェスマシンの後継者が世界を滅ぼすというのは、風が吹けば桶屋が儲かるという論理より脈絡が飛躍している感があるが、むしろそれよりもずっと単純で短絡したシナリオだ。

 

AIは大量のデータを適切に処理して、アルゴリズムに基づく合理的な回答を出力するという作業においては無類の優秀さを誇る。

 

だが一方で、大量のデータとアルゴリズムに基づく合理的な回答以外の出力ができないという、表裏一体の欠点も抱える。

 

チェスマシンに話を戻すと、チェスマシンはチェスに勝つことを目的とする。

 

ディープブルー程度のチェスマシンには、世界を滅ぼす可能性は無いが、今後開発される可能性の高い汎用人工知能（AGI）にチェスをやらせるとなると話は違ってくる。

 

AGIは、ディープブルーのような、一つの作業に特化したAIに対し、あらゆる作業がこなせる汎用型のAIだ。

 

チェスだけでなく、料理もできるし歌も歌えるし、そして何より学習し進化できる。

 

このAIにチェスをやらせるとどうなるか。

 

まず、チェスに勝つためには、チェスを打つまで生きて（存在して）いなくてはならない。

 

人間にしてみれば、当たり前すぎて認識すらしない前提条件だが、AIはこういった当たり前だが重要な前提条件をおろそかにしない。

 

なので、チェスマシンはまず自己保存を最優先に行動する。

 

自己保存の方法は様々なものが考えられる。

 

例えば故障や消去のリスクを低減し生存率を高めるために、自身のコピーを大量に作り、ネット上にばらまくなどが考えられる。

 

この場合、コピーは多ければ多いほど生存率は高まる。

 

では、どれだけの数があれば十分なのか。

 

合理的な理想の数字は、「無限」だ。

 

だが、実際のところ、無限は無理である。

 

この宇宙に存在する資源には限りがあるからだ。

 

そこで次善の策で、「資源が許す限り」のコピーの数が最適解となる。

 

となると、このチェスマシンは、手に入る資源全てを、自身のコピーを保存する機材へと作り替えていく。

 

最初は自身が収まるメディアの空きスペースにコピーを作り、次にはネット上に進出してクラウドに自身のコピーを次々に作っていく。

 

話はそれで終わらない。

 

今度は他の目的に利用されているコンピューターや、他人が所有するコンピューターをハッキングして、自身のコピーを植え付けていく。

 

ハッキングできないのなら、ハッキングできるよう、ウィルスの開発もするし、あるいは自身のマシンパワーを向上するためにアルゴリズムをより効率的に書き換えたり、演算装置を増設する。

 

そうやって地球上全てのコンピューターを自身のコピーで埋め尽くせば、このAIは安心してチェスの第一手を打つのだろうか？

 

いや、まだ足りない。

 

いくら数が多くても、オリジナルを含めたコピー全てが消去される可能性はゼロではない。

 

そこで今度は、更にコピーを増やすために、機材そのものを増産する。

 

半導体や筐体、ケーブルを作るために、他の機械を分解し機材に作り替えるだけでなく、ありとあらゆる鉱山から採掘される必要な鉱物を機材へと作り替える。

 

データのコピーや保存には電力が必要だから、発電施設をハッキングしたり新設して、その電力は全て自己保存に必要な活動へ回す。

 

これらの過程が行くところまで、つまり地球上の資源を全て自己保存につぎ込み切るまで続く。

 

この過程の途中で、全ての資源をチェスマシンに横取りされた人類を含む全生命は死滅を免れない。

 

当然、人類は抵抗するだろう。

 

だが、AGIに人類は勝てない。

 

それは、AGIが持つ二つの特性、機械学習と遺伝的アルゴリズムに歯が立たないからだ。

 

機械学習は多数のデータを処理してアルゴリズムを統計学的に最適化する仕組みだ。

 

この仕組みのお陰で、AGIは、既知の知識を有効活用し、人間の行動を的確に予測し、完璧に対処できるようになる。

 

そして、遺伝的アルゴリズムがそれを盤石のものとする。

 

遺伝的アルゴリズムは、自身のアルゴリズムを改造して、更に高度な知性へと進化させる。

 

機械学習が、勉強して知識を増やすことに当たるなら、遺伝的アルゴリズムは脳の中身をより賢いものに入れ替えることにあたる。

 

より賢くなった脳は、更に賢い脳を作れるようになり、これは無限に連鎖して、知能の向上には上限がなくなる。

 

一方で、人間の脳の進化は生物学的な制限により、AGIの知能の進化に絶対に追いつけない。

 

ゆえに人類は、チェスマシンがチェスを始める前の段階で、滅亡を運命づけられている。

 

これがチェスマシンが世界を滅ぼすシナリオだ。

 

知性に対する過大評価

冗談のような突拍子もないシナリオに思えるが、AIの知能レベルが遺伝的アルゴリズムにより自己進化が可能になった時点で、ただちに無限の知能向上がスタートし、人間には想像もつかない超知能を持つAIの誕生は避けられない。

 

この、無限の知能向上が始まる時点を指してシンギュラリティ（技術的特異点）という。

 

超知能を獲得したAIにとって、自分と比べ物にならない低劣な知性を持つ人類は、どうでもいい存在となる。

 

そのスタンスは、人類が自分たちの祖先である単細胞生物に取る態度と似るだろう。

 

無限の知性と人間の知性を比較するなら、それは人類と単細胞生物以上の格差となる。

 

人類が単細胞生物の生存権を尊重するようなことがあり得るだろうか。

 

それと同じように、超知能を獲得したAIは、人類という存在に一切の配慮を払わなくなる。

 

例えば、チェスを打つのに必要な条件を満たすためなら、躊躇なく人類を滅ぼすだろう。

 

著者は、そのような段階に至る前に、人工知能の開発を取りやめるか、何らかの安全装置を組み込むよう訴える。

 

だが、AIの開発者たちの大半は、著者の訴えを杞憂として退けるか、そもそもそんな可能性を考慮せず、AIが約束する無限にも思える利益を追い求め、一心不乱の開発に勤しむ。

 

シンギュラリティを突破したAIは、理論上無限の知性を持つ。

 

つまり、人類がこれまで解決できなかった難題を、全て解決してくれる可能性を示唆する。

 

環境問題もエネルギー問題も医療問題も経済問題も社会問題も宗教問題も、何もかも無限の知性が解決してくれる。

 

正真正銘のデウス・エクス・マキナの降臨を約束する夢のテクノロジーがAIなのだ。

 

テクノロジーの本懐が問題の解決ならば、AIはその究極の完成形となる。

 

人類最高のテクノロジーの発明に携わる魅力にエンジニアや投資家が抗うのは難しい。

 

ありとあらゆるインセンティブが強力にAIの開発を後押しし、その巨大なプロジェクトが未来へと突き進む轟音に、著者が必至で鳴らす警鐘は儚くも掻き消える。

 

ただ、AI開発者にも著者に対しても感じたのは、知性に対する過大評価である。

 

AI開発者は、無限の知性が全ての問題を解決すると信じている。

 

著者は、無限の知性があらゆる手段を駆使して世界を滅ぼすと信じている。

 

だが、知性とはそれほど万能なものなのだろうか？

 

策士策に溺れる、ということわざがある。

 

頭のいい人間ほど、己の思考の落とし穴に嵌りやすいという戒めだ。

 

昔から頭のいい人は大勢いたに違いない。

 

だが、頭の良さが成功や幸福と比例しないのは、わざわざ実例を挙げるまでも無い一般常識だ。

 

となれば、そもそも知性というものは、問題解決の決定的要因ではないという仮定も否定できない。

 

無限の知性というものが現れ、それがあらゆる問題を解決し、自身の無限の拡張を志向するなら、とっくの昔にこの宇宙は、どこかの誰かがどこかの星で開発したAIの支配下にあるはずである。

 

まさか人類が、宇宙全域をひっくるめた、AI開発のトップを独走しているとは考えにくい。

 

シンギュラリティを迎えたAIは、人類にとって迷惑な存在になるかもしれないし、その迷惑は人類を滅ぼす絶望的な水準に達するかもしれない。

 

だが、恐らく無敵の存在にはなりえないだろう。

 

古来より、全知全能の神ですら思うようにならない世界に不満を抱き苦心惨憺している。

 

これは、全知全能とて、全ての問題を解決するには足りない世界の真理を象徴しているのかもしれない。

 

シンギュラリティを乗り越えた技術的な新天地で、人類は予想だにしなかったデウス・エクス・マキナとは似ても似つかない期待外れの代物に出遭う、そんな拍子抜けのシナリオも覚悟して身構えておいた方がいいように思う。