シンギュラリティ教徒への論駁の書

“Anyone who believes that exponential growth can go on forever in a finite world is either a madman or an economist.” - Kenneth Boulding

収穫加速派における超知能の出現について

第6章

シンギュラリティ論における重要な論点は、ひとたび汎用人工知能が作られると、何らかの形で「超知能」が作られ、それが科学技術や社会を高速で変化させることによって、予測不能かつ断絶的な進歩が発生する、という仮定です。

なお、この超知能に関する議論においては、以前に私が取り上げたユドコウスキー氏の分類における「事象の地平線派」および「知能爆発派」と、主にカーツワイル氏が唱える「収穫加速派」のそれぞれに対して別の議論が必要となります。

ここでは、まずカーツワイル氏の「収穫加速派」について扱います。

 

カーツワイル氏は「シンギュラリティ」を「生物学的な人間の脳の限界を、機械と統合された超越的な知能が超えていく点」とイメージしており、それは2045年に発生すると考えられています。

以前にも取り上げた通り、カーツワイル氏は、汎用人工知能の設計と実装について何ら具体的な方針を示していませんでした。ゆえに、2045年に出現するとされる「超知能」に関しても、それがどの程度のもので、いかなる性質を持つのかについても具体的な説明はありません。

「1年間に創出される知能は、今日の人間のすべての知能よりも約十億倍も強力 (パワフル) になる」という記述はありますが、実際のところ、この文章の意味は私にはよく理解できません。


カーツワイル氏が、人工知能に関する時期予測の前提としている仮定は、次の2つのものでした。

  • 「拡張ムーアの法則」による計算能力のコスト効率の指数関数的な成長が、今後も継続されること
  • 大脳新皮質のリアルタイムシミュレーションまたはエミュレーションに必要な計算力の見積り

この2つの仮定に基いて、カーツワイル氏は、2045年には1000ドルで購入できるコンピュータにより100億人の知能を再現できるようになる、と主張しています。つまり、ここで想定されているのは、知能の質的な拡大・向上ではなく、あくまで (人数的な意味での) 量的な拡大に過ぎません。

(拡張) ムーアの法則の成立や脳のエミュレーション・シミュレーションの実現可能性について、カーツワイル氏の根拠が薄弱であることは既に延々と述べてきた通りです。けれども、それらのことを棚に上げて、汎用人工知能が実現すると仮定したとしても、なお超越的な知能が出現するという主張の根拠は全く存在しないように見えます。ここで言われているのは、突き詰めれば知能の頭数が増えるということでしかないからです。

もちろん、量的変化が質的変化に転換する可能性は、完全に無いとは言い切れません。けれども、ネズミを何匹集めても群れ全体の知能は向上せず、ゴリラをいくら集めても人間の言語を理解できるようにならないのと同様に、人間のシミュレーションをいくら大量に高速で並列に動作させたとしても、人間を超える超知能が発生すると考える理由はありません。(カーツワイル氏は、亜光速での宇宙飛行などを可能にするような、全く新しい物理法則を発見できる、文字通りの意味で質の異なる「超知能」を想定しているのですから)

はっきりと言えば、カーツワイル氏の超知能に関する主張は、妄想、あるいは良く言ってもせいぜいが願望というべきものであり、全く科学的な考察に耐えないものであると言わざるを得ません。