「チューリング賞」が贈られるAI研究の先駆者たちは、“時代遅れ”の研究に固執した異端児だった

1980年代後半、修士課程の学生だったヨシュア・ベンジオは、当時すでに時代遅れとみなされていたある研究テーマに取りつかれた。成功する保証はほとんどなかったが、一部の人工知能（AI）の研究者たちが、脳内のニューロン（神経細胞）のネットワークがデータを処理する方法を模倣したシステムを作成しようとしていたのだ。

現在はモントリオール大学の教授となったベンジオは、「脳がどう機能するのかと、AIの構築の仕方の両方を学べるというアイデアに夢中になりました」と話す。

それから20年以上の年月が経ち、テック業界もこのアイデアに熱中するようになった。AIは急速な進化を遂げており、自動運転技術や本当に人間のような受け答えのできる自動応答システムといったものが可能になっている。この進化を支えるのが、ニューラルネットワークだ。

その功績によってベンジオを含む3人の研究者が、コンピューター界のノーベル賞として知られる「チューリング賞」の受賞者に選ばれた。ベンジオ（55歳）、グーグルでAI研究に携わるジェフリー・ヒントン（71歳）、ニューヨーク大学教授でフェイスブックの主任AIサイエンティストのヤン・ルカン（58歳）の3人が、コンピューターサイエンス分野のノーベル賞と呼ばれる栄誉を手にしたのだ。ルカンが書いた論文のいくつかは、ベンジオがこの世界に飛び込むきっかけになったという。

数十年かけて甦った理論

3人は科学の世界における果敢な挑戦を体現した研究者であり、AIという新たなコンピューティングの経済的価値のケーススタディーでもある。数十年にわたる彼らの地道な仕事によって、忘れ去られそうになっていた理論が蘇り、コンピューターサイエンスで最も注目されるテーマになったのだ。

3人が追求したテクノロジーはいまや、あらゆる大手テック企業の戦略の中核をなしている。グーグルが開発する医療検査画像の診断支援システム、テスラの半自動運転機能「オートパイロット」、フェイスブックのヘイトスピーチのフィルター機能。こうしたものを可能にしているのが、ベンジオたちが研究を進めてきた技術なのだ。

受賞の感想を求められたヒントンは、「ニューラルネットワークも立派なコンピューターサイエンスとみなされるようになったんだと思いますよ」と冗談を言った。コンピューターサイエンスの世界で、チューリング賞以上の権威はないだろうという意味だ。

チューリング賞は1996年から毎年、コンピューターサイエンス分野で革新的な功績を残した研究者に贈られている。賞の名は、英国の数学者で1930年代から50年代にかけて現在のコンピューターの基礎となる理論を打ち立てたアラン・チューリングにちなんだものだ。

問題解決手法の変化の象徴

ワシントン大学教授で、ヘッジファンドのDEショーで機械学習関連のリサーチを行うペドロ・ドミンゴスは、理論が提唱されてから長い時間を経て、深層学習がようやく認められたのだと語る。ドミンゴスは2015年の著書『The Master Algorithm』で、AI研究の歴史における5つの「系統」について説明している。彼はニューラルネットワークという側面からアプローチをとった人々を「コネクショニスト」と呼ぶ。

ニューラルネットワークの研究グループがチューリング賞を受賞したのは、コンピューターサイエンスにおける問題解決の方法に変化が起きていることの現れでもある。ドミンゴスは「特定のグループにとってだけの受賞ではありません。機械学習がコンピューターサイエンスの中心分野になったということを示す出来事なのです」と話す。

この学問分野には、数学的に証明された解決策を重視するという伝統がある。これに対し機械学習のアルゴリズムでは、現実的にうまく機能する方法を探る上で統計的な道筋をとにかくたどってみるという、少しばかり乱雑な手法を採用する。具体的にどのようなことが行われているのか理解できなくても、それは大きな問題にはならない。

ドミンゴスはこれについて、「コンピューターサイエンスは一種の工学です。本当に重要なのは、結果を出せるかどうかです」と言う。

理論のルーツは1950年代後半

「ニューラルネットワーク」の理論は、AIへのアプローチのなかでも最初期のもののひとつで、1950年代後半に登場した。研究者たちが取り組んだのは、神経科学における脳細胞の機能の仕方を数理的モデルに応用することである。

こうして構築された数理モデルには、（表面的には）ニューロンに似たシンプルなノードを通じてフィルタリングすることによって、データをカテゴリーに分類することを学ぶ能力がある。

初期の成功例はパーセプトロンで、このニューラルネットワークはスクリーンに映し出されたパターンを認識することができた。しかし、より複雑なことをやらせるためにニューロン階層を多層化した場合に、ネットワークをどう訓練すればいいのかがわからなかった。

このディープ（多層）ニューラルネットワークの訓練という問題の解決策を見つけたのがヒントンだ。彼は1986年に発表した共同論文で、バックプロパゲーションと呼ばれる機械学習のアルゴリズムを提示した。バックプロップとして知られるもので、いまでこそ深層学習で特に重要な考え方として広く知られているが、当時はそんなことはなかった。

画像認識ソフトウェアの大会での優勝が契機に

ルカンは次のように振り返る。「90年代半ばから2000年代半ばまでの10年間は空白期間でした。わたしたちのようにごく少数の変わり者以外は、ニューラルネットワークに取り組む研究者などいなかったのです」

ルカンの功績のひとつに、「畳み込みニューラルネットワーク（ConvNet）」と呼ばれる画像認識に適したネットワークの開発が挙げられる。80年代後半にベル研究所に在籍していたとき、手書きの郵便番号を認識できるソフトウェアを開発して、ConvNetの実用化が可能であることを証明したのだ。

一方、ベンジオは深層学習を会話やテキストといったシークエンスに適用するための理論を研究した。ただ、世界が深層学習に注目し始めたのはここ数年で、研究者たちがこのアルゴリズムをGPUに応用する方法を開発して以降の話になる。

重要な契機となる出来事が起きたのは2012年だ。当時、トロント大学の教授だったヒントンの率いるチームが、画像認識ソフトウェアの大会で優勝したのだ。深層学習を使ったヒントンたちのプログラムはまさに圧倒的な強さを見せた。10万枚以上の画像を1,000のカテゴリーに分類するという課題で、正答率は約85パーセントと前年の優勝記録を10ポイントも上回った。

異端児たちがテック業界の中心へ

2013年には、ヒントンがチームのメンバーだったトロント大学の院生ふたりと立ち上げたDNNresearchというスタートアップをグーグルが買収した。ヒントンは以来、グーグルで働いている。同じ年にフェイスブックはルカンを迎え入れた。

ヒントンはこう話す。「過去を振り返って、科学が機能したのは実際にそうあるべきものだったからだと言うことはできます。ただ、それは現在の最先端より明らかに優れた結果を出したからです。当時の人々は、わたしたちのやっていることに対して懐疑的でしたよ」

自分たちが時代遅れと思われていた理論にこだわり続けたのは、3人とも心の奥底では自らを異端児とみなしていたからだと、ヒントンは言う。それがいまでは、学術界やテック産業の中心にいる。

ヒントンとルカンは世界で最も力をもつテック企業の経営幹部に名を連ね、ベンジオは大企業にこそ加わってはいないものの、マイクロソフトの顧問を務めるほか、深層学習技術に取り組むスタートアップに力を貸しているという。

いまも協力関係にある3人

互いに違う道を歩んでいるが、3人はいまも協力者であり友人だ。受賞が決まってから開かれた記者会見で「伝統となっている記念講義は3人そろってやるのか」と聞かれたヒントンは笑って、ベンジオとルカンに先にやってもらいたいと答えた。そうすれば、最後に登場した自分が2人の間違いについて話すことができるからだそうだ。

3人はこれまでの研究活動でもそうした関係にあったのかという次の質問に対しては、ヒントンが「そんなことはない」と否定したのに対し、今度がルカンが冗談めかして「もちろんそうだ」と答えていた。

深層学習はすでに大きな成功を収めたが、応用できそうな分野は多く残されている。ニューラルネットワークは脳の働きにヒントを得たものだが、脳そのものとは働きが異なる。深層学習は、ゲームをプレイしたり特定の音を認識したりといった限定されたタスクをこなす上ではコンピューターに強力なパワーを与えることができるが、人間の知能のような柔軟性はもたない。

次のブレイクスルーは深層学習以外にあり？

ヒントンとルカンは今後の課題について、いま主流となっているシステムは人間が行う明快かつ大規模なトレーニングに依拠しているが、この部分を変えていきたいと話していた。

深層学習ではそれぞれにタグ付けをした大量のデータセットが必要だが、これが制約になり、医療などの分野への応用を難しくしている。一方、ベンジオは翻訳ツールなどは進化したが、テクノロジーが実際に言語を理解しているわけではないという点に言及した。

3人ともこうした問題をどう解決すべきかはわからないという。ただ、AI分野において次のチューリング賞に値するようなブレイクスルーを起こしたければ、現在のメインストリームには背を向けたほうがいいようだ。ベンジオは「深層学習という現在の流行を追うべきではない」とアドヴァイスしていた。

コンピューター科学の栄誉「チューリング賞」が、RISCの概念を広めた2人組に贈られる理由

TEXT BY TOM SIMONITE

TRANSLATION BY CHIHIRO OKA