「ディープラーニングは最小二乗法」で物議　東大・松尾豊氏「深い関数の方が重要」

テクノロジーカテゴリーの変更を依頼記事元:

www.itmedia.co.jp

427 usersがブックマークコメント

「ディープラーニングは最小二乗法」で物議　東大・松尾豊氏「深い関数の方が重要」

「ディープラーニングは、原理的には単純な最小二乗法にすぎない」――2月18日付けで日本経済新聞電子版が... 「ディープラーニングは、原理的には単純な最小二乗法にすぎない」――2月18日付けで日本経済新聞電子版が公開した記事について、Twitterでは「ディープラーニング＝最小二乗法」という解釈は異なるのではという指摘が相次いだ。19日には「ディープラーニング」「最小二乗法」といったワードがTwitterでトレンド入りし、波紋が広がっていた。日経の記事では、慶應義塾大学経済学部の小林慶一郎教授がAI 技術について解説。「近年、驚異的な発展を見せているAIのディープラーニング（深層学習）は、原理的には単純な最小二乗法（誤差を最小にする近似計算の一手法）にすぎない」と言及し、「ディープラーニングは『最小二乗法』」と題する図版が掲載された。最小二乗法は、測定で得られたデータの組を、1次関数など特定の関数を用いて近似するときに、想定する関数が測定値に対してよい近似となるように、モデル関数の値と測定値の差

maguro1111 最小二乗法なら一般の人でも理解できる、というのも相当怪しい気が。既知の人1%、自分で調べて理解できる人10%、丁寧に説明して貰えれば理解できる人30%…ぐらいじゃない？

2019/02/21 リンク

m_ogawa 深い関数とは何か、が疑問なら機械学習を学べば良いのでは。単なる比喩表現でしょ。そもそも専門外の人が正確に理解できるような一言表現なんてそうそう無いわけで。

機械学習

tanakh “松尾氏は「深い関数」の意味やそれがもたらす可能性について、今後も研究や啓もう活動を続けていくと発信した。”深い関数 is 何(´･_･`)

2019/02/20 リンク

pandaman47 （東大の准教授は）例え話で最小二乗法みたいなものって言ってるだけで、ディープラーニング＝最小二乗法だとは言ってない。なんか冗談を真に受けられて記事になったような話だ。

sds-page 最小二乗法は誤差を判定する出口の所の話で、ネットワークの大半である「深い関数」は非線形関数の集まりだっていう話では

sawat 人間、与えられた文章に理解できる部分と理解できない部分があると、無意識に理解できる部分だけに注目して残りは無視する傾向があると思う。「深い関数」が理解されてないならそこは無視される

2019/02/22 リンク

yas-mal 一般的なニューラルネットワークの説明としては間違ってないけど、GANとか強化学習まで含めると微妙な気がする。「AIの限界」みたいな話をするなら特に。

takamints 「脳または脳細胞をシミュレートしている」では伝わらないのかな。脳細胞の論理的な動きは単純だと説明できる。で「学習＝（シナプスの）結合係数の調整」。それがディープにつながったものだという説明でも無理？

khtokage 「つまりＡはＢの超絶凄いやつ！」って説明したら「あー、Ａ≒Ｂね、完全に理解した(ｷﾘｯ」ってなるやつあるあるｗｗｗ

dekaino 発言の方には特に誤解の余地はなかったと思う。雑だけど総論として的確な表現だ。誤解する読み手は勝手に「深い関数」を読み落として誤解してるんだよね。単なる不注意。

altar ネットワーク全体は単なる関数だし、ネットワークは深いし、各ノードの学習過程はまあだいたい「最小二乗法」なのだろうが、理解してる側がこういう感じで納得するタイプの比喩って不適切な場合が多いんだよな。

satohu20xx あっているケースと間違っているケースがありそうな。入力を大量に食わせて正解を出すタイプはタイトルのとおりなのかもしれないが、AlphaGoみたいに試行錯誤を大量に行わせるタイプは違いそう。

dlive1 「ディープラーニングは、原理的には単純な最小二乗法にすぎない」「従来のマシンラーニングは（階層的に）『浅い』関数を使っていたが、ディープラーニングは『深い』関数を使っている」

lyiase その通り「深い関数」こそ深層学習の本質。三次関数も最小二乗法もそれだけでは全く本質を突いてないと思う。理解できなかったのだから「沢山重ねて」って表現すべきだったとは思う。理解してたのなら抜いた罪は重い

UhoNiceGuy 最小二乗法を二乗和を評価関数とした汎用の最適化手法と捉えるか、線形近似式を得る専用手法と捉えるか。DLは多層パーセプトロンを何らかの最適化手法で解くもの。最小二乗法は近似直線を得るイメージが強すぎるね

ysync 「深く味わい濃く」というキャッチフレーズが降ってきた…。「お化け」の方もハイパー的なものかゴースト的なものか（いい意味か悪い意味か）わかりにくい表現よね…。

SigProcRandWalk 「上手く情報を取り出す」「無から有は生まれない」「先験情報を利用する」などをフワッと混ぜて限界を意識するようにはしている。でも「最小二乗法」と限定してしまうと伝統的な統計手法との区別がつかないよね…

knok 関数の出力をさらに別の関数に与えての繰り返し、ということなんだろうけと「深い関数」という表現はどうだろうな。ぱっと見ある一つの関数の何かが深い、ような印象を受ける

はてなブックマーク

「ディープラーニングは最小二乗法」で物議　東大・松尾豊氏「深い関数の方が重要」

記事へのコメント98件

関連記事