PRML復々習レーン#7に参加して発表してきました

PRML 勉強会

PRML復々習レーン#7に参加してきました．会場を提供してくださった株式会社VOYAGE GROUPさん，会場係の @hagino3000 さん，参加者のみなさま，ありがとうございました．

毎回行っている前回のおさらい資料をupしました．最近ネタに対する反応が薄くなったので，何かしら発表形式のモデルチェンジを行おうかと画策中．

今回は5.3.3逆伝播の効率〜5.6混合密度ネットワークまで．

個人的には混合密度ネットワークにおける多峰性を持つ逆問題あたりに対する理解が少し深まったのがよかった．また，畳み込みニューラルネットワークについても理解が誤っていることに気づくことができてよかった．

なお，5.4.2外積による近似のところで議論になった(5.84)式に出てくるLevenberg-Marquardt近似と呼ばれているものは，よく見るとヤコビアンの積になっており，別の文脈でガウス・ニュートン近似として知られている (?) ものと同じものに見える．実は下記のブログ記事に書いてあるCVIM勉強会で担当した章に出てきたのでうっすらと覚えていたのだけれど，どうやら同じものの様子．

以下は本件の関連ツイート

こうやっていろんな知識がつながると素直にうれしい (間違っているのかもしれないけれど)．本レーンで本章を読んだ際にはぽかーんとしていたのだけれど，一応どんなことが書かれているかは理解できるようになっている様子．

次回はニューラルネットワークの最後を発表したのち，有志による実装しましたLT大会が開催される予定．自分は何を実装しようかなぁ．