2010-03-01から1ヶ月間の記事一覧

NLP2010 行ってきた

自然言語処理 言語処理学会

ほとぼりがさめた頃に NLP2010(言語処理学会年次大会) に のこのこ行ってきた話など。 参加したのは、 3/8 のチュートリアルと、3/10 のポスターセッション(午後)。 チュートリアル午前はどちらも興味あったが、ちょうど協調フィルタ周りでいろいろ試してい…

多次元混合ガウス分布での incremental EM 更新式

機械学習 EMアルゴリズム

計算してみた。 が、Σの式、ちょっと自信がないから実装する前に晒しとく。 [2010/03/15] Σの更新式が間違っていたので訂正(今度も絶対あってる自信はないが) x_m について更新するとき、 E step M step とおくと

PRML 読書会 #12 ９章 ＥＭアルゴリズム＆１０章 変分ベイズ

機械学習 読書会 PRML EMアルゴリズム

参考：「機械学習とパターン認識」(PRML)のアンチョコ by herumi PRML 9章や10章の数式の解説ノート。10章の大変な計算も丁寧に展開してある。 3/7 の C.M.ビショップ「パターン認識と機械学習(PRML)」読書会 #12＠サイボウズ・ラボ に参加しました。各位お…

変分ベイズ実装(PRML 10.2)

機械学習 R PRML 変分ベイズ

「Old Faithful の推論を K-means と EM について、Ｒで実装」の続き。 【追記】実装にバグが見つかり、この記事の末尾の「うまく縮退しない」は間違いでした。→フォロー記事へ PRML １０章、変分推論(変分ベイズ)がいまいちわからない。 観測＆隠し変数のハ…

EM アルゴリズム実装(勉強用)

機械学習 R PRML

最近忙しくて*1、PRML の予習が滞り中。 しかし、次の PRML 読書会に徒手空拳で行ったら、気持ちよく昇天してしまいそうなので、なんとか頑張って読んでみる。 EM アルゴリズムは何となくわかるが、変分ベイズがわからん……というわけで、Old Faithful の混合…