Pythonã§PLSAを実装ã—ã¦ã¿ã‚‹probabilistic latent semantic analysis (PLSA)ã¯ã€ ・文書dãŒP(d)ã§é¸ã°ã‚Œã‚‹ ・潜在変数zãŒP(z|d)ã§é¸ã°ã‚Œã‚‹ ・語wãŒP(w|z)ã§ç”Ÿæˆã•ã‚Œã‚‹ ã¨ã„ã†ãƒ—ãƒã‚»ã‚¹ã‚’経ã¦ã€çµæžœã¨ã—ã¦(d,w)ã®ãƒšã‚¢ãŒè¦³æ¸¬ã•ã‚Œã‚‹ã¨ã„ã†æ–‡æ›¸ã¨èªžã®ç”Ÿæˆãƒ¢ãƒ‡ãƒ«ã€‚ å¼ã§è¡¨ã™ã¨ (1) ã¨ãªã‚‹ã€‚P(d,w)ã®å°¤ã‚‚らã—ã„確率分布を見ã¤ã‘ãŸã„。対数尤度関数㯠(2) ã¨ãªã‚‹ã€‚n(d,w)ã¯èªžwãŒæ–‡æ›¸dã«å‡ºç¾ã™ã‚‹å›žæ•°ã€‚ã“ã®å¼ã¯è¨“練データn(d,w)（;ã©ã®èªžãŒã©ã®æ–‡æ›¸ã«ä½•å›žå‡ºç¾ã—ãŸã‹ï¼‰ãŒå°¤ã‚‚らã—ã„確率分布P(d,w)ã«å¾“ã†ã¨ã最大ã«ãªã‚‹ã€‚ベイズã®å®šç†ã‚’用ã„る㨠(3) ã¨ãªã‚‹ã“ã¨ã‚’利用ã—ã¦ã€ã“ã®å°¤åº¦é–¢æ•°ã‚’最大化ã™ã‚‹ãŸã‚ã«EMアルゴリズムを用ã„ã¦å®Ÿè£…ã—ã¦ã¿ã‚‹ã€‚（éŽå¦ç¿’を回é¿ã™ã‚‹ãŸã‚ã«æ–‡çŒ®ã§ã¯Tempered EM (TEM)を用ã„ã¦ã„る。）尤度関数ãŒåŽæŸã™ã‚‹ã¾ã§ä»¥ä¸‹ã®E-ste
latent Dirichlet allocation - 機械å¦ç¿’ã®ã€Œæœ±é·ºã®æœWikiã€
Polynomial Semantic Indexing - tsubosakaã®æ—¥è¨˜
http://www.r.dl.itc.u-tokyo.ac.jp/study_ml/pukiwiki/index.php?plugin=attach&refer=schedule%2F2008-11-06&openfile=PLSV.pptx
{{#tags}}- {{label}}
{{/tags}}