エントãƒãƒ”ーã‹ã‚‰KLダイãƒãƒ¼ã‚¸ã‚§ãƒ³ã‚¹ã¾ã§ã®è©± - HELLO CYBERNETICSæƒ…å ±ç†è«–ã§ã‚¨ãƒ³ãƒˆãƒãƒ”ーãªã‚‹æ¦‚念を導入ã—ã€æƒ…å ±é‡ã‚’定å¼åŒ–ã—ãŸã“ã¨ã‚’å‰å›žã®è¨˜äº‹ã§ç´¹ä»‹ã—ã¾ã—ãŸã€‚ s0sem0y.hatenablog.com 機械å¦ç¿’ã§ã¯ãƒ‘ラメトリックãªæŽ¨å®šã‚’è¡Œã†éš›ã«çœŸã®ç¢ºçŽ‡åˆ†å¸ƒp(x)ã‚’q(x|θ)ã§è¡¨ç¾ã™ã‚‹ãŸã‚ã«ã€KLダイãƒãƒ¼ã‚¸ã‚§ãƒ³ã‚¹KL(p(x)||q(x|θ))を最å°åŒ–ã™ã‚‹å•é¡Œã«å¸°ç€ã•ã›ã¾ã™ã€‚ KLダイãƒãƒ¼ã‚¸ã‚§ãƒ³ã‚¹ã®æ€§è³ªãŒç¢ºçŽ‡åˆ†å¸ƒã®éš”ãŸã‚Šã‚’表ç¾ã§ãã‚‹ã¨è€ƒãˆã‚‰ã‚Œã‚‹ãŸã‚ã€ã“ã®ã‚ˆã†ãªå¦ç¿’則ãŒç”¨ã„られã€å®Ÿéš›ã«KLダイãƒãƒ¼ã‚¸ã‚§ãƒ³ã‚¹ã®æœ€å°åŒ–ã¯ã€å°¤åº¦ã®æœ€å¤§åŒ–ã¨æ•°å¦çš„ã«ä¸€è‡´ã—ã¾ã™ã‹ã‚‰å°¤ã‚‚らã—ã„推定を行ã£ã¦ã„ã‚‹ã¨è¨€ãˆã¾ã™ã€‚ 今回ã¯ã“ã‚Œã‚’æƒ…å ±é‡ãªã‚‹è¦³ç‚¹ã‹ã‚‰è¦‹ãªãŠã—ã¦ã€å…ƒã€…ã®å®šç¾©ã§ã‚るエントãƒãƒ”ーã®ç«‹å ´ã‹ã‚‰ã€ç¢ºçŽ‡åˆ†å¸ƒã‚’è¿‘ä¼¼ã™ã‚‹æœ‰åŠ¹ãªæ‰‹æ³•ã§ã‚ã‚‹ã“ã¨ã‚’見ã¦ã„ãã¾ã™ã€‚KLダイãƒãƒ¼ã‚¸ã‚§ãƒ³ã‚¹ã¯ç›¸å¯¾ã‚¨ãƒ³ãƒˆãƒãƒ”ーã¨å‘¼ã°ã‚Œã‚‹æ¦‚念ã¨åŒç‰ã®ã‚‚ã®ã§ã‚ã‚Šã€ç›¸å¯¾ã‚¨ãƒ³ãƒˆãƒãƒ”ーã®æœ€å°åŒ–ãŒæœ€å°¤æŽ¨å®šã«ä¸€è‡´ã™ã‚‹ã‚ã‘ã§ã™ãŒã€ã§
{{#tags}}- {{label}}
{{/tags}}