mizuyari 確率的勾é…é™ä¸‹æ³•ï¼ˆ Stochastic Gradient Descent ）今回ã¯ï¼Œç¢ºçŽ‡çš„勾é…é™ä¸‹æ³•(Stochastic Gradient Descent, 以下 SGD)ã«ã¤ã„ã¦è§¦ã‚Œã¦ã¿ã‚ˆã†ã¨æ€ã„ã¾ã™ï¼Ž SGDã¯æ¬¡ã®ã‚ˆã†ãªç›®çš„関数ãŒæœŸå¾…値ã§è¡¨ç¾ã•ã‚ŒãŸæœ€é©åŒ–å•é¡Œãªã©ã«é©ç”¨ã•ã‚Œã‚‹ã‚ªãƒ³ãƒ©ã‚¤ãƒ³ã‚¢ãƒ«ã‚´ãƒªã‚ºãƒ ã§ã™ï¼Ž ã“ã“ã§ï¼Œ 　ã¯ã€€ã€€ã«å¾“ã†ç¢ºçŽ‡å¤‰æ•°ã¨ã—ã¾ã™ï¼Ž ã“ã®å½¢ã®æœ€é©åŒ–å•é¡Œã¯æ©Ÿæ¢°å¦ç¿’ã®åˆ†é‡Žã§ã‚ˆã表れã¾ã™ï¼Žä»Šå›žã¯è©³ã—ãè¿°ã¹ã¾ã›ã‚“ãŒï¼Œä¾‹ãˆã° ã¨ã—ãŸå ´åˆã®(1)ã¯ã‚µãƒãƒ¼ãƒˆãƒ™ã‚¯ã‚¿ãƒ¼ãƒžã‚·ãƒ³ã«å¯¾å¿œã—ã¦ã„ã¾ã™ï¼Žä»¥ä¸‹ã§ã¯ï¼Œæ©Ÿæ¢°å¦ç¿’ã®åˆ†é‡Žã«ãªã‚‰ã£ã¦ ã‚’æ失関数， を期待æ失ã¨å‘¼ã¶ã“ã¨ã«ã—ã¾ã™ï¼Ž 最é©åŒ–å•é¡Œã«å¯¾ã™ã‚‹ã‚¢ãƒ«ã‚´ãƒªã‚ºãƒ ã¨ã—ã¦ã¯ï¼Œå‹¾é…法ãŒè‰¯ã知られã¦ã„ã¾ã™ï¼Žå‹¾é…法ã¨ã„ã†ã®ã¯å復点ãŒã€€ ã®ã¨ã，次ã®ç‚¹ã‚’ ã¨ã™ã‚‹å復アルゴリズムã®ã“ã¨ã§ï¼Œå„å復点ã«ãŠã„ã¦ç›®çš„関数ã®å‹¾é…ã¨ã¯é€†æ–¹å‘ã«é€²ã‚€ã®ã§ï¼Œæœ€å°ç‚¹ã¸ã® åŽæŸãŒæœŸå¾…ã•ã‚Œã‚‹ã‚ã‘ã§ã™ï¼Žå•é¡Œ(1)ã«ã¤ã„ã¦ã‚‚ã“ã®å‹¾é…法をé©ç”¨å‡ºæ¥ã‚Œã°ï¼Œãã‚Œã§æ±‚解ã§ã
Integer programming - Wikipedia
Convex Relaxation
{{#tags}}- {{label}}
{{/tags}}