深層å¦ç¿’(Deep Learning)ã¨ãƒ™ã‚¤ã‚ºçš„最é©åŒ–(Bayesian Optimization)ã«ã‚ˆã‚‹åŒ»ç”¨ç”»åƒèªå½±æ”¯æ´ã®è©¦ã¿
深層å¦ç¿’(Deep Learning)ã¨ãƒ™ã‚¤ã‚ºçš„最é©åŒ–(Bayesian Optimization)ã«ã‚ˆã‚‹åŒ»ç”¨ç”»åƒèªå½±æ”¯æ´ã®è©¦ã¿
深層å¦ç¿’(Deep Learning)ã¨ãƒ™ã‚¤ã‚ºçš„最é©åŒ–(Bayesian Optimization)ã«ã‚ˆã‚‹åŒ»ç”¨ç”»åƒèªå½±æ”¯æ´ã®è©¦ã¿
RBMã‹ã‚‰è€ƒãˆã‚‹Deep Learning　～黒é”è¡“ã‚’æ·»ãˆã¦ï½ž - Qiita
ãšã„ã¶ã‚“é…ããªã‚Šã¾ã—ãŸãŒã€ã²ã¨ã¾ãšå®Œæˆã§ã™ã€‚ç–‘å•ç‚¹ãƒ»ç¿»è¨³ãƒŸã‚¹ã‚’始ã‚ã¨ã—ãŸæŒ‡æ‘˜ãŒã‚ã‚Šã¾ã—ãŸã‚‰ã€ã©ã—ã©ã—ãŠé¡˜ã„ã—ã¾ã™(14/12/18)。 1週間ã‚ã‚‹ã‹ã‚‰å¤§ä¸ˆå¤«ã ã‚ã†ã¨ãŸã‹ã‚’括ã£ã¦ã„ãŸã‚‰ã€ã‚ã£ã¨ã„ã†é–“ã«æŠ•ç¨¿æ—¥ã«ãªã£ã¦ã—ã¾ã„ã¾ã—ãŸã€‚本当ã¯Pylearn2を使ã£ã¦RBMã‚’å¦ç¿’ã•ã›ã‚ˆã†ã¨è€ƒãˆã¦ã„ãŸã®ã§ã™ãŒã€å½¹ã«ç«‹ã¤å†…容を書ãã«ã¯æ™‚é–“ãŒè¶³ã‚Šãªã•ã™ãŽã‚‹ã®ã§ã€ãŠèŒ¶ã‚’æ¿ã—ã¾ã™ã€‚ 今回ã®ç›®æ¨™ Restricted Boltzmann MachineåŠã³Deep Belief Networkã®åŸºæœ¬çš„ãªå‹•ä½œåŽŸç†ã‚’知る "A Practical Guide to Training Redstricted Boltzmann Machine"(GE Hinton, 2012)ã§é»’é”è¡“(RBMã®æ€§èƒ½ã‚’引ã出ã™ã‚³ãƒ„)ã‚’å¦ã¶ 先日ã€ä»¥ä¸‹ã®ã‚ˆã†ãªç™ºè¡¨ã‚’ã—ã¾ã—ãŸã€‚今回ã®å†…容ã¯ä»¥ä¸‹ã®ã‚¹ãƒ©ã‚¤ãƒ‰ã®ç„¼ãç›´ã—・改良をå«ã¿ã¾ã™ã€‚å‚考ã«ã©ã†
Theano 㧠Deep Learning <3> : 畳ã¿è¾¼ã¿ãƒ‹ãƒ¥ãƒ¼ãƒ©ãƒ«ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ - StatsFragments
Python Theano を使ã£ã¦ Deep Learning ã®ç†è«–ã¨ã‚¢ãƒ«ã‚´ãƒªã‚ºãƒ ã‚’å¦ã¶ä¼šã€ç¬¬ä¸‰å›žã€‚今回ã§æ•™å¸«ã‚ã‚Šå¦ç¿’ã®éƒ¨åˆ†ã¯ã²ã¨æ®µè½ã€‚ 目次 DeepLearning 0.1 ã«ã¤ã„ã¦ã€å¯¾å¿œã™ã‚‹è¨˜äº‹ã®ãƒªãƒ³ã‚¯ã‚’記載。 第一回 MNIST データをãƒã‚¸ã‚¹ãƒ†ã‚£ãƒƒã‚¯å›žå¸°ã§åˆ¤åˆ¥ã™ã‚‹ 英 第二回 多層パーセプトãƒãƒ³ 英 第三回 畳ã¿è¾¼ã¿ãƒ‹ãƒ¥ãƒ¼ãƒ©ãƒ«ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ (今回) 英 第四回 Denoising オートエンコーダ 英 第五回 多層 Denoising オートエンコーダ 英 第å…回ã®æº–å‚™1 networkx ã§ãƒžãƒ«ã‚³ãƒ•ç¢ºçŽ‡å ´ / 確率ä¼æ¬æ³•ã‚’実装ã™ã‚‹ - 第å…回ã®æº–å‚™2 ホップフィールドãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ - 第å…回 制約付ãボルツマンマシン 英 Deep Belief Networks 英 Hybrid Monte-Carlo Sampling 英 Recurrent Neural Network
Deep Learning技術ã®ä»Š
2. ⾃自⼰己紹介 lï¬ å¾—å±… Â èª ä¹Ÿ  (Seiya  Tokui) æ ªå¼ä¼šç¤¾Preferred  Infrastructure,  Jubatus  Pj.  リサーãƒãƒ£ãƒ¼ lï¬ å°‚â¾¨é–€ã¯æ©Ÿæ¢°å¦ç¿’（修⼠士ã€ç¾è·ï¼‰ lï¬ â€“ 系列列ラベリング→ãƒãƒƒã‚·ãƒ¥ãƒ»è¿‘å‚探索索→深層å¦ç¿’ lï¬ ä»Šã®èˆˆå‘³ã¯æ·±å±¤å¦ç¿’ã€è¡¨ç¾å¦ç¿’ã€åˆ†æ•£å¦ç¿’ã€æ˜ åƒè§£æž lï¬ @beam2d  (Twitter,  Github,  etc.) 2 /  47 3. 2011年年:  ⾳音声èªè˜ï§¼ã«ãŠã‘ã‚‹æˆåŠŸ lï¬ lï¬ 3 /  47 DNN-â€â€‘‒HMM  を使ã£ãŸâ¼¿æ‰‹æ³•ãŒã€â¾³éŸ³å£°èªè˜ï§¼ã®  word  error  rate  ã§å¾“æ¥ æ³•  (GMM)  より  10%  å‰å¾Œã‚‚改善 æºå¸¯ç«¯æœ«ã«ãŠã‘る⾳音声æ“作㫠 Deep  Learning  ãŒåˆ©ï§â½¤ç”¨ã•ã‚Œã‚‹ã‚ˆã†ã« F. Seide, G. Li and D. Yu.
EM アルゴリズム| パターンèªè˜ã¨æ©Ÿæ¢°å¦ç¿’
Andrew 先生ã®èª¬æ˜ŽãŒã¨ã¦ã‚‚ã‚ã‹ã‚Šã‚„ã™ã‹ã£ãŸã®ã§ãƒ¡ãƒ¢ã§ã™ã€‚カルãƒãƒƒã‚¯ãƒ»ãƒ©ã‚¤ãƒ–ãƒ©ãƒ¼æƒ…å ±é‡ï¼ˆKL divergence）を用ã„る事ãªãã€ã‚¤ã‚§ãƒ³ã‚¼ãƒ³ã®ä¸ç‰å¼ã®ã¿ã§è‡ªç„¶ã«å±•é–‹ã—ã¦ã„ã¾ã—ãŸã€‚ 凸関数 – convex function f’’(x) > 0ã€ã¾ãŸ x ãŒãƒ™ã‚¯ãƒˆãƒ«ã®å ´åˆã¯ãƒ˜ã‚·ã‚¢ãƒ³ H >= 0 ã®æ™‚ã€f(x) ã¯å‡¸é–¢æ•°ã€‚f’’(x) > 0 ã¨ã¯ x ãŒå¤§ãããªã‚‹ã«ã¤ã‚ŒæŽ¥ç·šã®å‚¾ã f’(x) も大ãããªã‚‹ã¨ã„ã†ã“ã¨ã€‚å…¨ã¦ã® x ã§ã€ä¸‹å›³ã® (1) -> (2) -> (3) ã®ã‚ˆã†ãªå¤‰åŒ–ãŒæˆã‚Šç«‹ã¤ f(x) ã®ã“ã¨ã€‚ イエンセンã®ä¸ç‰å¼ – Jensen’s inequality f(x) ãŒå‡¸é–¢æ•°ã®æ™‚ã€E[f(x)] >= f(E[x]) ãŒæˆã‚Šç«‹ã¤ã€‚ã“ã‚ŒãŒã‚¤ã‚§ãƒ³ã‚¼ãƒ³ã®ä¸ç‰å¼ã€‚ 図を見れã°ç›´æ„Ÿçš„ã«ã‚ã‹ã‚‹ã®ã ãŒã€ä»Šä»®ã« x㯠a,b ã®ï¼’点ã—ã‹å–ã‚Œãªã„ã¨ã™ã‚‹ã¨ã€f(E[x])よりã€
カプグラ症候群 - 脳科å¦è¾žå…¸
ç¦å³¶ è²´åã€é‡é–“ åšå½¦ æ±äº¬éƒ½ç«‹æ¾æ²¢ç—…院精神科 DOI：10.14931/bsd.4583　原稿å—付日：2013å¹´12月10日　原稿完æˆæ—¥ï¼š2014å¹´6月11æ—¥ æ‹…å½“ç·¨é›†å§”å“¡ï¼šåŠ è—¤ å¿ å²ï¼ˆç‹¬ç«‹è¡Œæ”¿æ³•äººç†åŒ–å¦ç ”究所 脳科å¦ç·åˆç ”究センター） 英語å：Capgras syndrome　独：Capgras-Syndrom　ä»ï¼šsyndrome de Capgras åŒç¾©èªžï¼šã‚«ãƒ—グラ妄想 (Capgras delusion)ã€ã‚«ãƒ—グラç¾è±¡ã€ã‚«ãƒ—グラ症状ã€ã‚½ã‚¸ãƒ¼ã®éŒ¯è¦š カプグラ症候群ã¨ã¯ã€è¿‘親者ãªã©ãŒç“œäºŒã¤ã®å½ç‰©ã¨å…¥ã‚Œæ›¿ã‚ã£ãŸã¨ç¢ºä¿¡ã™ã‚‹å¦„想ã§ã‚ã‚Šã€1923å¹´ã«Capgras. J. ã¨Reboul-Lachoux. J.[1]ã«ã‚ˆã£ã¦å ±å‘Šã•ã‚ŒãŸã€‚è¿‘å¹´ã§ã¯ã€ã‚«ãƒ—グラ症候群ã€ãƒ•ãƒ¬ã‚´ãƒªç—‡å€™ç¾¤ã€ç›¸äº’変身妄想ãŠã‚ˆã³è‡ªå·±åˆ†èº«ç—‡å€™ç¾¤ãŒå¦„想性人物誤èªç—‡å€™ç¾¤ã®äºœåž‹ã¨ã—ã¦ã¾ã¨ã‚られã¦ã„る。カプグラ症候群ã¯å¦„想型統åˆå¤±èª¿
リリースã€éšœå®³æƒ…å ±ãªã©ã®ã‚µãƒ¼ãƒ“スã®ãŠçŸ¥ã‚‰ã›
最新ã®äººæ°—エントリーã®é…ä¿¡
j次ã®ãƒ–ックマーク
kå‰ã®ãƒ–ックマーク
lã‚ã¨ã§èªã‚€
eコメント一覧を開ã
oページを開ã
http://www.nlab.ci.i.u-tokyo.ac.jp/pdf/CNN_survey.pdf
有é™ç¾¤ã®è¡¨ç¾è«– Frobenius ã®ç›¸äº’律ã¨æ—¢ç´„性判定æ¡ä»¶ 515 ã²ã‹ã‚‹ (Twitter: @515hikaru) 2015 å¹´ 12 月 1 æ—¥ æ¦‚è¦ ã“ã® PDF ã¯, Math Advent Calendar (http://www.adventar.org/calendars/852) ã® 1 日目ã®è¨˜äº‹ã§ã‚ã‚‹. 主ã«ã€Žï¿½ï¿½
{{#tags}}- {{label}}
{{/tags}}