長文日記
MIRUãƒãƒ¥ãƒ¼ãƒˆãƒªã‚¢ãƒ«ï¼šDeep Learning ~使ã„ã“ãªã™ãŸã‚ã«çŸ¥ã£ã¦ãŠããŸã„ã“ã¨~
22 Jul 2014 CVãƒãƒ¥ãƒ¼ãƒˆãƒªã‚¢ãƒ« MIRUãƒãƒ¥ãƒ¼ãƒˆãƒªã‚¢ãƒ«ï¼šDeep Learning ~使ã„ã“ãªã™ãŸã‚ã«çŸ¥ã£ã¦ãŠããŸã„ã“ã¨~ 1. 最近ã®çŠ¶æ³ã€€2. Convolutional Neural Networksã«ã¤ã„ã¦ã€€3. 汎化性能をå‘上ã•ã›ã‚‹ãŸã‚ã®å·¥å¤«ã€€4. パラメータã«ã‚ˆã‚‹æ€§èƒ½æ¯”較　5. 今ã‹ã‚‰å§‹ã‚ã‚‹ãŸã‚ã®ãƒ„ール・知ã£ã¦ãŠããŸã„ã“ã¨ã€€6. ç ”ç©¶äº‹ä¾‹ç´¹ä»‹ MIRU2014ãƒãƒ¥ãƒ¼ãƒˆãƒªã‚¢ãƒ«ã§ã¯ç”»åƒèªè˜ã‚„音声èªè˜ãªã©ã«ãŠã„ã¦æ³¨ç›®ã•ã‚Œã¦ã„るディープラーニングã«ã¤ã„ã¦ï¼ŒåŸºæœ¬çš„ãªæ‰‹æ³•ã‹ã‚‰æœ€æ–°ã®æ‰‹æ³•ã¾ã§ç´¹ä»‹ã™ã‚‹ï¼Žã¾ãŸï¼Œãƒ‡ã‚£ãƒ¼ãƒ—ラーニングã¯ãƒ‘ラメータ数ãŒè†¨å¤§ã§ã‚り，使ã„ã“ãªã™ã¾ã§ã«å¤§å¤‰åŠ´åŠ›ãŒã‹ã‹ã‚‹ï¼Žã©ã®ã‚ˆã†ãªãƒ‘ラメータãŒã‚り，ã©ã†ä½œç”¨ã™ã‚‹ã‹ç‰ã®ä½¿ã„ã“ãªã™ãŸã‚ã®ãƒŽã‚¦ãƒã‚¦ã‚„，世ã®ä¸ã«ã‚るツールç‰ã®ç´¹ä»‹ã‚‚è¡Œã†. 1. 最近ã®çŠ¶æ³ 2. Convolutional Neural Networksã«ã¤ã„
éŸ³å£°ç ”ç©¶ã¨ãƒ“ッグデータã®çµ±è¨ˆçš„機械å¦ç¿’, æ¾äº•çŸ¥åï¼ˆãƒ¢ãƒ‡ãƒªãƒ³ã‚°ç ”ç©¶ç³»ï¼‰ - åšå£«ç™¾äººï¼šã‚³ãƒ©ãƒ ：統計数ç†ç ”究所
æ¾äº• 知åï¼ˆãƒ¢ãƒ‡ãƒªãƒ³ã‚°ç ”ç©¶ç³»ï¼‰ 2012å¹´3月末ã«ã‚ªãƒãƒžæ”¿æ¨©ãŒãƒ“ッグデータã®åˆ©æ´»ç”¨ã‚’目的ã¨ã—ãŸç ”究開発イニシアティブã«ã¤ã„ã¦ç™ºè¡¨ã—ãŸæ™‚ã€ã¡ã‚‡ã†ã©äº¬éƒ½ã§International Workshop on Statistical Machine Learning for Speech Processing（IWSML）ã®ãƒ¯ãƒ¼ã‚¯ã‚·ãƒ§ãƒƒãƒ—を主催ã—ã¦ã„ãŸã€‚ã“ã®ãƒ¯ãƒ¼ã‚¯ã‚·ãƒ§ãƒƒãƒ—ã®ç›®çš„ã¯ã€éŸ³å£°ãªã©ã®ãƒ¡ãƒ‡ã‚£ã‚¢ç³»ã®ãƒ“ッグデータを処ç†ã™ã‚‹æŠ€è¡“ã«ã¤ã„ã¦ã€çµ±è¨ˆçš„機械å¦ç¿’ã®ç†è«–ã¨å¿œç”¨ã®ç ”究者ãŒä¸€å ‚ã«é›†ã„ã€æŠ€è¡“ã®æ–¹å‘性やå•é¡Œç‚¹ã«ã¤ã„ã¦ãƒ‡ã‚£ã‚¹ã‚«ãƒƒã‚·ãƒ§ãƒ³ã™ã‚‹ã“ã¨ã§ã‚ã£ãŸã€‚IWSML開催ã¯ã¾ã•ã«ã‚¿ã‚¤ãƒ リーã§ã‚ã‚Šã€å‚åŠ è€…ãŸã¡ã¯ä¸€æ§˜ã«ã€ä¸Šè¨˜ã®ã‚ªãƒãƒžæ”¿æ¨©ã®ç™ºè¡¨ã«å‹¢ã„ã‚’å¾—ãŸã“ã¨ã‚’覚ãˆã¦ã„る。 音声データ処ç†ã®ã†ã¡ã€ç‰¹ã«éŸ³å£°èªè˜ã§ã¯1980年代より統計的機械å¦ç¿’ã®æ‰‹æ³•ãŒåŸºæœ¬ã¨ãªã£ã¦ã„る。音声èªè˜ã§æ‰±ã‚れるデータã¯ã‚‚ã¨ã‚‚ã¨å¤§é‡ã§ã‚ã‚Šã€ä¾‹
ã¿ãšã»æƒ…å ±ç·ç ” ： ディープラーニングãŒãƒ“ッグデータ分æžã®é€²åŒ–を引ãèµ·ã“ã™
ビジãƒã‚¹ã«ãŠã„ã¦ãƒ‡ãƒ¼ã‚¿ã‚’活用ã™ã‚‹ãƒ—ãƒã‚»ã‚¹ã¯ã€ä»¥ä¸‹ã®3段階ã§è¡Œã‚れるã¨è€ƒãˆã‚‰ã‚Œã‚‹ã€‚ （1）データåŽé›† （2）アナリティクス：データã®åˆ†æžã«ã‚ˆã‚‹ä»®èª¬ã®æ¤œè¨¼ã‚„æ–°ãŸãªçŸ¥è¦‹ã®å‰µå‡º （3）価値創出：ç²å¾—ã—ãŸçŸ¥è¦‹ã«åŸºã¥ã事æ¥ã®æœ€é©åŒ–ã‚„æ–°è¦ã‚µãƒ¼ãƒ“スã®å‰µå‡º ç¾åœ¨ãƒ“ッグデータãŒæ³¨ç›®ã•ã‚Œã¦ã„ã‚‹ç†ç”±ã¯ã€ã“ã®ã†ã¡æœ€åˆã®ãƒ‡ãƒ¼ã‚¿åŽé›†ã®æ®µéšŽã«ãŠã„ã¦ã€ãƒ‡ãƒ¼ã‚¿ã®é‡ãŒå¢—大ã—ãŸã“ã¨ã€ãƒ‡ãƒ¼ã‚¿ã®è“„ç©é€Ÿåº¦ãŒå‘上ã—ãŸã“ã¨ã€ãƒ‡ãƒ¼ã‚¿ã®ã‚½ãƒ¼ã‚¹ã‚„種類ã®å¤šæ§˜æ€§ãŒä¸ŠãŒã£ãŸã“ã¨ãŒè¦å› ã¨è¨€ã‚ã‚Œã¦ã„る。 ã—ã‹ã—ã€ãƒ‡ãƒ¼ã‚¿ã®é‡ãŒã„ãら増ãˆã¦ã‚‚ã€2段階目ã®ã‚¢ãƒŠãƒªãƒ†ã‚£ã‚¯ã‚¹ã€ã™ãªã‚ã¡ãƒ‡ãƒ¼ã‚¿ã®èƒŒå¾Œã«æ½œã‚€ãƒ‘ターンを見出ã™èƒ½åŠ›ãŒä½Žã‘ã‚Œã°ã€ãƒ‡ãƒ¼ã‚¿ã®é‡ã‚’質ã¸ã¨è»¢åŒ–ã—ã€3段階目ã®ä¾¡å€¤ã®å‰µå‡ºã«ã¤ãªã’ã‚‹ã“ã¨ã¯å‡ºæ¥ãªã„ã“ã¨ã¯è¨€ã†ã¾ã§ã‚‚ãªã„。 ãã®ã‚¢ãƒŠãƒªãƒ†ã‚£ã‚¯ã‚¹ã®åˆ†é‡Žã§ã€2012å¹´ã€å¤§ããªãƒ–レークスルーã¨ãªã£ãŸãƒ‡ã‚£ãƒ¼ãƒ—ラーニング（深層å¦ç¿’ã€Deep Learning）ã¨ã„ã†æŠ€è¡“ãŒã‚ã‚‹
Richard Socher - Deep Learning Tutorial
ACL 2012 + NAACL 2013 Tutorial: Deep Learning for NLP (without Magic) Richard Socher, Chris Manning and Yoshua Bengio In the spring quarter of 2015, I gave an entire class at Stanford on deep learning for natural language processing. If you're interested in all the details of these methods and applications, see http://cs224d.stanford.edu Slides http://lxmls.it.pt/2014/socher-lxmls.pdf - most recen
Deep Learning : Bengio先生ã®ãŠã™ã™ã‚レシピ - a lonely miner
先日，身内ã®å‹‰å¼·ä¼š(&ラボã®å‹‰å¼·ä¼š)ã§ï¼ŒDeep Learningã«ã¤ã„ã¦ãŠè©±ã—ã¦ãã¾ã—ãŸï¼Žã“ã‚Œã¾ã§èˆˆå‘³ãŒãªã•ãã†ã ã£ãŸã®ã«ä½•æ•…急ã«ï¼Ÿã¨ã„ã†ã®ã¯ãŠã„ã¦ãŠã„ã¦ï¼Ž 紹介ã—ãŸã®ã¯ï¼ŒDeep Learningã®ç¬¬ä¸€äººè€…ã®ã²ã¨ã‚Šï¼Œ Yoshua Bengio先生自身ãŒåŸ·ç†ã•ã‚ŒãŸï¼Œä»¥ä¸‹ã®è«–文． Yoshua Bengio, Practical recommendations for gradient-based training of deep architectures, arXiv:1206.5533v2, 2012 ã©ã†ã‚„ら書ç±ã®è‰ç¨¿ã®ã‚ˆã†ã§ï¼ŒBengio先生ã®é•·å¹´ã®ç ”究ã§å¾—られãŸã•ã¾ã–ã¾ãªãƒŽã‚¦ãƒã‚¦(最近ã®æ‰‹æ³•ã¾ã§)ãŒãŽã£ã—ã‚Šè©°ã‚è¾¼ã¾ã‚Œã¦ã„ã¾ã™ï¼Žã™ã”ã„． 以å‰ã‹ã‚‰æ°—ã«ã¯ãªã‚Šã¤ã¤ã‚‚，ã¡ã‚‡ã£ã¨åˆ†é‡ãŒå¤šã„(30ページãらã„ã‚ã‚‹)ã®ã§ï¼Œãªã‹ãªã‹æ‰‹ã‚’出ã™ã“ã¨ãŒã§ããªã‹ã£ãŸã®ã§ã™ãŒï¼Œã‚ˆã†ã‚„ãヤル気ãŒå‡ºã¦ããŸ
Google Sites: Sign-in
Not your computer? Use a private browsing window to sign in. Learn more about using Guest mode
自然言語処ç†ã¾ã‚ã‚Šã®Deep Learningを自分ãªã‚Šã«ã¾ã¨ã‚ã¦ã¿ãŸ — KiyuHub
自然言語処ç†ã¾ã‚ã‚Šã®Deep Learningを自分ãªã‚Šã«ã¾ã¨ã‚ã¦ã¿ãŸ “自然言語処ç†ã®ãŸã‚ã®Deep Learningâ€ã¨ã„ã†ã‚¹ãƒ©ã‚¤ãƒ‰ã‚’公開ã—ã¾ã—ãŸï¼Ž 自然言語処ç†ã®ãŸã‚ã®Deep Learning from Yuta Kikuchi カジュアルãªæ„Ÿã˜ã§è‡ªç„¶è¨€èªžå‡¦ç†ã¾ã‚ã‚Šã®Deep Learningã®è©±é¡Œã‚’ã¾ã¨ã‚ãŸæ„Ÿã˜ã«ãªã£ã¦ã„ã¾ã™ï¼Ž ãã£ã‹ã‘ã¯ï¼Œå‹‰å¼·ä¼šã‚’ã—ã¦ã„ã‚‹ã“ã¨ã‚’知ã£ãŸOBã®beatinaniwaã•ã‚“ã«ãŠé¡˜ã„ã•ã‚ŒãŸã“ã¨ã§ï¼Œ æ ªå¼ä¼šç¤¾Gunosyã®å‹‰å¼·ä¼šã®å ´ã§ï¼Œç™ºè¡¨ã®æ©Ÿä¼šã‚’é ‚ãã¾ã—ãŸï¼Ž ãã‚ŒãŒï¼Œ9/11ã§ï¼Œãã®å¾Œ9/26ã«ç ”究室内ã§åŒã˜å†…容ã§ç™ºè¡¨ã—ã¾ã—ãŸï¼Ž ã©ã¡ã‚‰ã‚‚æ€ã£ãŸä»¥ä¸Šã«å¥½è©•ã‚’é ‚ã‘，公開ã—ã¦ã¯ã¨é€²ã‚ã¦é ‚ã„ãŸã®ã§ï¼Œå…¬é–‹ã™ã‚‹ã“ã¨ã«ã—ã¾ã—ãŸï¼Ž ã‚‚ã¡ã‚ã‚“é–“é•ã„ãŒå«ã¾ã‚Œã¦ã„ã‚‹å¯èƒ½æ€§ã‚‚多分ã«ã‚ã‚‹ã®ã§ï¼Žæ°—ã¥ã„ãŸæ–¹ã¯ã”æŒ‡æ‘˜é ‚ã‘ã‚‹ã¨å¹¸ã„ã§ã™ï¼Ž 内容ã–ã£ãã‚Š å‰åŠã¯ï¼Œãƒ‹ãƒ¥ãƒ¼ãƒ©ãƒ«ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã‚’図を使
1
障害
ランã‚ング
ランã‚ング
リリースã€éšœå®³æƒ…å ±ãªã©ã®ã‚µãƒ¼ãƒ“スã®ãŠçŸ¥ã‚‰ã›
最新ã®äººæ°—エントリーã®é…ä¿¡
j次ã®ãƒ–ックマーク
kå‰ã®ãƒ–ックマーク
lã‚ã¨ã§èªã‚€
eコメント一覧を開ã
oページを開ã
ディープラーニング最近ã®ç™ºå±•ã¨ãƒ“ジãƒã‚¹å¿œç”¨ã¸ã®èª²é¡Œ
DEEP LEARNING An MIT Press book in preparation
{{#tags}}- {{label}}
{{/tags}}