サービス終了ã®ãŠçŸ¥ã‚‰ã›
サービス終了ã®ãŠçŸ¥ã‚‰ã› ã„ã¤ã‚‚Yahoo! JAPANã®ã‚µãƒ¼ãƒ“スをã”利用ã„ãŸã ãèª ã«ã‚ã‚ŠãŒã¨ã†ã”ã–ã„ã¾ã™ã€‚ ãŠå®¢æ§˜ãŒã‚¢ã‚¯ã‚»ã‚¹ã•ã‚ŒãŸã‚µãƒ¼ãƒ“スã¯æœ¬æ—¥ã¾ã§ã«ã‚µãƒ¼ãƒ“スを終了ã„ãŸã—ã¾ã—ãŸã€‚ 今後ã¨ã‚‚Yahoo! JAPANã®ã‚µãƒ¼ãƒ“スをã”愛顧ãã ã•ã„ã¾ã™ã‚ˆã†ã€ã‚ˆã‚ã—ããŠé¡˜ã„ã„ãŸã—ã¾ã™ã€‚
Deep Learning ã®æ¬¡ã¯ã€TDA 「トãƒãƒã‚¸ã‚«ãƒ«ãƒ»ãƒ‡ãƒ¼ã‚¿ãƒ»ã‚¢ãƒŠãƒªã‚·ã‚¹ã€ (Topological data analysis) ãŒæ¥ã‚‹ ? ～ ãã®æ¦‚è¦ã¨ã€R言語 / Python言語 実装ライブラリ ã‚’ã¡ã‚‰ã£ã¨èª¿ã¹ã¦ã¿ãŸ - Qiita
人工知能やデータ解æžã®é ˜åŸŸã§ã€è†¨å¤§ãªé‡ã®ãƒ‡ãƒ¼ã‚¿ã‹ã‚‰ã€ç‰©ä½“概念（物体è˜åˆ¥ï¼‰ã‚„音声・体ã®é‹å‹•ã‚¹ã‚ーマ概念を自動的・自律的ã«ç²å¾—ã§ãã‚‹å¯èƒ½æ€§ã‚’ã‚‚ã£ãŸæ‰‹æ³•ã¨ã—ã¦ã€Deep Learning（ディープ・ラーニングã€ã€Œæ·±å±¤å¦ç¿’ã€ï¼‰ã¨ç·ç§°ã•ã‚Œã‚‹æ‰‹æ³•ãŒæ³¨ç›®ã‚’集ã‚ã¦ã„ã¾ã™ã€‚ ã“ã†ã—ãŸä¸ã€ä¸€éƒ¨ã®ç ”究者やベンãƒãƒ£ãƒ¼ä¼æ¥ã®çµŒå–¶è€…・エンジニアã®ä¸ã«ã¯ã€ã“ã®Deep Learningã®ã•ã‚‰ã«å…ˆã‚’ã„ãデータ解æžæ‰‹æ³•ã¨ã—ã¦ã€TDA：トãƒãƒã‚¸ã‚«ãƒ«ãƒ»ãƒ‡ãƒ¼ã‚¿ãƒ»ã‚¢ãƒŠãƒªã‚·ã‚¹ (Topological data analysis) ã¨å‘¼ã°ã‚Œã‚‹æ‰‹æ³•ã«ç€ç›®ã—ã¦ã„ã‚‹æ–¹ãŸã¡ãŒã„るよã†ã§ã™ã€‚ Deep Learningã¨åŒã˜ãã€äººé–“ãŒè„³ã‚’使ã£ã¦ã€äº”æ„Ÿã§å¾—ãŸå‘¨å›²ã‚„自分ã®ä½“ã«ã¤ã„ã¦ã®æ„Ÿè¦šæƒ…å ±ã‹ã‚‰ã€ã©ã®ã‚ˆã†ã«ã—ã¦å‘¨å›²ã®ç’°å¢ƒç©ºé–“ã«å¯¾ã™ã‚‹èªè˜ã‚¤ãƒ¡ãƒ¼ã‚¸ã‚„ã€ç‰©ä½“概念ã€ã¿ãšã‹ã‚‰ã®èº«ä½“概念を得ã¦ã„ã‚‹ã®ã‹ï¼Ÿã¨ã„ã†ã€Œå•ã„ã€ã«å¯¾ã—ã¦ã€çµ±è¨ˆå¦ã‚„確率論ã®ã‚¢ãƒ—ãƒãƒ¼ãƒã§ã¯ãª
ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯åˆ†æž - ベイジアン・ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã€€ - yokkunsã®æ—¥è¨˜
ベイジアンãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã¨ã¯ 事象間ã®é€£é–¢ã‚’確率的ãªä»®å®šã¨ã—ã¦ã€æœ‰å‘グラフを用ã„ã¦è¡¨ã™æ–¹æ³•ã€‚ ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯æ§‹é€ ã¯ã€DAGã§ãªã‘ã‚Œã°ãªã‚‰ãªã„ã¨ã„ã†åˆ¶ç´„ãŒã‚ã‚‹ã€‚ï¼ˆåŽŸå› ã¨çµæžœãŒå¾ªç’°çš„ãªæ§‹é€ ã«ãªã£ã¦ã—ã¾ã†ã®ã‚’é¿ã‘ã‚‹ãŸã‚） ベイジアン・ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã‚’データ分æžã«å¿œç”¨ã™ã‚‹ã¨ã€å¤‰æ•°é–“ã®é€£é–¢ã‚’有効グラフã§è¡¨ã™äº‹ãŒå‡ºæ¥ã‚‹ã€‚ ベイジアン・ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã«ãŠã‘る有å‘辺ã®æœ‰ç„¡ã‚’決ã‚る基準ã«ã¯ã€ç¢ºçŽ‡çš„ãªã€Œç‹¬ç«‹ã€ãŒç”¨ã„られる。 ã“ã®ã¨ã〠ãªã®ã§ã€Aã®ç¢ºçŽ‡ã¯Bã®å½±éŸ¿ã‚’å—ã‘ãªã„。 ã“ã®ã‚ˆã†ã«2ã¤ã®å¤‰æ•°ãŒç‹¬ç«‹ã€ã‚‚ã—ãã¯ãã‚Œã«ã¡ã‹ã‘ã‚Œã°ã€ãれらã®é–“ã«é€£é–¢ã¯ç„¡ã„ã¨è€ƒãˆã€ãれらã®å¤‰æ•°ã‚’表ã™ãƒŽãƒ¼ãƒ‰é–“ã«ã‚¨ãƒƒã‚¸ã¯å¼µã‚‰ã‚Œãªã„事ã«ãªã‚‹ã€‚ ベイジアン・ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã®ä¾‹ データã¯ã€ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯åˆ†æž (Rã§å¦ã¶ãƒ‡ãƒ¼ã‚¿ã‚µã‚¤ã‚¨ãƒ³ã‚¹ 8)ã«å‡ºã¦ãる「ãƒã‚¤ãƒ†ã‚¯ä¼æ¥ã®ç®¡ç†è·21人ã®ç¤¾ä¼šãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã€ã€‚ ãƒã‚¤ãƒ†ã‚¯ä¼æ¥ã®ç®¡ç†è·ãƒ‡ãƒ¼ã‚¿ Age Tenure Dp
ãƒžãƒ«ã‚³ãƒ•ç¢ºçŽ‡å ´ (MRF) ã¨æ¡ä»¶ä»˜ãç¢ºçŽ‡å ´ (CRF) ã®é•ã„ | LESS IS MORE
一番ã®é•ã„ã¯ã€ç”Ÿæˆãƒ¢ãƒ‡ãƒ«ã‹è˜åˆ¥ãƒ¢ãƒ‡ãƒ«ã‹ã€ã¨ã„ã†ã“ã¨ã€‚ãã‚Œãžã‚Œã€ Markov Random Fields (MRF) ã¯ç”Ÿæˆãƒ¢ãƒ‡ãƒ« Conditional Random Fields (CRF) ã¯è˜åˆ¥ãƒ¢ãƒ‡ãƒ« ã§ã™ã€‚ What is exactly the difference between MRF and CRF ã“ã“を見るã¨å‰²ã¨ã™ã£ãã‚Šã™ã‚‹ã€‚ ãŸã ã€å°‘ã—スムーズã«ç´å¾—ã§ããªã„ã“ã¨ãŒã‚ã‚Šã¾ã—ã¦â€¦ãã‚Œã¯ã€MRFã‚‚CRFもグラフィカルモデルã§æ›¸ãã¨ç„¡å‘グラフã¨ãªã‚‹ã“ã¨ã€‚è˜åˆ¥ãƒ¢ãƒ‡ãƒ«ã¯ç„¡å‘グラフã§ç”Ÿæˆãƒ¢ãƒ‡ãƒ«ã¯æœ‰å‘グラフãªã‚“ã˜ã‚ƒâ€¦ï¼Ÿã¨æ€ã£ã¦ã—ã¾ã†äººã‚‚ã„ã‚‹ã‚“ã˜ã‚ƒãªã„ã‹ã¨æ€ã†ï¼ˆã„ãªã‹ã£ãŸã‚‰ã”ã‚ã‚“ãªã•ã„）。 グラフィカルモデルã¨ã—ã¦ã®è¡¨ç¾ 一般ã«ã€ç”Ÿæˆãƒ¢ãƒ‡ãƒ«ã¯æœ‰å‘グラフã®å½¢ã§è¨˜è¿°ã•ã‚Œã€è˜åˆ¥ãƒ¢ãƒ‡ãƒ«ã¯ç„¡å‘グラフã¨ã—ã¦è¨˜è¿°ã•ã‚Œã‚‹ã€‚例ãˆã°ã€éš れマルコフモデル (HMM) ã¯æœ‰å‘グラフã§ã€æ¡ä»¶ä»˜ãç¢ºçŽ‡å ´ (CR
Persistent Homology ã¨Rã®phom package, ãã®ä»–libraryã®ç´¹ä»‹ - xiangze's sparse blog
高次元データã®å¤§åŸŸçš„ãªæ€§è³ªã«ç€ç›®ã—ãŸåˆ†é¡žã€è§£æžã®æ‰‹æ³•ã«Persistent Homologyã¨ã„ã†æ–¹æ³•ãŒã‚ã‚Šã¾ã™ã€‚ ã¾ãŸãã®æ‰‹æ³•ã‚’実装ã—ãŸRã®ãƒ‘ッケージ(CRAN phom package)ãŒã‚ã£ãŸã®ã§ç°¡å˜ã«ç´¹ä»‹ã„ãŸã—ã¾ã™ã€‚ãã®ä»–ã®è‰²ã€…ãªè¨€èªžã§ä½¿ãˆã‚‹ãƒ©ã‚¤ãƒ–ラリã«ã¤ã„ã¦ã‚‚最後ã«ç´¹ä»‹ã„ãŸã—ã¾ã™ã€‚ ホモãƒã‚¸ãƒ¼ã«ã¤ã„㦠ホモãƒã‚¸ãƒ¼ã¨ã¯ã‚ã¾ã‚ŠåŽ³å¯†ã§ãªã„言ã„方をã™ã‚‹ã¨å¾®å°ãªå¤‰å½¢ã«ã‚ˆã£ã¦ã¯å¤‰ã‚ã‚‹ã“ã¨ã®ãªã„ã‚‚ã®ã®å½¢çŠ¶ã‚’特徴ã¥ã‘るよã†ãªé‡ã§ã€ä¸€èˆ¬ã«ã¯ç¾¤ã®å½¢ã§è¨˜è¿°ã•ã‚Œã¾ã™ã€‚群ã®ä¿‚æ•°ã¨ã—ã¦ã¯æ•´æ•°ã‚„è¤‡ç´ æ•°ãªã©ã®æ•°ã ã‘ã§ãªãã€é–¢æ•°ã‚‚ã¨ã‚Šå¾—ã¾ã™ã€‚ã—ã‹ã—データ解æžã®åˆ†é‡Žã«ãŠã„ã¦ã¯å®Ÿä¿‚æ•°ã®ãƒ›ãƒ¢ãƒã‚¸ãƒ¼ç¾¤ã®ã¿ãŒå¯¾è±¡ã¨ã•ã‚Œã‚‹å ´åˆãŒå¤šã„よã†ã§ã™ã€‚ çƒé¢ã€ã‚ã‚‹ã„ã¯ãƒˆãƒ¼ãƒ©ã‚¹(ドーナツ型ã®å›³å½¢)ã®è¡¨é¢ã¯ï¼’次元ã§ã™ãŒå¢ƒç›®ã‚’æŒã¡ã¾ã›ã‚“。ã—ã‹ã—ãªãŒã‚‰å…¨ä½“ã¨ã—ã¦ã¿ã‚‹ã¨ãƒˆãƒ¼ãƒ©ã‚¹ã«ã¯ç©´ãŒé–‹ã„ã¦ã„ã¦ã€çƒé¢ã«ã¯ç©´ãŒã‚ã‚Šã¾ã›ã‚“。ã“ã®ç©´ã«ç›¸å½“ã™ã‚‹ã‚‚ã®ã®æœ‰
次元を下ã’ã‚‹ - ryamadaã®ã‚³ãƒ³ãƒ”ュータ・数å¦ãƒ¡ãƒ¢
昨日ã®è¨˜äº‹ã§ã€å¤šæ§˜ä½“å¦ç¿’ã«è§¦ã‚ŒãŸ 多様体å¦ç¿’ã¯ã€éžç·šå½¢ã«æ¬¡å…ƒã‚’下ã’る話ã¨è¨€ã„æ›ãˆã‚‹ã“ã¨ãŒã§ãã‚‹ãŒã€ãã‚Œã«é–¢é€£ã™ã‚‹ç”¨èªžã‚’挙ã’よㆠIsomap 点間è·é›¢ã‚’局所ã«ã¤ã„ã¦æ¸¬ã‚Šã€ã‚°ãƒ©ãƒ•ä¸Šã®æœ€çŸè·é›¢ã‚’局所ã«ãŠã„ã¦å®šã‚る。ãã®ä¸Šã§ã€ã™ã¹ã¦ã®ç‚¹é–“ã®ã‚°ãƒ©ãƒ•ä¸Šæœ€çŸè·é›¢ã‚’ãã®ã¤ãªãŽåˆã‚ã›ã¨ã—ã¦æ±ºã‚る。ペアワイズãªæœ€çŸè·é›¢ãŒè¨ˆç®—ã§æ¥ãŸã‚‰ã€ãれをユークリッド空間ã®è·é›¢ã®ã‚ˆã†ã«è¦‹ç«‹ã¦ã¦MDSã§ä½Žæ¬¡å…ƒç©ºé–“ã«åŸ‹ã‚込む Kernel_PCA カーãƒãƒ«æ³•(座標ã®è¨ˆç®—ã‚’ã™ã‚‹ä»£ã‚ã‚Šã«å†…ç©è¨ˆç®—ã‚’ã—ã¦è¨ˆç®—é‡ã‚’減らã™ä»•çµ„ã¿ã‚’使ã£ãŸæ–¹æ³•)ã‚’æ–‡å—込んã PCA拡張版。分解ã—ã‚„ã™ã„よã†ã«ã€å®Ÿéš›ã‚ˆã‚Šã‚‚次元を高ãã—ã¦åˆ†è§£ã§ãã‚‹æ¡ä»¶ã‚’作ã£ã¦ã‚„ã£ãŸä¸Šã§ã€æ„味ã®å¤§ãã„軸を引ã出㙠Nonlinear dimensionality reduction methods ã“れらを大ããããã‚‹ã¨Nonlinear dimensionality reducti
RBMã‹ã‚‰è€ƒãˆã‚‹Deep Learning　～黒é”è¡“ã‚’æ·»ãˆã¦ï½ž - Qiita
ãšã„ã¶ã‚“é…ããªã‚Šã¾ã—ãŸãŒã€ã²ã¨ã¾ãšå®Œæˆã§ã™ã€‚ç–‘å•ç‚¹ãƒ»ç¿»è¨³ãƒŸã‚¹ã‚’始ã‚ã¨ã—ãŸæŒ‡æ‘˜ãŒã‚ã‚Šã¾ã—ãŸã‚‰ã€ã©ã—ã©ã—ãŠé¡˜ã„ã—ã¾ã™(14/12/18)。 1週間ã‚ã‚‹ã‹ã‚‰å¤§ä¸ˆå¤«ã ã‚ã†ã¨ãŸã‹ã‚’括ã£ã¦ã„ãŸã‚‰ã€ã‚ã£ã¨ã„ã†é–“ã«æŠ•ç¨¿æ—¥ã«ãªã£ã¦ã—ã¾ã„ã¾ã—ãŸã€‚本当ã¯Pylearn2を使ã£ã¦RBMã‚’å¦ç¿’ã•ã›ã‚ˆã†ã¨è€ƒãˆã¦ã„ãŸã®ã§ã™ãŒã€å½¹ã«ç«‹ã¤å†…容を書ãã«ã¯æ™‚é–“ãŒè¶³ã‚Šãªã•ã™ãŽã‚‹ã®ã§ã€ãŠèŒ¶ã‚’æ¿ã—ã¾ã™ã€‚ 今回ã®ç›®æ¨™ Restricted Boltzmann MachineåŠã³Deep Belief Networkã®åŸºæœ¬çš„ãªå‹•ä½œåŽŸç†ã‚’知る "A Practical Guide to Training Redstricted Boltzmann Machine"(GE Hinton, 2012)ã§é»’é”è¡“(RBMã®æ€§èƒ½ã‚’引ã出ã™ã‚³ãƒ„)ã‚’å¦ã¶ 先日ã€ä»¥ä¸‹ã®ã‚ˆã†ãªç™ºè¡¨ã‚’ã—ã¾ã—ãŸã€‚今回ã®å†…容ã¯ä»¥ä¸‹ã®ã‚¹ãƒ©ã‚¤ãƒ‰ã®ç„¼ãç›´ã—・改良をå«ã¿ã¾ã™ã€‚å‚考ã«ã©ã†
Denoising Autoencoderã¨ãã®ä¸€èˆ¬åŒ–
Machine Learning Advenc Calendar 2013ã®23日目担当ã®å¾—å±…ã§ã™ã€‚ æ ªå¼ä¼šç¤¾Preferred Infrastructureã§Jubatusを作ã£ãŸã‚Šã—ã¦ã„ã¾ã™ã€‚ 今日ã¯æ·±å±¤å¦ç¿’(deep learning)ã®è©±ã§ã™ã€‚ 深層å¦ç¿’ã¯ã“ã®2å¹´ã»ã©ã§å°‚門外ã®äººã«ã‚‚知れ渡るã»ã©ã«å¤§æµè¡Œã—ã¾ã—ãŸã€‚ データã•ãˆå¤§é‡ã«ã‚ã‚Œã°ãƒ†ã‚¯ãƒ‹ãƒƒã‚¯æ¬¡ç¬¬ã§ä»–ã®æ‰‹æ³•ã‚’圧倒ã™ã‚‹æ€§èƒ½ã‚’é”æˆã§ãã‚‹ã“ã¨ã‹ã‚‰ã€ç‰¹ã«å¤§é‡ã®ãƒ‡ãƒ¼ã‚¿ã‚’æŒã¤å¤§ä¼æ¥ã«ãŠã„ã¦å¤§ã€…çš„ãªå‚å…¥ãŒç›¸æ¬¡ãŽã¾ã—ãŸã€‚ 主ã«æµè¡Œã£ã¦ã„ã‚‹ã®ã¯æ•™å¸«ã‚ã‚Šå¦ç¿’ã§ã™ã€‚ 補助ã¨ã—ã¦æ•™å¸«ãªã—å¦ç¿’ã«ã‚ˆã‚‹äº‹å‰å¦ç¿’(pretraining)ã‚‚ã€ç‰¹ã«éŸ³å£°èªè˜ã®ã‚¿ã‚¹ã‚¯ã«ãŠã„ã¦ã¯è¡Œã‚ã‚Œã¦ã„るよã†ã§ã™ãŒã€ç”»åƒèªè˜ã‚’ä¸å¿ƒã«äº‹å‰å¦ç¿’ãªã—ã§ã‚‚テクニック次第ã§å¦ç¿’ã§ãã‚‹ã¨ã„ã†è¦‹æ–¹ãŒå¼·ã¾ã£ã¦ã„ã¾ã™ã€‚ 一方ã§æ•™å¸«ãªã—データã‹ã‚‰ã®å¦ç¿’ã¯ãƒ–レイクスルー待ã¡ã¨ã„ã£ãŸé›°å›²æ°—ã§ã™ã€‚ Deep
Hello Autoencoder — KiyuHub
Hello Autoencoder 最近，身内ã§Deep Learningã‚’é¡Œæã«å«ã‚“ã 勉強会を行ãªã£ã¦ã„る． メインã¯å°‚é–€ã§ã‚る自然言語処ç†ã¾ã‚ã‚Šã ãŒï¼Œ ã¨ã‚Šã‚ãˆãšå®Ÿè£…(ã¨ã„ã†ã‚ˆã‚Šnumpy)ã®å°Žå…¥ã«ãªã‚‹ä¸Šï¼Œçµæžœã‚’視覚化ã§ãã‚‹ã“ã¨ã‹ã‚‰ï¼Œ ç”»åƒãƒ‡ãƒ¼ã‚¿ã‚’利用ã—ãŸAutoencoderã®å®Ÿè£…ã«ã¤ã„ã¦å–り扱ã£ãŸï¼Ž 軽ã„説明ã¨å…±ã«ã‚³ãƒ¼ãƒ‰ã¨ï¼Œè‰²ã€…ãªçµæžœã‚’ Autoencoder Autoencoderã¨ã¯,Neural Networkã®ç‰¹æ®Šç³»ã§ï¼ŒåŸºæœ¬çš„ã«ã¯ 入力層ã¨å‡ºåŠ›å±¤ã®ãƒ¦ãƒ‹ãƒƒãƒˆæ•°ãŒåŒã˜ã§ã‚る． 教師信å·ã¨ã—ã¦å…¥åŠ›ãã®ã‚‚ã®ã‚’与ãˆã‚‹ï¼Ž ã¨ã„ã†ç‰¹å¾´ã‚’æŒã¤ï¼Ž 入力ã¨å‡ºåŠ›ãŒå…±ã«4次元ã§ï¼Œéš れ層ãŒ2次元ãªAutoencoderã®å›³ Autoencoderã¯ï¼Œå…¥åŠ›ã®æƒ…å ±ã‚’ã‚’ä¸€åº¦éš ã‚Œå±¤ã®ç©ºé–“ã«å†™åƒ(encode) ã—ãŸã‚ã¨ï¼Œ å…ƒã®ä¿¡å·ã‚’復元(decode)ã™ã‚‹ã‚ˆã†ãªãƒ‘ラメータをå¦ç¿’ã™ã‚‹ï¼Ž 図ã®ã‚ˆã†ã«ï¼Œã‚‚ã—ã‚‚éš ã‚Œ
経験æ失最å°åŒ– – ERM (1) | パターンèªè˜ã¨æ©Ÿæ¢°å¦ç¿’
決定ç†è«– 予測ã™ã‚‹ã¨ã¯ï¼Ÿ 分類å•é¡Œã®ç›®æ¨™ã¯ã€è¦³æ¸¬ã—ãŸxãŒã©ã®ã‚¯ãƒ©ã‚¹ã«å±žã™ã‚‹ã®ã‹ã‚’ã¯ã£ãã‚Šã¨çŸ¥ã‚‹äº‹ã€‚ ãã®ãŸã‚ã®æ‰‹æ³•ã¯ã€Œè˜åˆ¥é–¢æ•°ã€ã€Œè˜åˆ¥ãƒ¢ãƒ‡ãƒ«ã€ã€Œç”Ÿæˆãƒ¢ãƒ‡ãƒ«ã€ã®ï¼“ã¤ã‚ã‚‹ãŒã€ãã®å‰ã«ã¾ãšã€Œæ±ºå®šç†è«–ã€ã¨ã€Œãã†ã§ãªã„ã‚‚ã®ã€ã®ï¼’ã¤ã«å¤§åˆ¥ã•ã‚Œã‚‹ã€‚以下ã€è¨€è‘‰ã®æ„味を整ç†ã™ã‚‹ã€‚ ・決定ç†è«– 「推論ã€ã¨ã€Œæ±ºå®šã€ã®ï¼’段階ã«åˆ†ã‘る手法。 ・ãã†ã§ãªã„も㮠２段階ã«åˆ†ã‘ãªã„手法。ã“ã‚ŒãŒï¼“ã¤ã®æ‰‹æ³•ã®ã†ã¡ã®ï¼‘ã¤ç›®ã®ã€è˜åˆ¥é–¢æ•°ã€‚パーセプトãƒãƒ³ã‚„SVMãŒãã†ã€‚ 訓練データã‹ã‚‰è˜åˆ¥é–¢æ•°f(x)を求ã‚ã€æœªçŸ¥ã®å…¥åŠ›ãƒ‡ãƒ¼ã‚¿xã«ãã‚Œãžã‚Œã«å¯¾ã—ã€ã©ã®ã‚¯ãƒ©ã‚¹ã«å±žã™ã‚‹ã‹ã®ç”ãˆã‚’直接与ãˆã‚‹æ‰‹æ³•ã€‚ 確率を用ã„ãšã€ä¾‹ãˆã°2クラス分類ã§ã‚ã‚Œã°é™½æ€§ã¨é™°æ€§ã¨ã®é–“ã®å¢ƒç•Œç·šã®ã¿ã‚’求ã‚る。 決定ç†è«–ã¨ã¯ï¼Ÿ 「推論ã€ã¨ã¯ã€è¨“練データã‹ã‚‰äº‹å¾Œåˆ†å¸ƒp(Ck|x) をモデル化ã™ã‚‹äº‹ã€‚ è˜åˆ¥é–¢æ•°ãŒé™½æ€§/陰性を一発ã§ã¯ã£ãã‚Šã¨ç”ãˆã‚’出ã™ã®ã«å¯¾ã—ã€ã“ã®æ‚£è€…xãŒé™°æ€§ã§ã‚
RBMã€Deep Learningã¨å¦ç¿’(全脳アーã‚テクãƒãƒ£è‹¥æ‰‹ã®ä¼š 第3回DL勉強会発表資料)
2014å¹´11月13日開催ã®å…¨è„³ã‚¢ãƒ¼ã‚テクãƒãƒ£è‹¥æ‰‹ã®ä¼š 第3回Deep Learning勉強会ã®è³‡æ–™ã§ã™ã€‚RBMã®å‹•ä½œåŽŸç†ã‚’ãƒã‚¤ãƒ³ãƒˆã‚’押ã•ãˆã¦è§£èª¬ã—ã¾ã—ãŸã€‚å‚考資料を後ã‚ã«çºã‚ã¾ã—ãŸã®ã§ã”自由ã«ã”活用ãã ã•ã„。Read less
機械å¦ç¿’超入門 〜ãã‚ãã‚ナイーブベイズã«ã¤ã„ã¦ã²ã¨ã“ã¨è¨€ã£ã¦ãŠãã‹ã€œ - EchizenBlog-Zwei
最近ã§ã¯æ©Ÿæ¢°å¦ç¿’ã®èªçŸ¥åº¦ã‚‚上ãŒã£ã¦ãã¦ã„ã¦å°‚門家ã§ãªãã¦ã‚‚ナイーブベイズやSVMãªã©ã®åå‰ã‚’知ã£ã¦ã„る人も増ãˆã¦ããŸã‚ˆã†ã«æ€ã†ã€‚ ãã‚“ãªã‚ã‘ã§ã¡ã‚‡ã£ã¨æ©Ÿæ¢°å¦ç¿’ã‚’ã¯ã˜ã‚ã¦ã¿ã‚ˆã†ã‹ãªã€ã¨æ€ã£ã¦ã„る人も多ã„ã®ã§ã¯ãªã„ã ã‚ã†ã‹ã€‚ã¨ã¯ã„ãˆã€Œæ•°å¼ã‚ˆãã‚ã‹ã‚‰ãªã„ã€ã€Œç¢ºçŽ‡å«Œã„ã€ã¨ã„ã£ãŸç†ç”±ã§å°»è¾¼ã¿ã—ã¦ã„るケースも多ã„ã®ã§ã¯ã€‚ ãã“ã§äºˆå‚™çŸ¥è˜ã‚¼ãƒã§ã‚‚ã‚ã‹ã‚‹ã‚ˆã†ãªæ©Ÿæ¢°å¦ç¿’ã®å…¥é–€è¨˜äº‹ã‚’書ã„ã¦ã¿ãŸã‚ˆã€‚ 機械å¦ç¿’を「作りãŸã„ã€ã®ã‹ã€Œä½¿ã„ãŸã„ã®ã‹ã€ ã¾ãšæœ€åˆã«ç¢ºèªã—ãŸã„ã®ãŒã“れ。使ã„ãŸã„ã ã‘ãªã‚‰ã¾ãšã¯SVMを使ã£ã¦ã¿ã‚Œã°è‰¯ã„。世ã®ä¸ã«ã¯libsvmã‚„svmlightã¨ã„ã†è‰¯ã„ツールãŒã‚ã‚‹ã®ã§ãれを使ãŠã†ã€‚以下ã®è¨˜äº‹ã¯æ©Ÿæ¢°å¦ç¿’を「作りãŸã„ã€ã€Œä»•çµ„ã¿ã‚’知りãŸã„ã€äººå‘ã‘ã®å†…容ã«ãªã£ã¦ã„る。 「最も簡å˜ãªæ©Ÿæ¢°å¦ç¿’ã¯ãƒŠã‚¤ãƒ¼ãƒ–ベイズã€ã¨ã„ã†å¹»æƒ³ 機械å¦ç¿’ã¨ã„ãˆã°ãƒŠã‚¤ãƒ¼ãƒ–ベイズã¨ã„ã†è©±ãŒã‚ˆãã‚る。ナイーブ(å˜ç´”)ã¨ã„ã†åå‰ã‹ã‚‰ã„ã‹
最大エントãƒãƒ”ーモデルã«ã¤ã„ã¦ï¼ˆCRF ã¸ã®å‰æŒ¯ã‚Šï¼‰ - アスペ日記
最大エントãƒãƒ”ーモデルã«ã¤ã„ã¦ã®è§£èª¬ã€‚ æ—¢å˜ã®è³‡æ–™ã¨ã—ã¦ã¯ã€A Simple Introduction to Maximum Entropy Models for Natural Language Processing や「言語処ç†ã®ãŸã‚ã®æ©Ÿæ¢°å¦ç¿’入門ã€ï¼ˆé€šç§°é«˜æ‘本）ãŒè©³ã—ã„。 記事ä¸ã§ã‚‚ãã®ç”¨èªžã‚’é©å®œä½¿ã£ãŸã‚Šã€å†…容を引用ã—ãŸã‚Šã™ã‚‹ã€‚ ã“ã“ã§ã¯ã€ã§ãã‚‹ã ã‘ç›´æ„Ÿçš„ã«ç†è§£ã§ãるよã†ãªèª¬æ˜Žã‚’目指ã™ã€‚ ã¾ãšã€æœ€å¤§ã‚¨ãƒ³ãƒˆãƒãƒ”ーモデルã¨ã¯ä½•ã‹ã€‚ 最大エントãƒãƒ”ーモデルã¯ã€åˆ†é¡žã‚’è¡Œã†æ™‚ã«ä½¿ã‚れる。 ãŸã¨ãˆã°ã€ã‚るレビューã«å‡ºã¦ããŸå˜èªžï¼ˆgood ã¨ã‹ bad ã¨ã‹ï¼‰ã‹ã‚‰ã€ãã®ãƒ¬ãƒ“ューãŒãƒã‚¸ãƒ†ã‚£ãƒ–ãªã®ã‹ãƒã‚¬ãƒ†ã‚£ãƒ–ãªã®ã‹åˆ†é¡žã™ã‚‹ã€ã¨ã„ã†ã‚ˆã†ãªã‚‚ã®ã€‚ ã“ã®åˆ†é¡žå…ˆã®ã“ã¨ã‚’クラスã¨å‘¼ã¶ã€‚ 最大エントãƒãƒ”ーモデルã¯è˜åˆ¥ãƒ¢ãƒ‡ãƒ«ã®ä¸€ç¨®ã€‚ è˜åˆ¥ãƒ¢ãƒ‡ãƒ«ã®ä»–ã«ã¯ç”Ÿæˆãƒ¢ãƒ‡ãƒ«ã¨ã„ã†ã‚‚ã®ã‚‚ã‚る。 ã“れらã®é•ã„ã¯ã€ãƒ¬ãƒ“ューã®ä¾‹ã§è¨€ã†
ï¼²ã¨ã‚«ãƒ¼ãƒãƒ«æ³•ãƒ»ã‚µãƒãƒ¼ãƒˆãƒ™ã‚¯ã‚¿ãƒ¼ãƒžã‚·ãƒ³
図1ã«ç¤ºã™ã‚ˆã†ã«ã€éžç·šå½¢ãƒ‡ãƒ¼ã‚¿æ§‹é€ ã‚’ç·šå½¢æ§‹é€ ã«å¤‰æ›ã™ã‚‹ã“ã¨ãŒã§ãã‚Œã°ã€ç·šå½¢ãƒ‡ãƒ¼ã‚¿è§£æžæ‰‹æ³•ã§éžç·šå½¢ãƒ‡ãƒ¼ã‚¿ã‚’容易ã«æ‰±ã†ã“ã¨ãŒã§ãる。 データを変æ›ã™ã‚‹ã“ã¨ã§ã€éžç·šå½¢æ§‹é€ ã‚’ç·šå½¢æ§‹é€ ã«å¤‰æ›ã™ã‚‹ã“ã¨ãŒå¯èƒ½ã§ã‚る。例ãˆã°ã€å›³2(a)ã«ç¤ºã™2次元平é¢åº§æ¨™ç³»(x,y)上ã®4ã¤ã®ç‚¹A1(1,1)ã€A2(1,-1)ã€A3(-1,-1)ã€A4(-1,1)を考ãˆã‚ˆã†ã€‚ä»®ã«A1ã¨A3ãŒã²ã¨ã¤ã®ã‚¯ãƒ©ã‚¹ã€A2ã¨A4ãŒã²ã¨ã¤ã®ã‚¯ãƒ©ã‚¹ã ã¨ã™ã‚‹ã¨ã€å¹³é¢ä¸Šã§ã‚¯ãƒ©ã‚¹ã®å¢ƒç•Œç·šã‚’一本ã®ç›´ç·šã§å¼•ãã“ã¨ãŒã§ããªã„。ã—ã‹ã—ã€æ–°ã—ã„変数 ã‚’å°Žå…¥ã—ã€2次元平é¢(x,y)上ã®4ã¤ã®ç‚¹ã‚’3次元空間(x,y,z)ã«å°„å½±ã™ã‚‹ã¨A1(1,1,1)ã€A2(1,-1,-1)ã€A3(-1,-1,1)ã€A4(-1,1,-1)ã«ãªã‚Šã€ä¸¡ã‚¯ãƒ©ã‚¹ã¯å¹³é¢ã§åˆ‡ã‚Šåˆ†ã‘ã‚‹ã“ã¨ãŒå¯èƒ½ã§ã‚る。例ãˆã°ï¼Œz=0ã®å¹³é¢ã‚’境界é¢ã¨ã™ã‚‹ã“ã¨ãŒã§ãる。 図1ã§ã¯ã€é–¢æ•°Ï†(x)を用ã„ã¦å€‹ä½“
RNNLM
2. é»’èˆ¹åˆ°æ¥ â€¢ 自然言語処ç†ã«ãŠã‘ã‚‹ Deep Learning ã®æ´»ç”¨ã‚’紹介 • google ã®äººãŒå…¬é–‹ã—ãŸword2vecã¨ã„ã†ãƒ„ールãŒè©±é¡Œ 4. n-gram language model • æ–‡ã«å¯¾ã™ã‚‹ç¢ºçŽ‡åˆ†å¸ƒã‚’モデル化 • å˜èªžã®æ¡ä»¶ä»˜ã確率ã®ç©ã§è¡¨ã™ • å˜èªžã®æ¡ä»¶ä»˜ã確率ã¯N-1個å‰ã¾ã§ã®å˜èªžã§è¨ˆ ç®—ã§ãã‚‹ã¨ä»®å®šã™ã‚‹ é©åˆ‡ãªn-gram確率をã„ã‹ã«æ±‚ã‚ã‚‹ã‹ãŒã“ã‚Œã¾ã§ã®ç„¦ç‚¹ コーパスã«ç¾ã‚Œãªã„ä½Žé »åº¦ãªn-gramã«ã‚‚事å‰åˆ†å¸ƒã«å¾“ã£ã¦æ£ç¢ºãª 確率を与ãˆã‚‹ã¨ã„ã†è©¦ã¿ãŒãªã•ã‚Œã¦ããŸï¼ˆã‚¹ãƒ ージング） 5. n-gram lm ã®ä¾‹ • HPYLM trigram ã®ç¢ºçŽ‡ã¯â€¦ 観測ã—ãŸtrigramé »åº¦ã‚’ ディスカウントã—ã¦â€¦ bigram確率ã§back-off “トヨタ/自動車†ã®ç¢ºçŽ‡ã¯ 0.5 “日産/自動車â€ã®ç¢ºçŽ‡ã¯0.4 Q: トヨタã¨æ—¥ç”£ã®é–¢ä¿‚ã¯ï¼Ÿ A: 知らãªã„
1
ランã‚ング
ランã‚ング
ランã‚ング
リリースã€éšœå®³æƒ…å ±ãªã©ã®ã‚µãƒ¼ãƒ“スã®ãŠçŸ¥ã‚‰ã›
最新ã®äººæ°—エントリーã®é…ä¿¡
j次ã®ãƒ–ックマーク
kå‰ã®ãƒ–ックマーク
lã‚ã¨ã§èªã‚€
eコメント一覧を開ã
oページを開ã
Welcome to the Python Mapper documentation! — Python Mapper documentation
Using Topological Data Analysis on your BigData
MDP
技科大å‚ã®ä¸Šã§ | Growing Neural Gas
{{#tags}}- {{label}}
{{/tags}}