chainer-compilerã®ãã®å¾Œ Shinichiro Hamaji
chainer-compilerã®ãã®å¾Œ
chainer-compilerã®ãã®å¾Œ Shinichiro Hamaji
ChainerMNã®ã‚¯ãƒ©ã‚¦ãƒ‰ç’°å¢ƒå‘ã‘新機能ã¨AWSã«ãŠã‘る性能評価 - Preferred Networks Research & Development
※ã“ã®è¨˜äº‹ã¯Chainer Blogã®æŠ„訳ã§ã™ Chainer ã«ãƒžãƒ«ãƒãƒŽãƒ¼ãƒ‰ã§ã®åˆ†æ•£å¦ç¿’æ©Ÿèƒ½ã‚’è¿½åŠ ã™ã‚‹ãƒ‘ッケージã§ã‚ã‚‹ChainerMN ã«ã€ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã‚¹ãƒ«ãƒ¼ãƒ—ットãŒä½Žã„システムå‘ã‘ã®ä»¥ä¸‹ã®2ã¤ã®æ©Ÿèƒ½ã‚’v1.2.0ã¨v1.3.0ã§è¿½åŠ ã—ã¾ã—ãŸã€‚ Double bufferingã«ã‚ˆã‚‹é€šä¿¡æ™‚é–“ã®éš ãºã„機能 åŠç²¾åº¦æµ®å‹•å°æ•°ç‚¹æ•°(FP16)ã«ã‚ˆã‚‹All-Reduce機能 ChainerMNã¯é«˜é€Ÿãªãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã‚’æŒã¤ã‚¹ãƒ¼ãƒ‘ーコンピュータやMicrosoft Azureã®ã‚ˆã†ãªã‚·ã‚¹ãƒ†ãƒ を想定ã—ã¦é–‹ç™ºã—ã¦ããŸãŸã‚ã€é«˜é€Ÿãªãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã®ãªã„環境ã§ã¯é«˜ã„並列性能をé”æˆã™ã‚‹ã®ãŒé›£ã—ã„ã¨ã„ã†å•é¡ŒãŒã‚ã‚Šã¾ã—ãŸã€‚ã—ã‹ã—ã€ã“れらã®æ©Ÿèƒ½ã‚’使ã†ã“ã¨ã§ã€GTC2018ã§ç™ºè¡¨ã—ãŸã‚ˆã†ã«Amazon Web Services (AWS)ã®ã‚ˆã†ãªä¸€èˆ¬çš„ãªã‚·ã‚¹ãƒ†ãƒ ã§ã‚‚ChainerMNã«ã‚ˆã£ã¦é«˜ã„並列性能をé”æˆã™ã‚‹ã“ã¨ãŒã§ã
分散深層å¦ç¿’を支ãˆã‚‹æŠ€è¡“：AllReduceアルゴリズム- Preferred Networks Research & Development
本記事ã¯ã€2017年インターンシップを経ã¦ç¾åœ¨ã¯ã‚¢ãƒ«ãƒã‚¤ãƒˆã¨ã—ã¦å‹¤å‹™ã•ã‚Œã¦ã„る上野ã•ã‚“ã«ã‚ˆã‚‹å¯„稿ã§ã™ æ•°å¼ãŒæ£ã—ã表示ã•ã‚Œãªã„å ´åˆã¯ã€ã“ã¡ã‚‰ã®ãƒªãƒ³ã‚¯ã‹ã‚‰å†èªè¾¼ã‚’ãŠè©¦ã—ãã ã•ã„。 ã¿ãªã•ã‚“ã¯ã˜ã‚ã¾ã—ã¦ã€‚Preferred Networksã®2017å¤å£ã‚¤ãƒ³ã‚¿ãƒ¼ãƒ³ã«å‚åŠ ã—ã€ç¾åœ¨ã‚¢ãƒ«ãƒã‚¤ãƒˆã‚’ã—ã¦ã„る上野裕一郎ã§ã™ã€‚普段ã¯æ±äº¬å·¥æ¥å¤§å¦ã§High-Performance Computingã«é–¢ã™ã‚‹ç ”究を行ã£ã¦ãŠã‚Šã€åˆ†æ•£ãƒ»ä¸¦åˆ—計算ã«èˆˆå‘³ãŒã‚ã‚Šã¾ã™ã€‚ 今回ã¯ã€åˆ†æ•£æ·±å±¤å¦ç¿’ã‚’è¡Œã†éš›ã«ä½¿ç”¨ã•ã‚Œã‚‹AllReduceã¨ã„ã†é€šä¿¡ãƒ‘ターンã«ã¤ã„ã¦èª¿æŸ»ãƒ»å®Ÿè£…・評価を行ã„ã¾ã—ãŸã®ã§ã€ãã‚Œã«ã¤ã„ã¦ã”説明ã„ãŸã—ã¾ã™ã€‚ 分散深層å¦ç¿’ã¨ã¯ ç¾åœ¨ã€ãƒ‡ã‚£ãƒ¼ãƒ—ニューラルãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã‚’用ã„ãŸå¦ç¿’ã«ã¯é•·ã„時間ãŒã‹ã‹ã‚‹ã“ã¨ãŒçŸ¥ã‚‰ã‚Œã¦ã„ã¾ã™ã€‚ãã—ã¦ã€æ§˜ã€…ãªç¨®é¡žã®ãƒ¢ãƒ‡ãƒ«ã‚„ã€å¤§é‡ã®ãƒ‡ãƒ¼ã‚¿ã‚’組ã¿åˆã‚ã›ã¦å¦ç¿’を試ã™ãŸã‚ã«ã¯ã€å¦ç¿’ã«ã‹ã‹ã‚‹æ™‚é–“ã‚’çŸç¸®ã™
ディープラーニング入門：Chainer ãƒãƒ¥ãƒ¼ãƒˆãƒªã‚¢ãƒ«
Chainer ãƒãƒ¥ãƒ¼ãƒˆãƒªã‚¢ãƒ« æ•°å¦ã®åŸºç¤Žã€ãƒ—ãƒã‚°ãƒ©ãƒŸãƒ³ã‚°è¨€èªž Python ã®åŸºç¤Žã‹ã‚‰ã€æ©Ÿæ¢°å¦ç¿’・ディープラーニングã®ç†è«–ã®åŸºç¤Žã¨ã‚³ãƒ¼ãƒ‡ã‚£ãƒ³ã‚°ã¾ã§ã‚’幅広ã解説 ※Chainerã®é–‹ç™ºã¯ãƒ¡ãƒ³ãƒ†ãƒŠãƒ³ã‚¹ãƒ¢ãƒ¼ãƒ‰ã«å…¥ã‚Šã¾ã—ãŸã€‚詳ã—ãã¯ã“ã¡ã‚‰ã‚’ã”覧ãã ã•ã„。 何ã‹ã‚‰å¦ã¶ã¹ãã‹è¿·ã‚ãªã„ ディープラーニングをå¦ã¶ã«ã¯ã€å¤§å¦ã§å¦ã¶ãƒ¬ãƒ™ãƒ«ã®æ•°å¦ã‚„ Python ã«ã‚ˆã‚‹ãƒ—ãƒã‚°ãƒ©ãƒŸãƒ³ã‚°ã®çŸ¥è˜ã«åŠ ãˆã¦ã€ Chainer ã®ã‚ˆã†ãªãƒ‡ã‚£ãƒ¼ãƒ—ラーニングフレームワークã®ä½¿ã„æ–¹ã¾ã§ã€å¹…広ã„知è˜ãŒå¿…è¦ã¨ãªã‚Šã¾ã™ã€‚ 本ãƒãƒ¥ãƒ¼ãƒˆãƒªã‚¢ãƒ«ã¯ã€åˆå¦è€…ã«ã‚ˆãã‚る「ã¾ãšä½•ã‚’å¦ã¹ã°è‰¯ã„ã‹ã€ãŒåˆ†ã‹ã‚‰ãªã„〠ã¨ã„ã†å•é¡Œã‚’解決ã™ã‚‹ãŸã‚ã«è¨è¨ˆã•ã‚Œã¾ã—ãŸã€‚ åˆå¦è€…ã¯ã€Œã¾ãšä½•ã‚’ã€ãã—ã¦ã€Œæ¬¡ã«ä½•ã‚’ã€ã¨è¿·ã†ã“ã¨ãªãã€å¿…è¦ãªçŸ¥è˜ã‚’é †ç•ªã«å¦ç¿’ã§ãã¾ã™ã€‚ å‰æ知è˜ã‹ã‚‰è§£èª¬ ã“ã®ãƒãƒ¥ãƒ¼ãƒˆãƒªã‚¢ãƒ«ã¯ã€Chainer ãªã©ã®ãƒ‡ã‚£ãƒ¼ãƒ—ラーニングフレームワークを使ã£ãŸãƒ—ãƒã‚°
chug -Chainer User Group- - YouTube
作æˆã—ãŸå‹•ç”»ã‚’å‹ã ã¡ã€å®¶æ—ã€ä¸–ç•Œä¸ã®äººãŸã¡ã¨å…±æœ‰
Chainerを高速化ã™ã‚‹iDeepをインストールã™ã‚‹ - Qiita
ã¯ã˜ã‚ã« Chainer 4ã‹ã‚‰iDeepãŒæ£å¼ã«ã‚µãƒãƒ¼ãƒˆã•ã‚Œã‚‹ã‚ˆã†ã«ãªã‚Šã¾ã—ãŸã€‚iDeepを使ã†ã“ã¨ã§CPUã«ã‚ˆã‚‹å¦ç¿’・推論ãŒé«˜é€Ÿã«ãªã‚Šã¾ã™ã€‚ã‚‚ã¡ã‚ã‚“ã€iDeepã¯Xeonç³»ã®CPUを主ãªã‚¿ãƒ¼ã‚²ãƒƒãƒˆã¨ã—ã¦ã„ã¾ã™ãŒã€çµŒé¨“上ノートPCレベルã§ã‚‚多少ã®é€Ÿåº¦å‘上ãŒã‚ã‚Šã¾ã™ã€‚ iDeepã®æ´»ç”¨æ–¹æ³•ã«ã¤ã„ã¦èª¬æ˜Žã—ãŸã‚¦ã‚§ãƒ–サイトã¯ã„ãã¤ã‹ã‚ã‚‹ã®ã§ã™ãŒã€å°Žå…¥ã‚’MKLã®ã‚¤ãƒ³ã‚¹ãƒˆãƒ¼ãƒ«ã‹ã‚‰é€šã—ã§èª¬æ˜Žã—ã¦ã„るサイトãŒãªã‹ã£ãŸã®ã§ã€å‚™å¿˜éŒ²ã®ãŸã‚ã«iDeepã®å°Žå…¥æ–¹æ³•ã‚’記載ã—ã¾ã™ã€‚ ãªãŠã€æœ¬èª¬æ˜Žã¯Ubuntu 16.04ã€Chainer 5.0.0rc1を対象ã«ã—ã¦ã„ã¾ã™ã€‚iDeepã‚„Chainerã®APIã¯ä»Šå¾Œã©ã‚“ã©ã‚“ã‹ã‚ã£ã¦ã‚†ãã¨æ€ã‚れるã®ã§ã€é©å®œã‚½ãƒ¼ã‚¹ã®ã‚µã‚¤ãƒˆã‚’å‚ç…§ã—ã¦ãã ã•ã„。 æ‰‹é † Pythonã®å°Žå…¥ é©å½“ãªæ–¹æ³•ã§PythonãŒä½¿ãˆã‚‹ç’°å¢ƒã‚’作りã¾ã™ã€‚ã“ã®ã¨ãã€Pythonã®shared objectを忘れ
Chainer/ChainerMNã®ãŠã™ã™ã‚ãªãƒ—ãƒãƒ•ã‚¡ã‚¤ãƒ«ã®å–り方＆プãƒãƒ•ã‚¡ã‚¤ãƒ«ã®è¦‹æ–¹ã®æ³¨æ„点 - Qiita
自分ã¸ã®å‚™å¿˜éŒ²çš„ãªæ„味も込ã‚ã¦æœ€è¿‘ã¾ã¨ã‚ãŸã®ã§ã€ç§ãŒå®Ÿè·µã—ã¦ã„ã‚‹Chainer/ChainerMNã®ãƒ—ãƒãƒ•ã‚¡ã‚¤ãƒ«ã®å–ã‚Šæ–¹ã¨ãƒ—ãƒãƒ•ã‚¡ã‚¤ãƒ«çµæžœã®è¦‹æ–¹ã‚’紹介ã—ã¾ã™ã€‚ ã“ã®è¨˜äº‹ã§ä½¿ã†ãƒ—ãƒãƒ•ã‚¡ã‚¤ãƒ©ã¯ã€Chainerã®ãƒ—ãƒãƒ•ã‚¡ã‚¤ãƒ«ã‚’å–ã‚‹éš›ã¾ãšå–ã‚‹ã¹ãã¨æ€ã‚れるcProfileã¨nvprofã®äºŒã¤ã§ã™ã€‚ 環境 Python: 3.6 Chainer: 5.2 CuPy: 5.2 CUDA: 9.0 MPI:　OpenMPI 1.10.7 å‚考コード ã“ã®è¨˜äº‹ã§ã¯ChainerMNã®mnistã®ã‚µãƒ³ãƒ—ルをベースã«æ”¹é€ ã—ãŸã‚³ãƒ¼ãƒ‰ã§èª¬æ˜Žã‚’è¡Œã£ã¦ã„ã¾ã™ã€‚ mnistã®ã‚ªãƒªã‚¸ãƒŠãƒ«ã®ã‚³ãƒ¼ãƒ‰ã¯ã“ã¡ã‚‰ã€‚ https://github.com/chainer/chainer/blob/v5/examples/chainermn/mnist/train_mnist.py 改良後ã®ã‚³ãƒ¼ãƒ‰ã¯ã“ã“ã«ä¸Šã’ã¦ã‚ã‚Šã¾ã™ã€‚ https:
Chainer-compiler調査（1）
今日ã‹ã‚‰ Chainer-compiler ã«ã¤ã„ã¦èª¿ã¹ã¦ã¿ã‚ˆã†ã€‚ DeepLearning コンパイラã€å…ˆæ—¥ã®FPGAXã§ã‚‚話題ã«ãªã£ã¦ã¾ã—ãŸã（リモートã§ã¡ã‚‡ã£ã¨è¦‹ã¦ã¾ã—ãŸï¼‰ PFN ã‹ã‚‰ã® release ã¯ã“ã‚Œ Chainer モデルã®ã•ã‚‰ãªã‚‹é«˜é€ŸåŒ–ã€ãƒ‡ãƒ—ãƒã‚¤ã®ç°¡ä¾¿åŒ–ã€å¯æ¬æ€§ã®å‘上ã«å‘ã‘ãŸå®Ÿé¨“çš„ãªå–り組ã¿ã«ã¤ã„㦠| Preferred Research 今日見るソースã¨ãƒãƒ¼ã‚¸ãƒ§ãƒ³ã¯ã“れ。experimental ãªç‚¹æ³¨æ„。 pfnet-research/chainer-compiler at 1c788abbaf5fc74533d332b3141d5a141b6db020 https://github.com/pfnet-research/chainer-compiler/tree/1c788abbaf5fc74533d332b3141d5a141b6db020 README ã‚’
Chainerモデルã®ã•ã‚‰ãªã‚‹é«˜é€ŸåŒ–ã€ãƒ‡ãƒ—ãƒã‚¤ã®ç°¡ä¾¿åŒ–ã€å¯æ¬æ€§ã®å‘上ã«å‘ã‘ãŸå®Ÿé¨“çš„ãªå–り組ã¿ã«ã¤ã„㦠- Preferred Networks Research & Development
PFN ã®ã‚¨ãƒ³ã‚¸ãƒ‹ã‚¢ã®æµœåœ°ã§ã™ã€‚入社以æ¥å–り組んã§ããŸå®Ÿé¨“çš„ãªãƒ—ãƒã‚¸ã‚§ã‚¯ãƒˆ Chainer-compiler ã‚’ github ã§å…¬é–‹ã—ã¾ã—ãŸã€‚ã¾ã 実é‹ç”¨ã«æŠ•å…¥ã—ã¦ã„ã‘る段階ã§ã¯ç„¡ã„ã§ã™ãŒã€é¢ç™½ã„ã‚‚ã®ã«ãªã£ã¦ãã¦ã„ã‚‹ã®ã§ã¯ãªã„ã‹ã¨æ€ã†ã®ã§ã€ç´¹ä»‹ã•ã›ã¦ã‚‚らã„ãŸã„ã¨æ€ã„ã¾ã™ã€‚ https://github.com/pfnet-research/chainer-compiler 昨年末〠PFN 㯠ChainerX をベータリリースã—ã¾ã—ãŸã€‚ ChainerX 㯠Chainer ã®ä½¿ã„ã‚„ã™ã•ã‚’ç¶æŒã—ã¤ã¤ã€ Python ã§å®Ÿè£…ã•ã‚Œã¦ã„ãŸéƒ¨åˆ†ã‚’ C++ 実装ã§ç½®ãæ›ãˆã€ä»¥ä¸‹ã®3ã¤ã‚’実ç¾ã™ã‚‹ã‚‚ã®ã§ã—ãŸã€‚ モデルã®å®Ÿè¡Œã‚’高速化ã™ã‚‹ Python ã®ç„¡ã„環境ã§ã‚‚デプãƒã‚¤å¯èƒ½ã«ã™ã‚‹ CPU/GPU以外ã¸ã®ç§»æ¤ã‚’容易ã«ã™ã‚‹ Chainer-compiler プãƒã‚¸ã‚§ã‚¯ãƒˆã¯ ChainerX を利用ã—ã¦ã€
メディカルAI専門コース オンライン講義資料
News¶ 2019/12/06: 講義資料Ver 1.1を公開（2019年度版） 2018/12/17: 講義資料Ver 1.0を公開（2018年度版） 本講義資料ã«ã¤ã„ã¦Â¶ 本ページ㯠日本メディカルAIå¦ä¼šå…¬èªè³‡æ ¼ï¼šãƒ¡ãƒ‡ã‚£ã‚«ãƒ«AI専門コースã®ã‚ªãƒ³ãƒ©ã‚¤ãƒ³è¬›ç¾©è³‡æ–™ï¼ˆä»¥ä¸‹æœ¬è³‡æ–™ï¼‰ ã§ã™ï¼Ž 本講料をèªã‚€ã“ã¨ã§ï¼ŒåŒ»ç™‚ã§äººå·¥çŸ¥èƒ½æŠ€è¡“を使ã†éš›ã«æœ€ä½Žé™å¿…è¦ãªçŸ¥è˜ã‚„実践方法をå¦ã¶ã“ã¨ãŒã§ãã¾ã™ï¼Žæœ¬è³‡æ–™ã¯å…¨ã¦Google Colaboratoryã¨ã„ã†ã‚µãƒ¼ãƒ“スを用ã„ã¦åŸ·ç†ã•ã‚Œã¦ãŠã‚Šï¼Œå„ç« ã¯Jupyter notebook (iPython notebook)ã®å½¢å¼ï¼ˆ.ipynb）ã§ä»¥ä¸‹ã®ãƒªãƒã‚¸ãƒˆãƒªã«ã¦é…布ã•ã‚Œã¦ã„ã¾ã™ï¼ˆnotebooksディレクトリ以下ã«å…¨ã¦ã®.ipynbファイルãŒå…¥ã£ã¦ã„ã¾ã™ï¼‰ï¼š japan-medical-ai/medical-ai-course-materials 想定å—講者¶ å—
ãƒã‚¤ãƒ‘ーパラメータ自動最é©åŒ–ツール「Optunaã€å…¬é–‹ - Preferred Networks Research & Development
ãƒã‚¤ãƒ‘ーパラメータ自動最é©åŒ–フレームワーク「Optunaã€ã®ãƒ™ãƒ¼ã‚¿ç‰ˆã‚’ OSS ã¨ã—ã¦å…¬é–‹ã—ã¾ã—ãŸã€‚ã“ã®è¨˜äº‹ã§ã¯ã€Optuna ã®é–‹ç™ºã«è‡³ã£ãŸå‹•æ©Ÿã‚„特徴を紹介ã—ã¾ã™ã€‚ å…¬å¼ãƒšãƒ¼ã‚¸ å…¬å¼ãƒ‰ã‚ュメント ãƒãƒ¥ãƒ¼ãƒˆãƒªã‚¢ãƒ« GitHub ãƒã‚¤ãƒ‘ーパラメータã¨ã¯ï¼Ÿ ãƒã‚¤ãƒ‘ーパラメータã¨ã¯ã€æ©Ÿæ¢°å¦ç¿’アルゴリズムã®æŒ™å‹•ã‚’制御ã™ã‚‹ãƒ‘ラメータã®ã“ã¨ã§ã™ã€‚特ã«æ·±å±¤å¦ç¿’ã§ã¯å‹¾é…法ã«ã‚ˆã£ã¦æœ€é©åŒ–ã§ããªã„・ã—ãªã„パラメータã«ç›¸å½“ã—ã¾ã™ã€‚例ãˆã°ã€å¦ç¿’率やãƒãƒƒãƒã‚µã‚¤ã‚ºã€å¦ç¿’イテレーション数ã¨ã„ã£ãŸã‚ˆã†ãªã‚‚ã®ãŒãƒã‚¤ãƒ‘ーパラメータã¨ãªã‚Šã¾ã™ã€‚ã¾ãŸã€ãƒ‹ãƒ¥ãƒ¼ãƒ©ãƒ«ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã®å±¤æ•°ã‚„ãƒãƒ£ãƒ³ãƒãƒ«æ•°ã¨ã„ã£ãŸã‚ˆã†ãªã‚‚ã®ã‚‚ãƒã‚¤ãƒ‘ーパラメータã§ã™ã€‚æ›´ã«ã€ãã®ã‚ˆã†ãªæ•°å€¤ã ã‘ã§ãªãã€å¦ç¿’ã« Momentum SGD を用ã„ã‚‹ã‹ãã‚Œã¨ã‚‚ Adam を用ã„ã‚‹ã‹ã€ã¨ã„ã£ãŸã‚ˆã†ãªé¸æŠžã‚‚ãƒã‚¤ãƒ‘ーパラメータã¨è¨€ãˆã¾ã™ã€‚ ãƒã‚¤ãƒ‘ーパラメータã®èª¿æ•´ã¯æ©Ÿæ¢°å¦ç¿’ã‚¢
Chainerã§æ›¸ã„ãŸãƒ‹ãƒ¥ãƒ¼ãƒ©ãƒ«ãƒãƒƒãƒˆã®ç†è«–計算é‡ã‚’推定ã™ã‚‹chainer_computational_cost | ã•ã‹ãªå‰ç·š
æµ·æ´‹ã®ç”Ÿç‰©é‡ã®æŽ¨å®šã‚’ã™ã‚‹ã¨ãã«ã¯ã€å®Ÿéš›ã«ã‚る空間ã®ç¨®ã”ã¨ã®å€‹ä½“æ•°ã‚’1匹1匹数ãˆã‚‹ã‚ã‘ã«ã¯ã„ãã¾ã›ã‚“。ãã“ã§ã€æ°´ä¸ã«æ®‹ã£ãŸç”Ÿç‰©ã®ç´°èƒžã®DNAã™ãªã‚ã¡ç’°å¢ƒDNAã®å¯†åº¦ã‚’手ãŒã‹ã‚Šã«ã—ã¦æŽ¨è¨ˆã‚’ã™ã‚‹ã®ã ãã†ã§ã™ï¼ˆãƒã‚±ãƒ„一æ¯ã®æ°´ã§æµ·æ´‹ç”Ÿç‰©ã®é‡ã‚„種類を知る）。 Chainerã§æ›¸ã„ãŸNNã¨ãƒ€ãƒŸãƒ¼å…¥åŠ›ãŒã‚ã‚‹ã¨ãã€ãã®NNã®forward passã®ç†è«–çš„ãªè¨ˆç®—é‡ãƒ»ãƒ¡ãƒ¢ãƒªè»¢é€é‡ã‚’計算ã™ã‚‹chainer_computational_costを作りã¾ã—ãŸã€‚ Chainerã®Function Hookをベースã«ã—ã¦ã„ã‚‹ãŸã‚ã€NNã®å®šç¾©ã‚³ãƒ¼ãƒ‰ã«æ‰‹ã‚’入れる必è¦ã¯ä¸€åˆ‡ã‚ã‚Šã¾ã›ã‚“。 背景 TL;DR 闇雲ã«è»½ã„NNを探ã™ã‚ˆã‚Šå®šé‡çš„ã§æ°—軽ã«ä½¿ãˆã‚‹æŒ‡æ¨™ãŒã‚ã‚‹æ–¹ãŒã„ã„ã§ã™ã‚ˆãã¨ã„ã†è©±ã§ã™ã€‚ ニューラルãƒãƒƒãƒˆæŠ€è¡“ã®å®Ÿç”¨åŒ–ãŒé€²ã‚€ä¸ã§ã„ã‹ã«ç²¾åº¦ã‚’ä¿ã¡ãªãŒã‚‰è»½ã„アーã‚テクãƒãƒ£ã‚’探ã™ã‹ã¯ã¨ã¦ã‚‚é‡è¦ã§ã™ã€‚手動ã«ã›ã‚ˆè‡ªå‹•ã«ã›ã‚ˆã€åŸºæœ¬çš„ã«ã¯è¨
[GTCJ2018] Optimizing Deep Learning with Chainer　PFNå¾—å±…èª ä¹Ÿ
ã€2018å¹´9月14日　GTC Japan講演資料】 Chainer ã¯ã€ç›´æ„Ÿçš„ãªè¨˜è¿°ãŒç‰¹å¾´ã®æ·±å±¤å¦ç¿’フレームワークã§ã™ã€‚Define-by-Run æ–¹å¼ã«ã‚ˆã‚Šãƒ‹ãƒ¥ãƒ¼ãƒ©ãƒ« ãƒãƒƒãƒˆã®è¨ˆç®—éŽç¨‹ã‚’ãã®ã¾ã¾ Python ã§æ›¸ã下ã—ã€CuPy ã‚„ cuDNN を用ã„ã‚‹ã“ã¨ã§ GPU ã®è¨ˆç®—力を最大é™å¼•ã出ã™ã“ã¨ãŒã§ãã¾ã™ã€‚Chainer を用ã„ãŸæ·±å±¤å¦ç¿’ã®ãƒ‘フォーマンス特性や高速化ã®æŠ€æ³•ã€ãƒ‘フォーマンスå‘上ã®å–り組ã¿ãªã©ã‚’ã”紹介ã—ã¾ã™ã€‚
![[GTCJ2018] Optimizing Deep Learning with Chainer　PFNå¾—å±…èª ä¹Ÿ](https://cdn-ak-scissors.b.st-hatena.com/image/square/66e3116fe2b19c0d819e076fb248e48ee7b0258b/height=288;version=1;width=512/https%3A%2F%2Fcdn.slidesharecdn.com%2Fss_thumbnails%2Fgtcj2018optimizingdeeplearningwithpfnseiyatokui-181009073509-thumbnail.jpg%3Fwidth%3D640%26height%3D640%26fit%3Dbounds)
Chainer 4.0 + iDeep ãŒã™ã”ã„
Chainer 4.0 + iDeepã§ç°¡å˜ã«ãƒ‘フォーマンス測定をã—ãŸã¨ã“ã‚ã€ãªã‹ãªã‹ã™ã”ã‹ã£ãŸã®ã§ã€ãƒ¡ãƒ¢ã§ã™ã€‚ ã›ã£ã‹ããªã®ã§ã€Google Cloud Platform(GCP)ã®Alway freeã®ã‚¤ãƒ³ã‚¹ã‚¿ãƒ³ã‚¹ã€f1-microã§å‹•ã‹ã—ã¦ã¿ã¦ã€ãƒ‘フォーマンスを比較ã—ã¦ã¿ã¾ã—ãŸã€‚（安ã„インスタンスã§ã‚‚速ããªã‚‹ã¨ã„ã†ã®ã‚’確èªã—ãŸã‹ã£ãŸã®ã§ï¼‰ å‚考： pip 㧠MKL ã«ãƒªãƒ³ã‚¯ã•ã‚ŒãŸ numpy, scipy ãŒè‡ªå‹•çš„ã«ã‚¤ãƒ³ã‚¹ãƒˆãƒ¼ãƒ«ã•ã‚Œã‚‹ã‚ˆã†ã«ã™ã‚‹ iDeep を使ã£ã¦CPUã§ã®Chainerã®æŽ¨è«–速度をアップã—よㆠインストール方法 以下ã€Ubuntu 17.10 ã«å…¥ã‚Œã¦ã„ã¾ã™ã€‚ https://software.intel.com/en-us/mkl ã‹ã‚‰ã€"Intel Math Kernel Library"をダウンãƒãƒ¼ãƒ‰ æ—¢å˜ã® chainerã€numpy をアンインストール
リリースã€éšœå®³æƒ…å ±ãªã©ã®ã‚µãƒ¼ãƒ“スã®ãŠçŸ¥ã‚‰ã›
最新ã®äººæ°—エントリーã®é…ä¿¡
j次ã®ãƒ–ックマーク
kå‰ã®ãƒ–ックマーク
lã‚ã¨ã§èªã‚€
eコメント一覧を開ã
oページを開ã
GitHub - chainer/onnx-chainer: Add-on package for ONNX format support in Chainer
GitHub - mitmul/chainer-cifar10: Various CNN models for CIFAR10 with Chainer
Chainer 㧠Tensor コア (fp16) を使ã„ã“ãªã™
https://www.nvidia.com/content/apac/gtc/ja/pdf/2018/2033.pdf
ã€DLL3】20170904_ChainerMN_PFNç¦ç”°åœç¥
GitHub - mitmul/chainer-handson: CAUTION: This is not maintained anymore. Visit https://github.com/chainer-community/chainer-colab-notebook/
{{#tags}}- {{label}}
{{/tags}}