サーãƒãƒ¼ãƒ¬ã‚¹GPU推論（Cerebrium）ã“ã‚“ã«ã¡ã¯ï¼Fusic 機械å¦ç¿’ãƒãƒ¼ãƒ ã®ãƒˆã‚·ãƒ¥ã‚³ãƒ•ã§ã™ã€‚ 機械å¦ç¿’モデルã®é–‹ç™ºã‹ã‚‰é‹ç”¨ã¾ã§ãªã‚“ã§ã‚‚ã—ã¦ã„ã¾ã™ã€‚ã‚‚ã—ã€æ©Ÿæ¢°å¦ç¿’ã§å›°ã£ã¦ã„ã‚‹ã“ã¨ãŒã‚ã‚Œã°ã€æ°—軽ã«ãŠå•ã„åˆã‚ã›ãã ã•ã„。 本記事ã§ã¯Cerebriumã¨ã„ã†æ–°ã—ã„サーãƒãƒ¼ãƒ¬ã‚¹GPUサービスを紹介ã—ã¾ã™ã€‚ 注æ„：ã¾ã ベータã§ã‚ã‚‹ãŸã‚ã€ä¸å®‰å®šãŒå¤šããƒã‚°ã‚‚ã‚ã‚Šã¾ã™ãŒã€Slackãƒãƒ£ãƒ³ãƒãƒ«ã§ã®å¯¾å¿œãŒéžå¸¸ã«ã‚ˆãã€å•é¡Œã‚’経験ã—ãŸæ™‚ã«æ˜¯éžé€£çµ¡ã—ã¦ã¿ã¦ãã ã•ã„。 æ¦‚è¦ AIモデルをデプãƒã‚¤ã™ã‚‹æ™‚ã€GPUを利用ã™ã‚‹ã“ã¨ã«ã‚ˆã£ã¦æŽ¨è«–時間をéžå¸¸ã«æŠ¼ã›ãˆã‚‹äº‹ãŒã§ãã¾ã™ã€‚リアルタイム推論をã™ã‚‹æ™‚ã«æŽ¨è«–時間ãŒéžå¸¸ã«å¤§äº‹ã«ãªã‚Šã¾ã™ã®ã§ã€GPUã§æŽ¨è«–ã™ã‚‹ã“ã¨ãŒæœ›ã¾ã—ã„ã§ã™ã€‚ ãŸã ã—ã€ã‚¯ãƒ©ã‚¦ãƒ‰ã®GPUインスタンスã§æŽ¨è«–ã™ã‚‹æ™‚ã«ã„ãã¤ã‹ã®å•é¡ŒãŒç™ºç”Ÿã—ã¾ã™ï¼š 1ã¤ã®ã‚¤ãƒ³ã‚¹ã‚¿ãƒ³ã‚¹ã‚’ãšã£ã¨å€Ÿã‚Šã‚‹äº‹ã§ç„¡é§„ã®è²»ç”¨ãŒç™ºç”Ÿã—ã¾ã™ã€‚ TorchServeã®ã‚ˆã†ãªãƒ„ールãŒã‚ã‚Šã¾ã™ãŒã€è¨
{{#tags}}- {{label}}
{{/tags}}