BERTã®æŽ¨è«–速度を最大10å€ã«ã—ã¦ãƒ‡ãƒ—ãƒã‚¤ã—ãŸè©±ã¨ãã®Tips - JX通信社エンジニアブãƒã‚°èƒŒæ™¯ ã¯ã˜ã‚ã¾ã—ã¦ã€JX通信社ã§ã‚¤ãƒ³ã‚¿ãƒ¼ãƒ³ã‚’ã—ã¦ã„る原田ã§ã™ã€‚ 近年深層å¦ç¿’ã§ã¯ãƒ¢ãƒ‡ãƒ«ãŒè‚¥å¤§åŒ–ã™ã‚‹å‚¾å‘ã«ã‚ã‚Šã¾ã™ã€‚2020å¹´ã«open aiãŒç¤ºã—ãŸScaling Laws（[2001.08361] Scaling Laws for Neural Language Models） ã®è¡æ’ƒã¯è¨˜æ†¶ã«æ–°ã—ãã€MLP-MixerãŒç¤ºã—ãŸã‚ˆã†ã«ã€ãƒ¢ãƒ‡ãƒ«ã‚’大ããã™ã‚Œã°Attentionæ§‹é€ ã‚„CNNã§ã•ãˆã‚‚ä¸å¿…è¦ã¨ã„ã†èª¬ã‚‚ã‚ã‚Šã¾ã™ã€‚（[2105.01601] MLP-Mixer: An all-MLP Architecture for Vision） ã—ã‹ã—大ããªæ·±å±¤å¦ç¿’モデルを利用ã—よã†ã¨ã™ã‚‹ã¨ã€ã—ã°ã—ã°ä»¥ä¸‹ã®ã‚ˆã†ãªå•é¡Œã«æ‚©ã¾ã•ã‚Œã¾ã™ã€‚ 推論速度ãŒå•é¡Œã§ãƒ—ãƒãƒ€ã‚¯ãƒˆã«å®Ÿè£…ä¸å¯èƒ½ GPU/TPUã¯ã‚³ã‚¹ãƒˆä¸ŠåŽ³ã—ㄠプãƒãƒ€ã‚¯ãƒˆã®æ€§è³ªä¸Šãƒãƒƒãƒå‡¦ç†ãŒä¸å¯èƒ½ï¼ˆåŠ¹çŽ‡çš„ã«GPU/TPUãŒåˆ©ç”¨ã§ããªã„） 例ãˆã°JX通信社
「ãŒã‚“ã°ã‚‰ãªã„TypeScriptã€ã®ãŸã‚ã®ç¾å®Ÿçš„ãªè¨å®šã‚’考ãˆã‚‹ ─ 4レベルã®åŽ³ã—ã•ã‚’使ã„分ã‘ã¦TypeScript疲れを克æœã—よã†ï¼ï½œãƒã‚¤ã‚¯ãƒ©ã‚¹è»¢è·ãƒ»æ±‚äººæƒ…å ±ã‚µã‚¤ãƒˆ AMBI（アンビ）
CEDEC2021 ダウンãƒãƒ¼ãƒˆã‚™æ™‚間を大幅減ï¼ï½žå¤§é‡ã®ã‚¢ã‚»ãƒƒãƒˆã‚’ã•ã¯ã‚™ã高速ãªå®Ÿè£…ã¨é‹ç”¨äº‹ä¾‹ã®å…±æœ‰ï½ž
From Create-React-App to Next
ã€Unity C#】PBD法ã§ãƒ’モを実装ã—ã¦ã¿ã‚‹
ソニーãŒåŸºæœ¬çš„ã«å¥½ã。|スマホタブレットã‹ã‚‰ã‚«ãƒ¡ãƒ©ã¾ã§æƒ…å ±æº€è¼‰
rinnaã€æ—¥æœ¬èªžã«ç‰¹åŒ–ã—ãŸã€ŒGPT-2ã€ã€ŒBERTã€äº‹å‰å¦ç¿’モデルを無償公開 75ギガãƒã‚¤ãƒˆã®ãƒ‡ãƒ¼ã‚¿ã‚’最大45日間ã§å¦ç¿’ | Ledge.ai
Slidevã‚’å°Žå…¥ã—ã¦Markdownã§ç¾Žã—ã„スライドを書ã“ㆠ- Qiita
Unityを利用ã—ãŸå¤§è¦æ¨¡ãªã‚²ãƒ¼ãƒ 開発ã«ã‚¯ãƒªãƒ¼ãƒ³ã‚¢ãƒ¼ã‚テクãƒãƒ£ã‚’採用ã—ãŸè©± - WonderPlanet Developers’ Blog
{{#tags}}- {{label}}
{{/tags}}