大è¦æ¨¡ãƒ¢ãƒ‡ãƒ«ã‚’支ãˆã‚‹åˆ†æ•£ä¸¦åˆ—å¦ç¿’ã®ã—ãã¿ Part1ã¯ã˜ã‚ã« Turing æ ªå¼ä¼šç¤¾ã®ãƒªã‚µãƒ¼ãƒãƒãƒ¼ãƒ ã§ã‚¤ãƒ³ã‚¿ãƒ¼ãƒ³ã‚’ã—ã¦ã„ã‚‹æ±äº¬å·¥æ¥å¤§å¦ B4 æ¨ªç”°ç ”ç©¶å®¤ã®è—¤äº•(@okoge_kaz)ã§ã™ã€‚ 自然言語処ç†åˆ†é‡Žã«ãŠã‘る大è¦æ¨¡æ·±å±¤å¦ç¿’ã®é‡è¦æ€§ã¯æ—¥ã«æ—¥ã«é«˜ã¾ã£ã¦ã„ã¾ã™ãŒã€GPT-3, GPT-4 ãªã©ã®ãƒ¢ãƒ‡ãƒ«ã®å¦ç¿’ã«ã¯è†¨å¤§ãªè¨ˆç®—コストãŒã‹ã‹ã‚Šã€å®¹æ˜“ã«å¦ç¿’ã§ããªããªã£ã¦ã„ã¾ã™ã€‚実際ã€ãƒ¢ãƒ‡ãƒ«ã‚µã‚¤ã‚ºãŒè¿‘年急速ã«å¤§ãããªã£ã¦ã„ã‚‹ã“ã¨ã«ã‚ˆã‚Šã€å¦ç¿’ã«å¿…è¦ãªè¨ˆç®—é‡(FLOPs)ã¯ä»¥ä¸‹ã®ã‚ˆã†ã«å¹´ã€…膨大ã«ãªã£ã¦ã„ã¾ã™ã€‚è¿‘å¹´ã®å¤§è¦æ¨¡ãƒ¢ãƒ‡ãƒ«ã§ã¯ã€NVIDIA H100 80GB ã§ã‚ã£ã¦ã‚‚ 1 ã¤ã® GPU ã§ã¯ã€ãƒ¢ãƒ‡ãƒ«ã‚’ã®ã›ã‚‹ã“ã¨ã™ã‚‰ã§ãã¾ã›ã‚“。 Compute Trends Across Three Eras of Machine Learning より ã¾ãŸScaling Laws ã«ã‚ˆã‚‹ã¨ã€å¤§è¦æ¨¡ãªãƒ¢ãƒ‡ãƒ«ã¯å°ã•ã„モデルã¨æ¯”較ã—ã¦ã‚ˆã‚Šå„ªã‚ŒãŸæ€§èƒ½ã‚’発æ®ã™ã‚‹ãŸã‚ã€è‡ªå‹•
Windowsユーザーã¯iPerf3ã‚’é¿ã‘ã‚‹ã¹ãã€MicrosoftãŒå¦å®šçš„見解示ã™
æ¯ã«ã‚ˆã‚‹åã®é€£ã‚ŒåŽ»ã‚Šã‹ã‚‰è£åˆ¤ã§ç›£è·æ¨©ã‚’å–ã‚ŒãŸçˆ¶ã®è¨˜éŒ²
å°æ³‰æ‚ ã•ã‚“ãŒèªžã‚‹ã€€ç¬¬1回　ãƒã‚·ã‚¢ã€ã‚¦ã‚¯ãƒ©ã‚¤ãƒŠã€å›½éš›ç¤¾ä¼šã®èª¤ç®— | 毎日新èž
{{#tags}}- {{label}}
{{/tags}}