日本語ã«ç‰¹åŒ–ã—ãŸ13億パラメータã®GPT言語モデルを公開｜rinnaæ ªå¼ä¼šç¤¾ï½žå•†ç”¨åˆ©ç”¨å¯èƒ½ãªãƒ©ã‚¤ã‚»ãƒ³ã‚¹ã§æ—¥æœ¬èªžã®NLPコミュニティã«è²¢çŒ®ï½ž rinnaæ ªå¼ä¼šç¤¾ï¼ˆæœ¬ç¤¾ï¼šæ±äº¬éƒ½æ¸‹è°·åŒº/代表å–ç· å½¹ï¼šã‚¸ãƒ£ãƒ³"クリフ"ãƒã‚§ãƒ³ã€ä»¥ä¸‹rinna社）ã¯ã€æ—¥æœ¬èªžã«ç‰¹åŒ–ã—ãŸ13億パラメータã®GPT言語モデルを開発ã—ã€å…¬é–‹ã—ã¾ã—ãŸã€‚ ■背景 rinna社ã¯ã“ã‚Œã¾ã§ã«ã€æ—¥æœ¬èªžã®è‡ªç„¶è¨€èªžå‡¦ç† (NLP) ã«ç‰¹åŒ–ã—ãŸGPT (3.3億パラメータ) ã‚„BERT (1.1億パラメータ) ã®äº‹å‰å¦ç¿’モデルを公開ã—ã€å¤šãã®ç ”究・開発者ã«ã”利用ã„ãŸã ã„ã¦ã„ã¾ã™ã€‚最近ã®NLPã«é–¢ã™ã‚‹ç ”究ã§ã¯ã€ãƒ¢ãƒ‡ãƒ«ã®ãƒ‘ラメータ数ãŒå¤šã„ã»ã©é«˜ã„性能ã§ã‚ã‚‹ã“ã¨ãŒçŸ¥ã‚‰ã‚Œã¦ã„ã¾ã™ã€‚ ãã“ã§rinna社ã¯ã€ã“ã‚Œã¾ã§ã«å…¬é–‹ã—ã¦ããŸãƒ¢ãƒ‡ãƒ«ã‚ˆã‚Šå¤§è¦æ¨¡ãª13億パラメータをæŒã¤æ—¥æœ¬èªžã«ç‰¹åŒ–ã—ãŸGPT言語モデルを開発ã—ã€æ—¥æœ¬èªžã®NLPコミュニティã«è²¢çŒ®ã™ã‚‹ãŸã‚ã«ã€ã“ã®è¨€èªžãƒ¢ãƒ‡ãƒ«ã‚’NLPモデルライブラリ Hugging Face ã«å•†ç”¨åˆ©ç”¨å¯
{{#tags}}- {{label}}
{{/tags}}