国産ã®æ—¥æœ¬èªžç”ŸæˆAIã®ç„¡æ–™ãƒ‡ãƒ¢ç‰ˆãŒå…¬é–‹ ～「GPT-3.5 Turboã€ã«åŒ¹æ•µã™ã‚‹æ€§èƒ½ã‚’é”æˆï¼æ±å¤§åˆã®ELYZA社ãŒ700億パラメーターã®LLM「ELYZA-japanese-Llama-2-70bã€ã‚’開発
ã€Youri 7B】日本最高峰ã®ç²¾åº¦ã‚’å©ã出ã™ï¼å¦ç¿’é‡2兆トークン超ãˆã®æœ€å¼·æ—¥æœ¬èªžLLM | WEEL
Youri 7Bã¯ã€2023å¹´10月31æ—¥ã«æ—¥æœ¬ã®rinna社ãŒå…¬é–‹ã—ãŸæœ€æ–°ã®æ—¥æœ¬èªžLLMã§ã™ã€‚ ã“ã®ãƒ¢ãƒ‡ãƒ«ã¯ã€Llama2 7Bをベースã«é–‹ç™ºã•ã‚Œã€ç›®çš„や環境ã«åˆã‚ã›ã¦è¤‡æ•°ã®ãƒ¢ãƒ‡ãƒ«ãŒç”¨æ„ã•ã‚Œã¦ãŠã‚Šã€ã‚ˆã‚Šå¤šãã®AIç ”ç©¶ã«æ´»ç”¨ã•ã‚Œã‚‹ã“ã¨ã‚’目的ã¨ã—ã¦ã„ã¾ã™ã€‚ ã¾ãŸã€é‡å化ã•ã‚ŒãŸè»½é‡ãƒ¢ãƒ‡ãƒ«ã‚‚ã‚ã‚‹ã®ã§ã€ä¸€èˆ¬ã®æ–¹ã§ã‚‚気軽ã«è©¦ã™ã“ã¨ãŒã§ãã¾ã™ï¼ 今回ã¯ã€Youri 7Bã®æ¦‚è¦ã‚„使ã£ã¦ã¿ãŸæ„Ÿæƒ³ã‚’ãŠä¼ãˆã—ã¾ã™ã€‚ 是éžæœ€å¾Œã¾ã§ã”覧ãã ã•ã„ï¼ Youri 7Bã®æ¦‚è¦ Youri 7Bã¯ã€2023å¹´10月31æ—¥ã«æ—¥æœ¬ã®rinna社ãŒå…¬é–‹ã—ãŸæœ€æ–°ã®æ—¥æœ¬èªžLLMã§ã€Meta社ã®Llama2 7Bをベースã«ã€æ—¥æœ¬èªžãƒ‡ãƒ¼ã‚¿ã®ç¶™ç¶šäº‹å‰å¦ç¿’ã‚’è¡Œã†ã“ã¨ã§æ§‹ç¯‰ã•ã‚Œã¾ã—ãŸã€‚ Llama2ã«ç¶™ç¶šäº‹å‰å¦ç¿’ã‚’é©ç”¨ã—ã¦ãƒ¢ãƒ‡ãƒ«ã‚’構築ã™ã‚‹æ‰‹æ³•ã¯ã€æœ€è¿‘ã®æ—¥æœ¬èªžLLM開発ã®ãƒˆãƒ¬ãƒ³ãƒ‰ã«ãªã£ã¦ãŠã‚Šã€Llama2ã®é«˜ã„言語能力ã¨æŒ‡ç¤ºè¿½å¾“能力を引ã継ã
NTT版大è¦æ¨¡è¨€èªžãƒ¢ãƒ‡ãƒ«ã€Œtsuzumi〠| NTT R&D Website
更新日：2024/04/25 技術紹介本カテゴリã®é–¢é€£è¨˜äº‹ã¸ AI本技術分野ã®é–¢é€£è¨˜äº‹ã¸ äººé–“æƒ…å ±ç ”ç©¶æ‰€æœ¬ç ”ç©¶æ‰€/センタ/部門ã®é–¢é€£è¨˜äº‹ã¸ NTT版大è¦æ¨¡è¨€èªžãƒ¢ãƒ‡ãƒ«ã€Œtsuzumiã€NTTäººé–“æƒ…å ±ç ”ç©¶æ‰€ è¿‘å¹´ã€ChatGPTを始ã‚ã¨ã™ã‚‹å¤§è¦æ¨¡è¨€èªžãƒ¢ãƒ‡ãƒ«*1ã«å¤§ããªæ³¨ç›®ãŒé›†ã¾ã£ã¦ãŠã‚Šã¾ã™ãŒã€ã“れらã¯è†¨å¤§ãªçŸ¥è˜ã‚’モデル内ã«æœ‰ã™ã‚‹ã“ã¨ã§é«˜ã„言語処ç†æ€§èƒ½ã‚’示ã™ä¸€æ–¹ã€å¦ç¿’ã«è¦ã™ã‚‹ã‚¨ãƒãƒ«ã‚®ãƒ¼ã¯ã€åŽŸç™ºï¼‘基１時間分ã®é›»åŠ›é‡ãŒå¿…è¦*2ã¨ã‚‚言ã‚ã‚Œã¦ãŠã‚Šã€ã¾ãŸã€é‹ç”¨ã«ã¯å¤§è¦æ¨¡ãªGPUクラスタを必è¦ã¨ã—様々ãªæ¥ç•Œã«ç‰¹åŒ–ã™ã‚‹ãŸã‚ã®ãƒãƒ¥ãƒ¼ãƒ‹ãƒ³ã‚°ã‚„推論ã«ã‹ã‹ã‚‹ã‚³ã‚¹ãƒˆãŒè†¨å¤§ã§ã‚ã‚‹ã“ã¨ã‹ã‚‰ã€ã‚µã‚¹ãƒ†ãƒŠãƒ“リティãŠã‚ˆã³ä¼æ¥ãŒå¦ç¿’環境を準備ã™ã‚‹ãŸã‚ã®çµŒæ¸ˆçš„è² æ‹…é¢ã§èª²é¡ŒãŒã‚ã‚Šã¾ã™ã€‚ NTTã§ã¯ã€ã“れらã®èª²é¡Œã‚’解決ã™ã‚‹ç ”究開発を進ã‚ã€ä»Šå›žã€è»½é‡ã§ã‚ã‚ŠãªãŒã‚‰ä¸–界トップレベルã®æ—¥æœ¬èªžå‡¦ç†æ€§èƒ½ã‚’æŒã¤å¤§è¦æ¨¡è¨€èªžãƒ¢ãƒ‡ãƒ«ã€Œtsuzumi*2ã€ã‚’é–‹
1
リリースã€éšœå®³æƒ…å ±ãªã©ã®ã‚µãƒ¼ãƒ“スã®ãŠçŸ¥ã‚‰ã›
最新ã®äººæ°—エントリーã®é…ä¿¡
j次ã®ãƒ–ックマーク
kå‰ã®ãƒ–ックマーク
lã‚ã¨ã§èªã‚€
eコメント一覧を開ã
oページを開ã
{{#tags}}- {{label}}
{{/tags}}