Meta Llama 3ã®ç´¹ä»‹ï¼šã“ã‚Œã¾ã§ã§æœ€ã‚‚高性能ã§ã‚ªãƒ¼ãƒ—ンãªå¤§è¦æ¨¡è¨€èªžãƒ¢ãƒ‡ãƒ« | Metaã«ã¤ã„ã¦
（※7月24日追記）7月23日（米国時間）ã€Meta AIã®æ–°ãŸãªæ©Ÿèƒ½ã€æä¾›ã™ã‚‹å›½ã¨åœ°åŸŸã€ãŠã‚ˆã³å¯¾å¿œè¨€èªžã®æ‹¡å¤§ãŒç™ºè¡¨ã•ã‚Œã¾ã—ãŸã€‚ã¾ãŸã€Llama 3ã®æœ€æ–°ãƒ¢ãƒ‡ãƒ«ã¨ã—ã¦å…¬é–‹ã—ãŸLlama 3.1 405Bã¯ã€ã‚³ãƒ³ãƒ†ã‚ストã®é•·ã•ã‚’128Kã«æ‹¡å¼µã—ã€8ã¤ã®è¨€èªžã‚’サãƒãƒ¼ãƒˆã™ã‚‹æœ€å…ˆç«¯ã®ã‚ªãƒ¼ãƒ—ンソースAIモデルã§ã™ã€‚Llama 3.1 405Bã¯ã€æœ€é«˜ã®ã‚¯ãƒãƒ¼ã‚ºãƒ‰ã‚½ãƒ¼ã‚¹ãƒ¢ãƒ‡ãƒ«ã«åŒ¹æ•µã™ã‚‹æœ€å…ˆç«¯ã®æ©Ÿèƒ½ã‚’å‚™ãˆã¦ãŠã‚Šã€ã‚³ãƒŸãƒ¥ãƒ‹ãƒ†ã‚£ãƒ¡ãƒ³ãƒãƒ¼ãŒåˆæˆãƒ‡ãƒ¼ã‚¿ã®ç”Ÿæˆã‚„モデルã®è’¸ç•™ãªã©ã€æ–°ãŸãªãƒ¯ãƒ¼ã‚¯ãƒ•ãƒãƒ¼ã‚’実ç¾ã™ã‚‹ã“ã¨ã‚’å¯èƒ½ã«ã—ã¾ã™ã€‚ Metaã¯4月19日（米国時間）ã€æœ€å…ˆç«¯ã®ã‚ªãƒ¼ãƒ—ンソースã®æ¬¡ä¸–代大è¦æ¨¡è¨€èªžãƒ¢ãƒ‡ãƒ«ã€ŒMeta Llama 3ã€ã‚’発表ã—ã¾ã—ãŸã€‚ Llama 3ã¯ã€å¹…広ã„ユースケースをサãƒãƒ¼ãƒˆã§ãã‚‹8Bã¨70Bã®ãƒ‘ラメータをæŒã¤ã€äº‹å‰å¦ç¿’済ã¿ã§ã€ã‚¤ãƒ³ã‚¹ãƒˆãƒ©ã‚¯ã‚·ãƒ§ãƒ³ãƒ•ã‚¡ã‚¤ãƒ³ãƒãƒ¥ãƒ¼ãƒ‹ãƒ³ã‚°ã•ã‚ŒãŸè¨€èªžãƒ¢ãƒ‡ãƒ«ã‚’特徴ã¨ã—
AI編集者ã¨ã¤ãã‚ã†ï¼ã‚ãŸã—ã®ç¾ä»£æ–°æ›¸ï½œè¬›è«‡ç¤¾ ç¾ä»£æ–°æ›¸ 創刊60周年
60周年を記念ã—ã¦åˆ¶ä½œã—ãŸã‚µã‚³ãƒƒã‚·ãƒ¥ãƒ»å†Šå・å“上カレンダー・ステッカーã®ã‚»ãƒƒãƒˆãŒã€ãƒ•ã‚©ãƒãƒ¼ï¼†ãƒã‚¹ãƒˆã§10å様ã«å½“ãŸã‚‹ï¼ 応募方法 講談社ç¾ä»£æ–°æ›¸å…¬å¼X（@gendai_shinsho）をフォãƒãƒ¼ã—ã¦ã€ã‚ãŸã—ã®ç¾ä»£æ–°æ›¸ã§ã¤ãã£ãŸã‚ãªãŸã ã‘ã®æœ¬ã‚’ã€ä»¥ä¸‹ã®2ã¤ã®ãƒãƒƒã‚·ãƒ¥ã‚¿ã‚° #ç¾ä»£æ–°æ›¸60周年ã‚ャンペーン#ã‚ãŸã—ã®ç¾ä»£æ–°æ›¸ã‚’ã¤ã‘ã¦Xã«ãƒã‚¹ãƒˆã—よã†ï¼
ãªãœæˆ‘々㯠GitHub Copilot Enterprise ã®å°Žå…¥ã‚’見é€ã£ãŸã®ã‹ - 一休.com Developers Blog
CTO 室ã®æ©ç”°ã§ã™ã€‚ 今回㯠GitHub Copilot Enterprise を評価ã—ã¦ã¿ã¦ã€ç¾æ™‚点ã§ã¯ã¾ã 採用ã—ãªã„ã“ã¨ã‚’決ã‚ãŸã€ã¨ã„ã†ãŠè©±ã‚’ã”紹介ã—ãŸã„ã¨æ€ã„ã¾ã™ã€‚ ãã£ã‹ã‘ ã¨ã‚るエンジニア㌠Slack ã§è‡ªèº«ã® times ãƒãƒ£ãƒãƒ«ã«æ™‚é›¨å ‚ã•ã‚“ã® GitHub Copilot Enterprise ã®ã‚¹ã‚¹ãƒ¡ã¨ã„ã†è¨˜äº‹ã‚’投稿ã—ãŸã“ã¨ãŒç™ºç«¯ã§ã—ãŸã€‚特ã«æ„Ÿæƒ³ã¯ãªã URL 㫠👀 ã ã‘ãŒæ·»ãˆã‚‰ã‚Œã¦ã„ãŸã®ã§ã€å¾Œã§è¦‹ã‚‹ãらã„ã®ãƒ¡ãƒ¢ã ã£ãŸã‚“ã ã¨æ€ã„ã¾ã™ã€‚ ãれを見ã‹ã‘ãŸåˆ¥ã®ã‚¨ãƒ³ã‚¸ãƒ‹ã‚¢ãŒæŠ€è¡“雑談ãƒãƒ£ãƒãƒ«ã«ãã®æŠ•ç¨¿ã‚’共有ã—ã¦ã€ã“ã‚Œã¯å‡„ãã†ã¨è©±é¡Œã‚’å‘ã‘ãŸã¨ã“ã‚ã€CTO ã®ã€Œè©•ä¾¡ã—ã¦ã¿ã‚‹ï¼Ÿã€ã®ä¸€è¨€ã§ã€æœ‰å¿—ãŒé›†ã£ã¦è©•ä¾¡ãƒ—ãƒã‚¸ã‚§ã‚¯ãƒˆãŒå§‹ã¾ã‚Šã¾ã—ãŸã€‚ 雑談ãƒãƒ£ãƒãƒ«ã§ãã£ã‹ã‘ã¨ãªã‚‹æŠ•ç¨¿ãŒå…±æœ‰ã•ã‚Œã¦ã‹ã‚‰ã€30分足らãšã®å‡ºæ¥äº‹ã§ã—ãŸï¼ˆç¬‘）。 ã“ã®è©±é¡ŒãŒå‡ºãŸã®ã¯é‡‘曜日ã§ã—ãŸãŒã€é€±æ˜Žã‘早々ã«ç¨Ÿè°ã‚’終ãˆã€ç«æ›œ
アップルã€é«˜åº¦ãªè¨€èªžç†è§£ã‚’æŒã¤æ–°åž‹AIモデル「MM1ã€ã‚’発表
アップルã®ç ”究ãƒãƒ¼ãƒ ã¯3月14æ—¥ã€ç”»åƒã¨ãƒ†ã‚ストをç†è§£ã—処ç†ã™ã‚‹èƒ½åŠ›ã‚’æŒã¤ãƒžãƒ«ãƒãƒ¢ãƒ¼ãƒ€ãƒ«å¤§è¦æ¨¡è¨€èªžãƒ¢ãƒ‡ãƒ«ã€ŒMM1ã€ã‚’発表ã—ãŸã€‚今ã®ã¨ã“ã‚è«–æ–‡ã®ã¿ã®å…¬é–‹ã§ã€ä¸€èˆ¬å…¬é–‹ã®æ™‚期ã¯æ˜Žã‹ã•ã‚Œã¦ã„ãªã„。 一部ベンãƒãƒžãƒ¼ã‚¯ã§ã¯GPT-4Vをも凌ãæ€§èƒ½ã‚’ç™ºæ® è¤‡æ•°ï¼ˆ30å„„ã€70å„„ã€300億）ã®ãƒ‘ラメータサイズを備ãˆã‚‹MM1ã¯ã€10億以上ã®ç”»åƒãŠã‚ˆã³30兆語以上ã®ãƒ†ã‚ストã€GitHubã®ã‚³ãƒ¼ãƒ‰ä¾‹ãªã©ã®å¤šæ§˜ãªãƒ‡ãƒ¼ã‚¿ã‚»ãƒƒãƒˆã‚’用ã„ã€æ•™å¸«ãªã—å¦ç¿’ã¨æ•™å¸«ã‚ã‚Šå¦ç¿’を組ã¿åˆã‚ã›ã‚‹ç‹¬è‡ªã®æ–¹æ³•ã§å¦ç¿’ã•ã‚Œã€å¤šæ§˜ãªã‚¿ã‚¹ã‚¯ã«å¯¾ã—ã¦é«˜ã„精度を示ã™ã¨ã„ã†ã€‚ å„種ベンãƒãƒžãƒ¼ã‚¯ã®çµæžœã«ã‚ˆã‚‹ã¨ã€30å„„ãŠã‚ˆã³70億パラメーターã®ãƒ¢ãƒ‡ãƒ«ã¯ãã‚Œãžã‚Œã®ãƒ¢ãƒ‡ãƒ«ã‚µã‚¤ã‚ºã«ãŠã„ã¦éŽåŽ»æœ€é«˜ã‚’記録。特ã«VQAv2（画åƒç†è§£ï¼‰ã€TextVQA（画åƒå†…ã®ãƒ†ã‚ã‚¹ãƒˆæƒ…å ±ï¼‰ã€ScienceQA（科å¦çŸ¥è˜ï¼‰ã€MMBench（マルãƒãƒ¢ãƒ¼ãƒ€ãƒ«ï¼‰ã€MathVista（数å¦ï¼‰ãªã©ã®
é«˜æœ¨æµ©å…‰ï¼ è‡ªå®…ã®æ—¥è¨˜ - Claude 3ã«ä¾‹ã®ã€Œèªäº†ç›®å®‰2時間ã€è¨˜äº‹ã‚’解説ã•ã›ã¦ã¿ãŸ
â– Claude 3ã«ä¾‹ã®ã€Œèªäº†ç›®å®‰2時間ã€è¨˜äº‹ã‚’解説ã•ã›ã¦ã¿ãŸ Anthropicã®å…ˆæ—¥å‡ºãŸã°ã‹ã‚Šã®Claude 3（Opus）ãŒã€ChatGPTã®GPT-4を超ãˆã¦ããŸã¨èžã„ã¦ã€è‡ªåˆ†ã®åŽŸç¨¿ã‚’解説ã•ã›ã¦ã¿ãŸã¨ã“ã‚ã€ç¢ºã‹ã«é©æ–°çš„ãªé€²æ©ãŒè¦‹ã‚‰ã‚Œã‚‹ã€‚ã‚‚ã¯ã‚„内容を「ç†è§£ã€ã—ã¦ã„るよã†ã«ã—ã‹è¦‹ãˆãªã„。GPT-4ã§ã¯ã€æ˜¨å¹´11月ã«è©¦ã—ãŸæ™‚ã«ã¯ã€ãã†ã¯è¦‹ãˆãšã€å„ªã‚ŒãŸæ–‡ç« èªè§£è£œåŠ©ãƒ„ールã¨ã„ã†æ„Ÿã˜ã§ã—ã‹ãªã‹ã£ãŸã€‚ 一昨年ã®Cafe JILIS「高木浩光ã•ã‚“ã«è¨Šãã€å€‹äººãƒ‡ãƒ¼ã‚¿ä¿è·ã®çœŸé«„ ——ã„ã¾è§£ã明ã‹ã•ã‚Œã‚‹åŠä¸–ç´€ã®çµŒç·¯ã¨æ··ä¹±ã€ã¯ã€ç™ºè¡¨ã—ãŸå½“時ã€é•·ã™ãŽã¦èªã‚ãªã„ã‹ã‚‰èª°ã‹è¦ç´„ã—ã¦ã¨ã„ã†æ‚²é³´ãŒã‚ãŒã£ã¦ã„ãŸã€‚ãã®å¾Œã€ChatGPTã®ç™»å ´ã§ã€ãã®è¦ç´„能力ã«æœŸå¾…ã•ã‚ŒãŸãŒã€å†’é ã®ã¨ã“ã‚ã—ã‹è¦ç´„ã—ã¦ãã‚Œãªã‹ã£ãŸã‚Šã€è–„ã„論点リストãŒå‡ºã¦ãã‚‹ã ã‘ã§ã€ãã®æœŸå¾…ã«å¿œãˆã‚‰ã‚Œã‚‹ã‚‚ã®ã§ã¯ãªã‹ã£ãŸã€‚ ã‚‚ã£ã¨ã‚‚ã€GPT-4ã§ã‚‚ã€è³ªå•åŠ›ãŒã‚
1ビットLLMã®è¡æ’ƒ! 70Bã§8.9å€é«˜é€Ÿã€€å…¨ã¦ã®æŽ¨è«–ã‚’åŠ ç®—ã®ã¿ã§!GPUä¸è¦ã«ãªã‚‹å¯èƒ½æ€§ã‚‚
1ビットLLMã®è¡æ’ƒ! 70Bã§8.9å€é«˜é€Ÿã€€å…¨ã¦ã®æŽ¨è«–ã‚’åŠ ç®—ã®ã¿ã§!GPUä¸è¦ã«ãªã‚‹å¯èƒ½æ€§ã‚‚ 2024.02.28 Updated by Ryo Shimizu on February 28, 2024, 16:46 pm JST 2月ã¯ä¸å›½ã§ã¯æ˜¥ç¯€ã¨ã„ã†ãŠæ£æœˆãŒã‚ã‚Šã€æ˜¥ç¯€ã«ã¯ã¿ã‚“ãªä¼‘む。 ãれもã‚ã£ã¦ã‹ã€12月ã‹ã‚‰1月ã«ã‹ã‘ã¦æ€’涛ã®è«–文発表ãŒè¡Œã‚ã‚Œã¦æ¯Žæ—¥ã€Œãƒ‡ã‚¤ãƒªãƒ¼AIニュースã€ã‚’é…ä¿¡ã—ã¦ã„ã‚‹ç†è€…ã¯å¿™æ®ºã•ã‚Œã¦ã„ãŸã€‚ 春節ä¸ã«ã¯OpenAIãŒSoraã‚’ã€GoogleãŒGemini1.5を発表ã—ãŸã®ã¯ã€ãã®åˆé–“を縫ã£ã¦ã®ã“ã¨ã ã£ãŸã€‚ã‚‚ã¯ã‚„AI最å‰ç·šã®æˆ¦ã„ã¯ç ”究ãŒè¡Œã‚ã‚Œã‚‹å ´æ‰€ã®æ–‡åŒ–や風土ã«å½±éŸ¿ã‚’å—ã‘ã‚‹ã¨ã“ã‚ã¾ã§æ¥ã¦ã„る。 ãã—ã¦æ˜¥ç¯€ã‚‚ã‚ã‘ãŸä»Šé€±ã€ã•ã£ããAlibabaãŒã¨ã‚“ã§ã‚‚ãªã„トーã‚ングヘッドモデルを引ã£æã’ã¦ç™»å ´ã—ãŸã‹ã¨æ€ãˆã°ã€Microsoftã®ä¸å›½ãƒãƒ¼ãƒ ãŒã¨ã¦ã¤ã‚‚ãªã„LLMをリリース
LLM 勉強会
LLM 勉強会 本勉強会ã§ã¯ã€è‡ªç„¶è¨€èªžå‡¦ç†ãŠã‚ˆã³è¨ˆç®—機システムã®ç ”究者ãŒé›†ã¾ã‚Šå¤§è¦æ¨¡è¨€èªžãƒ¢ãƒ‡ãƒ«ã®ç ”究開発ã«ã¤ã„ã¦å®šæœŸçš„ã«æƒ…å ±å…±æœ‰ã‚’è¡Œã£ã¦ã„ã¾ã™ã€‚ 具体的ã«ã¯ã€ä»¥ä¸‹ã®ç›®çš„ã§æ´»å‹•ã—ã¦ã„ã¾ã™ã€‚ オープンソースã‹ã¤æ—¥æœ¬èªžã«å¼·ã„大è¦æ¨¡ãƒ¢ãƒ‡ãƒ«ã®æ§‹ç¯‰ã¨ãã‚Œã«é–¢é€£ã™ã‚‹ç ”究開発ã®æŽ¨é€² 上記ã«é–¢å¿ƒã®ã‚る自然言語処ç†ãŠã‚ˆã³é–¢é€£åˆ†é‡Žã®ç ”究者ã«ã‚ˆã‚‹ãƒ¢ãƒ‡ãƒ«æ§‹ç¯‰ã®çŸ¥è¦‹ã‚„最近ã®ç ”究ã®ç™ºå±•ã«ã¤ã„ã¦ã®å®šæœŸçš„ãªæƒ…å ±äº¤æ› ãƒ‡ãƒ¼ã‚¿ãƒ»è¨ˆç®—è³‡æºç‰ã®å…±æœ‰ã‚’å‰æã¨ã—ãŸçµ„織横æ–çš„ãªç ”究者間ã®é€£æºã®ä¿ƒé€² モデル・ツール・技術資料ç‰ã®æˆæžœç‰©ã®å…¬é–‹ 詳細ã¯è¶£æ—¨èª¬æ˜Žã‚’ã”覧ãã ã•ã„。 News
å›½ç«‹æƒ…å ±å¦ç ”究所ã«ãŠã‘る大è¦æ¨¡è¨€èªžãƒ¢ãƒ‡ãƒ«æ§‹ç¯‰ã¸ã®å”力ã«ã¤ã„ã¦ï½œå›½ç«‹å›½ä¼šå›³æ›¸é¤¨â€•National Diet Library
2024å¹´1月29æ—¥ã€å›½ç«‹å›½ä¼šå›³æ›¸é¤¨ã¯ã€å›½ç«‹å›½ä¼šå›³æ›¸é¤¨ã‚¤ãƒ³ã‚¿ãƒ¼ãƒãƒƒãƒˆè³‡æ–™åŽé›†ä¿å˜äº‹æ¥ï¼ˆWARP）ã«ãŠã„ã¦åŽé›†ä¿å˜ã—ãŸæ•°å億件ã®ãƒ•ã‚¡ã‚¤ãƒ«ã®URLリストをæä¾›ã™ã‚‹ã“ã¨ã«ã¤ã„ã¦ã€å›½ç«‹æƒ…å ±å¦ç ”究所（NII）ã¨åˆæ„ã—ã¾ã—ãŸã€‚ æä¾›ã—ãŸURLリストã¯ã€NIIã«ãŠã‘る大è¦æ¨¡è¨€èªžãƒ¢ãƒ‡ãƒ«ï¼ˆLLM）ã®æ§‹ç¯‰ã‚’目的ã¨ã—ã¦ã€ä¸»ã«ã‚³ãƒ¼ãƒ‘ス用データをåŽé›†ã™ã‚‹ãŸã‚ã«åˆ©ç”¨ã•ã‚Œã‚‹äºˆå®šã§ã™ã€‚LLMã®è©³ç´°ã«ã¤ã„ã¦ã¯ã€NIIã®ã€ŒLLM勉強会ã€ã‚’ã”å‚ç…§ãã ã•ã„。 本件ã¯ã€å½“館ã¨NIIã®é–“ã§ç· çµã—ãŸã€Œå›½ç«‹å›½ä¼šå›³æ›¸é¤¨åŠã³å¦è¡“æƒ…å ±ã‚»ãƒ³ã‚¿ãƒ¼ã®ç›¸äº’å”力ã«é–¢ã™ã‚‹å”定ã€ï¼ˆå¹³æˆ7（1995）年4月19日）ã«åŸºã¥ãå”力ã®ä¸€ã¤ã§ã™ã€‚
LLMを用ã„ãŸLLMã®è‡ªå‹•è©•ä¾¡ã«ã¤ã„㦠〜å¯èƒ½æ€§ã¨æ³¨æ„点〜 - NTT Communications Engineers' Blog
ã“ã‚“ã«ã¡ã¯ã€ã‚¤ãƒŽãƒ™ãƒ¼ã‚·ãƒ§ãƒ³ã‚»ãƒ³ã‚¿ãƒ¼ã®æ‰æœ¬ï¼ˆGitHub：kaisugi）ã§ã™ã€‚普段ã¯ãƒŽãƒ¼ã‚³ãƒ¼ãƒ‰AI開発ツール Node-AI ã®é–‹ç™ºã«å–り組むå‚らã€å…¼å‹™1ã§å¤§è¦æ¨¡è¨€èªžãƒ¢ãƒ‡ãƒ«ï¼ˆLLM:Large Language Model）ã«ã¤ã„ã¦èª¿æŸ»ã‚’è¡Œãªã£ã¦ã„ã¾ã™ã€‚特ã«ã€æ—¥æœ¬èªžã‚’ä¸å¿ƒã«å¦ç¿’ã•ã‚ŒãŸ LLM ã¸ã®é–¢å¿ƒãŒã‚ã‚Šã€awesome-japanese-llm ã¨ã„ã†æ—¥æœ¬èªž LLM ã‚’ã¾ã¨ã‚㟠Web サイトã®ãƒ¡ãƒ³ãƒ†ãƒŠãƒ³ã‚¹ã«ã‚‚å–り組んã§ã„ã¾ã™ã€‚ 今回ã¯ã€LLM ã« LLM ã®è©•ä¾¡ãã®ã‚‚ã®ã‚’è¡Œã‚ã›ã‚‹ã¨ã„ã†æ–°ãŸãªã‚¢ãƒ—ãƒãƒ¼ãƒï¼ˆLLM-as-a-judge）ã«ã¤ã„ã¦ã”紹介ã—ã¾ã™ã€‚ ChatGPT ã®ç™»å ´ä»¥é™ã€å›½å†…外㧠LLM ã®é–‹ç™ºç«¶äº‰ãŒé€²è¡Œã—ã¦ãŠã‚Šã€ãƒ¢ãƒ‡ãƒ«ã®é‡ã¿ãŒå…¬é–‹ã•ã‚ŒãŸã‚ªãƒ¼ãƒ—ンãªãƒ¢ãƒ‡ãƒ«ã‚‚続々ã¨ç¾ã‚Œã¦ã„ã¾ã™ã€‚ãã®ã‚ˆã†ãªä¸ã§ã€æ–°ã—ã„モデルã®æ§‹ç¯‰ã ã‘ã§ãªãã€ã©ã®ãƒ¢ãƒ‡ãƒ«ãŒå„ªã‚Œã¦ã„ã‚‹ã‹ã‚’比較検討ã™ã‚‹ã“ã¨ãŒä»Šå¾Œã¾ã™
TEDxUTokyo - Yutaka Matsuo - Computer will be more clever than human beings
He is an associate professor at the Institute of Engineering Innovation, School of Engineering, the University of Tokyo. Currently he has been researching the possibilities of information utilization and Artificial Intelligence using the web, since recent computer technology has significantly improved. About TEDx, x = independently organized event In the spirit of ideas worth spreading, TEDx
LangChainを使ã‚ãªã„ - ABEJA Tech Blog
TL; DR LangChainã®ãƒ¡ãƒªãƒ‡ãƒ¡ã‚’æ•´ç†ã™ã‚‹éŽç¨‹ã§ã€ä»Šã¨ãªã£ã¦ã¯openai-pythonã®ã†ã¡ChatGPTã®APIã‚’ã‚’ç°¡å˜ã«å–り回ã›ã‚‹ç¨‹åº¦ã®ã‚·ãƒ³ãƒ—ルãªãƒ©ã‚¤ãƒ–ラリãŒã‚ã‚‹ã ã‘ã§ã‚‚å分便利ãªã‚“ã˜ã‚ƒãªã„ã‹ã¨æ€ã£ãŸã®ã§ã€ãƒ©ã‚¤ãƒ–ラリを個人ã§ä½œã£ã¦ã¿ã¾ã—ãŸã€‚（ãƒãƒ¼ã‚¸ãƒ§ãƒ³0.0.1ãªã®ã§ã¡ã‚‡ã£ã¨ãŠç²—末ãªæ‰€ã‚‚ã‚ã‚Šã¾ã™ãŒï¼‰ github.com ã¯ã˜ã‚ã« ã“ã‚“ã«ã¡ã¯ã€ãƒ‡ãƒ¼ã‚¿ã‚µã‚¤ã‚¨ãƒ³ãƒ†ã‚£ã‚¹ãƒˆã®å‚å…ƒã§ã™ã€‚ABEJAアドベントカレンダーã®13日目ã®è¨˜äº‹ã§ã™ã€‚世ã¯å¤§LLM時代ã¨ã„ã†ã“ã¨ã§ã€ã‚ã‚ŠãŒãŸã„ã“ã¨ã«ABEJAã§ã‚‚複数ã®LLMプãƒã‚¸ã‚§ã‚¯ãƒˆã‚’推進ã•ã›ã¦é ‚ã„ã¦ã„ã¾ã™ã€‚ç§è‡ªèº«ã‚‚ã„ãã¤ã‹ã®LLMプãƒã‚¸ã‚§ã‚¯ãƒˆã«å‚ç”»ã—ã¦ã„ã¾ã™ã€‚LLMã¨ã„ãˆã°LangChainãŒä¾¿åˆ©ã§ã™ã。OpenAI APIã®åˆ©ç”¨ã ã‘ã§ãªãã€å„種ドã‚ュメントã®ãƒ‘ースãŒå‡ºæ¥ãŸã‚Šã€HuggingFaceやインデックスDBを扱ã†ä»–ã®ãƒ©ã‚¤ãƒ–ラリã¨ã‚¤ãƒ³ãƒ†
NIIã€130億パラメータã®LLM構築　コーパスãªã©ã‚‚全公開　「今後ã®ç ”究ã«è³‡ã™ã‚‹ãŸã‚ã€
å›½ç«‹æƒ…å ±å¦ç ”究所（NII）ã¯10月20æ—¥ã€ãƒ‘ラメータ数130å„„ã®å¤§è¦æ¨¡è¨€èªžãƒ¢ãƒ‡ãƒ«ï¼ˆLLM）「LLM-jp-13Bã€ã‚’公開ã—ãŸã€‚åˆæœŸæ®µéšŽã®ãƒ¢ãƒ‡ãƒ«ã ãŒã€ã‚¢ã‚«ãƒ‡ãƒŸã‚¢ã‚„産æ¥ç•Œã®ç ”究開発ã«è³‡ã™ã‚‹ãŸã‚ã€ã‚³ãƒ¼ãƒ‘スやツールãªã©ã‚’å«ã‚ã¦ã™ã¹ã¦ã‚ªãƒ¼ãƒ—ンã«ã™ã‚‹ã€‚ 公開ã—ãŸLLMã®å¦ç¿’データé‡ã¯åˆè¨ˆç´„3000億トークン。ã†ã¡æ—¥æœ¬èªžã¯ç´„1450億トークン（mC4ï¼Wikipedia）ã€è‹±èªžã¯ç´„1450億トークン（The Pileï¼Wikipedia）ã€ãƒ—ãƒã‚°ãƒ©ãƒ コード約100億トークン。 計算資æºã¨ã—ã¦ã¯ã€å¤§å¦ã‚„ç ”ç©¶æ©Ÿé–¢ãŒå…±åŒé‹å–¶ã™ã‚‹ä»®æƒ³åŒ–環境・データ活用社会創æˆãƒ—ラットフォーム「mdxã€ã‚’12ノード活用。モデル構築ã«ã¯Microsoftã®DeepSpeedã‚’ã€ãƒ¢ãƒ‡ãƒ«æ§‹ç¯‰æ™‚ã®ç›£è¦–ã‚„ãƒã‚°ã®ä¿å˜ã«ã¯ã€ãƒ¢ãƒ‡ãƒ«é–‹ç™ºãƒ—ラットフォームã®Weights＆Biasesを利用ã—ãŸã€‚ NIIãŒä¸»å®°ã™ã‚‹LLM勉強会（LLM-jp）ã§7月
リリースã€éšœå®³æƒ…å ±ãªã©ã®ã‚µãƒ¼ãƒ“スã®ãŠçŸ¥ã‚‰ã›
最新ã®äººæ°—エントリーã®é…ä¿¡
j次ã®ãƒ–ックマーク
kå‰ã®ãƒ–ックマーク
lã‚ã¨ã§èªã‚€
eコメント一覧を開ã
oページを開ã
Key Guidelines for Writing Instructions for Custom GPTs | OpenAI Help Center
Metaã®Llama 3を日本語ã§ã•ã‚‰ã«å¦ç¿’ã—ãŸAIモデルã€rinnaãŒå…¬é–‹
Llama 3.1
JetBrains AI Service and In-IDE AI Assistant
Gemini
Introducing Gemini: our largest and most capable AI model
Find the best GPTs of ChatGPT | GPTStore.AI
The Best GPTs of ChatGPT in 2024 | GPT Store
{{#tags}}- {{label}}
{{/tags}}