MicrosoftãŒ1.58ビットã®å¤§è¦æ¨¡è¨€èªžãƒ¢ãƒ‡ãƒ«ã‚’リリースã€è¡Œåˆ—計算を足ã—ç®—ã«ã§ãã¦è¨ˆç®—コスト激減ã¸Microsoftã®ç ”究ãƒãƒ¼ãƒ ãŒãƒ¢ãƒ‡ãƒ«ã®ã‚¦ã‚§ã‚¤ãƒˆã‚’「-1ã€ã€Œ0ã€ã€Œ1ã€ã®3ã¤ã®å€¤ã®ã¿ã«ã™ã‚‹ã“ã¨ã§å¤§è¦æ¨¡è¨€èªžãƒ¢ãƒ‡ãƒ«ã®è¨ˆç®—コストを激減ã•ã›ã‚‹ã“ã¨ã«æˆåŠŸã—ãŸã¨ç™ºè¡¨ã—ã¾ã—ãŸã€‚ [2402.17764] The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits https://arxiv.org/abs/2402.17764 従æ¥ã®ãƒ¢ãƒ‡ãƒ«ã§ã‚ã‚Œã°å…¥åŠ›ã«å¯¾ã—ã¦ã€Œ0.2961ã€ãªã©ã®ã‚¦ã‚§ã‚¤ãƒˆã‚’ã‹ã‘ç®—ã—ã¦ã‹ã‚‰è¶³ã—引ãã™ã‚‹å¿…è¦ãŒã‚ã‚Šã¾ã—ãŸãŒã€ã€Œ-1ã€ã€Œ0ã€ã€Œ1ã€ã®3値ã®ã¿ã§ã‚ã‚Œã°ã‹ã‘ç®—ãŒä¸è¦ã«ãªã‚Šã€å…¨ã¦ã®è¨ˆç®—を足ã—ç®—ã§è¡Œãˆã‚‹ã‚ˆã†ã«ãªã‚Šã¾ã™ã€‚ ãã®ãŸã‚ã€åŒã˜æ€§èƒ½ã‚’出ã™ã®ã«å¿…è¦ãªã‚³ã‚¹ãƒˆãŒé€šå¸¸ã®å¤§è¦æ¨¡è¨€èªžãƒ¢ãƒ‡ãƒ«ã«å¯¾ã—ã¦æ¿€æ¸›ã™ã‚‹ã¨ã®ã“ã¨ã€‚ãªãŠã€ãã‚Œãžã‚Œã®ãƒ‘ラメーターãŒã€Œ-1ã€ã€Œ0ã€ã€Œ1ã€ã¨ã„ã†3ã¤ã®å€¤ã‚’å–ã‚‹ãŸã‚log[2](3)ã®å€¤ã‚ˆã‚Šã€Œ1.
GPTã®ä»•çµ„ã¿ã¨é™ç•Œã«ã¤ã„ã¦ã®è€ƒå¯Ÿï¼ˆ2.1） - conceptualization
高橋æ’一 on Twitter: "GPTã§AI界隈ãŒæ²¸é¨°ã—ã¦ã„る。開発者もå«ã‚ã¦èª°ã‚‚急激ãªæ€§èƒ½å‘上ã®ç†ç”±ã‚’ç†è§£å‡ºæ¥ã¦ã„ãªã„。普段ã¯åŠå¹´ã‚„1å¹´ã§å¤ããªã‚‹ã‚ˆã†ãªæ™‚事ãƒã‚¿ã¯ã‚ã¾ã‚Šå‘Ÿã‹ãªã„ã“ã¨ã«ã—ã¦ã„ã‚‹ãŒã€ã“ã®ã¨ã“ã‚ã®å‹•ããŒã‚ã¾ã‚Šã«æ—©ãã€æœªæ¥ã«å‘ã‘ã¦ã®ä¸ç¢ºå®Ÿæ€§ãŒé«˜ã¾ã£ã¦ã„… https://t.co/1BCs8cXavs"
Satoshi Nakajima @NounsDAO 🇺🇦 on Twitter: "話題ã®chatGPT3ã§ã™ãŒã€ãã®ãƒ™ãƒ¼ã‚¹ã«ãªã£ã¦ã„ã‚‹GPT3ã«ã¤ã„ã¦é€£æŠ•ã§è§£èª¬ã—ã¾ã™ã€‚元々ã¯ã€Œé€”ä¸ã§åˆ‡ã‚Œã¦ã„ã‚‹æ–‡ç« ã®æ¬¡ã®å˜èªžã‚’予測ã™ã‚‹ã€ã ã‘ã®äººå·¥çŸ¥èƒ½ã‚’作りã€ãã‚Œã«ã‚¤ãƒ³ã‚¿ãƒ¼ãƒãƒƒãƒˆä¸Šã«ã‚る大é‡ã®æ–‡ç« ã§æ•™è‚²ã—ã¦ã¿ã‚‹ã€ã¨ã„ã†å®Ÿé¨“ã‹ã‚‰å§‹ã¾ã£ãŸã‚‚ã®ã§ã™ã€‚(1/n)"
ç”»åƒç”Ÿæˆ AI ã«ã‚ˆã£ã¦ç”Ÿæˆã•ã‚ŒãŸã‚¤ãƒ©ã‚¹ãƒˆã®è¦‹åˆ†ã‘æ–¹
ユヴァル・ノア・ãƒãƒ©ãƒªã€ã‚ªãƒ¼ãƒ‰ãƒªãƒ¼ãƒ»ã‚¿ãƒ³å¯¾è«‡ã€Œæ°‘主主義ã€ç¤¾ä¼šã®æœªæ¥ã€å…¨å’Œè¨³ | AIæ–°èž | exaBase コミュニティ（エクサベースコミュニティ）
{{#tags}}- {{label}}
{{/tags}}