言語モデルã®ç‰©ç†å¦ - ｼﾞｮｲｼﾞｮｲｼﾞｮｲ言語モデルã®ç‰©ç†å¦ (Physics of Language Models) ã¨ã¯ã€FAIR (Meta) ã® Zeyuan Allen-Zhu ãŒæå”±ã—ãŸã€è¨€èªžãƒ¢ãƒ‡ãƒ«ã®ç ”究を進ã‚ã‚‹ãŸã‚ã®ã‚³ãƒ³ã‚»ãƒ—トã§ã™ã€‚ã–ã£ãり言ã†ã¨ã€ã€Œã‚ã®ãƒ¢ãƒ‡ãƒ«ã¯ã“ã†ã€ã¨ã‹ã€Œãã®ãƒ¢ãƒ‡ãƒ«ã¯ã“ã®ãƒ¢ãƒ‡ãƒ«ã‚ˆã‚Šã‚‚ã“ã†ã€ã¨ã„ã†ã‚ˆã†ãªåšç‰©å¦çš„ãªçŸ¥è˜ã‚’æ·±ã‚ã‚‹ã®ã§ã¯ãªãã€17世紀ã«ã‚±ãƒ—ラーやニュートンãŒç‰©ç†å¦ã«ãŠã„ã¦è¡Œã£ãŸã‚ˆã†ãªåŽŸç†ã«åŸºã¥ã„ãŸç ”究を進ã‚ã€ã€Œè¨€èªžãƒ¢ãƒ‡ãƒ«ã¯ãªãœã“ã®ã‚ˆã†ãªæŒ¯ã‚‹èˆžã„ã‚’ã™ã‚‹ã®ã‹ã€ã¨ã„ã†å•ã„ã«ç”ãˆã‚‰ã‚Œã‚‹ã‚ˆã†ã«ãªã‚‹ã¹ãã¨ã„ã†è€ƒãˆæ–¹ã§ã™ã€‚ 言語モデルã®ç‰©ç†å¦ã®ç‰¹å¾´ã¯å¤§ãã2ã¤ã‚ã‚Šã¾ã™ã€‚ 第一ã¯ã€ã‚¦ã‚§ãƒ–ã‹ã‚‰åŽé›†ã—ãŸã‚³ãƒ¼ãƒ‘スを使ã‚ãšã€ãã£ã¡ã‚Šã‚³ãƒ³ãƒˆãƒãƒ¼ãƒ«ã•ã‚ŒãŸãƒ‡ãƒ¼ã‚¿ã‚»ãƒƒãƒˆã‚’使ã£ã¦è¨€èªžãƒ¢ãƒ‡ãƒ«ã‚’訓練ã™ã‚‹ã¨ã„ã†ã“ã¨ã€‚ウェブã¯èª°ã‚‚全体åƒã‚’ç†è§£ã§ããªã„ã»ã©è¤‡é›‘ã§ã€ãƒŽã‚¤ã‚ºã«ã¾ã¿ã‚Œã¦ã„ã¾ã™ã€‚本物ã®ç‰©ç†å¦ã§ã‚‚空気抵抗や摩擦ãŒã‚ã‚‹ã¨ã€ã€Œé‰„çƒã¯
èªçŸ¥ç§‘å¦è€…ダグラス・ホフスタッターãŒèª¬ã「ãã‚Œã§ã‚‚ç§ãŸã¡ãŒå¤–国語をå¦ã¶ã¹ãç†ç”±ã€ | AI翻訳ã¯äººé¡žã‚’「悲劇ã®ã‚·ãƒŠãƒªã‚ªã€ã¸å°Žã
{{#tags}}- {{label}}
{{/tags}}