四元数ニューラルãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã¨GHRå¾®ç©åˆ†ã“ã‚Œã¯ã€ŒFOLIO Advent Calendar 2023ã€6日目ã®è¨˜äº‹ã§ã™ã€‚ ニューラルãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã§å–り扱ã†æ•°å€¤ã‚’実数ã¨ã¯ç•°ãªã‚‹æ•°ã«æ‹¡å¼µã™ã‚‹ã“ã¨ã¯ã€æ©Ÿæ¢°å¦ç¿’や計算科å¦ã®ç™ºå±•ã«ãŠã‘ã‚‹é…力的ãªèª²é¡Œã®ä¸€ã¤ã§ã™ã€‚実数を用ã„ãŸæ•°å€¤è¡¨ç¾ã¯å¤šãã®ã‚¿ã‚¹ã‚¯ã«ãŠã„ã¦å分ãªçµæžœã‚’ã‚‚ãŸã‚‰ã—ã¦ãã¾ã—ãŸãŒã€æ–°ãŸãªæ•°å€¤ä½“系を導入ã™ã‚‹ã“ã¨ã§ã€ä»Šã¾ã§ã¨ã¯ç•°ãªã‚‹å•é¡ŒãŒè§£æ±ºã§ãるよã†ã«ãªã£ãŸã‚Šå®Ÿæ•°ã§ã¯è¦‹ã‚‰ã‚Œãªã‹ã£ãŸæ–°ãŸãªç¾è±¡ãŒèµ·ã“ã‚‹å¯èƒ½æ€§ã«æœŸå¾…ã™ã‚‹ã“ã¨ãŒã§ãã‚‹ã§ã—ょã†ã€‚例ãˆã°æ•°å€¤ãŒå–れる値を±1ã«åˆ¶é™ã—ãŸBinalized Neural Networksã¯ãƒãƒ¼ãƒ‰ã‚¦ã‚§ã‚¢ã¨ã®ç›¸æ€§ãŒè‰¯ãメモリ効率ã®è‰¯ã„実装ãŒå¯èƒ½ã§ã‚ã£ãŸã‚Šã€æ‹¡å¤§å®Ÿæ•°\bar{\mathbb R}={\mathbb R}\cup\{-\infty,\infty\}を用ã„ãŸ5層ã®ReLUãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã«ã¯ä»»æ„ã®æ·±ã•ã®ReLUãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã‚’埋ã‚込むã“ã¨ãŒã§ããŸã‚Šã—ã¾ã™
{{#tags}}- {{label}}
{{/tags}}