GreenBoost──12GBã®GPUã§32GBã®AIモデルを動ã‹ã™æŒ‘æˆ¦ï½œæƒ…å ±ã®ç¯å°VRAMãŒè¶³ã‚Šãªã„。ãƒãƒ¼ã‚«ãƒ«AIを触ã£ãŸã“ã¨ãŒã‚る人ãªã‚‰ã€ä¸€åº¦ã¯ã¶ã¤ã‹ã‚‹å£ã 。ãã®å£ã«ã€ä¸€äººã®é–‹ç™ºè€…ãŒã‚«ãƒ¼ãƒãƒ«ãƒ¢ã‚¸ãƒ¥ãƒ¼ãƒ«ã§ç©´ã‚’é–‹ã‘ãŸã€‚ 「買ã„替ãˆã‚ã€ä»¥å¤–ã®é¸æŠžè‚¢RTX 5070ã®VRAMã¯12GB。一方ã€ãƒãƒ¼ã‚«ãƒ«ã§å‹•ã‹ã—ãŸã„LLMã¯è†¨ã‚‰ã¿ç¶šã‘ã¦ã„る。ãŸã¨ãˆã°glm-4.7-flashã®q8_0é‡å化モデルã¯31.8GB。ã©ã†è¨ˆç®—ã—ã¦ã‚‚åŽã¾ã‚‰ãªã„。 ã“ã‚Œã¾ã§ã®é¸æŠžè‚¢ã¯3ã¤ã—ã‹ãªã‹ã£ãŸã€‚レイヤーをCPUå´ã«ã‚ªãƒ•ãƒãƒ¼ãƒ‰ã™ã‚Œã°ãƒˆãƒ¼ã‚¯ãƒ³ç”Ÿæˆé€Ÿåº¦ã¯5〜10分ã®1ã«è½ã¡ã‚‹ã€‚é‡å化をã•ã‚‰ã«ä¸‹ã’ã‚Œã°ãƒ¢ãƒ‡ãƒ«ã®å“質ãŒç›®ã«è¦‹ãˆã¦åŠ£åŒ–ã™ã‚‹ã€‚ãã—ã¦VRAM 48GBã®ã‚«ãƒ¼ãƒ‰ã¯ãƒ¯ãƒ¼ã‚¯ã‚¹ãƒ†ãƒ¼ã‚·ãƒ§ãƒ³1å°åˆ†ã®å€¤æ®µãŒã™ã‚‹ã€‚ ã©ã‚Œã‚‚「æ£è§£ã€ã¨å‘¼ã¶ã«ã¯ç„¡ç†ãŒã‚る。独立系開発者ã®ãƒ•ã‚§ãƒ©ãƒ³ãƒ»ãƒ‰ã‚¥ã‚¢ãƒªãŒé¸ã‚“ã ã®ã¯ã€4ã¤ç›®ã®é“ã ã£ãŸã€‚システムメモリã¨NVMe SSDã‚’GPUメモリã®å»¶é•·ã¨ã—ã¦ä½¿ã†ã€ã‚ªãƒ¼ãƒ—ンソースã®Linuxカーãƒãƒ«ãƒ¢ã‚¸ãƒ¥
{{#tags}}- {{label}}
{{/tags}}