ChatGPTクãƒãƒ¼ãƒ³ã‚’試ã™ï¼ˆtext-generation-webui編）
text-generation-webui Python製 主ã«ã‚ªãƒ¼ãƒ—ンãªè¨€èªžãƒ¢ãƒ‡ãƒ«å‘ã‘ stable-diffusion-web-uiã¨åŒã˜ç«‹ã¡ä½ç½®ã‚’目指ã—ã¦ã„るらã—ㄠ普通ã«ChatGPTã£ã½ãã¤ã‹ã†ã¨ã„ã†ã‚ˆã‚Šã¯ã€ã‚ªãƒ¼ãƒ—ンソースã®è¨€èªžãƒ¢ãƒ‡ãƒ«ã‚’色々試ã—ãŸã‚Šã€ç´°ã‹ã„パラメータè¨å®šã—ãŸã‚Šã€ãƒˆãƒ¬ãƒ¼ãƒ‹ãƒ³ã‚°ã•ã›ãŸã‚Šã€å°‘ã—専門家å‘ã‘ã«æŸ”らã‹ã„UI用æ„ã—ãŸã€ã¿ãŸã„ãªæ„Ÿã˜ã«è¿‘ã„ã¨æ€ã†ã€‚ ãªã®ã§ã€ä»Šå›žã®ç›®çš„ã¨ã¯ã¡ã‚‡ã£ã¨ç«‹ã¡ä½ç½®ãŒé•ã†ã¨ã¯æ€ã„ã¤ã¤ã‚‚ã€ä»Šã¾ã§è§¦ã£ã¦ã“ãªã‹ã£ãŸã®ã‚‚ã‚ã£ã¦ã€ã™ã“ã—触ã£ã¦ã¿ã‚‹ã€‚ インストール Windows/Linux/macOS/WSLå‘ã‘ã«ãƒ¯ãƒ³ã‚¯ãƒªãƒƒã‚¯ã§ãƒãƒ¼ã‚«ãƒ«ã§å®Ÿè¡Œã§ãるインストーラãŒç”¨æ„ã•ã‚Œã¦ã„ã‚‹ã®ã ã‘ã©ã€ä¸ã‚’見ã¦ã‚‹ã¨condaã¨ã‹ä½¿ã£ã¦ã‚‹ã¿ãŸã„。個人的ã«ã¯condaã‚’ã‚°ãƒãƒ¼ãƒãƒ«ã«ã‚¤ãƒ³ã‚¹ãƒˆãƒ¼ãƒ«ã™ã‚‹ã“ã¨ã«èºŠèº‡ã™ã‚‹ã¨ã“ã‚ãŒã‚ã£ã¦ã€ä»–ã®æ–¹æ³•ã¯ãªã„ã‹ãªãƒ¼ã¨ãŠã‚‚ã£ã¦ãŸã‚‰Dockerã§ã§
text-generation-webuiã‚’Dockerã§å‹•ã‹ã™
text-generation-webui ã„ã¤ã‚‚ã®npakaã•ã‚“ã®å¾Œè¿½ã„記事ã§ã™ã€‚npakaã•ã‚“ãŒç´ ã®Windowsã§ã‚»ãƒƒãƒˆã‚¢ãƒƒãƒ—ã—ã¦ã„ã‚‹ã®ã«å¯¾ã—ã¦ã€Linux + Dockerã§ã‚»ãƒƒãƒˆã‚¢ãƒƒãƒ—ã—ã¾ã™ã€‚ セットアップ方法 Linux(Ubuntu22.04)å‰æã§ã™ã€‚Windows(WSL2）ã§ã‚‚å‹•ãæ°—ãŒã—ã¾ã™ã€‚Macã¯åˆ†ã‹ã‚‰ãªã„ã§ã™ï¼ˆã ã‚ã‹ã‚‚）。 Dockerセットアップ Dockerã®ã‚¤ãƒ³ã‚¹ãƒˆãƒ¼ãƒ«ã¯ã€ä»¥ä¸‹è¨˜äº‹å‚ç…§ãã ã•ã„（雑ã«çœç•¥ï¼‰ セットアップ git lfsをセットアップã—ã¾ã™ã€‚
オープンãªLLMã‚’Dockerã§å‹•ã‹ã™
次々ã¨ç™ºè¡¨ã•ã‚Œã‚‹ã‚ªãƒ¼ãƒ—ンãªæ—¥æœ¬èªžå¤§è¦æ¨¡ãƒ¢ãƒ‡ãƒ« ã©ã†ãªã£ã¦ã„ã‚‹ã®ï¼Ÿï¼Ÿã¨ã„ã†æ„Ÿã˜ã§ã™ã‚ˆã。 我らãŒnpakaã•ã‚“ã¯ã€ã•ã£ããGoogle Colabã§å‹•ã‹ã—ã¦ã„らã£ã—ゃã„ã¾ã™ã€‚ ãŸã ã€Google Colabã ã¨æ¯Žå›žãƒ¢ãƒ‡ãƒ«ã®ãƒ€ã‚¦ãƒ³ãƒãƒ¼ãƒ‰ãŒå¤§å¤‰ãªã®ã§ã€ãƒãƒ¼ã‚«ãƒ«ã§Docker使ã£ã¦æ‰‹è»½ã«å‹•ã‹ã›ã‚‹ã¨ã„ã„ãªã€ã¨ã„ã†ã“ã¨ã§ã‚„ã£ã¦ã¿ã¾ã—ãŸã€‚ 以下GitHubã®ãƒªãƒã‚¸ãƒˆãƒªã«Dockerfileã¨ã‚µãƒ³ãƒ—ルプãƒã‚°ãƒ©ãƒ ã‚’ãŠã„ã¦ã„ã¾ã™ã€‚ãƒãƒ£ãƒƒãƒˆã£ã½ã„ã“ã¨ã‚’ã§ãるよã†ã«ã—ã¦ã„ã¾ã™ã€‚ 上記ã§ã€ã‚µã‚¤ãƒãƒ¼ã‚¨ãƒ¼ã‚¸ã‚§ãƒ³ãƒˆã¨ãƒªãƒ³ãƒŠã®LLMãŒä¸¡æ–¹å‹•ãã¾ã™ã€‚ 使用環境 å‰æã¨ãªã‚‹ç’°å¢ƒã§ã™ã€‚使用ã—ã¦ã„ã‚‹PCã®ã‚¹ãƒšãƒƒã‚¯ã¯ä»¥ä¸‹ã§ã™ã€‚ é …ç›® 内容
Dockerã§ã®ãƒ‡ã‚£ãƒ¼ãƒ—ラーニングGPUå¦ç¿’環境構築方法 - Qiita
Dockerã§GPUå¦ç¿’環境構築 背景 ディープラーニングã§ãƒãƒ¼ã‚«ãƒ«PCã®GPUを使ã£ãŸå¦ç¿’環境を構築ã—ãŸçµŒé¨“ã®ã‚る人ã¯ã€ä¸€åº¦ã¯NVIDIAã®ãƒ‰ãƒ©ã‚¤ãƒã‚„CUDA周りã§ãƒãƒžã£ãŸçµŒé¨“ãŒã‚ã‚‹ã®ã§ã¯ãªã„ã§ã—ょã†ã‹ï¼Ÿãã‚“ãªãƒãƒƒãƒ‰ãƒŽã‚¦ãƒã‚¦ï¼ˆæ€ªæ–‡ç« ？）をã¾ã¨ã‚ãŸQiita記事（TensorFlowã§GPUå¦ç¿’ã•ã›ã‚‹ãŸã‚ã«CUDA周りã§ã¯ã¾ã£ãŸã¨ãã®å¯¾å‡¦æ³•ï¼‰ã«ã€ãªã‚“ã¨NVIDIAã®ä¸ã®äºº(@ksasaki ã•ã‚“）ã‹ã‚‰ã€ŒDockerを使ãˆã°â€¦äººé¡žã¯å¹¸ã›ã«ãªã‚Œã‚‹ï¼ˆè¶…æ„訳）ã€ã¨ã®ã‚³ãƒ¡ãƒ³ãƒˆã‚’ã„ãŸã ãã¾ã—ãŸï¼ å–œã³å‹‡ã‚“ã§ã€NVIDIAã®ãƒ‰ãƒ©ã‚¤ãƒã‚’アップデートã—ãŸã¨ã“ã‚ã€ãã“ã«ã¯æ–‡éŽ®ã¨åŒ–ã—ãŸèµ·å‹•ã—ãªã„LinuxマシンãŒâ€¦ã‹ã‚‰ã‚ã’ã®NVIDIAã¨ã®æˆ¦ã„ã¯å§‹ã¾ã£ãŸã°ã‹ã‚Šã ï¼ï¼ˆæˆ¦ã£ã¦ã¾ã›ã‚“） Dockerã§GPUå¦ç¿’環境構築ã™ã‚‹ãƒ¡ãƒªãƒƒãƒˆ ã†ã¾ã構築ã§ãã‚Œã°ã¨ã„ã†å‰æã§ã€ä»¥ä¸‹ã®ã‚ˆã†ãªãƒ¡ãƒªãƒƒãƒˆãŒã‚ã‚Šã¾ã™ã€‚ 様々ãªãƒ•ãƒ¬ãƒ¼ãƒ ワーク
1
リリースã€éšœå®³æƒ…å ±ãªã©ã®ã‚µãƒ¼ãƒ“スã®ãŠçŸ¥ã‚‰ã›
最新ã®äººæ°—エントリーã®é…ä¿¡
j次ã®ãƒ–ックマーク
kå‰ã®ãƒ–ックマーク
lã‚ã¨ã§èªã‚€
eコメント一覧を開ã
oページを開ã
How To Install TextGen WebUI on AWS
{{#tags}}- {{label}}
{{/tags}}