M1Macã§Ollamaを試ã—ãŸã‚‰çˆ†é€Ÿã§é©šã„ãŸã¯ã˜ã‚ã« ã„ã¤ã‚‚NVIDIAãŒè¼‰ã£ã¦ã„ã‚‹Windowsã§æ¥½ã—ãLLMã‚’å‹•ã‹ã—ãŸã‚Šç”ŸæˆAIライフを楽ã—ã‚“ã§ã„ã¾ã™ãŒã€ä»Šå›žã¯MacOSã§Ollamaを入れã¦Llama3ã‚’å‹•ã‹ã—ã¦ã¿ã¾ã—ãŸã€‚ スペック： Apple M1 Pro(16 GB) å°‘ã—å‰ã ã¨CUDAã®ãªã„Macã§ã¯æŽ¨è«–ã¯é›£ã—ã„æ„Ÿã˜ã ã£ãŸã¨æ€ã„ã¾ã™ãŒã€ä»Šã§ã¯Ollamaã®ãŠã‹ã’ã§Macã§ã‚‚LLMãŒå‹•ãã¨å£ã‚³ãƒŸã‚’見ã‹ã‘るよã†ã«ãªã‚Šã¾ã—ãŸã€‚ ãšã£ã¨æ°—ã«ãªã£ã¦ã„ãŸã®ã§ã¤ã„ã«ç§ã®M1 Macã§ã‚‚å‹•ãã‹ã©ã†ã‹ã‚„ã£ã¦ã¿ã¾ã—ãŸï¼ çµè«–ã€çˆ†é€Ÿã§æŽ¨è«–ã§ãã¦ã„ãŸã®ã§ã¨ã¦ã‚‚é©šãã¾ã—ãŸã€‚OSS開発ã«æ„Ÿè¬ã§ã™ï¼ Ollamaã¨ã¯ Ollamaã¨ã¯ãƒãƒ¼ã‚«ãƒ«ã§LLMã‚’å‹•ã‹ã™ã“ã¨ãŒã§ãるアプリケーションã§ã™ã€‚ 以下ã‹ã‚‰ãƒ€ã‚¦ãƒ³ãƒãƒ¼ãƒ‰ã§ãã¾ã™ã€‚ MacOSã¨Linuxã§ä½¿ã†ã“ã¨ãŒã§ãã¾ã™ã€‚Windowsもプレビュー版ãŒã‚ã‚‹ã¿ãŸã„ã§ã™ã€‚ #ã„ã–推論 ダウãƒãƒ¼ãƒ‰ãŒã§ããŸã‚‰ã‚·
ãƒãƒ¼ã‚«ãƒ«ã§æ°—軽ã«RAGを使ã£ã¦ä¼šè©±ã™ã‚‹ã“ã¨ãŒç°¡å˜ã™ãŽã¦ãƒ“ビã£ãŸã€‚ - Qiita
ã‚‚ã—明日ã€ä¸Šå¸ã«ã€ŒGPT-4を作れã€ã¨è¨€ã‚ã‚ŒãŸã‚‰ï¼Ÿã€€Stability AIã®ã‚·ãƒ‹ã‚¢ãƒªã‚µãƒ¼ãƒã‚µã‚¤ã‚¨ãƒ³ãƒ†ã‚£ã‚¹ãƒˆãŒç´¹ä»‹ã™ã‚‹ã€ŒLLM構築タイムアタック〠| ãƒã‚°ãƒŸãƒ¼Business
ChatGPT対抗ã®æœ¬å‘½ã€ŒClaude 2ã€ã¤ã„ã«æ—¥æœ¬ã§ã‚‚利用å¯èƒ½ã«
{{#tags}}- {{label}}
{{/tags}}