気に入った記事をブックマーク
- 気に入った記事を保存できます
保存した記事の一覧は、はてなブックマークで確認・編集ができます
- 記事を読んだ感想やメモを書き残せます
- 非公開でブックマークすることもできます
MacでLocalでLLMを走らせるならLM Studioが楽。 - Qiita
142 users
qiita.com/ponnhide
qiita.com/ponnhide
qiita.com/ponnhide
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
MacでLocal LLM そこそこRAMの大きなMacbook proが手に入ったので、ローカルでのLLM実行を試すことにし... MacでLocal LLM そこそこRAMの大きなMacbook proが手に入ったので、ローカルでのLLM実行を試すことにした。 しかし、MacのGPUを有効化させることのできるローカル環境を整えるまでに、思いのほか苦労したので、メモとして記しておく。 とりあえず、以下の3つの選択肢を試した。 open interpreter text-generation-webui LM Studio で、結局のところ現状まともに動作してくれたのは、LM Studioだけだったのだが、それぞれの所感について示しておく。 1: open interpreter open interpreterそのもの説明については、Qiitaにもいくらでも記事があるのでここでは省略する。 例えば以下の記事など。 https://qiita.com/ot12/items/d2672144b914cb6f252f htt
qiita.com/ponnhide
qiita.com/ponnhide
qiita.com/ponnhide
qiita.com/ponnhide
arigatosan.com
togetter.com
www.fnn.jp
yamdas.hatenablog.com
note.com/kyoro353
shmokmt.hatenablog.com
forbesjapan.com
anond.hatelabo.jp
en-ambi.com
www.itmedia.co.jp
pc.watch.impress.co.jp
www.itmedia.co.jp
shop.applied-net.co.jp
www.hitachi-sis.co.jp
karutakko-muratan.hatenablog.com
www.billboard-japan.com
2023/11/05 リンク