【ローカルAI】GUIでCodeLlama-34B-Instruct-GGUFを動かしてみる【text-generation-webui】

テクノロジーカテゴリーの変更を依頼記事元:

zenn.dev/saldra

15 usersがブックマークコメント

コメント

2

記事へのコメント2件

注目コメント
新着コメント

roogh5eeSha6 “max_new_tokens”

2023/09/27 リンク

misshiki “ローカルLLMで最近話題の「CodeLlama-34B-Instruct-GGUF」をtext-generation-webuiから動かし、「ローカルLLMでもファインチューニングなしでプロンプト指示できる」感覚を体験してみる。”

自然言語処理

2023/08/28 リンク

注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

規約違反を報告

アプリのスクリーンショット

いまの話題をアプリでチェック！

バナー広告なし
ミュート機能あり
ダークモード搭載

アプリをダウンロード

関連記事

{{ total_bookmarks_with_user_postfix }}{{ root_title }}

【ローカルAI】GUIでCodeLlama-34B-Instruct-GGUFを動かしてみる【text-generation-webui】

【ローカルAI】GUIでCodeLlama-34B-Instruct-GGUFを動かしてみる【text-generation-webui】概要ローカ... 【ローカルAI】GUIでCodeLlama-34B-Instruct-GGUFを動かしてみる【text-generation-webui】概要ローカルLLMで最近話題の「CodeLlama-34B-Instruct-GGUF」をtext-generation-webuiから動かし、「ローカルLLMでもファインチューニングなしでプロンプト指示できる」感覚を体験してみる。メイン読者ターゲットご家庭にGPUがある人（CPUでも良いが遅い）最適化だったり正しい理解ができてるかは別として、とりあえず動かしたい人導入から書くので、推論スピードだけ確認したい人は下まですっ飛ばしてください。導入 text-generation-webuiの導入以下からclone 自分はpyenv+venv派なので python -m venv .venv でactivate。あとは基本的にinstall

ブックマークしたユーザー

roogh5eeSha62023/09/27
snjx2023/09/13
eagleyama2023/08/28
sakito09022023/08/28
morioka2023/08/28
toshikish2023/08/28
misshiki2023/08/28
warud2023/08/28
s_ryuuki2023/08/28

同じサイトの新着

同じサイトの新着をもっと読む

いま人気の記事

いま人気の記事をもっと読む

いま人気の記事 - テクノロジー

いま人気の記事 - テクノロジーをもっと読む

新着記事 - テクノロジー

新着記事 - テクノロジーをもっと読む

設定を変更しましたx