【これがゲームチェンジャーか!】松尾研のTanuki-8BとTanuki-8x8Bを試す｜shi3z

テクノロジーカテゴリーの変更を依頼記事元:

note.com/shi3zblog

179 usersがブックマークコメント

コメント

12

記事へのコメント12件

注目コメント
新着コメント

zgmf-x20a Phase2からTanukiチームに参加した。何のお役にも立てなかったけど嬉しい。最初ollamaで動かなかったけど動いたらしい。https://zenn.dev/karaage0703/articles/c271ca65b91bdb

2024/09/01 リンク

door-s-dev "モデル名は「日本らしく、親しみを覚える動物の名前」というテーマでチームメンバーで案を出し、投票で決定しました"だそうで

2024/09/01 リンク

yarumato “真打とも言えるべきオープンな日本語LLMを東大松尾研が発表。日本語性能がGemini1.5Proに次ぎ、GPT-4よりも高い上に、商用利用可能なので使わない手はない。8BモデルはローカルMac(mem32GB)で動作。8x8B版（モデルだけで34GB）”

2024/09/01 リンク

注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

規約違反を報告

アプリのスクリーンショット

いまの話題をアプリでチェック！

バナー広告なし
ミュート機能あり
ダークモード搭載

アプリをダウンロード

関連記事

{{ total_bookmarks_with_user_postfix }}{{ root_title }}

【これがゲームチェンジャーか!】松尾研のTanuki-8BとTanuki-8x8Bを試す｜shi3z

なぜタヌキなのか? その謎は謎のままだが、とにかく日本語性能がGemini1.5Proに次ぎ、少し前のGPT-4より... なぜタヌキなのか? その謎は謎のままだが、とにかく日本語性能がGemini1.5Proに次ぎ、少し前のGPT-4よりも高い上に商用利用可能という太っ腹仕様なので使わない手はない。むしろこれさえあればもう誰もGPTに課金しなくて済む、そんな未来が来るのかもしれない。しかし、Tanukiは特殊な何かをしてるらしくMLXに簡単にコンバートできずvllmで動かすときもちょっと魔改造したvllmが必要になるという。最近ローカルづいてる吾輩としてはできればMLXで動かしたいのだがMLXがまだTanukiに対応してない(し、そもそも何をすればTanuki対応にできるのかよくわからない)ので、とりあえず「非推奨」とされてはいるものの、Macでもギリギリ動きそうなGGUF版を動かしてみた。 from llama_cpp import Llama filename = "Tanuki-8B-dpo-v1.

ブックマークしたユーザー

knj29182024/09/26
misshiki2024/09/02
klov2024/09/02
deejayroka2024/09/02
deep_domao2024/09/02
big0bun2024/09/02
cyberinsert2024/09/02
yamamototarou465422024/09/01
yug12242024/09/01
dhrname2024/09/01
ymtk08152024/09/01
manabou2024/09/01
namachikuwa2024/09/01
balaem2024/09/01
crexist2024/09/01
hogetahogeko2024/09/01
masa8aurum2024/09/01
ocha392024/09/01

同じサイトの新着

同じサイトの新着をもっと読む

いま人気の記事

いま人気の記事をもっと読む

いま人気の記事 - テクノロジー

いま人気の記事 - テクノロジーをもっと読む

新着記事 - テクノロジー

新着記事 - テクノロジーをもっと読む

設定を変更しましたx