気に入った記事をブックマーク
- 気に入った記事を保存できます
保存した記事の一覧は、はてなブックマークで確認・編集ができます
- 記事を読んだ感想やメモを書き残せます
- 非公開でブックマークすることもできます
自分の癖にあったファインチューニング用データセットをLLMで作ろう！【Calm2】
20 users
zenn.dev/saldra
zenn.dev/saldra
zenn.dev/saldra
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
まとめ LLMのファインチューニングにおいて、データセットは重要なものとなりつつある 以前までは人力で... まとめ LLMのファインチューニングにおいて、データセットは重要なものとなりつつある 以前までは人力で作る必要があったが、プロンプトが効く7Bモデル（Calm2-chat）を用いることで、LLMでファインチューニング用データセットを作ることができる データセットを作成しつつ、動的にプロンプトを修正していく手法が相当よかった 導入 LLMのファインチューニングには、大量のデータセットが必要です。良く言われているのは「少なくとも数百～数千はあった方が良い」というものです。翻訳など、皆が使うであろうようなタスクのデータセットは存在する一方で、「女の子の日記をLLMで作りたい」のような、完全に自分の癖に従ったようなデータセットは基本的には存在しません。一から自分で作っても良いのですが、人間の時間とやる気は有限なため、かなり無謀な挑戦と言えるでしょう。 この作業にLLMを用いることで、労力を最小限ま
zenn.dev/saldra
zenn.dev/saldra
zenn.dev/saldra
zenn.dev/saldra
kuruma-news.jp
nlab.itmedia.co.jp
www.nhk.or.jp
note.com/iida_yasuyuki
falsandtru.hatenablog.com
forest.watch.impress.co.jp
joisino.hatenablog.com
note.com/shunkurosaki
techblog.enechain.com
techblog.tver.co.jp
srest.io
zenn.dev/smartshopping
ryukyushimpo.jp
www.city.ichinomiya.aichi.jp
dot.asahi.com
togetter.com
2023/11/08 リンク