次の単語だよ。
ローカルLLM触ってるとわかるが、温度やTop-p、Top-kじゃどうにもならんから、新しいサンプラーによって、出力の一貫性を保ちつつ内容をかなり変える試みがある。
githubに、開発者の詳細な解説載ってる。
Permalink | 記事への反応(0) | 19:08
ツイートシェア
AIの説明って「統計的に回答している」でいいのに、何で殊更に「次の単語を統計的に出してる」って言うんだろう？ だからおかしくなるんじゃないか そんな単純なアルゴリズムなわけ...
次の単語だよ。 ローカルLLM触ってるとわかるが、温度やTop-p、Top-kじゃどうにもならんから、新しいサンプラーによって、出力の一貫性を保ちつつ内容をかなり変える試みがある。 github...
11
