サクサク読めて、アプリ限定の機能も多数!
BNNは以前から研究されている話なのでそれ自体は特に目新しい話じゃないにしても、これを適用することでモデルがかなり扱いやすくなったことは確か。GPU環境がないローカルでサクサク回答してくれる日は近いのか?
i-komo のブックマーク 2024/02/29 15:37
Microsoftが1.58ビットの大規模言語モデルをリリース、行列計算を足し算にできて計算コスト激減へBNNは以前から研究されている話なのでそれ自体は特に目新しい話じゃないにしても、これを適用することでモデルがかなり扱いやすくなったことは確か。GPU環境がないローカルでサクサク回答してくれる日は近いのか?2024/02/29 15:37
このブックマークにはスターがありません。 最初のスターをつけてみよう!
gigazine.net2024/02/29
Microsoftの研究チームがモデルのウェイトを「-1」「0」「1」の3つの値のみにすることで大規模言語モデルの計算コストを激減させることに成功したと発表しました。 [2402.17764] The Era of 1-bit LLMs: All Larg...
65 人がブックマーク・9 件のコメント
\ コメントが サクサク読める アプリです /
BNNは以前から研究されている話なのでそれ自体は特に目新しい話じゃないにしても、これを適用することでモデルがかなり扱いやすくなったことは確か。GPU環境がないローカルでサクサク回答してくれる日は近いのか?
i-komo のブックマーク 2024/02/29 15:37
このブックマークにはスターがありません。
最初のスターをつけてみよう!