2026-03-29

Macとか3060みたいな最高級GPUがないとRAGって使い物なんないんだな

オフラインWikiデータベース辞書データと連結できたら凄まじく便利なんじゃないかと思ったけど

ビデオメモリが数ギガでは頭脳4Bを維持したままwikiの20GBデータを読み書きして高速動作はむりなようだ

AIに聞いてもバイスペック必要になるからまり今9Bがギリだと2B程度しかまともに動作できませんって帰ってくるしこれだと実用なんないじゃん

記事への反応(ブックマークコメント)

ログイン ユーザー登録
ようこそ ゲスト さん