気に入った記事をブックマーク
- 気に入った記事を保存できます
保存した記事の一覧は、はてなブックマークで確認・編集ができます
- 記事を読んだ感想やメモを書き残せます
- 非公開でブックマークすることもできます
M1MacでOllamaを試したら爆速で驚いた
181 users
zenn.dev/yasuna
zenn.dev/yasuna
zenn.dev/yasuna
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
はじめに いつもNVIDIAが載っているWindowsで楽しくLLMを動かしたり生成AIライフを楽しんでいますが、今... はじめに いつもNVIDIAが載っているWindowsで楽しくLLMを動かしたり生成AIライフを楽しんでいますが、今回はMacOSでOllamaを入れてLlama3を動かしてみました。 スペック： Apple M1 Pro(16 GB) 少し前だとCUDAのないMacでは推論は難しい感じだったと思いますが、今ではOllamaのおかげでMacでもLLMが動くと口コミを見かけるようになりました。 ずっと気になっていたのでついに私のM1 Macでも動くかどうかやってみました！ 結論、爆速で推論できていたのでとても驚きました。OSS開発に感謝です！ Ollamaとは OllamaとはローカルでLLMを動かすことができるアプリケーションです。 以下からダウンロードできます。 MacOSとLinuxで使うことができます。Windowsもプレビュー版があるみたいです。 #いざ推論 ダウロードができたらシ
zenn.dev/yasuna
zenn.dev/yasuna
zenn.dev/yasuna
zenn.dev/yasuna
arigatosan.com
togetter.com
www.fnn.jp
yamdas.hatenablog.com
note.com/kyoro353
shmokmt.hatenablog.com
namorz.com
forest.watch.impress.co.jp
www.itmedia.co.jp
pc.watch.impress.co.jp
www.itmedia.co.jp
internet.watch.impress.co.jp
rocketnews24.com
biz-journal.jp
nostalgiee.hatenablog.com
2024/05/19 リンク