Hatena Blog Tags
はてなブログ トップ
Llama 3
このタグでブログを書く
言葉の解説
ネットで話題
関連ブログ

Llama 3

このタグの解説についてこの解説文は、すでに終了したサービス「はてなキーワード」内で有志のユーザーが作成・編集した内容に基づいています。その正確性や網羅性をはてなが保証するものではありません。問題のある記述を発見した場合には、お問い合わせフォームよりご連絡ください。
シンギュラリティ実験ノート•7ヶ月前

Llama3.1-8Bと日本語で雑談してみた

Llama3.1の軽量サイズ（80億パラメタ）を1000ドルPCで動かし、どの程度まともな会話ができるのかを実験してみた。ある程度の応答速度が得られるなら、ローカルPC上で音声認識ー＞AI推論ー＞音声合成まで行う会話アプリを実装したい、というのが私の野望だ。かなり難易度は高いが、AIのコーディング能力を借りれば私でもできるかもしれない。今回の実験はその第一段階である。 使用モデル Meta AI の Llama 3.1 をベースに、日本語タスク性能をファインチューニングしたモデルをHODACHIさんが公開している。今回は、Llama-3.1-8B-EZO-1.1-itの8ビット量子化版を使用し…

#Llama 3#音声会話

関連ブログ

CCCMKホールディングス TECH LABの Tech Blog•7ヶ月前

llama.cpp各種モデル18パターンの速度比較（Llama 3.1/Gemma 2/Phi-3…, GPU/x86_64/arm64）※おすすめモデル有り

はじめに こんにちは。テックラボの高橋です。 本記事ではllama.cppで実行可能なモデルを片っ端から実行して良さげなモデルを探していきます。 なお、llama.cppの詳細やパラメータ設定については以下の記事をご参照ください。 techblog.cccmkhd.co.jp モデルは主に日本語対応モデルのリーダーボードである Nejumi-LLM-3からチョイスしていきます。 wandb.ai 各パラメータ毎にコマンド一発しか確認していないので、詳細な性能を知りたい方は各々の環境で試していただくか、下記リンク先のベンチマークやllama.cppのissueを参考にしてください。 openbe…

#Llama 3#Gemma2#Phi-3#GPU#x86-64#Arm64
nikkie-ftnextの日記•10ヶ月前

ollamaはHugging Faceほど、オープンモデルのライセンスをユーザに意識させないんだなあ

はじめに ルールを守って楽しく決闘！ nikkieです。 最近ollamaをもふもふしているのですが、ちょっと思うところがあり、アウトプットネタに選びました。 ※自分用のメモの意味合いが強いです。ライセンスの解釈について専門知識は皆無ですので、記載は鵜呑みにせず、ライセンスの原文（一次情報）をご確認ください 目次 はじめに 目次 ollamaは便利 落とし穴：ollamaのユーザは、モデルのライセンスを意識せずに済んでしまう Gemma Terms of Use META LLAMA 3 COMMUNITY LICENSE AGREEMENT Hugging Faceは厳格すぎるかもだが、私的…

#ollama#GEMMA#Llama 3#ライセンス
nikkie-ftnextの日記•9ヶ月前

rasbtさんにならって、MacBook上でLlama 3を動かしてLLMの出力を評価させてみる

我が機械学習のヨーダ、rasbt氏1が興味深いことをやっていたのでパクってみます Was toying around with LLM model eval that run well on a laptop. Turns out Llama 3 8B Instruct is a pretty good evaluator that runs on a MacBook Air. I got a pretty high 0.8 correlation with GPT-4 scores.Standalone notebook here if you want to give it a try:……

#ollama#Llama 3#LLM-as-a-Judge#openai-python
FIntCrypto•1年前

Meta社、最新AIモデル「Llama３」を公開 : インスタなどのSNSでも利用可能

Meta（旧Facebook）は最近、新しいAIモデル「Llama 3」を発表しました。 このモデルには、80億と700億のパラメータを持つ2つのバージョンがあります。 これらは、前世代の「Llama 2」よりも性能が向上しているとされています。 特に、「Llama 3 8B」は、同じパラメータ数を持つ他のモデルと比べて9つのベンチマークで優れた成績を収めています。 Source: Meta 新しい「Llama 3」モデルは、知識の測定、スキルの獲得、テキストベースの推論など、多くのAIベンチマークで高い評価を得ています。 Source: Meta これには、MMLU、ARC、DROPなどが含…

#meta#Meta AI#SNS#Facebook#Instagram#WhatsApp#AI#Llama 3#テクノロジー