米OpenAIの12日間にわたる発表イベント「12 Days of OpenAI」が12月20日（現地時間）に完結した。本稿で12の発表を時系列にまとめておく。サム・アルトマンCEOが予告したように、大小とりまぜた発表だった。 1日目（12月5日） 推論AI「o1」と、月額200ドルの新プラン「ChatGPT Pro」の発表。o1は、従来のモデルよりも推論能力が大幅に向上し、複雑な問題を解決できるようになった。o1のシステムカードも発表され、安全性評価、レッドチーミングの知見、安全性の向上などが強調された。（関連記事） 2日目（12月6日） 「Reinforcement Fine-Tuning」（強化学習ファインチューニング研究）プログラムの発表。特定のタスク用に「oシリーズ」モデルを変更できるようにするモデルカスタマイズ方法だ。まずは複雑なタスクを持つ研究者、大学、企業からの応募を募集し

Metaが大規模言語モデル「Llama 3.3」を2024年12月6日(土)にリリースしました。記事作成時点ではパラメーター数70Bのモデルがリリースされており、Amazonの基盤モデル「Amazon Nova Pro」と比べて低コストかつ高性能であることや、旧世代の上位モデルに匹敵する性能を備えていることがアピールされています。 Llama https://www.llama.com/ llama-models/models/llama3_3/MODEL_CARD.md at main · meta-llama/llama-models · GitHub https://github.com/meta-llama/llama-models/blob/main/models/llama3_3/MODEL_CARD.md As we continue to explore new post-

日本語LLMまとめ ​[ English | Français | 日本語 ] 日本語LLM・海外LLMのパラメータ数の推移。日本語モデルの情報は本記事、海外モデルの情報は LifeArchitect.ai の Models table を参照しています（ただし、図のスペース上一部のモデルは省略。また、海外モデルのパラメータ数は推測値を含む）。修正・追加等ありましたらお知らせ下さい。この記事は、一般公開されている日本語LLM（日本語を中心に学習されたLLM）および日本語LLM評価ベンチマークに関する情報をまとめたものです。情報は、有志により収集されており、その一部は論文や公開されているリソースなどから引用しています。 以下の点について、あらかじめご理解とご了承をお願いいたします 本記事の内容は、完全性や正確性を保証するものではありません。これらの情報は予告なく変更されることがあり、また最新

導入 こんにちは、株式会社ナレッジセンスの須藤英寿です。普段はエンジニアとして、LLMを使用したチャットのサービスを提供しており、とりわけRAGシステムの改善は日々の課題になっています。 今回は、文章の尤度とドキュメントの配置位置、そして回答の精度の関係性を調査した論文について紹介します。 サマリー RAGにおいて、正解ドキュメントの文章の配置と、回答精度の関連性は以前から注目されていました。この関係性の原因が文章の尤度(文字同士のつながりをLLMがどの程度自然と捉えているかの指標)にあるとしたのが、この論文の大まかな趣旨です。 質問ないしは回答の尤度を用いることで以下のような機能が実現できます。１つ目は、回答の精度をLLMによる出力の前に事前に推測すること。２つ目は、生成された回答がどの程度正しいか推測すること。これらを検証した実験結果について紹介していきます。 問題意識 RAGの精度は

米Microsoftは11月6日（現地時間）、Windowsの「ペイント」と「メモ帳」の、生成AI採用の新機能を発表した。まずは「Windows 11」のCanaryチャネルとDevチャネルのWindows Insiderで提供を開始する。 メモ帳の機能はまだ日本語に対応していないが、ペイントの一部の機能は日本でも利用可能のようだ。 ペイントの生成AIツール ペイントの新機能はいずれも、まずはCopilot+ PCで利用可能になる。 生成塗りつぶし 生成塗りつぶしは、長方形または自由形式の選択ツールを使用して画像内の領域を選択し、テキストプロンプトを使ってそのスペースを埋めるオブジェクトを生成する機能。公式ブログでは、Windows XPの壁紙のような風景に古城を追加する操作を動画で紹介している。

米OpenAIが2022年に発表した音声テキスト変換AI「Whisper」に、文章の一部または全部を捏造してしまういわゆる「幻覚」による重大な欠陥があると、米Associated Pressは10月26日（現地時間）、多数のエンジニアや研究者へのインタビューに基づいて報じた。 Whisperは、インタビューの翻訳や文字起こし、消費者向け技術でのテキスト生成、動画の字幕作成など、世界中の様々な業界で使用されている。Associated Pressは、医療機関でもWhisperベースのツールが診察の会話の文字起こしで使われ始めていることが、深刻な懸念を引き起こしていると指摘する。 Whisperのトレーニングには、ネット上の膨大な音声データと、それに対応する文字起こしテキストから構成される、68万時間に及ぶ大規模なデータセットが使われたとしているが、トレーニングに使った具体的なソースは明示して

Llama 3.1 is a new state-of-the-art model from Meta available in 8B, 70B and 405B parameter sizes.

コンテンツ必要なときに、どこでもすぐにNotion AIにアクセスするNotion AIとのチャットですばやく洞察に満ちた回答とサポートを得るファイルと画像の分析SlackやGoogleドライブなどの統合済みアプリ全体の情報にアクセスする 検索対象を信頼できる情報源に限定するNotion AIのより強力なライティング機能を活用 回答を得ることは大切ですが、本当に必要なのは、あなたの業務に合わせてカスタマイズされたインサイトと、簡単なタスクでのサポートです。このような状況でも、Notion AIがお役に立ちます。AIチャットボット、文章作成の支援、スマート検索エンジンの機能がすべて、Notion AIで利用できます。GPT-4やClaudeなどの高度なモデルをワークスペースや接続されたアプリの情報に対応させることで、Notion AIの優れた能力は、必要とされるその場所で、関連情報に基づいた

本記事では、今年8月にパブリックベータ版として GitHub に搭載された新機能 GitHub Models について、概要や利用法を簡単にご説明します。さらに、実際に GitHub Models を活用して、多数の LLM の日本語性能を横断的に測定していく例を紹介していきます。 目次 目次 はじめに 三行で GitHub Models を説明すると... GitHub Models の使い方 Waitlist への登録 モデル一覧 ブラウザ上で試す API経由で試す GitHub Models を利用する上での注意点 API レート制限の制約が強い Azure AI Content Safety が全ての LLM に適用されている GitHub Models を使って LLM の日本語性能を横断的に測定する 実験 1. GPT-4o による自動評価 2. 出力が日本語になっているかどう

皆さん、AIの進化が止まらないって、まさにこのことですよね！今回紹介するのは、「ChatGPT-4o」。最新バージョンは、学術研究やデータ分析をさらに強力にサポートする7つの新機能を引っ提げて登場しました🤖✨。この記事では、その7つの新機能を詳しく、しかもフランクに解説していきます！コード例もバッチリ入れましたので、ぜひ最後までお読みください💻。 1. PDFファイルの完全分析 📄まず一つ目の新機能が、PDFファイルの完全分析です。これまで長い論文やレポートを読むのが億劫だった人も多いはず。そんなあなたにピッタリなのがこの機能！ChatGPT-4oは、PDFファイルをそのままアップロードするだけで、重要なデータや図表を自動で抽出してくれます。もう、ページをめくる必要はありません📚。 どんな場面で使える？長い研究論文やレポートの要点を短時間で把握したい時 論文のデータや図表を元にした

tl;drOpenAI のファインチューニングモデルに GPT-4o が追加 2024/9/23 までは一日 100 万トークン分は無料でファインチューニングできる（GPT-4o-mini は一日 200 万トークンまで） 以降の価格は 100 万トークンあたり学習に 25 ドル、推論（入力）に 3.75 ドル、推論（出力）に 15ドル ファインチューニングによりレスポンスの構造や会話のトーンのカスタマイズ、ドメイン固有の指示（たとえばコーディング、クリエイティブ）などを最適化可能 OpenAI API を有料で使ったことのある開発者すべてに提供 学習用のサンプルデータは数十個程度でも効果はある ファインチューニング用に使用したデータは OpenAI のモデルの学習に使われない OpenAI パートナーの成功事例としてあげられているもの Cosine Genie: ソフトウェアエンジニアア

RAGの精度改善するために何があるかを学びました。基本系のNaive RAGを知っている人向けの記事です。 方法が多すぎるので、Youtubeの「RAG From Scratch」を中心に少し整理してみました。LangChainをよく使っているので、LangChain出典が多いです。 全体像 まずは、RAGの全体像。Indexingが同じ流れにあるのが少しわかりにくいのですが、実行タイミングとしてはRAGの前準備としてやっておきます。 画像出典: RAG from scratch: Overview もう少し粒度を細かくした図です。 画像出典: RAG from scratch: Overview 表形式で分類します。Generationだけ少し特殊です。 大分類 中分類 内容

こんにちは！最近、ChatGPTと話しすぎてAI風の口調がうつってきたAI-Bridge Labのこばです！👋 今回の記事はGoogleのサービス『NotebookLM』(ノートブックLM)について 1.NotebookLMの概要 2.使い方 3.具体例として過去のnote記事を全部読ませた結果どうなったか この3点を分かりやすくご紹介します！ 先に結論だけお伝えするとかなり実用性が高くオススメのツールです！ そしてこの記事を読んで頂ければご自身での活用法が想像できるようになると思いますので、ぜひ最後まで読んで頂けますと幸いです！ 1.NotebookLMの概要公式サイト：https://notebooklm.google.com/ NotebookLMは、Googleが提供する生成AIサービスで、ユーザーのメモ書きやアップロードした資料を基に情報を整理し、質問に答えることができる革新的

インハウスマーケティング部の井上です。 たとえば企画や資料作成など、デスクワークをしているなかで「調べる」「まとめる」という業務はしばしば発生しがちですよね。ときには沼にはまってしまい、「時間が無限に溶けていく……」「本来やるべき業務が手につかない！」といった経験をしたことがある人も多いのではないでしょうか。 こんなときこそ生成AIの力が必要だ！ということで、今回はリサーチやまとめの効率化に役立つ「Perplexity AI」（パープレキシティ）の使い方をご紹介します。 ※本記事の情報は2024年6月4日時点のものです。 Perplexity AIとは？ ▲Perplexity TOPページ　※有料プランの画面です 「Perplexity AI」（以下、Perplexity）は、元GoogleのAI研究者チームによって開発されたAI搭載の対話型検索エンジンです。 最大の特徴は、検索をベース

岡崎教授率いる岡崎研究室と、東京工業大学学術国際情報センターの横田理央教授が率いる横田研究室、産業技術総合研究所による合同研究チームは23年12月、LLM「Swallow」を発表。この開発を通して得たノウハウなども紹介している。 関連記事 生成AIを巡る日本の現状は？　東大・松尾教授の考察資料が無料公開　「1年間、日本は最善手を指し続けている」 内閣府は5月23日、22日に開催した「第9回 AI戦略会議」で取り扱った資料を公開した。公開したのは、AI研究の権威として知られる東京大学の松尾豊教授が作成した「生成AIの産業における可能性」と題した全33ページの資料など。 “大は小を兼ねない”生成AI　注目集める「小規模言語モデル」（SLM）　そのメリットとは？ 先日行われた、米Microsoftの開発者向けイベント「Microsoft Build 2024」の目玉の一つだった「SLM」（Sma

Bard が Gemini になりました。Google AI で文章やリストの作成、計画の立案、新しい知識の習得など、さまざまなことができます。

Gemini 1.5 Pro のアップデート ・ Gemini 1.5 Flash ・ PaliGemma ・ Gemma 2 以下の記事が面白かったので、簡単にまとめました。 ・Gemini 1.5 Pro updates, 1.5 Flash debut and 2 new Gemma models 1. はじめに昨年12月、「Gemini 1.0」をリリースし、「Gemini API」を「Google AI Studio」および「Vertex AI」で利用できるようにしました。2月に、100万トークンのコンテキストウィンドウを備えた最初のモデルである「Gemini 1.5 Pro」をリリースしました。先月、ネイティブ音声理解、システム指示、JSON モードなどの機能を追加しました。 並行して、「Gemma」を立ち上げました。これは、「Gemini」と同じ研究とテクノロジーに基づいて構

Gemini API と Google AI Studio を使用すると、Google の最新モデルをすぐに使用し、アイデアをスケーラブルなアプリケーションに変換できます。 Pythonimport google.generativeai as genai genai.configure(api_key="YOUR_API_KEY") model = genai.GenerativeModel("gemini-1.5-flash") response = model.generate_content("Explain how AI works") print(response.text) Node.jsconst { GoogleGenerativeAI } = require("@google/generative-ai"); const genAI = new GoogleGenera