Stable Diffusionが登場してから特定の概念を生成させる研究が多く登場しました. 最近はLoRAで学習させるようなものが主流な気がしますが, 初期に登場したTextual InversionやDreamboothといった研究は幅広くされています. ここでは, 5月の最新サーベイ論文A Survey on Personalized Content Synthesis with Diffusion Modelsを基にそれらの方向性を確認したいと思います. 図や表はことわりのない限り, このサーベイ論文からの引用となります. また, 論文リンクはできるだけarXivでないもの (ACMやPMLRやOpenReview)などを載せていますが, CVPR2024の論文はarXivになっています. この論文では新規概念学習のことをPersonalized Content Synthesis

Technology部のJoshです。 AIや機械学習の技術は日々進化しています。なかでも、LangChainの開発元がリリースした大規模言語モデル（LLM）アプリケーション開発を支援するプラットフォーム「LangSmith」は注目すべき存在です。 この記事ではLangSmithの基本的な機能や、データセットの設定からLLM出力の評価まで、サンプルとともにご紹介します。初心者の方から経験豊富な開発者まで、LLMプロジェクトにLangSmithを活用するためにこの記事がお役立てできれば幸いです。 LangSmithとは、LLMアプリ開発フレームワーク「LangChain」の開発元がリリースした、LLMアプリ開発支援サービスです。LangSmithを使えば、LLMアプリケーションデータ（チェーン会話、プロンプトなど）の保存、編集、再実行、管理が可能となります。現在はOpenAIモデルのみサポー

追記1：チップをお送りいただいたかたがた，ありがとうございます！ 追記2： このような話題に興味があるかたへ…関連するコミュニティはこちら↓ 非専門家向け：https://discord.gg/shingiyurariteisaba-1125096939344625684 専門家向け：https://www.aialign.net/contact OpenAI o3は，人間とは全く異質の汎用知能である恐れがある． 競技プログラミングCodeforcesで，人類に混じってo3が全世界175位となったのはすさまじい． ガチの数学者たちが全力で作ったベンチマークFrontierMathで，o1-previewでも2%しか正解しなかったところが，o3では25%も正解してしまった． しかし，一番の問題はそこではない． 全く別次元のところにある． ARC-AGIというベンチマークだ． o1で25%だっ

Microsoftは検索エンジンのBingで、これまでGoogleが開発した機械学習モデルの「Transformer」を採用してきました。しかし、Transformerに限界が訪れたとして、大規模言語モデル(LLM)と小規模言語モデル(SLM)の組み合わせに移行すると発表しています。さらに、ワークフローにNVIDIAが開発している「TensorRT-LLM」を統合することで、検索の最適化も実施すると発表しています。 Bing's Transition to LLM/SLM Models: Optimizing Search with TensorRT-LLM https://blogs.bing.com/search-quality-insights/December-2024/Bing-s-Transition-to-LLM-SLM-Models-Optimizing-Search-wi

Microsoftが言語モデル「Phi-4」を2024年12月13日にリリースしました。Phi-4のパラメーター数は140億で主要な大規模言語モデルと比べると小規模ですが、数学性能では最上位クラスの性能を発揮します。 Introducing Phi-4: Microsoft’s Newest Small Language Model Specializing in Complex Reasoning | Microsoft Community Hub https://techcommunity.microsoft.com/blog/aiplatformblog/introducing-phi-4-microsoft%E2%80%99s-newest-small-language-model-specializing-in-comple/4357090 Microsoftは小規模かつ高性能な

この記事はenechain Advent Calendar 2024の14日目の記事です。 はじめに こんにちは。enechainで統計・機械学習モデルの構築やLLM（大規模言語モデル）の活用推進を担当している@udon_tempuraです。 私達のチームでは、以前紹介した会議動画要約のノウハウを活用し、 社内用の動画・音声文字起こしツールを構築・運用しています。 本記事では、その精度向上の仕組みについて紹介します。 実装も比較的少なく実現できたため、セキュリティなどの関係により内製で文字起こしを構築している方々の参考になれば幸いです。 はじめに 背景と課題 システム要件 システム実装 アーキテクチャ 入力データ形式 ドメイン固有用語の管理 処理フロー Cloud Speech-to-Textによる文字起こし Gemini 1.5 Flashによる認識処理 Gemini 1.5 Proによ

はじめに Stable Diffusionなどの画像生成AIを触っているうちに、大元となった拡散モデルの理論を知りたいと思い勉強し始めました。 ここでは、個人的な理解を殴り書きして忘備録としたいと思います。 （数学科ではないので、説明がふわっとしてしまうのは申し訳ございません。雰囲気がわかることを目的としています。） 私と同じように、理論を学びたい方の手助けになれば幸いです。 拡散モデルに対する当初の理解 私の拡散モデル対する理解は、上記の図で事足ります。 「自然画像に対して、少しずつノイズを付与していき、各段階ごとにちょっとだけノイズを取り除いた画像をニューラルネットワークにより生成することを、複数回繰り返すことで、なぜか、最終的にノイズの乗っていない画像を生成できる」 別にこの理解は間違っているわけではないですが、なんでその手法にしたのか、なぜその手法でノイズが綺麗に取り除かれるのかと

AIで生成した画像を動画にできるようになった。当連載のオリジナルキャラクター「明日来子さん」にメガネをかけてもらったところ。レンズの屈折まで反映されている（hailuo AIで作成） 2024年、画像生成AIに起きたことを振り返ってみます。今年もすさまじいペースで物事が動きました。今年起きたことに注目するなら、高精細化と高品質化が進む一方、一貫性をいかに実現するのかがポイントでした。一貫性技術は、動画生成AI分野の拡大をもたらし、さらに、3D化の実現までも可能性として見せはじめました。それぞれの技術はお互いに影響を与えつつ、別々に進化し、より専門化が進んでいます。この連載によく登場してくる作例のキャラクター「明日来子さん」を通じて、どのように技術変化が進んだのかを見ていきましょう。 ※記事配信先の設定によっては図版や動画等が正しく表示されないことがあります。その場合はASCII.jpをご覧

中国のAIユニコーン「MiniMax」が開発したAIチャットアプリ「Talkie」が大きな話題を集めている。 AIチャットアプリのダウンロード数のデータなど、もっと写真を見る 2023年6月にリリースされたTalkieは、AIキャラクターとリアルなやり取りを楽しめるアプリで、AIブームを追い風に海外で急速に勢力を拡大した。米調査会社センサータワーの調べでは、Talkieはリリース以来ずっとAIチャットアプリのダウンロード数で世界上位3位以内をキープしている。ライバルとして挙げられるのは世界中で大ヒットの「Character.AI（キャラクターAI）」と「Replika（レプリカ）」だ。 今年1～6月には、米国市場だけでTalkieの累計ダウンロード数が380万回に達し、AIアプリ全体の中でも「ChatGPT」、マイクロソフトの「Copilot」、学習支援アプリ「Question.ai」に次

概要 DETRには以下の弱点がある。 高解像度の画像を扱うことができない。 収束に非常に長い時間がかかる。like 10x ~20x slower than Faster R-CNN. 高解像度画像を扱うことができないのは計算量が O(H^2W^2)であるためであり、収束に非常に長い時間がかかるのは、画像全体を注目するように初期化されたAttention Mapを意味のあるスパースなPixelのみに注目するように学習するコストが高いからであると考えられる。 この2つの課題を緩和するためにDeformable DETR = 画像の一部にのみ注目するTransformerを提案する。 Method Deformable ConvolutionにInspireされ、画像のスパースな一部の点まわりからのみ情報を受け取るDeformable Attention Moduleを提案。 Deformab

はじめに こんにちは、KDDIアジャイル開発センターのはしもと（仮名）です。 LLMで何かしたい勢のみなさま、検索拡張生成こと RAG (Retrieval Augmented Generation)、やってますか？ 自社で持っているデータを使ってエンタープライズサーチを実現したい、それができればきっと無敵。そう考えて色々やろうとしているんじゃないでしょうか。私です。 RAGを使って意図した出力を得られるようにするには、十分なデータセットを準備したりパラメータを変更しながらチューニングをするなど、地道な作業が必要となります。 開発ライフサイクルにおける評価・テストステップで有効な、評価用フレームワーク RAGAS を使ってみましたので、本記事ではそれについてまとめます。 RAGASとは RAGパイプラインを評価/テストするためのフレームワークです。 パイプラインを構築するためのツールは多く

この記事の概要 こんにちは。PharmaX でエンジニアをしている諸岡（@hakoten）です。 この記事では、大規模言語モデル（LLM）を活用したアプリケーションの開発を支援するフレームワークであるLangChain内にあるツールチェインの一つ、LangGraphについてご紹介します。 LangChainがどのようなものかについて知りたい方は、ぜひ一読していただけると幸いです。 ※ LangGraphは、LangChainとシームレスに連携できるライブラリですが、この記事ではLangGraph自体の入門内容に焦点を当てており、LangChainについては詳しく触れませんので、ご了承ください。 LangGraphとは LangGraphは、LangChainのツール群に含まれる一つで、各LLMエージェントのステップなどをグラフ化して状態管理を行うためのツールです。 LangGraphは、ス

はじめに最近、LLMへのRAGを用いた文書データの連携等を目的に海外を中心にOCRや文書画像解析技術に関連する新しいサービスが活発にリリースされています。 しかし、その多くは日本語をメインターゲットに開発されているわけではありません。日本語文書は、英数字に加えて、ひらがな、漢字、記号など数千種類の文字を識別する必要があったり、縦書きなど日本語ドキュメント特有のレイアウトに対処する必要があったりと日本語特有の難しさがあります。 ですが、今後、海外の開発者がこれらの課題に対処するため、日本のドキュメント画像解析に特化したものをリリースする可能性は低く、やはり自国の言語向けのサービスは自国のエンジニアが開発すべきだと筆者は考えています。 もちろん、Azure Document Intelligenceをはじめとした、クラウドサービスのドキュメント解析サービスはありますが、クラウドを利用できないユ

CC Dash AI Chat サービス CChat 個人向け・法人向け生成AI研修 広告チェックAI 【VOC.AI】AIエージェント 生成AIエンゲージメント・フィット＆ギャップ分析 “新規事業開発”特化の生成AIコンサル×受託開発サービス 【EpicAI】法人向けAIコンサルティング/オーダーメイドAI開発 “DX現役”が登壇するDX・AI研修サービス SAIL TDSEの生成AI活用支援サービス データ分析/AI開発/コンサルティング CAIWA Service Viii（カイワサービスヴィー） AIRクエスト VectorFlux for Sales NetBot for 顧客サポート定額制AIチャットボット NetBot for マッチングAIチャットボット imprai（インプライ） 生成AI導入支援 導入・活用サポートまで充実した法人向けChatGPT｜NewtonX Ve

グーグルと国連経済社会局は、国連総会ハイレベルウィークの期間中となる9月19日、新たなデータ共有イニシアチブ「UN Data Commons for the SDGs（SDGsのための国連データコモンズ）」を発表した。総会の関連イベント「SDGメディア・ゾーン」では、それぞれの担当者が登壇し、SDGs達成に向けてデータを活用する重要性やシステムの概要について語った。 SDGs達成・加速化に向けてデータを活用する重要性グーグルと国連の協力による「UN Data Commons for the SDGs」（以下、データコモンズ）は、SDGsに関連するデータを広く共有しアクセス可能にするための取り組みで、発表に伴いデータの検索や閲覧ができるウェブサイトが公開された。 SDGメディア・ゾーンのセッションでは、グーグルの研究／技術／社会担当上級副社長のジェームス・マニイカ氏と国連経済社会局政策調整・

こんにちは！株式会社AI Nestです。 今回は、大規模言語モデル（LLM）の世界に激震が走るかもしれない、Quiet-STaRという最新技術について解説します。難しい数式はちょっと...という方もご安心ください。専門用語はしっかり解説しつつ、Quiet-STaRのすごさをわかりやすくお伝えします！ タイトル：Quiet-STaR: Language Models Can Teach Themselves to Think Before Speaking URL：https://arxiv.org/abs/2403.09629 所属：Stanford University, Notbad AI Inc 著者：Eric Zelikman, Georges Harik, Yijia Shao, Varuna Jayasiri, Nick Haber, Noah D. Goodman なぜ「考え