皆さんこんにちは Acroquestのデータサイエンスチーム「YAMALEX」のチームリーダ、@tereka114です。 YAMALEXチームでは、コンペティションへの参加や自社製品開発、技術研究などに日々取り組んでいます。 今年も、アドベントカレンダーとして、9つの記事を本ブログで投稿しました。 本記事では、今年の記事の傾向や、私個人が特に面白いと感じた記事を紹介します。 本ブログの今年のアドベントカレンダー記事投稿傾向 特に読んで欲しい記事3選 ElasticsearchでLIKE検索のような部分一致検索を高速に実現する方法 PDFドキュメントを画像のまま検索できるColQwen2でマルチモーダル検索を試す vLLMを利用したLLM推論高速化テクニック 最後に 本ブログの今年のアドベントカレンダー記事投稿傾向 今年は生成AI関係（主にBedrock）とElasticsearchの記事を

砂漠の遺跡から出土した古代の盤面と駒のセットを、AIモデルで分析した研究の結果、約4500年前の墓で見つかった遺物が現代人でも楽しく遊べるボードゲームとしてよみがえったことが報告されました。 SocArXiv Papers | Analysis of the Shahr-i Sokhta Board Game with 27 Pieces and Suggested Rules Based on the Game of Ur https://osf.io/preprints/socarxiv/kctnj Lost Rules to One of The Oldest Board Games May at Last Be Known : ScienceAlert https://www.sciencealert.com/lost-rules-to-one-of-the-oldest-boar

NTT東日本とNTT西日本（NTT東西）は2024年12月25日、固定電話用のネットワークを公衆交換電話網（PSTN）からIP網に全て移行したと発表した。NTT東西の電話サービス用ネットワークが、電話交換機からインターネット技術を応用したものへと完全に切り替わったことになる。 「03（東京23区）」などの「0AB～J番号」と呼ばれる電話番号を使う固定電話サービスについては、2024年1月に移行を済ませていた。一方、固定電話から携帯電話宛て、「0120」や「0800」から始まる着信課金サービス宛て、「0570」から始まる「ナビダイヤル」宛ての通話などは、2024年1月以降もPSTNを経由していた。 これらの残っていた通話もIP網経由で提供できるように、NTT東西は2024年3月から移行作業を進めてきた。携帯電話宛ての通話は2024年3月に完了。着信課金サービスやナビダイヤル宛ての通話は202

JOURNALについて データアナリティクスラボ株式会社では、ITやデータサイエンスに関する技術の研究活動を行っています。このブログでは、研究活動で得られた知見や検証結果についての情報を発信します。 本ブログで提供される情報は、可能な限り正確かつ最新の情報であるように努めますが、必ずしもその正確性を保証することはできません。場合によっては誤情報が含まれたり、最新の情報ではない可能性もあります。予めご了承いただけますようお願い申し上げます。 はじめに データソリューション事業部の宮澤です。今回はLLMのモデルマージ技術について解説します。モデルマージとは、複数のモデルのパラメータを何かしらの形で合成することによって新たなモデルを構築する技術のことを指します。この手法を活用することで、事前学習やファインチューニングのように、複雑で計算量の大きい処理を伴うことなく、高性能なモデルを効率的に構築す

はじめに機械学習エンジニアをしているNSK（@naohachi89）です。先日で35歳になったのですが、何故か今年になって唐突にお笑いにハマり、昨日は生まれて初めてM-1の決勝をテレビで当日見ました。リアルタイムで見るM-1は想像以上に面白くて、最後まで誰が優勝するのか予想がつかず、結果発表までハラハラドキドキしながらテレビにかじりついていて見ていました（個人的にはバッテリィズが優勝かな〜と思っていたのですが、見事に予想を裏切られました） M-1を見ながら、同時にXのタイムラインで様々な方々が様々な感想を述べているのを眺めていたのですが、そのときにふと思いました。 「ブロードリスニングの手法を使って、M-1に対してどのような感想が寄せられているのかを可視化したら面白いのではないか？」と。 ブロードリスニングとは、ものすごくざっくり言うと、「テクノロジーの力を使って多くの人々の意見を効率的に

こんにちは。データサイエンスチームYAMALEXの@Ssk1029Takashiです。 完全に年末ですが、最後まで油断せずに年を越したいですね。 このブログは、LLM・LLM活用 Advent Calendar 2024の25日目になります。 qiita.com 今年は1年間RAGを扱う多くの事例に触れさせていただきましたが、どこでも難しいのが図や画像が使われているドキュメントですね。 ただのPDFであれば、pdfminerなどのライブラリを使用して文字を読み取り検索すればよいですが、画像が使われるとそう簡単にもいきません。 画像部分からはOCRを使って文字を取り出すなど、工夫が必要になります。 今回はドキュメントを画像にした状態で検索可能にするColQwen2というモデルを使って日本語ドキュメントの検索を試してみます。 ColQwen2とは 実験 環境 PDFドキュメントのEmbeddi

大規模言語モデル(LLM)を用いたAIは、驚くほど自然な文章やリアルな画像を生成できる能力を備えている一方で、危険なことに回答したり不適切な画像を生成したりできないように、セキュリティロックがかかっていることがほとんどです。しかし、意図的にLLMをだまそうと試みてロックを回避するジェイルブレイク(脱獄)の方法もしばしば話題になります。GoogleのAIチームでコンサルタントを務めた経験もある技術者のマット・ウェッブ氏は、特別なテクニックを使わなくても「ちょっとずつAIの思考をずらす」ことによるジェイルブレイクの例を解説しています。 Narrative jailbreaking for fun and profit (Interconnected) https://interconnected.org/home/2024/12/23/jailbreaking LLMには、爆弾の作り方といった

米Googleは12月19日（現地時間）、新たな推論AIモデル「Gemini 2.0 Flash Thinking」を発表し、Experimental（実験）モデルをGoogle AI Studioで公開した。 Gemini 2.0 Flash Thinkingは、回答の一部としてモデルが行う「思考プロセス」、つまり、問題を解決するためにどのような手順で考え、どのような情報を参照したのかを、人間が理解できる形で示すようにトレーニングされた推論モデル。ベースとした「Gemini 2.0 Flash」よりも、より強力な推論機能を備えており、マルチモーダル理解、推論、コーディングに最適という。 Google DeepMindとGoogle Researchのチーフサイエンティスト、ジェフ・ディーン氏はXのポストで、「思考を明示的に示すモデル」と説明した。同氏がシェアしたデモでは、「電子は、x=-

追記1：チップをお送りいただいたかたがた，ありがとうございます！ 追記2： このような話題に興味があるかたへ…関連するコミュニティはこちら↓ 非専門家向け：https://discord.gg/shingiyurariteisaba-1125096939344625684 専門家向け（分野問わず）：https://www.aialign.net/contact OpenAI o3は，人間とは全く異質の汎用知能である恐れがある． 競技プログラミングCodeforcesで，人類に混じってo3が全世界175位となったのはすさまじい． ガチの数学者たちが全力で作ったベンチマークFrontierMathで，o1-previewでも2%しか正解しなかったところが，o3では25%も正解してしまった． しかし，一番の問題はそこではない． 全く別次元のところにある． ARC-AGIというベンチマークだ． o

この記事は 食べログアドベントカレンダー2024 の24日目の記事です🎅🎄 食べログ開発本部 技術部のデータサイエンスチームに所属する河村です。 データサイエンスチームは、データとAIを活用してビジネス成長に貢献することをミッションとしており、生成AI技術のサービス活用や業務活用に取り組んでいます。 その1つとして、生成AIを用いた音声対話についても注目しています。 2024年10月にOpenAIがリリースしたRealtime APIを用いて、GPT-4oの音声対話の仕組みを紐解きましたが、調べる前に思っていたことと違っている点もいくつかありました。 ユーザが話す音声をずっとAIが考えながら応答しているわけではないんですね... 気になった方は是非最後まで読んでみてください。 1. はじめに 2. Realtime APIを解読し、音声対話の仕組みを紐解く 2.1. 生成AIを活用した

2024/12/24 完全にオープンな約1,720億パラメータ（GPT-3級）の大規模言語モデル 「llm-jp-3-172b-instruct3」を一般公開 ～GPT-3.5を超える性能を達成～ 大学共同利用機関法人 情報・システム研究機構 国立情報学研究所 (NIIエヌアイアイ、所長：黒橋くろはし 禎夫さだお、東京都千代田区) の大規模言語モデル研究開発センター（LLMC）は、主宰するLLM勉強会（LLM-jp）の活動の中で、約1,720億パラメータ(*1)（GPT-3のパラメータ数と同規模）の大規模言語モデル（LLM）を2.1兆トークンの学習データを用いてフルスクラッチで学習し、同モデルを「llm-jp-3-172b-instruct3」として一般公開しました。学習データまで含めすべてオープンなモデルとしては世界最大規模です。本モデルは言語モデルの日本語理解能力を測るベンチマーク 「

今日もいつものようにシラスでデイリーAIニュースを配信していると、とんでもないものにでくわした。 もうタイトルに書いてあるけど、AIが勝手にブラウザを操作して色々やってくれてしまう、その名もBrowserUseだ。 インストールは超簡単。 macなら以下の二行だけだ。 $ pip install browser-use $ playwright install使うのも超簡単だが、コマンドラインに落ちるのが怖い人々には簡単に見えないかもしれない。環境変数のOPENAI_API_KEYとかにAPIキーを入れておくこと。 $ python >>> from langchain_openai import ChatOpenAI >>> from browser_use import Agent INFO [browser_use] BrowserUse logging setup complete

こんにちは、技術イベントに参加してきてアウトプット欲が高まっているハヤトです。 この記事は Dify Advent Calendar 2024 のシリーズ2、24日目の投稿です。 最近も精力的にアップデートが重ねられているDifyですが、 その中心的な機能であるワークフローとノードについて改めて基本的な内容を確認していきたいと思います。 実際に動作するワークフローを構築しながら説明するので、 Dify初心者の方も是非ご一読ください。 ※本記事はDifyバージョン0.13.1時点のものです。 Difyについて Difyの「ワークフロー」とは Difyワークフローの種類と使い分け ノードについて ナレッジ検索 ナレッジの作成 ナレッジ検索を使用するワークフローの構成 質問分類器 質問分類器の設定 パラメーター抽出器 パラメーター抽出器の設定 Arxiv論文検索ツールの設定 まとめ Difyにつ

生成AIを活用した業務改善をしたいと考えても、 「セキュリティ上の懸念から会社にNGを出されている」 「ランニングコストを負担できない」 といったケースもあると思います。 そこで注目されるのが、ローカル環境で動作するLLMとツールです。 この記事では、ローカルLLM（Ollama）とローカルDifyを組み合わせて、完全にローカル（Mac）で動作するチャットエージェントを構築する方法をご紹介します。プライバシーを守りながら、業務効率を最大化するヒントをご紹介します！ ローカルLLMの利点ローカルLLMとは、クラウドに依存せず、自分のPCやオンプレミスのサーバーで動作する大規模言語モデルのことです。以下のような利点があります。 1. データセキュリティの確保企業データや機密情報を外部クラウドに送信する必要がないため、情報漏えいのリスクを最小限に抑えられます。特に、厳しい情報管理が求められるケー

by Washington State Department of Agriculture アメリカで猛威を振るうと懸念されていたオオスズメバチが、ワシントン州での3年間にわたる徹底的な駆除作戦により、ついに根絶されたことが発表されました。2019年に初めてアメリカで確認されて以来、養蜂業への深刻な脅威として警戒されてきた外来種であるオオスズメバチとの戦いに、ついに終止符が打たれることになりました。 WSDA, USDA announce eradication of northern giant hornet from the United States | Washington State Department of Agriculture https://agr.wa.gov/about-wsda/news-and-media-relations/news-releases?arti

はじめに データソリューション事業部の力岡です。 近年、大規模言語モデル（LLM）を利用する機会は増加しており、GPTやClaudeといったクローズドなモデルだけでなく、自身の環境でオープンソースのLLMを活用したいと考える人が徐々に増えてきています。しかし、その場合に課題となるのは、推論速度の遅さや計算資源の制約です。 本記事では、LLMの推論速度を大幅に向上させることができるライブラリ「vLLM」について紹介します。さらに、vLLMの主要技術であるPagedAttentionやバッチ処理手法についても簡単に解説していきたいと思います。推論速度や計算資源に課題を感じている方は、ぜひ本記事を参考にしてください。 vLLMとは vLLMは、LLMの推論を高速化するためのオープンソースライブラリで、Pythonで利用することができます。通常、LLMの推論は多くの計算資源を必要とし、その結果、応

皆さんこんにちは Acroquestのデータサイエンスチーム「YAMALEX」のチームリーダ、@tereka114です。 YAMALEXチームでは、コンペティションへの参加や自社製品開発、技術研究などに日々取り組んでいます。 大規模言語モデル（通称：LLM）は近年、非常に注目される技術となりました。 ただ、7Bや13Bといった巨大モデルのパラメータは推論時間も長時間で計算時間の面からも運用が非常に難しいです。 しかし、vLLMを使えば、高速化できます。本記事では、推論をどこまで高速化できるのかを検討したいと思います。 ※本記事はLLM・LLM活用のAdvent Calendar 24日目の記事です。 qiita.com vLLMとは？ vLLMによる高速化実践 vLLMを利用しない場合 vLLMを利用する vLLMに加えてAWQを利用して量子化する Auto Prefix Caching