AI（人工知能）は、可観測性（オブザーバビリティ）市場でも注目を集めている。だが、米国シカゴを拠点とする電子情報開示SaaS企業のReveal Dataは、AI機能を搭載しないオブザーバビリティ製品を導入したという。 Reveal Dataが、AIの価値を全く知らないというわけではない。Reveal Dataのソフトウェアには複数の機械学習モデルが組み込まれており、自社の顧客向けにAIモデルライブラリも提供している。だが、2021年に同社に入社し、同社のSRE（Site Reliability Engineering）プラクティスの構築を任されたスティーブン・モントーヤ氏は、別の道を選択した。 「『AIで予測分析をする』というと聞こえは良いが、それを進めるには膨大なコンピューティング能力と大量のデータが必要になる。もっとシンプルなのは、統計分析をするソリューションだ。必ずしもAIが必要なわ

はじめまして。株式会社ナレッジセンスの門脇です。普段はエンジニア兼PMとして、「社内データに基づいて回答してくれる」チャットボットをエンタープライズ企業向けに提供しています（一応、200社以上に導入実績あり）。ここで開発しているチャットボットは、ChatGPTを始めとしたLLM（Large Language Models）を活用したサービスであり、その中でもRAG（Retrieval Augmented Generative）という仕組みをガッツリ利用しています。本記事では、RAG精度向上のための知見を共有していきます。 はじめに この記事は何 この記事は、LlamaIndexのAndrei氏による『A Cheat Sheet and Some Recipes For Building Advanced RAG』[1]という記事で紹介されている「RAGに関するチートシート」について、And

はじめまして。株式会社ナレッジセンスの門脇です。普段はエンジニア兼PMとして、「社内データに基づいて回答してくれる」チャットボットをエンタープライズ企業向けに提供しています（一応、200社以上に導入実績あり）。ここで開発しているチャットボットは、ChatGPTを始めとしたLLM（Large Language Models）を活用したサービスであり、その中でもRAG（Retrieval Augmented Generative）という仕組みをガッツリ利用しています。本記事では、RAG精度向上のための知見を共有していきます。 はじめに この記事は何 この記事は、LlamaIndexのAndrei氏による『A Cheat Sheet and Some Recipes For Building Advanced RAG』[1]という記事で紹介されている「RAGに関するチートシート」について、And

はじめまして。株式会社ナレッジセンスの門脇です。普段はエンジニア兼PMとして、「社内データに基づいて回答してくれる」チャットボットをエンタープライズ企業向けに提供しています（一応、200社以上に導入実績あり）。ここで開発しているチャットボットは、ChatGPTを始めとしたLLM（Large Language Models）を活用したサービスであり、その中でもRAG（Retrieval Augmented Generative）という仕組みをガッツリ利用しています。本記事では、RAG精度向上のための知見を共有していきます。 はじめに この記事は何 この記事は、LlamaIndexのAndrei氏による『A Cheat Sheet and Some Recipes For Building Advanced RAG』[1]という記事で紹介されている「RAGに関するチートシート」について、And

The Artificial Intelligence Controller Interface (AICI) lets you build Controllers that constrain and direct output of a Large Language Model (LLM) in real time. Controllers are flexible programs capable of implementing constrained decoding, dynamic editing of prompts and generated text, and coordinating execution across multiple, parallel generations. Controllers incorporate custom logic during t

Googleが2024年2月に発表した大規模言語モデル（LLM）「Gemini 1.5」の強みの一つに、12万8000トークンのロングコンテキストウィンドウがある。コンテキストウインドウは、モデルが一度に処理できるトークン（単語、画像、動画の一部など、最小の構成要素）の数を示す。 Googleは2024年2月16日（米国時間）、Gemini 1.5で実装したロングコンテキストウィンドウと、それが開発者にどう役立つのかを公式ブログで紹介した。 コンテキストウィンドウの重要性 コンテキストウィンドウが重要なのは、AIモデルがセッション中に情報を思い出すのに役立つからだ。チャットbotが数ターン後に情報を「忘れる」ケースは多い。そのようなときにロングコンテキストウィンドウが役立つ。 Geminiは以前のバージョンで一度に最大3万2000トークンを処理することができたが、「Gemini 1.5 P

こちらの記事はもちろんClaude3Opusによる生成が80%を占めています。 はじめに こんにちは！今日は、私が最近作成したPythonプロジェクト「claude3-video-analyzer」 について紹介したいと思います。 このプロジェクトは、Anthropic社のClaude-3モデルのマルチモーダル機能を利用して、MP4形式の動画をプロンプトに基づいて解析するものです。 世界初？ Claude-3はまだリリースされたばかりの最新のAIモデルですが、そのマルチモーダル機能を活用した動画解析の実装は、おそらく世界初ではないでしょうか。 私が知る限り、他に同様のプロジェクトを見たことがありません。 このプロジェクトはGPT4Visionのように動画を解析でき、Claude-3の可能性を探る一つの試みであり、今後の発展に期待が持てます。 使用例 prompt この画像シーリズは、日本の

このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 米Google DeepMindなどに所属する研究者らが発表した論文「Stealing Part of a Production Language Model」は、米OpenAIのGPT-4や米GoogleのPaLM-2などのクローズドな大規模言語モデル（LLM）から、モデルの一部を盗み出す攻撃を提案した研究報告である。言語モデルのAPIへのクエリを通じて、低コストでモデルの内部構造に関する情報を抽出することに成功した。 GPT-4やPaLM-2などの最先端AIモデルは、APIを通じて一般ユーザーに提供されているが、内部構造や学習に使用され

「AI開発をリードするということは、ハードウェアインフラへの投資でリードするということ」として、MetaがAIのための投資として行っている、2万4000基以上のGPUを搭載したデータセンタースケールのクラスターの情報を明らかにしました。 Building Meta’s GenAI Infrastructure - Engineering at Meta https://engineering.fb.com/2024/03/12/data-center-engineering/building-metas-genai-infrastructure/ Meta reveals details of two new 24k GPU AI clusters - DCD https://www.datacenterdynamics.com/en/news/meta-reveals-details-o

これは便利！「Stable Diffusion」が超簡単に始められる「Stability Matrix」 複数のUI環境のインストールや更新がワンクリックで可能に 画像生成AI「Stable Diffusion」をブラウザーで使うために必要なのがUI環境。筆者が入門したときは「Stable Diffusion WebUI（AUTOMATIC1111版）」しか選択肢がなかったが、現在は「ComfyUI」「Fooocus」「Stable Diffusion WebUI Forge」など様々な種類が出ている。 これらは基本的に別のアプリケーションなので、それぞれ環境設定・インストールをする必要があり、パソコンの中に複数の環境が乱立しがちだ。 さらに、これらのUIで利用するモデル（Checkpoint）やVAE（高画質化ツール）、LoRA（追加学習モデル）などもUIごとに必要になる。シンボリックリ

We are inspired by the results of our second Copilot for Security economic study, which shows that experienced security professionals are faster and more accurate when using Copilot, and they overwhelmingly want to continue using Copilot. The gains are truly amazing: Experienced security analysts were 22% faster with Copilot. They were 7% more accurate across all tasks when using Copilot. And, mos

アメリカの日刊紙であるニューヨーク・タイムズは2023年12月に、ChatGPTが自社の記事をコピーしてほとんどそのまま出力したとして、OpenAIを著作権侵害で提訴しました。OpenAIは、「ニューヨーク・タイムズは意図的に不具合を引き起こしてChatGPTが記事をコピーしているように見せている」と反論していましたが、これに対してニューヨーク・タイムズが「不具合を起こさせたのではなく、ChatGPTが有料記事を盗用した証拠である」と再反論しました。 NYT to OpenAI: No hacking here, just ChatGPT bypassing paywalls | Ars Technica https://arstechnica.com/tech-policy/2024/03/nyt-disputes-openai-hacking-claim-by-pointing-to-

世田谷区が、職員用のチャットツールを使ってChatGPTに質問できるbot「Hideki」（ヒデキ）を内製で開発し、1月から全職員に提供している。非エンジニアの職員チームが、ローコードツールなどを駆使して3カ月で完成させたという。生成AI活用の支援などを手掛けるクラウドネイティブが3月12日に発表した。 Microsoft Azure OpenAI Serviceを活用。職員が普段から使っているTeamsのチャットツールでヒデキに質問でき、ChatGPTを業務に活用できる。 文章校正やWord／Excel操作に関する疑問の解消、アイデアの壁打ちなどに活用されているという。利用した職員127人に聞いたところ、「生産性の向上を実感した」人が73％に上り、通常業務で1日平均約34分削減、アイデアや企画の素案作成は、1回当たり平均約77分削減できたいう。 非エンジニアチームが兼務で開発、3カ月で完

Published 2024/03/13 20:59 (JST) Updated 2024/03/13 21:15 (JST) 【ブリュッセル共同】EU欧州議会は13日の本会議で、チャットGPTなど生成AIを含む世界初の包括的なAI規制法案を可決した。26年から適用の見通し。企業に生成AIで作成した画像の明示などを義務付け、違反時には巨額の制裁金を科す。背景にはAIの人権に与える負の影響への危機感があり、EUルールの世界標準化を目指す。 加盟国で構成する理事会が近く承認し、成立する見通し。 企業が違反した場合、最も重いケースで3500万ユーロ（約56億円）か、年間売上高の7％のいずれか高い方が制裁金として科される。EU域内で活動する外国企業も対象となる。 法案は社会的行動や個人の特徴に基づき信用の格付けをするソーシャルスコアリングのほか、宗教や性的指向、人種を利用した分類システムへのAI利

【読売新聞】　【ブリュッセル＝酒井圭吾】欧州連合（ＥＵ）の欧州議会は１３日、フランス東部ストラスブールで本会議を開き、人工知能（ＡＩ）の開発や運用を規制するＡＩ法の最終案を可決した。加盟国で作るＥＵ理事会は既に承認しており、世界で初