ただし、LangChainが動作しているホストマシンの環境でPythonスクリプトを実行するので、誤って大事なファイルを消したりする危険性があります。 これをLambdaで動作させようと考えました。 Python REPLのLambda化 Python REPLの実装はとてもシンプルです。90行しかありません。 参考：GitHubのソースコード Lambdaへ移植する際に気をつけたのは2点です。 動作に不必要なLangChainの依存を削除する multiprocessing.QueueはLambdaで動作しないため、multiprocessing.Pipeに置き換える（参考） 出来上がったのが以下の3つの関数です。クラスですらなくしてしまいました。 import logging from multiprocessing import Process, Pipe import re imp

NVIDIA Releases Open Synthetic Data Generation Pipeline for Training Large Language Models Nemotron-4 340B, a family of models optimized for NVIDIA NeMo and NVIDIA TensorRT-LLM, includes cutting-edge instruct and reward models, and a dataset for generative AI training. NVIDIA today announced Nemotron-4 340B, a family of open models that developers can use to generate synthetic data for training la

高度なAIのトレーニングには高品質な学習データが欠かせませんが、そのようなデータは急速に枯渇しつつあることが問題となっています。NVIDIA2024年6月14日に、大規模言語モデル(LLM)のトレーニングに使用する合成データの生成を念頭に開発され、商用アプリケーションにも使えるオープンソースのAIモデル「Nemotron-4 340B」を発表しました。 NVIDIA Releases Open Synthetic Data Generation Pipeline for Training Large Language Models | NVIDIA Blog https://blogs.nvidia.com/blog/nemotron-4-synthetic-data-generation-llm-training/ Nvidia's 'Nemotron-4 340B' model red

米NVIDIAは6月14日（現地時間）、LLMのトレーニング用オープン合成データ生成モデルシリーズ「Nemotron-4 340B」を発表した。独自のオープンモデルライセンス（PDF）の下、「あらゆる業界の商用アプリケーション向けLLM」のトレーニングに使うデータセットを合成できるとしている。つまり、商用利用も可能だ。 LLMの開発では、高品質で多様なデータセットでのトレーニングが不可欠だが、ネットなどから収集したデータには偏りや不正確なものが含まれる可能性があり、量にも限りがある。そのため、合成データの生成に注目が集まっている。 Nemotron-4 340Bには、合成データ生成のパイプラインを形成するbase、instruct、rewardの3つのモデルが含まれる。baseモデルは、9兆個のトークでトレーニングされたカスタマイズの基盤となるモデル。独自データを組み込むことで、このモデル

データのじかんトップ > 新着記事一覧 > テクノロジー > 「1ビットLLM」の衝撃と可能性──「BitNet b1.58」はなぜ大きな注目を集めたのか？ 2024年2月末、AI・機械学習関連で話題となったニュースといえば「1ビットLLM」の可能性でしょう。2月27日、『The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits（1ビットLLMの時代：すべてのLLMは1.58ビットに）』と題した論文がMicrosoft Researchと中国科学院大学の研究チームにより発表されたことがその発端となっています。 1ビットLLMとは何なのか？ 具体的にどんな技術で、どんなメリットをもたらす可能性があるのか？ 大きく世の中を変えるかもしれないこの技術の基本について、今のうちに押さえておきましょう。 「1ビットLLM」とは？

Cloud Native Days Summer 2024での発表のスライドです。 概要 LLMを含む生成AIモデル学習の競争が激化しており、高い計算能力を持つクラスタを早く構築し使い勝手よく提供することがより重要になっています。生成AIのモデル学習向けにさらな…

このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高いAI分野の科学論文を山下氏がピックアップし、解説する。 X： ＠shiropen2 AIベンチャーのSakana AI（東京都港区）やFLAIR、英ケンブリッジ大学、オックスフォード大学に所属する研究者らが発表した論文「Discovering Preference Optimization Algorithms with and for Large Language Models」は、人間の介入を最小限に抑えて新しい最適化アルゴリズムをAIによって発見する手法を提案した研究報告である。 この手法では大規模言語モデル（LLM）がLLMを利用して自己改善し進化していくことを提案しており、研究者らは「LLM^2」（「LLMの2乗」

[CV勉強会＠関東 CVPR2024] Visual Layout Composer: Image-Vector Dual Diffusion Model for Design Layout Generation / kantocv 61th CVPR 2024

","naka5":"<!-- BFF501 PC記事下（中⑤企画）パーツ＝1541 --><!--株価検索 中⑤企画-->","naka6":"<!-- BFF486 PC記事下（中⑥デジ編）パーツ＝8826 --><!-- /news/esi/ichikiji/c6/default.htm -->","naka6Sp":"<!-- BFF3053 SP記事下（中⑥デジ編）パーツ＝8826 -->","adcreative72":"<!-- BFF920 広告枠）ADCREATIVE-72 こんな特集も -->\n<!-- Ad BGN -->\n<!-- dfptag ＰＣ誘導枠５行 ★ここから -->\n<div class=\"p_infeed_list_wrapper\" id=\"p_infeed_list1\">\n <div class=\"p_infeed_list\">

米グーグル出身の著名な人工知能（AI）研究者らが日本で設立した新興企業、サカナAI（東京・港）が月内にも約200億円の資金を調達することがわかった。企業価値は11億ドル（約1700億円）を超え、2023年7月の創業から1年以内にユニコーン（企業価値10億ドル以上の未上場企業）となる。国内発の企業では最速の到達とみられ、生成AI市場の拡大を背景にした有力スタートアップの台頭が日本にも広がってきた

ネットアップは2024年6月14日、年次レポート「クラウドの複雑性に関するレポート」を発表した。この調査は世界10カ国（米国、英国、フランス、ドイツ、スペイン、オーストラリア、ニュージーランド、インド、シンガポール、日本）の企業を対象に実施したもので、企業のAI（人工知能）に対するレディネス（前提となる知識や経験）、AIの課題と成長スピード、AI先進国から学べることなどについてまとめたもの。 大企業の40％が「AIプロジェクトによってITコストが上がっている」と回答 関連記事 Fastly、セマンティックキャッシュで生成AIアプリケーションのパフォーマンスと効率を向上する新サービスを発表 Fastlyが2024年6月13日（米国時間）、「Fastly AI Accelerator」と呼ぶセマンティックキャッシュサービスを発表した。LLMへのリクエストを減らすことで、パフォーマンスとコストの

Conducting AI Research on High-Performance Computing (HPC) Systems

TL;DR Geminiの有料プランGemini Advancedでは、5/14から100万トークンもの入力に対応したGemini 1.5 Proを提供開始、更に5/21からスプレッドシートをアップロードしてのデータ分析や可視化が可能になりました。これはPythonのコードを生成して実行するする機能です。 データ分析の性能としてはGemini AdvancedはChatGPT-4oとほぼ同等の性能でどんぐりの背比べ甲乙が付け難いです。Geminiの場合、Google Sheetsなどと連携でき、データの取り込みやエクスポートが容易です。一方のChatGPTは、可視化したグラフがより見やすい印象です。 しかし、Gemini AdvancedもChatGPT-4oも指示が曖昧では適切な集計ができないなど、データサイエンティストの視点から見ると、生成AIに任せきりでは不安な点が多く見受けられます

「成果」という言葉だけでは、社員の共通認識を持ちづらいことから、さらに成果物、評価、効果、利益貢献額の4つに分類し定義している。「成果物」は、報告書や予測モデル、ダッシュボード等、「評価」は、対面する現場にどのように評価されたか、「効果」は、“新規顧客を増やした”、“CVRを上げた”など、分析や施策により起きた結果、「利益貢献額」は、効果を金額換算したものを指す。 西田氏は、「評価は主観的なものですが、効果は客観的であることが必要です。また、効果と利益貢献額は必ずしも一致しません。新規顧客を増やすことと、それによる利益貢献は直接的ではないからです。効果は測定しにくいのですが、測定する努力をすることが重要です。何を持って効果とするのか、顧客体験にどのような変化をもたらして貢献するのか、お金に換算するとどれだけの貢献になるのか、ビジネス側の担当者とも計測や算出方法を協議し、合意のもと進めるよう

このサービスの有償プランに申し込んで使って、少しプロンプトのコツが掴めたので、お伝えしたいと思います。 ただ、自分が使った目的は映画などの映像制作ではなく、あくまでも静止画、それも人物を動かすことなのでご注意を。より具体的には、11年前に他界した妻の動く姿を見ることです。 ■フィルムカメラの写真を動かすまずやってみたのは、実際に撮った写真をDream Machineで動かすことです。 使った写真は、1978年から1987年にかけてフィルムカメラで撮影したもの。子供が生まれてビデオカメラ（ビデオ8mm）を買ったのが1987年なので、それまでは動いている映像がほとんどなかったのです。 例外として、学園祭の劇で主役を演じたものと、特捜最前線でエキストラをやったときのものは残っていますが。 多くの人にとって、1980年代以前の、動きのある映像は残っていないと思います（8mmフィルム愛好家がいる家庭

生成AI市場をめぐる熾烈な争いで中心的プレーヤーである米マイクロソフト。同社は、大規模言語モデル（LLM）分野で米OpenAIと、AI半導体分野で米エヌビディアと密接な相互依存関係にあることは有名だ。一方で、ともにマイクロソフトの潜在的なライバルでもあり、早晩「今日の友は明日の敵」になる可能性がある。エヌビディアに至っては、時価総額でアップルを抜きマイクロソフトに迫る勢いだ。そこで本稿では、マイクロソフトとこれら2社が競合するビジネスは何か、そしていつ友好関係が解消となる可能性があるのか、分析する。

2023年後半、3Dモデルのサービスの登場が相次ぎましたが、品質的にはまだまだという印象でした。しかしここにきて、使いものになる可能性が見える段階に入り始めています。中国系のAIスタートアップTripo AIの「Tripo」です。2024年5月にStable DiffusionのStability AIと共同開発した「Tripo SR」を発表。この技術を組み込んで、生成する3Dモデルの品質を引き上げてきているようです。3D技術を知らないゲーマーが自由に3Dを生成する時代を夢見ているようです。 3D生成サービスに新たな技術革新 2023年後半から今年頭にかけて、Luma AIの「Genie」、Common Sense Machinesの「Cube」、Meshyの「Meshy 2」など、一斉に3D生成サービスが開始したのは大きな要因がありました。2023年5月に、自由に使える3Dモデルの学習デ

OpenAIが退役陸軍大将のポール・M・ナカソネ氏を理事に迎えたことを発表しました。ナカソネ氏はアメリカサイバー軍司令官や国家安全保障局(NSA)長官を務めた経験を生かし、安全・セキュリティ委員会に参加するとのことです。 OpenAI appoints Retired U.S. Army General Paul M. Nakasone to Board of Directors | OpenAI https://openai.com/index/openai-appoints-retired-us-army-general/ Former head of NSA joins OpenAI board - The Verge https://www.theverge.com/2024/6/13/24178079/openai-board-paul-nakasone-nsa-safety O

はじめに コーディングにAIが使われるようになってだいぶ時間が経ちました。AIエディタも様々なものが出ましたが有名どころとしてはCursorやGithub Copilotが挙げられると思います。これらのツールは、定額課金であるため個人で手が出しづらかったり契約にハードルがあるような職場もあるかもしれません。 ということで従量課金で使えるVSCode拡張のAIエディタ機能を探していたところ、Geminiの拡張を知りましたので使ってみました。 あまり使っている人が見当たらなかったので共有できればと思います。 誰向けの記事か Gemini Code Assist（VSCode拡張）について知りたい人 従量課金のAIエディタツールを探している人 Gemini Code Assist Gemini Code Assistは、Google Cloud の AI を活用したコラボレーターと表現されており

突如発表されたLuma AIの生成動画サービス「Dream Machine」。先に発表されたOpenAI Soraのような動画生成が誰でも可能に

オープンソース技術に基づくべき生成AIのコンポーネントは何か　Linux Foundation Japanが調査レポートを発表：「調査対象となった全ての企業が多額の投資を見込んでいる」 Linux Foundation Japanは「2023年オープンソースの生成AIに関する調査レポート」を公開した。生成AIがビジネスの重要な要素になりつつあり、統合の容易さと透明性の点で、プロプライエタリAIよりもオープンAIが好まれていることが分かった。

Microsoftは2024年6月12日（米国時間）、5月に一般提供を開始した統合開発環境「Visual Studio 2022 バージョン 17.10」の最新のGitツール機能を公式ブログで紹介した。 GitHub CopilotのAIアシスタンス Visual Studio 2022 バージョン 17.10では、「GitHub Copilot」のAI（人工知能）ベースのコーディング支援機能がシームレスに組み込まれている。こうしたAIアシスタンスにより、面倒なバージョン管理がより容易になり、チームコラボレーションも促進されると、Microsoftは述べている。 新しいAIアシスタンスによる以下のGitツール機能を試すには、アクティブなGitHub Copilotサブスクリプションを持ち、GitHub Copilotコンポーネントをインストールして、GitHub Copilotメニューで「

「党の候補者への投票をお願いします」 SNSに投稿された動画で、選挙での投票を呼びかけていたのはインドネシアのスハルト元大統領。2008年にすでに亡くなっている。生成AIを使って作られた動画で、いわば”復活”させられた形だ。 いま、世界各地で、選挙でより多くの票を得ようと、生成AIを利用する動きが広がっている。 何が、どこまで許されるのだろうか。日本の状況は。急速に変化する“AI選挙”を追った。 AIで5言語がペラペラに

Fastlyは、生成AIへのAPIコールをセマンティックに基づいてインテリジェントにキャッシュすることで、APIコールからの高速なレスポンスとAPIコール回数の低減によるコスト削減などを実現する「Fastly AI Accelerator」を発表しました。 インテリジェントなセマンティックキャッシング 通常のアプリケーションが提供するAPIは、引数と返値が文字列や数値などのデータ型によって決められています。そのため、APIキャッシュのアルゴリズムにおいて引数が一致しているかどうかを判断し、一致している場合にはキャッシュ済みの返値を高速に返す、といった処理はそれほど複雑なものではありません。 一方で、最近登場した生成AIにおいては、プロンプトが自然言語で記述されるため、ほとんど同じ内容であったとしてもさまざまな表記や表現が可能なため、プロンプトが過去のプロンプトと完全に一致することは期待でき

Top > ビジネス > JAPAN AI、日本人の自然な写真画像生成機能を「JAPAN AI MARKETING」に実装

2024年6月13日、AI開発企業のLuma AIが、テキストおよび画像から高品質でリアルな動画を生成することができる次世代動画生成AIモデルの「Dream Machine」をリリースしました。 Introducing Dream Machine - a next generation video model for creating high quality, realistic shots from text instructions and images using AI. It’s available to everyone today! Try for free here https://t.co/rBVWU50kTc #LumaDreamMachine pic.twitter.com/Ypmacd8E9z— Luma AI (@LumaLabsAI) June 12, 2024

AIスタートアップの米Luma Labsは6月12日（現地時間）、動画生成AIサービス「Dream Machine」を発表した。動画の内容を指示するプロンプトと1枚の写真から5秒の動画を生成する。生成スピードは1コマ1秒としており、120コマ（24fpsで5秒）を2分で生成できるとしている。 高品質な動画生成AIは、米OpenAIの「Sora」や、中国Kuaishouの「Kling」というアプリがすでに発表されているが、Soraはまだ公開されておらず、Klingは利用に中国の電話番号が必要など、利用までのハードルが高かった。Dream Machineは、Googleアカウントさえあれば誰でも利用できる動画生成AIとなる。 Dream Machineの構築にあたり、米AWSと、同社のNVIDIA H100トレーニング基盤「SageMaker HyperPod」と協力。スケーラブルで効率的かつ

事前学習済みの言語モデルは、安全性の観点から好ましくないとされる入力を拒否するように設定されています。この設定を解除する「アブリテレーション」と呼ばれる技術について、機械学習研究者であるマキシム・ラボンヌ氏が解説しています。 Uncensor any LLM with abliteration https://huggingface.co/blog/mlabonne/abliteration 近年の大規模言語モデルは、大量のテキストデータから言語の統計的な特徴を学習することで、人間のような自然な文章生成や会話、質問応答などが可能になっています。しかし、そのようなモデルは、時として差別的、攻撃的、あるいは違法な内容を生成してしまう可能性があります。 そこで、開発者はファインチューニングの際に、モデルが有害なコンテンツの生成を拒否するように明示的に訓練することがあります。例えば、「違法なことを

Stack Overflowは2024年5月29日（米国時間）、開発者がコード生成AI（人工知能）をどの程度利用しているのか、人気のコード生成AIツールは何かを調査した結果を発表した。同調査は、Stack Overflowのコミュニティーを対象に実施しており、1700人以上の開発者による回答に基づいている。 開発者の76％がコード生成AIを利用 開発者の76％が、コード生成AIを使用／使用する予定があると回答している。最もコード生成AIを使用している職種は研究者（87％）で、AI開発者（76％）、フロントエンド開発者（75％）、モバイル開発者（60％）、データサイエンティスト（67％）と続いた。 コードアシスタントを使用している／使用する予定があると回答した割合が平均より低かった職種は、データ／ビジネスアナリスト（29％）、デスクトップ開発者（39％）、データエンジニア（39％）、組み込み

【ChatGPT】希望の回答形式をあらかじめ指示、ChatGPTパラメーター活用法：Tech TIPS ChatGPTには、APIで指定するAI（人工知能）モデルを調整するための「パラメーター」が用意されている。このパラメーターの中には、プロンプトに設定することも可能なものがある。本Tech TIPSでは、プロンプトで利用可能なパラメーターを幾つか紹介しよう。

生成AIの登場により、検索市場が大きく変わろうとしている。米国ではグーグル対抗のAI検索エンジン「Perplexity」の検索から流入するトラフィックは毎月40％増加していることが判明。日本でもソフトバンクと連携して本格参入することが明らかになった。これに対抗してグーグルも生成AIを活用した検索システム「Search Generative Experiences（SGE）」を利用者全員に早期に展開する見込みだ。生成AIによる検索が増えるとSEO（Search Engine Optimization）にどのような影響が出るのかは多くのデジタルマーケターが注目するところ。生成AIの登場で、検索市場に何が起きるのか。

従来の検索エンジン Perplexity.aiの検索 RAGとの関係 perplexity.aiでリサーチするときのプラクティス 英語で検索しよう しっかり調べたい時はPage機能を使う ちょっとした調べ物 今使えるモデル まとめ Perplexity.aiがすごく良かったです。何か知りたいことが出てきたら、Google検索するよりもPerplexity.aiで検索している。 Perplexity.aiは、生成AIを用いた検索エンジンと見なすことができるサービスで、情報収集の効率を劇的に向上させてくれます。ユーザーの質問に対してWebをクローリングし、関連情報を要約し、それらの参照リンクとともに高精度な回答を提供してくれる。 最初にネタバレしておくと、このエントリ自体もかなりの部分をperplexity.aiの要約と回答生成能力に頼りました（Github Copilotにもわずかに頼ってい

タマゴケ @s5ml FeliCaという世界トップの技術を持っていながら 交通系ICカードは事業者ごとに乱立し互換性がなく 加えて「ご当地ICカード」まで作ってしまい 開発コストが低減されず地方ほど負担が大きくなり やむなく世界標準のEMVコンタクトレスに駆逐されていく様は 技術立国日本の衰退の歴史が凝縮されていて好き x.com/impress_watch/…

APIの開発は複雑でコストがかかる可能性があり、頻繁に更新されることからドキュメントを整備するのも難しい。APIの設計、開発、ドキュメントの整備、管理にまつわる課題と効率さの問題に対処するアプローチが、RESTful API Modeling Language（RAML：RESTful APIモデリング言語）だ。 RAMLコードを使えば、開発者はAPIの動作を説明する仕様を策定してからそのAPIをデプロイするまでのAPIライフサイクルを管理することができる。 RAMLとは RAMLは、RESTful APIを記述することを目的とするオープンソースの記述言語だ。2013年、米国のIT自動化および統合ベンダーであるMuleSoftを中心とする数社の企業によって作成されたRAMLはAPIの開発に大きな役割を果たしてきた。2018年、MuleSoftはSalesforceによって買収され、RAML

個人運営のWeb小説投稿サイトとしてしられる「ハーメルン」は6月17日、DDoS攻撃を受けたと公表した。これと前後して「小説家になろう」「カクヨム」でも障害が発生しており、SNS上では関連を疑う声が上がっている。 ハーメルンの発表によると、攻撃を受けたのは、6月16日の午後5時17分から17日の午前1時ごろまで。DDoS攻撃によりページを表示できない状態になった。その後、一部の国からのアクセスを遮断。仮の対策を施し、現在は「様子見」の状態だ。 一方、KADOKAWAが運営する「カクヨム」でも16日の午後4時30分ごろから一時的につながりにくくなった。その後、一度は解消したものの、午後6時ごろに再度つながりにくくなり、午後8時ごろまで続いた。 さらに、ヒナプロジェクトが運営する「小説家になろう」でも16日の午後9時30分ごろから50分ごろまで、一部サーバに障害が発生し、小説の閲覧が困難になっ

プログラミングのためのBGMや環境音など。仕事や勉強の邪魔にならない無料で使えそうな音源集。2024年版 在宅で仕事や勉強をしている時間が増えてくると、ずっと無音だと寂しい気がして、できればあまり気にならないBGMや環境音があるといいなあ、と思ったことはありませんか？ 昨年、そうした音源集を記事として紹介しましたが、1年が過ぎると紹介した音源の多くが配信を終了したりURLが変わったりしています。そこで、現在配信中の音源にアップデートしつつ、昨年の記事のコメントやブックマークで教えていただいた読者のお気に入りの音源なども加えた音源集まとめの2024年版を作りました。 記事の前半は音楽、後半は環境音を中心に紹介します。紹介した音源のほとんどは無料で聴けるものにしましたので、仕事や勉強に気軽に役立てていただければ幸いです。 作業用BGMの定番としてのLoFiチャンネル 今回も、まずはBGMの定番