2023年9月27日の最新情報に合わせて改訂しました（最初の公開は2020年3月17日）。主にGPUが選択可能になった点とColab Enterpriseの情報を追記し、全ての利用パターンで再検証して全面的に最新の内容にアップデートしました。 機械学習／データサイエンス分野で特に人気の（Pythonなどの）実行環境であるGoogle Colaboratory（以下、Colab）は無償で使えるものの、無制限ではない。実行時間やメモリ容量などに制限がある。こういった制限を低減する有償プロ版「Colab Pro」が2020年3月に発表され、米国とカナダのみで申し込みできる状況だったが、それから1年後の2021年3月19日以降、日本でも申し込み可能になった（図1）。さらに、より強力な有償プロプラス版「Colab Pro+」が2021年8月に発表され、同日から日本でも申し込み可能になり、その約1年後

You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert

はじめに こんにちは。Kagglerの 中間 と 若月 です。業務では主に人材領域でのレコメンドシステムの改善に取り組んでいます。 この記事では、レコメンドシステムにTwo-Towerモデルと近似最近傍探索による候補生成ロジックを導入することで、精度とコストを改善することに成功したので、その取り組みについて紹介します。 背景 導入したロジックについて説明する前に、まず既存のレコメンドシステムについて簡単に説明します。 既存のレコメンドシステムでは、ユーザとアイテムについてルールベースによる候補生成を行った後、機械学習モデルを用いてスコアを付与し、スコア順にユーザに推薦するアイテムを選択していました。 しかし、ルールベースによる候補生成はベースラインとしてはよいものの、性能改善には限界があり、ルールベースが複雑になればなるほど計算コストもかかるようになっていきます。 そこで、性能改善がしやす

AAAI2023「Are Transformers Effective for Time Series Forecasting?」と、HuggingFace「Yes, Transformers are Effective for Time Series Forecasting (+ Autoformer)」の紹介です。Read less

IBM と NASA の「Largest Geospatial AI」とは？ 複数衛星のデータ融合と衛星基盤モデルによる先端技術の利用とその Python実装 はじめに 近年のコンピュータービジョンの発展は凄まじく、またたく間に新しい手法やサービスが出てきています。衛星画像のデータも２次元画像形式のデータとして扱わせることが多く、その恩恵を受けています。 衛星データも豊富になってきた現在では、コンピュータービジョンの著しい進化に加えて、衛星独自の特性を活かした論文が出てきました。なかでも、「基盤モデル」と呼ばれる、個別の学習なしで、様々な問題に柔軟に対応できる機械学習モデルの紹介と、実装例をご紹介します。 基盤モデル 基盤モデル(Foundation Model)とは、大量データで一般的な特徴を学習したモデルのことです。人間で言う「常識」のような概念を獲得できます。特に近年、それを印象付け

「いらない人やモノ」だけを映像からキレイに消す技術「ProPainter」　シンガポールの研究者らが開発【研究紹介】 2023年10月2日 シンガポールの南洋理工大学に所属する研究者らが発表した論文「ProPainter: Improving Propagation and Transformer for Video Inpainting」は、動画内の指定した不要な動く物体を後から編集で消す技術を提案した研究報告である。これは、動画の欠損部分を修復するビデオインペインティングという技術を用いて、あたかも存在しなかったかのように除去するものである。 ▲左が入力動画。右が車だけを消した出力結果。車から出る煙は消えていないのが確認できる。 ▲上段が入力動画。下段が歩行する女性を消した出力結果。 keyboard_arrow_down 研究背景 keyboard_arrow_down 研究内容 k

YOLOv8でナンバープレートを検出してAI-OCRで読み取ってみました。 〜ファインチューニングに使用したデータは、撮影した写真ではなく、Pythonで生成した画像（30,000枚・192,000アノテーション）です〜 1 はじめに CX 事業本部 delivery部の平内（SIN）です。 最近は、精算が終わっていれば、出口のゲートが自動的に開いてスムーズに退場できる駐車場をよく見かけます。これは、出入口のカメラでナンバープレートを読み取って、駐車券と紐づけることで実現されているサービスだと思いますが、非常に体験の良いシステムだと感動しています。 ナンバープレートの読み取りを軽易に行うことができれば、この他にも色々と気持ちいいサービスが作れるのでは？と思っています。 という事で、今回は、ナンバープレートの読み取りを試してみました。最初に動作している様子を御覧ください。 写真からナンバープ

こんにちは、AWS事業本部の荒平(@0Air)です。 待望のAmazon Bedrockが2023年9月末にリリースされました。 色々触ってみる中で、画像生成はやっぱり複数枚をワンクリックで同時にできたらいいな〜と思ったので、Lambdaでスクリプトを動かして、生成した画像をS3に保管するまでの流れを試してみました。 構成図 作ってみた構成です。まずはシンプルに。 LambdaからBedrockにプロンプトを提供し、生成した画像をS3バケットへ保存します。 やってみた ★ この手順は、Stability AIの「Stable Diffusion XL」モデルがアカウントで有効になっていることが前提です。 1. Lambda関数の準備 まずは、動作環境の準備が必要です。以下記事の通り、Python 3.11の組み込みboto3のバージョンは、執筆時点でBedrock非対応バージョンのため、レ

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article?

こんにちは、機械学習チーム YAMALEX の駿です。 YAMALEX は Acroquest 社内で発足した、会社の未来の技術を創る、機械学習がメインテーマのデータサイエンスチームです。 （詳細はリンク先をご覧ください。） 今回は2023年9月28日に GA となった Amazon Bedrock の紹介と使ってみた感触をお伝えします。 1. Amazon Bedrock とは 2. 利用可能なモデル 3. Anthropic Claude V2 を使ってみた 3.1. Claude とは 3.2. Playground 3.3. 追加設定 4. まとめ 1. Amazon Bedrock とは Amazon Bedrock （以下、 Bedrock ）は AWS 上で使える、大規模言語モデル（ LLM ）の基盤モデルを提供する完全マネージド型サービスです。 2023年9月28日に GA

AWS、API経由で生成AIを利用する「Amazon Bedrock」正式リリース。コード生成AIのCodeWhispererのカスタマイズも可能に Amazon Web Services（AWS）は、API経由で生成AIなどの基盤モデルが提供される新サービス「Amazon Bedrock」の正式リリースを発表しました。 生成AIなどを実現する基盤モデルをマネージドサービスとして提供する機能は、Microsoft Azureが「Azure OpenAI」で、Google Cloudが「Vertex AI」で提供しています。Amazon Bedrockはこれら生成AIの本格的な競合サービスといえるでしょう。 Amazon Bedrockが提供する基盤モデルを利用することで、生成AIを用いたテキストの生成やテキストの要約、チャットボット、画像生成、検索、パーソナライズなどの機能を構築できます。

AWSのサービスとも連携可能で、例えば監視ツール「Amazon CloudWatch」と連携すれば利用状況を可視化できるという。ただし、ユーザーのデータベースと生成AIを直接接続する機能などは引き続きプレビュー版のまま提供する。 関連記事 AWSが生成AIに本格参入　テキスト生成、文章要約、画像生成など　API経由で利用できる「Amazon Bedrock」発表 AWSが生成AIに本格参入。API経由で生成AIを利用できる「Amazon Bedrock」を発表した。現在は利用申し込み受付中。今後数カ月を経て広範囲に展開していくという。 AWS、生成AIの活用支援に140億円投資　新プログラム始動 米AWSが、顧客による生成AIの構築・活用を支援するプログラム「AWS Generative AI Innovation Center」を発表。1億ドル（約140億円）を投じ、生成AIによるサービ

G-gen 又吉です。LangChain とは、大規模言語モデル (LLM) を効率よく実装するために使用するフレームワークです。 当記事では LangChain を用いて、Google Cloud (旧称 : GCP) の LLM である PaLM 2 を操作する基本的な方法をご紹介します。 はじめに Vertex AI PaLM API LLM 開発の課題 学習コスト 入力トークン制限 事実と異なる回答 最新情報に対応していない 準備 環境構築 ライブラリの準備 ユーティリティ関数を定義 各 AI モデルを初期化 LangChain とは 概要 Models 概要 LLMs Chat model Text Embedding Model Memory 概要 ConversationBufferMemory Prompts 概要 Prompt Template Output Parser

Let’s see a brief description of the columns of our dataset: age (numeric)job : type of job (categorical: “admin.” ,”unknown”,”unemployed”, ”management”, ”housemaid”, ”entrepreneur”, ”student”, “blue-collar”, ”self-employed”, ”retired”, ”technician”, ”services”)marital : marital status (categorical: “married”,”divorced”,”single”; note: “divorced” means divorced or widowed)education (categorical: “

関連研究 LLMの出力から誤り（ハルシネーション）を減らす新手法『CoVe（Chain-of-Verification）』と実行プロンプト 推論能力をさらに強める戦略『AoT』で、LLMが「直感」に似た能力を示すようになった メタ認知をさせてLLMの能力を上げる手法「メタ認知プロンプティング」 従来の課題と背景 LLMの推論能力の限界 大規模言語モデル（LLM）は、短い質問や単純なタスクに対してはゼロショットで高い性能を発揮しますが、ステップバイステップの推論が必要な長い質問や複雑なタスクに対しては、通常はその性能に限界があります。複数の前提条件や仮定に基づいて論理的に推論する必要がある場合、LLMはしばしば不正確な結論に至ることがあります。 CoTフレームワークの限界と利点 Chain-of-Thought（CoT）フレームワークは、このような複雑な問題に対する一つの解決策として提案され

9/28の #日本CTO協会 さんのイベントで登壇した資料を公開しました。 「ChatGPTの10ヶ月と開発トレンドの現在地」 開発のトレンドの最新情報をざっくり纏めています。 ・Prompt Engineering開発の現在地 ・RAG開発の現在地 ・Plugin開発の現在地 ・GPT-V…

日本語のページをブラウザで見ているとおかしな位置で改行されることが多いのですが、単語と単語の間にスペースを入れる英語などと異なり、日本語では分かち書きがされていないのが原因。単語の途中で文章が折り返されてしまう原因になっています。BudouXは機械学習モデルを利用して容量を抑えつつ、サードパーティーのAPIやライブラリに依存せずに分かち書きを行ってくれるオープンソースライブラリなので、読みやすい改行が実現できます。 Google Developers Japan: BudouX: 読みやすい改行のための軽量な分かち書き器 https://developers-jp.googleblog.com/2023/09/budoux-adobe.html BudouXの使用イメージは下図の通り。従来は画面幅によっては「最先端」や「テクノロジー」などの単語の途中で改行が行われてしまう事がありましたが、

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 本記事は日本オラクルが運営する下記Meetupで発表予定の内容になります。発表までに今後、内容は予告なく変更される可能性があることをあらかじめご了承ください。下記セッションでは、本記事の内容以外にデモンストレーションも実施する予定です。 ※セミナー実施済の動画に関しては以下をご参照ください。 はじめに 2022年暮れ、ChatGPTの登場以降、あらゆる企業がDXの在り方を問われはじめ、大規模言語モデルの仕組みをどのように業務に取り入れるかを検討されていると思います。 その検討の一つとして、「GPT(LLM)が学習していない企業内のデータ

今回も導入方法などは説明しないので、まだ環境が用意できていない方は本家リポジトリのREADMEを参考にしてください。 オプション下記のコードを実行することで設定ファイルを開きます。これから説明するオプションは、このファイルかpythonコードに記載してください。 interpreter --config# config.yaml system_message: | You are Open Interpreter, a world-class programmer that can complete any goal by executing code. First, write a plan. **Always recap the plan between each code block** (you have extreme short-term memory loss, so you

ジェネレーティブAIへの注目が集まる中、同分野のスタートアップに対する投資も急増している。dealroom.coによると、現在ジェネレーティブAI分野のスタートアップの合計評価額は、2020年比で6倍増加し、480億ドルに達した。 dealroom.coは、ジェネレーティブAI市場を複数のセグメントに分類しているが、その中でも最大規模を誇るのが「General Intelligence/model makers」で、この分野におけるスタートアップの合計調達額は149億ドルに達している。 この分野にはいわゆる「基盤モデル」を開発するスタートアップが複数含まれており、ジェネレーティブAI領域の中でも特に注目される存在となっている。 その筆頭は、ChatGPTの開発企業として知られるOpenAIだ。さらには、OpenAIの元研究者らが立ち上げたAnthropic、アルファベット傘下のAI企業ディ

2014年から先端テクノロジーの研究を論文単位で記事にして紹介しているWebメディアのSeamless（シームレス）を運営し、執筆しています。 1週間分の生成AI関連論文の中から重要なものをピックアップし、解説をする連載です。第14回目は、3Dモデル生成のための高速化手法、画像を含むネット記事を量産できる生成AIなど、5つの論文をまとめました。 生成AI論文ピックアップ画像1枚から高速で3Dモデルを生成「DreamGaussian」　バイドゥ含む研究者らが開発> OpenAI「CLIP」を真似て超えた、文章と画像を理解するオープンな手法「MetaCLIP」　Meta含む研究者らが開発 ネット記事を量産する生成AI「InternLM-XComposer」　一文入力だけで画像とテキストが混じった記事を自動生成 テキストから動画を効率よく高品質に生成する新モデル「Show-1」　シンガポールの研

JENNY Ⅱ @k_a_r_t_ 今日は次男坊と一緒にBingのImage Creatorでお絵かき。サトシどこ行った？ 「ピカチュウとサトシがレストランで仲良く食事しているところ。他のテーブルのお客さんにはピーチ姫やスーパーマリオがいる」 pic.twitter.com/yBWkje1Pke 2023-09-30 13:16:04 Lamron🖇Ｘｆｏｌｉｏと🅱lueskyに行こう @lamrongol Bing Image Creatorについて任天堂最強法務部に同じIPアドレスから通報すると「一人が騒いでるだけ」っぽくなってしまうので、各自オリジナリティのある文面で通報お願いします。なお以下の文面はBing AIに生成してもらいました。-> お問い合わせ｜サポート情報｜Nintendo nintendo.co.jp/support/inquir… pic.twitter.com

ChatGPTの事前学習データの使用料をめぐって、ニューヨーク・タイムズがOpenAIを訴えました。これは、情報の価値がどのようにして生じるかという問題の基本に関わるものであり、生成AIの将来に大きな影響を与えます。しかし、簡単に答えが出るものではありません。 裁判の結果次第ではChatGPTが成り立たない 米紙ニューヨーク・タイムズは、ChatGPTの開発者であるOpenAIに対して、事前学習のデータの利用に関して支払いを求める訴訟を起こしました。 この問題は、「情報や知識に関する社会的制度をどう構築するか？」という問題の本質に関わっており、大変重要です。 最初にこれまでの経緯を見ると、ニューヨーク・タイムズはその記事を無断でAIの訓練に用いることを禁止しています。したがって、OpenAIが事前学習でニューヨーク・タイムスの記事を使っていないと証明できない限り、罰金を言い渡されることにな

Apple元最高デザイン責任者のアイブ氏、「人工知能のiPhone」を作ることを視野 2023 9/29 先日、Appleで最高デザイン責任者を務めたジョナサン・アイブ氏が、人工知能（AI）チャットボットChatGPTの開発元のOpenAIのサム・アルトマン最高経営責任者（CEO）と、次世代のAIハードウェアについて話し合ったと報じられました。今回、そのデバイスに関するさらなる詳細が明らかになりました。 ■3行で分かる、この記事のポイント 1. ジョナサン・アイブ氏とOpenAIのコラボハードウェアに関するさらなる詳細がわかった。 2. 音声ベースのデバイスとなる可能性があるという。 3. まだ正式にベンチャーは発表されておらず、ハードウェア製作には少なくとも数年は要する見通し。 OpenAIからLoveFromにアプローチ 英Financial Timesが伝えたところによれば、Open

※当noteで掲載しているワークフローについては各記事公開時点のComfyUI環境で動作を確認しています。その後のComfyUI/カスタムノードのアップデートにより最新の環境では不具合が生じる可能性があるので、あらかじめご了承ください。 このnoteは、いま注目されているAI動画生成ツール「AnimateDiff」のハウツーをまとめた初心者ガイドです。 「AnimateDiff」は2023年7月に公開されたオープンソースの技術で、誰でも無償で利用することができます。AnimateDiffについては以下の記事が参考になります。 導入編1. ComfyUI のすすめ「AnimateDiff」は、単体では細かなコントロールが難しいため、現時点では以下のパッケージのどれかを選んで使うことが多いです。 AnimateDiff-CLI-Prompt-Travel コマンドラインでAnimateDiff

9月5日、キャラクターと会話するタイプのAIチャットサービス「AI lain」が登場しました。ユーザーはアニメ「serial experiments lain」主人公、岩倉玲音（いわくられいん）との会話を楽しめます。利用料金は月額20ドルから。無料で10回まで試用可能です。 serial experiments lainは1998年に登場した、アニメとゲームが同時進行するメディアミックス作品。インターネット時代に揺らぐ個人のアイデンティティーのあり方をテーマにした作品はカルト的な人気を得て、現在でもネットミームとして世界中に知られています。 AI lainは、物語に登場するコンピュータネットワーク端末「NAVI」（ナビ）をイメージした画面上で玲音とチャットができるという、原作に忠実な世界観を再現。音声にも声優の清水香里さんの当時の音声を学習させたものを使用しています。 玲音と会話を進めるに

ウェブメディアが生成AI（人工知能）を使って書いた記事が、他の報道機関の記事からの盗用だったとして、公開が取り消された。ChatGPT（チャットGPT）に使われている言語モデルをベースに作ったシステ…

開発者が脆弱性の対処に費やしている時間は全体の7％　GitLab：「セキュリティ担当者は生成AIのせいで仕事が増えると懸念している」 GitLabは、全世界で実施したDevSecOpsに関する調査のレポート「ソフトウェア開発におけるAIの現状」を発表した。回答者の4割が「AIはセキュリティ面で大きなメリットをもたらしている」と考えていた。

Image credit: Andreessen Horowitz ＜ピックアップ＞ How Are Consumers Using Generative AI? 「ChatGPT」はローンチから9ヶ月で、コンシューマ向けアプリとしては最速で月間アクティブユーザ1億人を達成し、ジェネレーティブ AI の新時代を切り開いた。Web3 を楽観視してきた Andreessen Horowitz（a16z）は、仮想通貨やブロックチェーンに長らく投資してきただけでなく、近年は AI 分野への投資も強化している。 a16z はトラフィック分析ツール「Similarweb」のデータを使い、今年6月現在、世界のジェネレーティブ AI 製品トップ50を月間ページビューでランキングし、その成長動向とトラフィック流入源を調査することで、ChatGPT 以外のジェネレーティブ AI 製品と消費者がどのように接して

9月29日、デル・テクノロジーズが報道関係者向けに生成AI関連の勉強会を行った。そこでは同社でAI関連の業務を担うシニア・ビジネス開発マネージャ AI Specialist CTO Ambassadors 増月孝信氏と、Data Centric Workload & Solutions 山口泰亜氏が登壇した。 勉強会に登壇したデル・テクノロジーズ シニア・ビジネス開発マネージャ AI Specialist CTO Ambassadors 増月孝信氏（左）と、デル・テクノロジーズ Data Centric Workload & Solutions 山口泰亜氏（右） ビジネスとしての人工知能　デルのAI戦略とは 増月氏はこれまでの人工知能の歩みを振り返りつつ、「2000年代までは、人工知能をやっていますとお伝えすると、白い目で見られる場合もあったが、機械学習～ディープラーニング（の技術発展）が

コンテンツブロックが有効であることを検知しました。 このサイトを利用するには、コンテンツブロック機能（広告ブロック機能を持つ拡張機能等）を無効にしてページを再読み込みしてください。 ✕

写真を撮影していると「写真Aは人物の顔が見切れて、写真Bは顔が写ったけど逆光で暗すぎる」といったようにベストショットを撮影できないことがよくあります。Googleとコーネル大学の研究チームが開発したAI「RealFill」を使えば、複数の失敗写真をもとにベストショットを後から作り出せるとのことです。 RealFill https://realfill.github.io/ RealFillによる処理例はこんな感じ。以下の画像の左側が処理に用いる参考画像で、右側が参考画像をもとに生成されたベストショットです。参考画像には全身画像や背景が写る写真が含まれており、それぞれの要素をもとにベストショットが生成されています。 以下の例では、参考画像に「逆光ではないものの狭い写真」や「広範囲を写したものの逆光になった写真」が含まれており、参考画像をもとに広範囲かつ逆光ではない写真が生成されています。 以

AI Picassoが9月25日に公開した、アニメやマンガのようなAIアート生成に特化した画像生成AI「Emi（Ethereal master of illustration）」。無断転載画像を追加学習に使用していないと明言しており、商用利用可能ということもあって注目を集めている。 「Stable Diffusion XL（SDXL）」ベースということで、SDXLを簡単に利用できる新しいWebUI「Fooocus」にも対応済み。どんな画像を生成できるのかさっそく試してみた。 なお、「Fooocus」のインストール方法などについてはこの記事を参照してほしい。 モデルをダウンロードして指定フォルダーに入れるだけ まずは「Emi」のダウンロードから。Hugging Faceにあるダウンロードページから「emi_stable.safetensors」をダウンロードする。7GB近くあるので気長に待と

Cloudflare、CDNエッジのJavaScriptから生成AIを実行できる「Workers AI」を発表。GPUで高速処理を実現 Cloudflareは、同社のグローバルネットワークのエッジにおけるアプリケーション実行基盤「Cloudflare Workers」で、生成AIを実行できる新サービス「Workers AI」を発表しました。 Workers AIは同社のグローバルネットワーク上で提供されるGPUを用いて、高速な処理が可能だと説明されています。 We are excited to launch Workers AI - an AI inference as a service platform, empowering developers to run AI models with just a few lines of code, all powered by our gl

Metaが開発する大規模言語モデル「LLaMA」などのトレーニングに使用された書籍データセット「Books3」は、知的財産権や著作権に対する侵害の疑いが指摘されています。そんなBooks3に含まれる書籍の内訳やBooks3が抱える問題点について、テクノロジー系ライターのアレックス・リーズナー氏が解説しています。 Erotica, Atwood, and 'For Dummies': The Books Behind Meta’s Generative AI - The Atlantic https://www.theatlantic.com/technology/archive/2023/09/books3-ai-training-meta-copyright-infringement-lawsuit/675411/ These 183,000 Books Are Fueling the