Dear friends, AI Product Management is evolving rapidly. The growth of generative AI and AI-based developer tools has created numerous opportunities to build AI applications. This is making it possible to build new kinds of things, which in turn is driving shifts in best practices in product management — the discipline of defining what to build to serve users — because what is possible to build ha

Amazon Web Services ブログ Amazon SageMaker におけるカスタムコンテナ実装パターン詳説 〜推論編〜 みなさんこんにちは！AWS Japan のソリューションアーキテクトの辻です。このブログでは、Amazon SageMaker のカスタムコンテナの実装方法の選択肢が多すぎて、自分たちのユースケースにどれが向いているのか分からない！、という意見にお答えして、カスタムコンテナの実装方法のパターンを整理・解説しています。 SageMaker ではカスタムコンテナが利用可能な場面はいくつかあるのですが、このブログではホスティングによる推論 (SageMaker Endpoint) で利用する場合について説明します。学習編もこちらで公開しているので、是非一読ください。 はじめに このブログは、既に SageMaker の概要を知っている方を対象としています。Sag

Amazon Bedrockで発話での注文から、商品名と数量を抽出し、商品マスタの商品名と突合してみた[AIチャットボット] はじめに Amazon Connect、Amazon Bedrock、Whisper APIを組み合わせて、電話で発話された注文内容（商品名と数量）を認識し、商品マスタと突合する方法とその精度を検証しました。 精度の確認方法は、発話された商品名と数量がAWS Lambdaのログで発話通りに認識されているかを確認しました。 利用シーンとしては、電話での注文を無人対応するケースです。注文をヒアリング後は、自動で発注、もしくはオペレーターにエスカレーションが考えられます。 電話での対話の流れは、以下のようなイメージです。 発話した商品名と商品マスタの商品名を、生成AIを利用して突合することができれば、自動で発注が実現できます。 注文内容を復唱後、ユーザーには発話やプッシュ

Amazon Transcribeが新しい音声基盤モデルによって精度向上を発表したので、日本語で確認してみた #AWSreInvent はじめに AWS re:Invent 2023で、Amazon Transcribeは、次世代の数十億パラメータの音声基盤モデルを搭載した自動音声認識 (ASR)を発表しました。 搭載したことにより、バッチモードでTranscribe を使用する場合、APIエンドポイントや入力パラメータを変更することなく、100 以上の言語で精度向上を実感できるようです。 下記でも紹介されていました。 こちらのAWSのブログでも下記のことが記載されています。 Amazon Transcribe は音声基盤モデルを活用することで、ほとんどの言語で 20% から 50% の大幅な精度向上を実現します。困難でデータが不足している分野である電話音声では、精度が 30% ～ 70%

2子がもうすぐ生まれる予定です。 私は普段、フルリモートワークしていますが書斎で作業しているため、赤ちゃんが泣いた時に通知する仕組みがあると嬉しいな、ということでAlexa(アレクサ)で設定してみました。 泣き声検知が技術的ハードルが高いと思っていましたが、調べてみると Alexa の「定型アクション」の実行条件に「赤ちゃんの泣き声」があるそうなので、今回はそちらを利用してみます。 Alexa 設定手順 1. 「Amazon Alexa」 アプリを開いて、「その他」タブをタップ 2. 「定型アクション」をタップ 3. 「＋アイコン」をタップ 4. 「定型アクション名を入力」は任意の名前を設定します。未入力の場合は「実行条件」の名称で設定されるようです 5. 「実行条件を設定」をタップ 6. 「音検出（パブリックプレビュー）」をタップ 7. 「赤ちゃんの泣き声」を選択 ※ 説明に「赤ちゃんの

こんにちは、CX事業本部 IoT事業部の若槻です。 今日は東京は一気に冷え込みましたね。いよいよ寒い季節が迫って来ているようなので、自宅のエアコンでもそろそろ暖房を稼働させようと思いました。 そこで今回は、自宅のエアコン（暖房）をSwitchBotにカスタマイズモードで登録してAmazon Alexaで操作してみました。 SwitchBotとは SwitchBot（スイッチボット）は、家庭やオフィスで取り付けや設置ができるスマートホーム製品です。 SwitchBot（スイッチボット）| Japan公式サイト ユーザーはアプリやAlexa連携を使用して、スイッチやボタンのON/OFFを制御できるSwitchBotボットや、プラグの通電を制御できるSwitchBotプラグなどのデバイスを使用して簡単にスマートホームを実現できます。 なぜカスタマイズモードなのか SwitchBotでは、Swit

Amazon Connect + Lex + BedrockのAIチャットボットで、発話から個人情報（名前、住所、生年月日）を正しく認識できるか試してみた はじめに Amazon Connect + Lex + Bedrockで、発話から個人情報（番号や名前、住所、誕生日）を正しく認識できるか試してみました。 ConnectとLexによるAIチャットボットで、有人対応から無人対応に変更したいニーズが増えているように思います。 事前に登録したお客様情報に対して、AIチャットボットがお客様の認証を対応できるか気になったため、まず数字や英字、住所などをAIチャットボットが発話どおりに認識してくれるか検証しました。 今回の記事では、以下の５つの項目を発話し、AIチャットボットで正しく認識できるか確認します。 住所 名前 英字 数字 生年月日 特に、数字に関しては、AIチャットボットで電話番号や会員

はじめに Amazon BedrockとAmazon Kendra、AWS Lambdaで、Retrieval Augmented Generation（RAG）を実装してみました。 最近、社内の業務効率化などの目的で、AIの言語モデル（以降、LLM）を用いて社内情報を活用するための手法として、RAGがよく話題になっています。 RAGとは具体的には、ユーザーからの問い合わせ（プロンプト）に基づいて外部データから関連するドキュメントを検索し、その結果をもとにLLMが質問への回答を生成するという手法です。 以前の記事で、検索（Retrieval）のフェーズのみをKendraを使い、試してみました。 構成 構成としては、下記の通りです。 Kendraのインデックスには、Network Load Balancer（NLB）のAWSドキュメントをウェブクローラーでインポートします。 Kendraのデ

近年は機械学習のモデル・アルゴリズムを使ってオブジェクトをベクトル表現し(embedding)、テキストやメディアなど様々なオブジェクトの検索や分類が盛んに行われており、LLMの流行と共にその勢いが増しています。 RDBのPostgreSQL向けにベクトル管理・検索を行う拡張モジュール pgvector がAmazon RDS for RDSでも利用できるようになり、Pineconeのようなベクトル検索特化型のデータベースを用意することなく、RDSインスタンス単体でベクトル検索ができるようになりました。 データベースのマネージドサービスとしては、これまでも Supabase 等が pgvector に対応していましたが、RDS PostgreSQL もついに対応しました。 制限 pgvector 対応する最近傍探索 exact Approximation 対応距離 ユークリッド(L2)距離

米Amazonは9月21日（米国時間）、同社の音声アシスタント「Alexa」に生成AIを搭載すると発表した。これにより、継続した会話の他、会話の記憶や各家庭向けのパーソナライズも可能になるという。まずは米国のユーザー向けに今後数カ月以内に提供を始める。 従来のAlexaは会話内容を記憶せず、質問→応答の1往復しかできなかった他、応答パターンにも制限があった。生成AIの搭載により何往復も会話が可能になるだけでなく、ボディランゲージやアイコンタクトといった非言語的な合図も、Alexa搭載スマートスピーカー「Echo」のカメラや人感センサーなどから情報を得て理解するとしている。 これらの機能は音声対話用にカスタマイズし最適化された新しい大規模言語モデル「Alexa LLM」に基づく。「人間が常に行うのと同じ方法で、会話全体を通じて関連する文脈を引き継ぐ」（同社）として、各家庭に合わせた独自の体験

何となくAWSでクラウド設計をしていませんか AWSを利用する際、多くの方が「設計」というプロセスを簡単に飛ばしてしまう傾向にあります。しかし、クラウド環境の効果的な活用には、適切なアーキテクチャ設計が不可欠です。世の中には、システム設計をする上で指針となる設計原則がいくつかあります。本記事では、以下の３つをピックアップをしてご紹介します。 本記事で取り扱う内容 ■ マイクロサービスアーキテクチャ ■ AWS Well-Architected Framework ■ The Twelve-Factor App 1. マイクロサービスアーキテクチャ マイクロサービスは、独立した小さなサービス群でソフトウェアを構築するアーキテクチャです。これにより、迅速なイノベーションと新機能の迅速な展開が可能となります。一方、モノリシックアーキテクチャは、全てが一つのサービスとして結合され、変更や障害が全体

Amazon Web Services ブログ 高精度な生成系 AI アプリケーションを Amazon Kendra、LangChain、大規模言語モデルを使って作る 2023/05/17: DocumentExcerpt の Request quota value を 1000 から 750 に修正しました 2023/05/18: Flan-T5-XL、Flan-T5-XXL、Anthropic Claude-V1、OpenAI text-davinci-003のtypoを修正しました Amazon Bedrock や Amazon Titan を通じて間もなく利用可能になるような生成系 AI（GenAI）と大規模言語モデル（LLM）は、開発者や企業が従来行っていた自然言語処理と自然言語理解に関連する複雑な課題の解決方法を変革しています。LLM が提供するメリットには、カスタマーサービス

シリーズ目次 AWS Lambda 関数を Docker コンテナを使ってビルド & デプロイ Fortran を AWS Lambda のCustom Runtime で実行する 概要 記事 第一回 コンテナ Lambda の”いろは”、AWS CLI でのデプロイに挑戦 ! を参考に windows10 で AWS Lambda 関数を Docker コンテナを使ってビルド & デプロイ する方法を書きました AWS Lambda 関数を Docker コンテナを使ってビルド & デプロイ するには以下の３ステップが必要です 1.Docker イメージを作成する 2.Docker イメージを Amazon ECR リポジトリ にプッシュする 3.Lambda関数に Amazon ECR リポジトリ(の Docker イメージ) から ビルドする 前提条件 Docker Desktop

こんにちは。ネクストモードの倉地です。 弊社内ではファイル共有ツールとしてGoogleドライブを使用していますが、万が一データが消失場合に備えてAmazon S3へバックアップを取得したいという要望があり、技術検証しましたのでこちらに共有できればと思います。 要件/環境 ローカル端末にrcloneを設定し、Googleドライブ(共有ドライブ)の特定のフォルダをAmazon S3へバックアップする ※今回は検証のため手動でコマンドを叩く ローカル端末:Windows10,WSL(Ubuntu 20.04 on Windows) そもそもrcloneとは？ rcloneとは、様々なクラウドサービス間でファイルとディレクトリを同期できるようにする、go言語を使用して開発されたオープンソースツールです。 詳しくはRCLONE公式ドキュメントをご確認ください。 はじめはiPaaSを使用してのバックア

GitHub Actionsを使い、コンテナイメージをAmazon ECRにプッシュし、AWS Lambdaにデプロイする方法を紹介します。 GitHubからAWSへの認証では、OpenID Connect(OIDC)を利用します。 本ブログでは、GitHub Actionsを使い、main ブランチへの push をトリガーにコンテナイメージをビルドしてコンテナレジストリのAmazon ECRにプッシュし、AWS Lambdaにコンテナイメージをデプロイする方法を紹介します。 実質的にやっていることは、GitHub の ECS 向けドキュメントをベースに、以下の変更を加えています。 GitHub から AWS への認証に、IAMアクセスキーの代わりに OpenID Connect(OIDC)を利用 デプロイ先をAmazon ECSからAWS Lambdaへ変更 大前提として、デプロイのゴ

現象 M1 MacでAWS LambdaへDockerイメージをcdk deployしたところ、デプロイはうまくいきますが、Lambdaを動かすとexec format error になります。 IMAGE Launch error: fork/exec /lambda-entrypoint.sh: exec format error Entrypoint: [/lambda-entrypoint.sh] Cmd: [app.handler] WorkingDir: [/var/task] 対策 いろいろ調べるとM1 Mac上ではDockerイメージのビルドのデフォルトがArm64になっている（当たり前だが）ためでした。対処法として環境変数を設定してDockerのビルドのデフォルトを変更することもできるらしいですが、それだとコードを他の人に渡したときに同様のエラーを発生させることになるので

こんちには。 データアナリティクス事業本部 インテグレーション部 機械学習チームの中村です。 LangChainのAgentのカスタムツールとして、LlamaIndexのインデックスを使用する方法を紹介します。 LangChainとは LlamdaIndexと同様、大規模言語モデル(LLM)をカスタマイズして使用するためのライブラリです。 カスタムされたチャットボットやエージェントを作成することが可能で、以下のような様々な外部リソース・サービスと連携可能です。 OpenAIのChatCompletion（要するにChatGPT） Google検索やOpenSearchなどの検索サービス Hugging Faceのエコシステム Pythonのコーディングをするツール 例：PyTorchでhogehogeな構成のサンプルコードを教えて、など SQLデータベースなどのリソース 例：hogehog

いつもは「Googleさん」でGoogleの話をしていますが、今日はその番外編「Amazonさん」です。AmazonがiRobotの買収を発表したので。 世間では「これでAlexaに掃除を頼めるね」と歓迎する声もあります（すでにできてます）が、プライバシーを気にする向きはAmazonの主な目的はiRobotのお掃除ロボット「ルンバ」が足（タイヤ？）で稼いだ屋内マップ（間取り図）だろうと思っています。iRobot買収の発表文には一言も書かれていませんが。 買収は、規制当局の承認がないと完了しません。Amazonはオリジナルのお掃除ロボットは販売していないので、独禁法的にはセーフでしょうが、1企業に個人データが集中することに常に反対しているAmazonの天敵で連邦取引委員会（FTC）委員長のリナ・カーン氏が黙っていないのではないでしょうか。 最近のルンバをお持ちの方はご存じだと思いますが、ルン

SRE課で、主にBacklogのSREを担当しているMuziです。 物理サーバやインスタンスで動作していたアプリケーションを、Kubernetesクラスタに移行する際には、いままで暗黙的に存在していた前提に目を向ける必要があります。そのような前提を無視すると、アプリケーションは動作したとしても、可用性が悪化する可能性があるためです。 私たちがBacklogをEC2インスタンスからKubernetesクラスタに移行した際にも、可用性の悪化に繋がる問題に対処する必要が生じました。今回は、そのような問題の一つであるGraceful Shutdownに関する注意点を、私たちの実体験をもとにご紹介します。 なお、以下の内容はAmazon EKSのKubernetesバージョン1.22で確認しました。Amazon EKSに固有の話題も含みますが、Kubernetes全般に共通する部分も多いかと思います

HOME/ AINOW編集部 /世界IT六大巨頭のAI年表【Apple、IBM、Google、Microsoft、Amazon、Facebook】(2018年6月更新) 最終更新日： 2019年5月10日 ※2018年6月28日更新 こんにちは。AINOW編集部のみかみです。 今回は世界的に有名な企業であるApple、IBM、Google、Microsoft、Amazon、Facebookの6社が現在(2018年6月)まで取り組んできた人工知能に関する代表的な発表を1つの年表にまとめました。 世界時価総額ランキング(2017年9月末時点)でも1位Apple、2位Alphabet(Google)、3位Microsoft、4位Facebook、5位AmazonとAIに力をいれている企業はランクインしいています。 世界トップ企業が今までどのような人工知能を活用した戦略を出してきたか、この1枚で比