株式会社松尾研究所で働いている小原です。本記事は、松尾研究所 Advent Calendar 2024の記事です。
本記事では AWS re:Invent 2024 及びその前後で発表された内容のうち個人的に気になったものを紹介します。私は AI を活用したシステムを開発するチームにいるため、AI 関連に限らずシステム開発の観点でも幅広く紹介したいと思います。
Amazon Bedrock 関連
まずは多くのリリースがあったAmazon Bedrock関連について紹介します。
Amazon Bedrock は様々な基盤モデルを API を通じて利用できるサービスです。また基盤モデルを利用する際に伴う様々な機能も提供しています。
AWS re:Invent の少し前にはAmazon Bedrock Flowsが GA(General Availability)になりました。Amazon Bedrock Flows は生成 AI のワークフローをフロービルダーという GUI 画面から構築できるサービスです。類似サービスとしてはDifyが有名なのではないでしょうか。
また、AWS re:Invent ではPrompt Caching と Intelligent Prompt Routingも合わせて発表されました。Prompt Caching はよく使用される Prompt をキャッシュすることにより、最大でコストを 90%、レイテンシを 85%削減できるとしています。Intelligent Prompt Routing では Prompt の内容に応じてモデルファミリーから最適なモデルを選択することで、回答の正確性を犠牲にすること無く最大 30%コストを削減できるとしています。
その他、100 以上のサードパーティの基盤モデルが利用可能なBedrock Marketplaceや、モデル評価にLLM-as-a-Judgeが登場したり、マルチエージェントのコラボレーションが登場したりと、数多くの新機能の発表がありました。
Amazon Nova
Amazon Novaは、Amazon Bedrockを通じて利用可能な最先端の基盤モデル群です。200 以上の言語をサポートし、テキストのみを処理する Micro からマルチモーダルな Lite、Pro、Premier という複数のモデル (Premier は 2025 年リリース予定) で構成されています。Amazon Nova は他社の高性能な基盤モデルと比較して 75%以上のコスト削減を実現しながら高い処理性能を維持しているとのことです。さらに、ファインチューニングやモデルの蒸留も可能です。
今後は画像生成用の Amazon Nova Canvas と動画生成用の Amazon Nova Reel のリリース、及び、Speech-to-Speech や multimodal-to-multimodal（any-to-any）にも対応予定ということで非常に楽しみです。
Amazon Q Developer 関連
Amazon Q Developer関連も様々な発表がありました。
Amazon Q Developer は AWS の生成 AI アシスタントサービスの Amazon Q の中でも開発者向けに特化したサービスです。
今回の発表内容で個人的に一番気になったのは、/testコマンドでのテスト生成、/reviewコマンドでのコードレビュー、/docコマンドで README やデータフロー図などを作成できる機能です。
この領域は他社のサービス含めて様々なものが出てきているので、従来の TDD などの手法と組み合わせる（もしくは置き換える）新たなプラクティスが今後誕生するのではないかと思っています(もしくは既に各社取り組んでいるのではないかと思っています)。品質を担保しつつ開発生産性を向上するのは非常に重要だと思っているので、この領域は引き続き注目していきたいと思います。
SageMaker 関連
次世代の SageMakerが発表されました。
公式サイトの図が分かりやすいのですが、次世代の SageMaker はUnified Studioとそれを支えるData & AI GovernanceとLakehouseで構成されています。
SageMaker Lakehouse は S3 のデータレイクと Redshift のデータウェアハウスを統合し、Apache Iceberg の API を利用してデータに横断的にアクセスできる仕組みです。
Amazon SageMaker Data and AI Governance は Amazon DataZone の上に構築された Amazon SageMaker Catalog を含み、ユーザーがセマンティック検索により承認されたデータとモデルにアクセスできる仕組みです。
Amazon SageMaker Unified Studio はこれらの上に構築された AI に関する統合開発環境で、データの前処理から SQL による分析、AI・ML のモデルの開発までを 1 つの環境で行えます。
なお、従来の SageMaker は Amazon SageMaker AI として引き続き利用できます。
AWS App Studio
7 月にプレビューになっていたAWS App Studioが GA になりました。
AWS App Studio は生成 AI を活用して自然言語でアプリケーションの開発ができるローコードのサービスです。AWS 謹製ということで、AWS サービスとの連携を容易に追加できる点が魅力的です。この領域もv0やboltなど様々なものが出てきているので、個人的にも検証を進めていきたいと思っています。
Amazon Aurora DSQL
Amazon Aurora DSQLは、PostgreSQL 互換のサーバレス分散 SQL データベースです。
事実上無制限のスケーラビリティと高可用性を備えているとのことです。可用性に関してはアクティブ/アクティブクラスタリングにより、単一リージョンで 99.99%、マルチリージョンで 99.999%の可用性を実現しているとのことです。一般的に分散データベースはレイテンシの増大が弱点に挙げられますが、DSQL では楽観的同時実行制御を採用すること等により低レイテンシを実現しており、Spanner と比べても 4 倍高速であると謳っています。
また、同じ技術を使ってAmazon DynamoDB global tables でもマルチリージョンでの強い整合性がサポートされました
いずれも非常に強力な武器になりそうで、今後これらが必要になるくらいの大規模なシステムも作っていきたいと思っています。
Aurora Serverless v2 Zero Capacity
AWS re:Invent 直前に Aurora Serverless v2 Zero Capacity が発表されました。
従来は Aurora Capacity Unit(ACU)の最小は 0.5 でしたが、0ACU までスケールダウン、つまり自動で一時停止できるようになりました。一時停止された場合は次の接続要求時に自動的に再開します。その際は15 秒程度 (24 時間以上停止になった場合は 30 秒以上)かかることがあるので、アプリケーション側でのハンドリングが必要になります。またそもそもユースケースとして適さないケースも多いでしょう。とは言え PoC や社内向けサービス、開発環境など、有効なケースも多いと考えられます。
なお、自動で一時停止するまでの非アクティブ期間は 5 分から 24 時間の範囲で設定可能です。停止中はインスタンス費用がかからないので（ストレージ費用はかかります）、v2 の導入がコストでボトルネックになっていたケースなどで導入が広がるのではないでしょうか。
Storage Browser for Amazon S3
Storage Browser for Amazon S3が GA になりました。
Storage Browser for S3 は S3 のデータの閲覧・ダウンロード・アップロードが行えるオープンソースの Amplify UI React ライブラリのコンポーネントとして提供されています。S3 を操作する UI は色々なアプリケーションで必要になることが多いので、これを公式で提供してくれるのは工数の削減にもなって有り難いですね。
Storage Browser for S3 を使ったAWS Transfer Family web appsも発表されました。こちらはライブラリではなく、ノーコードで S3 の操作ができるウェブアプリを提供するサービスになっています。
AWS Security Incident Response
AWS Security Incident Responseが発表されました。
AWS Security Incident Response は AWS Customer Incident Response Team (CIRT)が 24 時間体制でセキュリティインシデントに対応してくれるサービスです。GuardDuty や SecurityHub で収集した情報を元にトリアージや優先順位付けを行い、自動修復や改善も行ってくれます。自動で修復できないものに関しては Security Case を作成し、ステークホルダーへの連絡も行ってくれます。
最低月額が 7,000 ドルと高価なサービスですが個人情報を扱うプロダクトなどでは選択肢になるのではないでしょうか。
AWS Education Equity Initiative
サービスではありませんが、AWS Education Equity Initiativeが発表されました。
AWS Education Equity Initiative は、十分な教育が受けられない学習者をデジタル学習ソリューションにより支援するためのプログラムです。今後 5 年間で最大 1 億ドルの AWS クレジットを非営利団体や政府、EdTech 企業などを対象に提供するそうです。参加組織は AWS のクラウド基盤と AI サービスを活用して、AI アシスタントやコーディングカリキュラム、学生向けのプラットフォームなどを構築できます。AWS Education Equity Initiative は教育格差を埋め、テクノロジーへのアクセスを民主化することを目指しているとのことです。
新サービス・新機能ではないですが、こういった取り組みも非常に良いと思い、最後に紹介させて頂きました。
最後に
今年も AWS re:Invent では様々な新しい発表がありました。
時代を反映して生成 AI 関連のものが多かった印象でしたが、本記事では生成 AI 関連以外も含めて個人的に気になったものを紹介させて頂きました。
今回はそれぞれ簡単な紹介でしたが、今後検証を進めた際はまた別途紹介できたらと思っています。
なお、松尾研究所では AWS に限らず様々なクラウドプラットフォームを利用しています。過去にも AWS や GCP に関していくつか記事を書いてますのでぜひそちらもご参照ください。
Discussion