2024年12月、「Azure CDN from Edgioが廃止される」という突然の通知に驚き、移行作業に追われた方も多いのではないでしょうか。私もその1人でした。Webスタティックホスティング用途で「Azure Blobストレージ＋Azure CDN」を複数のサイトで利用していたため、急遽、別のCDNへの移行が必要になりました。 Azure Front Doorへの移行が推奨されていますが、私の用途ではオーバースペックでコストが見合わず※1、最終的にAmazon S3＋CloudFrontへの移行を選びました。その過程で、Pythonスクリプトを用いて効率よく移行を行う方法を開発しました。 ※1　Azure Front Doorは高機能で優れた選択肢ですが、基本料金が高額で、小規模なWebサイトでは費用対効果が低い場合があると思います。 課題と解決策 移行作業では、AWS DataSy

この記事は ABEJA アドベントカレンダー 2024 の19日目の記事です。 こんにちは。システム開発部の鈴木（@szpshota）です。 3年くらい前にエンジニアとして入社して、去年の暮れくらいからマネージャーをやっています。 今でも業務含めてコードは書いてますが、組織力や生産性を高めるための仕組みづくりや組織運営が主な仕事になってきました。 今回は組織マネジメントの話・・・ではなく、怖ーい Azure OpenAI Service の高額請求の話と Terraform の話をしようと思います！ 目次は以下の通りです。 Azure OpenAI Service の高額請求について Provisioned-Managed なデプロイ Provisioned-Managed の利用料 高額請求の防止策 予算アラートを設定する ペア体制で設定値を指差し確認する IaC で設定値を管理し、コー

Microsoftは2024年11月15日（米国時間）、「Visual Studio Code」（以後、VS Code）で、Microsoft Azureに関してナビゲートを受けられる「GitHub Copilot for Azure」のプレビュー版を公開した。 「GitHub Copilot for Azureは、Azureをナビゲートするガイドのような存在となる。インフラストラクチャを管理したり、コマンドや引数を調べたりするために、IDE（統合開発環境）とAzureポータルを切り替える必要はなくなり、コア業務のコーディングに集中できる。サービスのセットアップやアプリケーションのデプロイをする場合も、チャットビューで『@azure』と入力することでエディタ内で直接管理できる」と、Microsoftは述べている。 GitHub Copilot for Azureは、Visual Studi

1. はじめに🚀こんにちは！今日はちょっとテクニカルだけどとても面白い話題、「RAG（Retrieval-Augmented Generation）」についてお話ししていきます。RAGとは何か、そしてどうして今話題になっているのか、その魅力を分かりやすくご紹介していきます！💡 この技術は、AIやデータ解析の未来を変えるポテンシャルを秘めていて、特に「データの利用」や「自動生成」という分野で大きな可能性を持っています。この技術の強みは、膨大な情報の中から必要なものを取り出し、それをもとに高精度のアウトプットを生成することができる点にあります。AIやデータ解析に興味がある方はもちろん、AIを使った新しい価値を探している方にとっても、とても興味深い内容になるはずです！✨ この記事では、Azure OpenAIやLlamaParseといった最新技術がどのように協力し合ってRAGアプリを作り上げ

はじめに Insight EdgeのLLM Engineerの藤村です。 昨今、企業のDX推進に伴い、社内に蓄積された大量の画像データや文書の効率的な活用が求められています。弊社では、実務でLLMを活用する際、画像や表形式、複雑な図を含むドキュメントの理解が大きな課題となっています。この課題は多くの企業でも同様に直面していると考えられ、その解決は業務効率化において重要な意味を持ちます。 例えば： PowerPointの表やグラフの内容理解 手書きのホワイトボード写真からの情報抽出 複雑な組織図の階層関係の把握 スキャンした文書の図表部分の解釈 これらの課題に対して、以下の2点を検証しました： 最新のマルチモーダルLLMでどこまで対応できるのか GPT-4oのファインチューニングによってどの程度改善できるのか 目次 はじめに 目次 マルチモーダル大規模言語モデルとは 1. 主要マルチモーダル

Azure OpenAIのStream機能を利用すると全ての回答生成の完了を待つことなく少しづつ結果を表示することができます。ChatGPTのような感じですね。 ただ、実際に使ってみると1文字ずつ表示されるのではなく、ある程度の文字の塊ごとに表示されるため、少し見栄えが良くないと感じました。 これを解消する方法を探していたところ、以下の記事を見つけました。 qiita.com 記事内ではJavaScriptを利用しているため、C#での実装方法について考えてみたいと思います。 環境 実装のポイント Queueクラス Timerクラス ソースコード 終わりに 環境 C# コンソールアプリ（.NET 8） Azure.AI.OpenAI 2.0.0 実装のポイント 今回の実装をするにあたり、ポイントとなるクラスは以下の通りです。 Queueクラス Streamで受け取った文字を一時的に格納して、

Microsoftは2024年11月19日（米国時間）、年次イベント「Microsoft Ignite 2024」で、データ分析SaaSの「Microsoft Fabric」にリレーショナルデータベース（RDB）を組み込む「Fabric Databases」を発表した。 なぜMicrosoft Fabricで新たにRDBを発表したのか。このデータベースの実体は何なのか。これについて、MicrosoftのAzure Databases担当コーポレートバイスプレジデントであるシリーシュ・トータ（Shireesh Thota）氏に聞いた。 Microsoft Fabricは、データの管理から処理、分析までを統合的に行えるサービス。データウェアハウス、データレイク「OneLake」やデータ処理の「Azure Data Factory」、セルフサービスBIツールの「Power BI」など、さまざまな

マイクロソフト、「Azure Local」発表。低スペックのサーバもAzureのエッジとして利用可能に マイクロソフトは米イリノイ州シカゴで開催中のイベント「Microsoft Ignite 2024」で、低スペックなオンプレミスのサーバでもMicrosoft Azureのエッジとして簡単に設定できる新サービス「Azure Local」を発表しました。 Azure Localにより、オンプレミスのサーバでMicrosoft Azureの高度なセキュリティや可用性などを備えつつ、コンピュート、ストレージ、ネットワーキングやアプリケーションサービスなどを利用できます。 Azure Localは低スペックなマシンで利用できる これまでMicrosoft Azureの機能をオンプレミスなどのエッジロケーションに拡張するものとして、Azure Stack/Azure Stack HCI/Azure

常用しているサービスが、いきなり廃止されてしまった。あるいはリソースの新規作成時に、利用しようとして開いたメニューに対象サービスが表示されない。クラウドサービスで何かしらシステムを構築／運用していて、そのような経験をしたことはないだろうか？ 残念ながら、Azureに限らず、クラウドサービスでは古いサービスが廃止されることがよくある。そのため、事前に廃止予定を把握して、適切かつタイムリーに対処したいところだ。 そこで本Tech TIPSでは、Azureでサービスの廃止予定を事前にメールなどで通知してもらうための設定について説明する。Azureポータルで「アラートルール」を作成する権限があれば、比較的簡単に作成できる。 廃止予定のサービス一覧をAzureポータルで確認するには、Tech TIPS「【Azure】まだ使っているのに廃止されてしまうサービスを確認する」を参照していただきたい。 サー

公開日 2024/11/06更新日 2024/11/06KDDIアジャイル開発センター 2つのRAG活用事例 - Azure & AWS の特徴と選定のポイント KDDIアジャイル開発センター株式会社（KAG）では、KAG Generative AI Lab（通称：KAGAIラボ）というバーチャルチームを組成し、全社横断で積極的に生成AIの活用や技術研鑽に取り組んでいます。 実際の案件ではパブリッククラウドを使ってプロダクトを開発することが多く、特定のプラットフォームに限らず複数のクラウドの生成AIサービスを活用していることがKAGの強みの一つです。 この記事では、Microsoft AzureとAmazon Web Servicesの2種類のクラウドを題材に、弊社のRAG事例を紹介します。 Microsoft Azureを活用したRAG開発事例 執筆：出光 広和 / 開発2部 エンジニア

昨夜 C# 向けの新しい拡張ライブラリとして Microsoft Extensions.AI のプレビューが公開されました。突然出てきた感が凄いですが、個人的には Microsoft.Extensions 名前空間に用意されたライブラリは有用なものが多いので気に入っています。 今回は AI 向けなのでどのレベルをサポートしているのか気になる部分ですが、各種 AI サービスの SDK と Semantic Kernel のようなフレームワークの間を埋めるような抽象化されたライブラリでした。 サンプルでも書かれているように開発中は Ollama を使うけども、本番では Azure AI Inference を使うといった処理が簡単に実現できます。各種 SDK の作法を知らなくてもアプリケーションに組み込めるのは良いですね。必要に応じてキャッシュなども組み込みやすそうな気配です。 正直なところ公

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? この記事は何？ Azure OpenAI Service で GPT-4o audio のモデルが利用可能になったので、サンプルアプリの設定を行って音声でやり取りを行ってみた際の手順のメモです。 GPT-4o audio とは？ GPT-4o audio のモデル (現状使えるのは GPT-4o-realtime-preview）は、GPT-4o モデル ファミリの一部であり、低遅延の「音声入力、音声出力」会話インタラクションをサポートします。 つまり、今まで音声をインターフェイスにして言語モデルと対話を行う際には、Speech to

AI & MLLearn about artificial intelligence and machine learning across the GitHub ecosystem and the wider industry. Generative AILearn how to build with generative AI. GitHub CopilotChange how you work with GitHub Copilot. LLMsEverything developers need to know about LLMs. Machine learningMachine learning tips, tricks, and best practices. How AI code generation worksExplore the capabilities and be

本記事では、今年8月にパブリックベータ版として GitHub に搭載された新機能 GitHub Models について、概要や利用法を簡単にご説明します。さらに、実際に GitHub Models を活用して、多数の LLM の日本語性能を横断的に測定していく例を紹介していきます。 目次 目次 はじめに 三行で GitHub Models を説明すると... GitHub Models の使い方 Waitlist への登録 モデル一覧 ブラウザ上で試す API経由で試す GitHub Models を利用する上での注意点 API レート制限の制約が強い Azure AI Content Safety が全ての LLM に適用されている GitHub Models を使って LLM の日本語性能を横断的に測定する 実験 1. GPT-4o による自動評価 2. 出力が日本語になっているかどう

Microsoftは2024年8月22日（米国時間）、AI（人工知能）プラットフォーム「Azure AI」の機能強化について発表した。言語モデル「Phi」ファミリーでは新モデルを追加し、AIソリューションの構築に役立つ新しい機能が使えるようになった。 新言語モデルや生成AIサービスなど提供開始　新機能の概要 関連記事 GitHub、数クリックで話題の生成AIモデルを試せる「GitHub Models」を発表 GitHubはAIアプリ開発支援サービスの「GitHub Models」を発表した。Microsoft、OpenAI、Meta、Mistralなどの人気のあるプライベートモデルやオープンモデルを数回のクリックとキー操作で実験、比較、テストできるという。 Microsoft、小規模言語モデル「Phi-3」公開　大規模言語モデルと異なる利用シーンを想定 Microsoftは、自社開発の小規

大手クラウド事業者の生成AI（人工知能）による開発・運用支援サービスを解説する特集の第4回では、米Microsoft（マイクロソフト）を取り上げる。プログラミング支援向けの「GitHub Copilot」を拡張し、同社のクラウドサービス「Microsoft Azure」へのプログラムのデプロイまでを一貫して支援する。Azureの運用監視ツールやデータ分析サービスとCopilotの連係も進めている。 GitHub Copilotは、生成AIによるプログラミング支援分野でいち早くユーザーを取り込んだ。現在では、「もはや『GitHub Copilot』がなければコーディングできない」と語る開発者も多い。 米GitHub（ギットハブ）は2024年7月、企業向け有料版の「GitHub Copilot Enterprise」において、裏側で動く大規模言語モデル（LLM）に米OpenAI（オープンAI）

Azure OpenAI 東日本リージョン(Japan East)でGPTの標準デプロイのモデルが利用できなくなる？(2024年8月) この記事について 顧客データ活用を支援しているインキュデータでは、企業が保有するデータと生成AIの利用支援を行っています。 Microsoft社の公式ドキュメントの情報を元に記載していますが、独自の解釈が含まれます。 2024年6月時点との変更点まとめ 東日本リージョンの標準デプロイが利用できるモデルの終了・アップグレード日が変わりました。 GPT-4(vision-preview)は2024年11月15日以降に更新されるとされました。 GPT-3.5-turbo（0613）の終了日が2024年8月1日から2024年10月1日になりました。 GPT-3.5-turbo-16k（0613）の終了日が2024年8月1日から2024年10月1日になりました。 2

この連載について AIやデータ分析の分野では、毎日のように新しい技術やサービスが登場している。その中にはビジネスに役立つものも、根底をひっくり返すほどのものも存在する。本連載では、ITサービス企業・日本TCSの「AIラボ」で所長を務める三澤瑠花氏が、データ分析や生成AIの分野で注目されている最新論文や企業発表をビジネス視点から紹介する。 生成AIの推論精度と信頼性を飛躍的に向上させるRAG（Retrieval-Augmented Generation）技術。Amazon Web Services（AWS）とMicrosoftはこの革新的なシステムの実装をどのように支援しているのか。 今回は、エンタープライズAI導入の最前線で注目を集めるRAGの実装に向けて、AWSとMicrosoftが提供しているRAG関連サービスを紹介します。 機能別　RAG構築に使える主要サービス RAGとは、大規模言