みなさん、こんにちは。サイオステクノロジー武井です。今回は、今話題沸騰の生成AIサービスであるAzure OpenAI Serviceについて、世界一わかりみの深い説明をしたいと思います。 ※ 本記事の内容がベースとなっているオンラインセミナーのアーカイブが以下のYouTubeで配信されています。ぜひ見てね!! 世界一わかりみの深いAzure OpenAI Service 本記事について 本記事は、「なんだか最近巷で色々と話題になっている生成AIだけど、なんかマイクロソフトからAzure OpenAI Serviceっていうのが出たよね？それナニモノ？なんの役に立つの？他のAIサービスと何が違うの？どういうふうに使うの？」というような疑問を頂いている方が対象になります。 そこでよりわかりみの深い説明を目指すために、本記事ではまずOpenAIについてその成り立ちや概念、基本的な使い方などを説

はじめに 最近、本番環境で Azure OpenAI Service を導入する事例が増えてきているように感じます。 Azure OpenAI Service の素の API 自体がどれくらいのリクエストに耐えられるのか、個人的にも気になっていました。 そこで具体的なシナリオを想定して、JMeter と Taurus で負荷テストしてみたので、その手順と結果を共有したいと思います。 ※筆者自身も負荷テストは初めてなので、間違っている点があればご指摘いただけますと幸いです。 JMeter と Taurus について JMeter とは JMeter は、Apache Software Foundation が開発しているオープンソースの負荷テストツールです。 HTTP 以外にも、FTP や JDBC などのプロトコルにも対応しており、様々なシナリオでの負荷テストが可能です。操作性も良く、GU

■真壁 徹（まかべ とおる） 北陸先端科学技術大学院大学 博士前期課程修了 修士（情報科学）。 株式会社大和総研に入社。公共向けパッケージシステムのアプリケーション開発からIT業界でのキャリアを始める。その後日本ヒューレット・パッカード株式会社に籍を移し、主に通信事業者向けアプリケーション、システムインフラストラクチャの開発に従事する。その後、クラウドコンピューティングとオープンソースに可能性を感じ、OpenStack 関連ビジネスでアーキテクトを担当。パブリッククラウドの成長を信じ、日本マイクロソフト株式会社へ。 主な著書に『しくみがわかるKubernetes Azure で動かしながら学ぶコンセプトと実践知識』（翔泳社）、『Microsoft Azure 実践ガイド』（インプレス）、共著に『Azureコンテナアプリケーション開発 ── 開発に注力するための実践手法』（技術評論社）などが

Azure OpenAI Serviceについての日本語記事のまとめです。主に公式ドキュメント以外のブログやZenn/Qiitaの記事をまとめています。ボリュームが多いので、目次から気になる項目を選択してご覧ください。 ※長く使える知見のまとめにしたかったので一過性のニュース的な記事や内容が重複している機能紹介記事などは意図的に掲載していません。 この記事はGitHubで管理されています。まとめへの追加修正はプルリクエストまたはIssuesでお気軽にお寄せください！ また、以前に本記事をご覧いただき、そこからの差分を知りたい場合はGitHubのHistoryも併せてご覧いただけると把握しやすいかと思います。 概要 まずはここから Azure OpenAI Service を使い始める Azure OpenAI Serviceの概要から実際のリソースデプロイ、プレイグラウンドとAPIでの呼び

はじめに Azure OpenAI Serviceを活用したサンプルが数多く登場しているため、ここにまとめていきます。 エンタープライズサーチ① Azure OpenAIとAzure Cognitive Searchを中心とした文章検索シナリオのサンプル LangChainのAgentを利用し、Cognitive searchのセマンティック検索とベクトル検索をツールとして定義 Azure AI Document Intelligence (旧称Form Recognizer)を使った文章の読み取りに対応 自動で文章を分割、重複含めた形でチャンキング (chunking)を行ってベクトル化 Cosmos DBにインジェスト。ベクトル化された文章 (embedding)もCosmosに保存 MSUSAzureAccelerators/Knowledge-Mining-with-OpenAI:

ServerlessDays Tokyo 2023 で Azure OpenAI Service リファレンスアーキテクチャからみる、本番システムレベルの LLM アプリに必要な検討項目の解説 / From A…

GPT-4を使っていない理由は？松田敦義氏（以下、松田）：時間になっているので、20分ぐらいQ&Aをやりたいと思っています。どんなことでもかまいませんので、挙手の上、質問をしてもらえればと思います。 質問者1：登壇ありがとうございます。すごく勉強になりました。まずはAPIのモデルに関しての質問です。みなさんわりと、GPT-3.5を使っていることが多いのかなと思うのですが、GPT-4を使っていないのはやはりコスト面が大きな理由だったりするのかどうかを教えていただきたいです。 松本勇気氏（以下、松本）：実はそのタスクによって僕は（GPT-4を）使っています。特に文書解析の人の時給が高いというケースでです。例えばフォーム的な知識が必要なドキュメントの下書きを作ってみましょうといったケースの場合は、正確性のほうがある程度勝ります。そこに関して、例えばこのドキュメント1本を作るのに10万円かかってい

IDチームの前田です。以前紹介したAzure ChatGPTがGitHub上で公開直後に非公開になっていましたが、大幅にアップデートされて、「Azure Chat」と名称を変更しGitHubで公開されたので、再びローカル環境で動かしてみました 三行まとめ Microsoft製のエンタープライズ向けのPrivate ChatGPTがAzure Chatと名称を変更し、機能のアップデートされて再度公開されたので、ローカルマシン(M2 Macbook Pro)で動かしてみました Azure ChatGPT検証時に問題となっていた日本語入力の不具合は解消済 日本語入力の不具合が解消されたので、ようやく業務用途で検証が可能になりました Azure Chat とは Microsoft製のAzure OpenAIを利用したエンタープライズ向けのAIチャットです 2023年08月にGitHub上で公開され

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? はじめに 今年のはじめに書いた3大クラウドの比較シリーズに関して長いこと続編を書いてませんでした...。 最近、知人/友人のみならず取引先からも「AWSやGCPに関して続編書かないんですか？」と言われることが増えてきたので、今回はAWSを本番運用していて感じたAWS固有の優位性について感想を述べていきます。 AWS 固有の優位性 周知の事実ではありますが、AWSは長年クラウドベンダーとして世界トップシェアを維持し続けています。 AWSをクラウド基盤として利用しているサービスを一切利用せずに1日を過ごすことは不可能なんじゃないかというレベ

「ChatGPT Meetup」は、プロンプティングからOpenAI API、さらには周辺のライブラリやHubのエコシステムまで広く活用の助けになる知見を共有し、みんなで手を動かして楽しむためのコミュニティです。2回目に登壇したのは、株式会社リンクアンドモチベーションの岡田大輔氏。OpenAIからAzure OpenAI Serviceへの移行について発表しました。 登壇者の自己紹介岡田大輔氏：機能開発を「ChatGPT」を使ってやってみたので、そこからわかったことを共有させていただければなと思います。 最初に自己紹介です。岡田大輔といいます。リンクアンドモチベーションで働いていて、今4年目です。アプリのエンジニアをしています。ふだんはRailsとVueでWebアプリを作っているのですが、今回は、機能開発のところで（ChatGPTを）いろいろ触ってみました。 ChatGPTを使った機能開発

はじめに賽は投げられた2022年11月にOpenAIが公開したAIチャットボットChatGPTは、それまでのチャットボットの常識を大きく凌駕するその余りの流暢な受け答えから瞬く間に技術系コミュニティで話題沸騰となり、わずか2ヶ月でアクティブユーザー数は1億人を超え、その影響範囲はすぐさま技術系コミュニティの内側にとどまるものではなくなりました。プログラマが、大学生が、研究者が、物書きがChatGPTを試してはその自然な回答に驚愕しました。翌23年4月には、東京大学理事・副学長で教育・情報担当の太田邦史博士がChatGPTやStable Diffusion等の「生成系AI」の急速な発展とその著しい品質の向上を受けて「人類はこの数ヶ月でもうすでにルビコン川を渡ってしまったのかもしれない」とする声明を発表しました。 人類はこの数ヶ月でもうすでにルビコン川を渡ってしまったのかもしれないのです。むし

はじめに こんにちは。最近 Azure 触るのが楽しい Identity チームの すかんく です。 Azure OpenAI Service で自社データを含めた検索・回答生成を行う際、検索対象となるデータをフィルタすることが出来るようなので試してみました。 本記事内では極力平易な言葉を用いることで、誰でも読みやすい内容にすることを意識して執筆しております。 そのため、各サービス・機能の解説が不十分であったり、ニュアンスとして不適切な表現が含まれる場合があるかと思いますが、ご容赦いただけますと幸いです。 TL;DR 従来、生成 AI に自社データを取り込んだ場合、元データのアクセス権を意識したデータ選択や回答の生成が困難だった 新しく、Azure OpenAI Service で自社データを利用する際に、検索対象とするデータのフィルタが可能になった 検証した結果、フィルタ機能を適切に運用

こんにちは、igaです。 ポケモンsleepを継続していますが、行ける場所が増えたことで新しいポケモンに出会えるようになりました。 今回は、Azure OpenAIのセキュリティを向上させるため、ネットワークのアクセス制限について確認してみました。 Azure OpenAIの利用制限 Azure OpenAIを利用するためには、通常、APIキーが必要になります。 APIキー自体、ランダムな数字と文字で生成されるもので、これだけでもある程度セキュリティは確保できるものの、もし、APIキーが外部に知られてしまうと、想定していない人や環境から、自社のAzure OpenAIにアクセスされてしまいます。 APIキーが万が一漏洩してしまった場合に、Azure OpenAIを不正に利用されないようにするため、ネットワークのアクセスを制限します。 Azure OpenAIへのネットワークアクセスを制限す

株式会社クラウドネイティブは、Azure OpenAIで自組織専用のChatGPTの構築を支援するサービスを展開しています。ChatGPTとAzure AD OpenAI Serviceの取り組みや事例、支援… IDチームの前田です。今日は生成AI(ChatGPT)と音声認識モデル(Whisper)を利用した会議アシスタントツールに関する投稿になります。 (追記) 作ったツールはGitHub上で公開しており、Dockerを利用してすぐに試せるようになってます。 https://github.com/cloudnative-co/mtg-ai-assistant 2023年8月30日現在Azure OpenAIにてWhisperが利用出来ていないため、OpenAI Whisper APIを利用した試験段階のものになります。近日中にAzure OpenAIにてWhisperが利用出来るとアナウ

こんにちは、igaです。 先日は台風の影響が出る前に出かけられて、リフレッシュできました。 今回は、Azure OpenAIとチャットする際に、独自データを使用してみます。 独自データの使用（原文の表記はon your data）は、2023年8月現在パブリックプレビューとして利用できる機能です。 techcommunity.microsoft.com 独自データの使用（以降、on your dataと表記します）により、例えば企業内ドキュメントやFAQをAzure OpenAIに検索させることで、ユーザーからのチャットでの問い合わせに対して企業内ドキュメントやFAQを検索した結果をAzure OpenAIがチャットの応答として返すことができるようになります。 今回は、on your dataを利用するまでの流れを試したいと思います。 on your dataのポイント on your d

This repository contains a set of design patterns illustrating how to effectively build Agentic solutions powered by LLMs (Large Language Models) in Azure. Agentic AI systems are designed to autonomously pursue complex goals and workflows with limited direct human supervision. These systems act as independent agents, making decisions and performing tasks autonomously. The main capabilities of Agen

目次 はじめに 今回作成するシステムの概要 Azure OpenAI セットアップ Azure DevOps の Azure Repos をセットアップ Next.js でフロントエンド構築 Azure Static Web Apps へ Pipelines を用いて Deploy 動作確認 お片付け はじめに 昨今ちまたで話題の OpenAI。chatGPT はさらっと触ったけど、API までは触ってないなぁ…という方向けのハンズオン 🖐️ となります。 この記事の目標としては、OpenAI を触ってみたい全てのアゲアゲエンジニアがハンズオン出来ることです。 セットアップで詰まるところはどんどんコメント欄に質問していただいたら、がんがん返していきますので、ご遠慮なく質問してください！ では、Let's ハンズオン！ 今回作成するシステムの概要 今回作成するシステムは Azure 上で作

こんにちは、igaです。 台風が接近していて、外出の予定と重ならないかドキドキしています。 今回は、Azure OpenAI Service（以下、Azure OpenAIと記載します）で7月から利用できるようになった「Function calling」を試してみます。 Function callingとは、実行可能な関数を予め定義しておき、自然言語から実行すべき関数と引数を特定してくれる機能です。 OpenAIのAPIで、6月にリリースされた機能ですが、それがAzure OpenAIでも利用できるようになりました。 この機能のポイントは、「関数を呼び出す」ことではなく、「呼び出す関数（とその引数）を特定してくれる」ことにあります。 （名前が「Function calling」なのに、ややこしいですね） Azure OpenAIの利用開始方法とAPIの呼び出し方については、前回の記事を参考

ChatGPTを企業内業務でどれだけ使いこなせるかは、生産性に大きな影響を与え得る。しかし、企業で使うためには個人情報の保護など一定の対策が必要だ。企業活用のレベルを3段階に分け、どのようにシステムを構築すればよいかを解説する。 Level 1 セキュリティーとガバナンスを保つ 本稿執筆時点で、セキュリティーやガバナンスの問題をクリアしてChatGPTを業務で使うには米マイクロソフトの「Azure OpenAI Service（以下、Azure OpenAI）」を使うことが第1の選択肢だろう。Azure OpenAIはChatGPTなど、米オープンAIのモデルが利用できるサービスだ。セキュリティーや監査機能などに優れるMicrosoft Azureの一サービスであるため、セキュリティーやガバナンスの機能をそのままChatGPT利用時に適用できる。 代表的なのは、企業情報システムで長く認証基

こんにちは、igaです。 先日からポケモンSleepを始めたのですが、寝ている間にポケモンが集まってくるのが面白いですね。 今回は、Azure OpenAI Service（以下、Azure OpenAIと記載します）を利用してみようと思います。 2023年1月から利用できるようになった、Azure OpenAIですが現状では申請が必要になります。 2023年7月には、Japan Eastリージョンで利用することが可能になりました。 learn.microsoft.com 今回、申請から、利用を開始するまで、どのような手順が必要になるかを説明していきたいと思います。 Azure OpenAI Serviceの利用申請 Azure Portal にサインインして、「Azure OpenAI」から「作成」を始めて選択すると、次のように「価格レベル」のドロップダウンに「使用できる項目がありません