こんにちは。虎の穴ラボ エンジニアの古賀です！ 今回は、OpenAIの『Assistants API』を業務（ソースコードの調査や工数の見積もり）に活用した事例を紹介します。 はじめに これを試してみようと思った経緯としては、業務で大量のPHPのソースコードファイルについて、PHPのバージョンアップに伴う作業工数の見積もりを行うことになりました。 すべて人手で調査をするととても時間が掛かることが予想されたので、その際にPythonのプログラムとAssistants APIのFile Searchを使って、ソースコードファイルの仕様や概算の必要工数を出力するCLIのプログラムを作成し、ソースコードリーディングや見積もりに役立てることができるかどうかを検証してみました。 本記事では最初にAssistants APIについて紹介し、その後にサンプルプログラムを紹介します。 Assistants

さてさて、この間ニュースを見ていたら「チャット型 AI のユーザー数が減少している」という内容を見ました。 どうやら「幻滅期に突入か！？」とまで言われているようですが、私はとても便利に感じていて、もう業務だけでなくプライベートでも使っている状態です。 そしてそんな中、「Artifact」という海外のニュースアプリで便利な機能があると聞きつけました。 それが・・・・・・ AI によるニュースの要約 です。 こんなカンジです。 ↓↓↓ コレいいですよね。👍 正直なところ、たくさんのニュース全部読むのには時間がかかります。なので私は「うーん、コレ長っげぇ記事だな…😅」と感じたときはChatGPTに以下のように聞いてました。 #ChatGPTプロンプト 以下のページを「結局何が言いたいの？」という疑問に答えるように箇条書きで三行に要約してください。 （ここにURL） ※ ちなみにこのプロンプト

OpenAI⁠⁠、2023年4月までの知識をもつ高性能な「GPT-4 Turbo」⁠⁠、カスタム化できるChatGPT「GPTs」を発表 OpenAIは2023年11月6日、同社主催の開発者カンファレンス「OpenAI DevDay」にて、ChatGPTに関する新たな機能やサービスを発表した。 New models and developer products announced at DevDay GPT-4の高性能モデル「GPT-4 Turbo」 2023年7月に一般利用が始まったGPT-4の、さらに次世代となるモデルである「GPT-4 Turbo」のプレビューが発表された。GPT-4 Turboは2023年4月までの出来事に関する知識を取り込んでおり、より高性能となった。また128kコンテキストウィンドウをもち、1つのプロンプトに300ページ以上のテキスト相当の内容を収めることができ

UPDATE　「ChatGPT」の提供によって人工知能（AI）チャットボットを誰もが知る存在に押し上げたOpenAIは米国時間11月6日、ChatGPTの独自の特定用途バージョンをユーザーが構築できるようにすると発表した。 そうした特定用途ボットは「GPTs」と呼ばれ、プログラミングの知識がなくても構築できるという。ユーザーに必要なのは、自然な言葉による指示と追加の知識を与えた上で、画像作成やウェブ検索など、その目的を決めることだ。 「GPTsは、ChatGPTを特定用途向けにカスタマイズしたバージョンだ」と、OpenAIの最高経営責任者（CEO）であるSam Altman氏は述べた。同氏は、サンフランシスコで開催されたOpenAI DevDayでこの技術のデモを披露し、構築されたシステムに対して、同氏がアップロードした自身の講演の動画を基に、新興企業向けにアドバイスを提供するアプリを作成

2023年11月6日にOpenAIが初めての開発者向けのイベントであるOpenAI DevDayを開催しました。Youtubeにてオンライン中継が行われたため内容をまとめていきます。 この記事は速報記事であり、英語での発表を日本語で記載するため、内容に誤りがある可能性があります。今後、誤りが見つかった場合は適宜更新していくためご容赦ください。 既にOpenAIの公式でもリリース情報が記載されています。より正確な情報が知りたい方は以下をご覧ください。 https://openai.com/blog/new-models-and-developer-products-announced-at-devday まずは一年の振り返りからイベントは始まりました。この一年で、GPT3.5 / GPT4のリリースや音声への対応、画像生成としてDalle3、エンタープライズプランのリリース、Visionが追

はじめに openai chat completions api(以下ChatGPT API)を使っているが、コストダウンやドメインに特化したfinetuneモデルを使いたいといったニーズでlocal LLMを使いたいというニーズがあると思います。 その場合に、ChatGPT APIを利用する側のアプリケーションコードはそのままで、local LLMをサーバとしてたてて、使用するLLMだけ変えるという実現方法が考えられます。 幾つか良い実現方法があったため、現状、どのようなツールを使用して実現できるか簡単にまとめました。 ところで、偉い人に「うちもChatGPT作って」と言われた時、あなたならどうしますか？ （その答えの一つを「おわりに」に書きました） 解説 ChatGPT API互換サーバを作る場合、自分でlocal LLMをラップしてAPIサーバを実装してしまうことも考えられますが、そ

◆ Live配信スケジュール ◆ サイオステクノロジーでは、Microsoft MVPの武井による「わかりみの深いシリーズ」など、定期的なLive配信を行っています。 ⇒ 詳細スケジュールはこちらから ⇒ 見逃してしまった方はYoutubeチャンネルをご覧ください 【4/18開催】VSCode Dev Containersで楽々開発環境構築祭り〜Python/Reactなどなど〜 Visual Studio Codeの拡張機能であるDev Containersを使ってReactとかPythonとかSpring Bootとかの開発環境をラクチンで構築する方法を紹介するイベントです。 https://tech-lab.connpass.com/event/311864/ みなさん、こんにちは。サイオステクノロジー武井です。今回は、今話題沸騰の生成AIサービスであるAzure OpenAI Se

「『生成AIを使ってこんなもの作ってみました』開発者LT大会」は、急速に発展しているChatGPTや生成AIといったAI技術を使って何かを作ってみた人たちがアイデアや成果を共有する、ログミーTech主催のイベントです。株式会社AppBrewの堀江氏が登壇。続いて、「LIPS AI バーチャルビューティーアドバイザー」の開発の流れと、開発で発生した諸問題の解決方法について紹介します。前回はこちらから。 「LIPS AI バーチャルビューティーアドバイザー」をどのように開発したか 堀江慧氏（以下、堀江）：ここからはどのように作ったか、Howの話に入っていきます。初めにLangChainの「QAシステム作れまっせ」みたいなものをサッとやってみて。質問に関連するドキュメントを引っこ抜いてきて、それをGPTに渡して回答を生成させるみたいなものをPoC（Proof of Concept）してみたんです

OpenAIが提供するChatGPT Visionは画像の認識や分析に長けた機能 （要：$20/月のChatGPT Plusアカウント） 例えば、バグが起こっている様子をスクショして送れば、AIがソースコードの問題箇所を検出し、訂正したコードを送ってくれます。 ほかには手書きの文字を読み込んでテキストデータにしたり、画像を認識してその状況を文章化したりといった使い方も可能です。 生成AIの発展によって現在プロンプトエンジニアリングは注目を集めていますが、この技術を上手く活用できればプロンプトを書く手間すらも減らしていけるかもしれません。

はじめに この記事では、3日間でテック記事のAI要約・翻訳メディアをつくる個人開発で利用した OpenAI API LangChain の具体的な実装と利用コストについて触れていきます。 OpenAI APIとLangChainとは... OpenAI API OpenAI APIは、OpenAIという人工知能の研究・開発・普及を目的とした団体が提供するAPIです。このAPI は、自然言語とコードの理解または生成を必要とするタスクに利用することができます。 LangChain OpenAIが提供するGPT-3のような大規模言語モデル（Large Language Model: LLM）を利用してサービスの開発をしたいときに、「あるとうれしい機能」が集まったライブラリです。 この記事の目的 OpenAI API を使った記事の要約とFunction Callingの紹介 LangChain

はじめに AWS LambdaでOpenAIのWhisper APIを試してみました。 OpenAIには音声データから文字起こししてくれる「Whisper」という音声認識モデルがあり、WhisperをAPIの形で呼び出すWhisper APIが存在します。日本語ももちろん対応してます。 今回は、AWS LambdaがS3バケットに保存された音声データを元にWhisper APIで文字起こしして、精度を確認してみたいと思います。 OpenAIアカウントAPIキーの発行 OpenAIアカウント作成後、APIキーの発行をします。 APIキーの発行は、アカウントの View API keys をクリックします。 Create new secret key をクリックすると、API keyが発行されますので、コピーしておきます。 S3バケット 拡張子がwavの音声ファイルをS3バケットに保存しました

背景 Twitter で予想外にいいねをたくさん頂いていたため解説記事として出します。 OpenAI の API を活用してその会社のサービスに沿った SQL を返してくれる slack bot を開発しました。主に「OpenAI の API でものを作ってみたい人」「slack bot を簡単に開発したいと思っている人」「Cloudflare Workers に手を出したいと思っている人」などが対象の記事です。 作るものとしては、以下の 2 つです。 slack bot OpenAI に対してリクエストを送るバックエンド 今回使うモデルは gpt-3.5-turbo になります。単純に prompt としてデータベースの DDL を与えてあげれば bot が精度の高い SQL を返してくれるのではないかと考え作成しました。着想から設計、実装、リリースまで 5 時間ほどで出来たのですごく便

本書籍を全ての章を読み思ったこと。それはこの一冊があればとりあえず入門から今抑えなければならないことは大体網羅できる。そう感じました。 ChatGPT、正確にはOpen AIとLangChain本の紹介となります。私が知るにLangChainとOpen AIを用いたチャットシステム構築の本格的な実践入門書籍としては初になるんじゃないでしょうか。 今回は、そんな書籍のレビューと実際に書籍通りチャットシステム構築をする中で感じたこと、さらなるチューニングについてをご紹介していきます。 紹介する書籍 2023年10月18日発売(書籍/電子)の「ChatGPT/LangChainによるチャットシステム構築［実践］入門」になります。 下記にリンクを貼っておきますので、興味を持たれた方はぜひチェックをお願いします 著者の紹介 本書籍なのですが、今LLM界隈でも情報のキャッチアップとアウトプットの先頭に

はじめに OpenAI API のFunction Callingを触ったことがなかったため、AWS Lambdaを使いを試してみました。 Function Callingとは、ユーザーから受け取った入力から、事前に定義した呼び出すべき関数を判断して、関数の入力形式通りにJSON形式で出力する機能です。 メリットとしては、指定した型に沿ってJSON形式で出力してくれるため、外部ツールとの連携が容易な点です。 Function Callingでない場合、指定した型に沿ってJSON形式で出力するように、プロンプトを工夫する必要があったり、ユーザーの入力によっては、指定していない型で出力される可能性があります。。 ちなみに、Function Callingの動きや仕組みは、下記の記事が分かりやすかったのでご参考ください。 OpenAIアカウントAPIキーの発行 OpenAIアカウント作成後、AP

OpenAI が公開した Function Calling の API を使用すれば、定義した関数の情報を渡すことで、自然言語からどの関数を使用すべきかどうかを判定し、引数も json スキーマに従ってレスポンスしてくれます。 この情報を使って API クエリを実行し、レスポンスを元に UI を動的にレンダリングすれば、自然言語から UI が描画され面白いのではないかと思い実践してみました。 この例では、Function として OpenWeatherMapと REST Countriesを定義しています。 その他にも世界銀行の人口データからチャートを表示したりと、自然言語とコンピューター言語の融合がますます進みそうでかなりワクワクしました。 やりかた 今回は Next.js (App Router) と Vercel AI SDK を使用しました。全体的な実装は GitHub に載せてい

はじめに 最近、本番環境で Azure OpenAI Service を導入する事例が増えてきているように感じます。 Azure OpenAI Service の素の API 自体がどれくらいのリクエストに耐えられるのか、個人的にも気になっていました。 そこで具体的なシナリオを想定して、JMeter と Taurus で負荷テストしてみたので、その手順と結果を共有したいと思います。 ※筆者自身も負荷テストは初めてなので、間違っている点があればご指摘いただけますと幸いです。 JMeter と Taurus について JMeter とは JMeter は、Apache Software Foundation が開発しているオープンソースの負荷テストツールです。 HTTP 以外にも、FTP や JDBC などのプロトコルにも対応しており、様々なシナリオでの負荷テストが可能です。操作性も良く、GU

キーワードベースで情報収集をしているという下記の記事を読みました。私も似たようなことをしているのですがキーワードは使わない方法でニュースの収集をしていて、そのほうがLLMを活用できていると思うのでその方法を紹介します。 forest.watch.impress.co.jp キーワードではなく自分の目的や関心を伝える 以前私が手動でやっていたのはRSSリーダーにサイトを登録して、記事のタイトルと概要を読んで気になる記事を開いて読むということでした。こういうときに人間はキーワード検索をしていません。何をしているかというと自分の目的や関心があって、それに関連する記事をピックアップするということです。それと同じようなことをさせようというのが今回紹介する方法です。 ポイントは今回の場合は私の所属する会社について情報をプロンプトで与え、それに関連するニュースが何かをLLMに考えさせることです。 今回の

AIチャットサービスの「ChatGPT」を生み出したOpenAIが2023年11月に開発者向けの大規模なアップデートを控えていると報じられました。このアップデートにより、同社のAIモデルに基づくソフトウェアをより安価に、より迅速に構築できるようになるとされています。 Exclusive: OpenAI plans major updates to lure developers with lower costs, sources say | Reuters https://www.reuters.com/technology/openai-plans-major-updates-lure-developers-with-lower-costs-sources-2023-10-11/ ロイターによると、GPT-4のような強力なモデルを使用するコストがすぐに積み上がってしまうという開発者の懸念

ジェネレーティブAIへの注目が集まる中、同分野のスタートアップに対する投資も急増している。dealroom.coによると、現在ジェネレーティブAI分野のスタートアップの合計評価額は、2020年比で6倍増加し、480億ドルに達した。 dealroom.coは、ジェネレーティブAI市場を複数のセグメントに分類しているが、その中でも最大規模を誇るのが「General Intelligence/model makers」で、この分野におけるスタートアップの合計調達額は149億ドルに達している。 この分野にはいわゆる「基盤モデル」を開発するスタートアップが複数含まれており、ジェネレーティブAI領域の中でも特に注目される存在となっている。 その筆頭は、ChatGPTの開発企業として知られるOpenAIだ。さらには、OpenAIの元研究者らが立ち上げたAnthropic、アルファベット傘下のAI企業ディ