本記事は、当社オウンドメディア「Doors」に移転しました。 約5秒後に自動的にリダイレクトします。 このたびブレインパッドは、LLM/Generative AIに関する研究プロジェクトを立ち上げ、この「Platinum Data Blog」を通じてLLM/Generative AIに関するさまざまな情報を発信をしています。今回は、効率的にLLMのような事前学習済みモデルを再学習する手法(PEFT)についてご紹介します。 問題意識 ビジネスで利用する際に乗り越えるべき壁 PEFTとは何か？ PEFTのコンセプト分類 トークン追加型 Prefix Tuning P Tuning Prompt Tuning Adapter型 Adapter LoRA型 LoRA Ada LoRA まとめ 参考文献 こんにちは、アナリティクスサービス部の辻です。 今回は、LLMを効率的に再学習する手法として今後

画像の認識・理解シンポジウム（MIRU2023）チュートリアル

短期的な生成系 AI のお試しから、長期的なプロダクトの差別化につなげる戦略の立て方を解説した資料です。Biz 、Dev 、 ML の 3 ステップについて、 生成系 AI の活用事例をベースにポイントを解説しています。 ML Enablement Workshop で戦略の構築支援が可能です。資…

発表動画はこちら。 https://youtu.be/l9fpxtz22JU 2023/4/29 一部修正とAPIに関するページ追加 2023/5/11 ChatGPTの言葉の意味を補足する資料を追加。Azure OpenAI Serviceで使えるモデルの記載を一部修正・最新情報追記。 202…

こんにちは、岩城です。既存のAWS環境をTerraformでコード化する機会がありました。その際、Terraform素人であったため、コード化する流れを掴むまでに少し時間が掛かりました。同じような方に向けて、備忘録として残しておきます。 はじめに こんにちは、岩城です。 既存のAWS環境をTerraformでコード化する機会がありました。その際、Terraform素人であったため、コード化する流れを掴むまでに少し時間が掛かりました。 同じような方に向けて、備忘録として残しておきます。 用語解説 Terraform Infrastructure as Codeを実現するためのツール コードからインフラの構築/変更/バージョン管理を行える HashiCorp社が開発、オープンソース版とエンタープライズ版がある AWS、Azure、GCPを始めとするメジャーなクラウドプロバイダをサポートしている

［速報］マイクロソフト、Bing Chatで手書きの画像からHTML/CSSを生成可能に、冷蔵庫の中身から料理のアイデアも、新機能ビジュアルサーチ。Inspire 2023 マイクロソフトは、日本時間7月19日未明から開催中のパートナー向け年次イベント「Microsoft Inspire 2023」において、AIチャットサービス「Bing Chat」に、画像を基に質問ができる「ビジュアルサーチ」機能（Visual Search in Bing Chat）を追加したことを明らかにしました。 ビジュアルサーチの機能はOpenAIのGPT-4モデルを活用したものだと説明されています。 下記はBing Chatのビジュアルサーチのデモ動画として、手書きのWebフォームの画像からHTML/CSSを生成させる様子を紹介したものです。 手書きのWebフォーム画像からHTML/CSSを生成 Bing Ch

はじめに Azure OpenAI ServiceとAzure Machine Learningを中心に、Microsoft Build 2023での発表内容を簡単にまとめました！スピード優先でまとめましたので内容についてご容赦頂ければ幸いです。 なお、記事内の[Preview]等の表記は、執筆時点でPreviewになっているものと、ブログ記事等のアナウンス内で「すぐに利用可能に」や「6月にプレビュー開始！」等となっているものもまとめて表記しています。 Azure Machine Learning Prompt Flow [Preview] Prompt flowはAzure Machine Learningのプロンプトエンジニアリングツールです！！ GUIも活用して様々なツールやリソースを組み合わせた形でプロンプトのフローを構築できます。LangChainにも対応しています。 Harne

Azure AI 検索はネイティブのドキュメントレベル アクセス許可を提供していないため、ユーザーのアクセス許可によって同じインデックス内からの検索結果を変更することができません。 回避策として、グループまたはユーザー ID を含む文字列に基づいて検索結果をトリミングするフィルターを作成できます。 この記事では、以下の手順を含むセキュリティ フィルター処理のパターンについて説明します。 最後に、ハンズオンの学習を提供するデモと例へのリンクを示します。 パターンを理解するには、まずこの記事を確認することをお勧めします。 セキュリティ フィルター パターンについて Azure AI 検索は、インデックス内のコンテンツにアクセスするためのセキュリティ サブシステムと統合されていませんが、ドキュメントレベルのセキュリティ要件を持つお客様の多くが、フィルターによって自分のニーズを満たせると考えていま

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 前回まで ITエンジニアなのにまだ投資やってないの？ITエンジニアならChatGPTでクオンツシステム作って儲けようぜ ITエンジニアなのにまだ投資やってないの？ITエンジニアならChatGPTでクオンツシステム作って儲けようぜpart2 ITエンジニアなのにまだ投資やってないの？ITエンジニアならChatGPTでクオンツシステム作って儲けようぜpart3 Bloombergは要チェック 面白いので見ておくといいです。 論文でもテクニカル分析の有用性が実証されている これは筑波大学で2017年に行われた検証実験ですが、TOPIXに対して

生成AIへのプロンプト入力時に問題となる個人情報保護法の論点をまとめました。 本稿作成時点(2023年9月1日)における見解であり、今後、個情委が公表する内容等によって内容はアップデートする可能性がある点についてご留意ください。 プロンプト入力時における個人情報保護法論点フローチャート 生成AIにプロンプトを入力するにあたり、個人情報保護法（個情法）上問題となり得る点をフローチャートにしてみました。 白色の帰結は、個情法に抵触せずに利用できる可能性が高い場合です。他方でグレーの帰結は、個情法に抵触するか（目的外利用）、本人（プロンプトに含まれる個人情報の主体）からの同意取得が必要になるため、適法に利用するためには一定の困難が生じる可能性がある場合です。以下、①から順番に解説していきます。 ①入力するプロンプトは個人情報か 入力するプロンプトが個人情報にあたらなければ、原則として個情法の問題

X Daily News @xDaily Your #1 News source on everything 𝕏 + xAI | Contributors: @HXMnCK, @LohanSimpson @xUpdatesRadar and @swak_12 I | Hit Follow and sign up for notifications! 🔔 X Daily News @xDaily NEWS: X’s updated Privacy Policy has added a mention of using X data to train AI models 👀 pic.twitter.com/Bn5YyoeHjq 2023-08-31 21:51:18

ChatGPTを用いて学習を進めることは、非常に楽しく、また便利な方法だ。しかし、その回答には誤りが含まれている可能性がある。したがって、このような学習方法を採用すると、誤った知識を身につけてしまう危険がある。これに対して警告を発することは、緊急の課題だ。昨今の経済現象を鮮やかに斬り、矛盾を指摘し、人々が信じて疑わない「通説」を粉砕する──。野口悠紀雄氏による連載第102回。 ChatGPTは誤った回答を出すことがある ChatGPTなどの大規模言語モデルは、誤った回答を出すことがある。これは「ハルシネーション」と呼ばれる現象であり、深刻な問題だ。ChatGPTは2021年9月までのデータしか学習していないため、それ以降の事柄については答えられないはずだ。それにもかかわらず、答えを出すことがある。また、2021年9月以前の情報についても、頻繁に間違う（具体的な例は後述する）。 BingやB

Googleによる新たな検索体験。知りたいことを検索すれば生成AIが要約してくれるように2023.09.03 09:0013,532 ヨコヤマコム この試験管はなんだろう。 Googleが、検索の新機能として生成AIによる検索体験（SGE）の試験運用を開始しました。 この機能は、GoogleのSearch Labsにアカウント登録をすることですぐに利用可能です。 PCでは、ChromeブラウザでGoogleトップページや検索結果ページにある｢試験管アイコン｣からSearch Labsのページへ。さらに｢SGEを有効にする｣というトグルをオンにすればOK。 スマートフォンでは、AndroidとiOSともGoogleアプリから利用可能。アプリにある｢試験管アイコン｣から、PCと同様にページへ遷移してトグルをオンにするだけです。 Googleが検索結果をAIで要約してくれるGIF: Google

アメリカのMicrosoft社が開発した表計算ソフト「Excel」。Excelは今も昔も、オフィスで利用されるパソコンソフトの代表だ。関数を該当のセルに入力するだけで、自動で計算を行ってくれ、あっという間にグラフや表にまとめてくれる。しかし、少しややこしい計算を指定したい場合は、該当の関数を入力するのに手こずってしまった経験があるという人も多いのではないだろうか。 2023年8月28日に投稿された、usutaku@AI情報解説@usutaku_comさんの「やりたいことを書いたら、エクセルの関数に変換してくれるAIが面白い。・曖昧な書き方でもいい感じに直してくれる　・長文でも問題なし　・出力結果が関数だけでシンプル←ChatGPTとの差異　・マクロ（VBA）やSQLにも対応　長めの関数とかを書く時とかに重宝するのでぜひ使ってみて欲しい。AI初心者におすすめ。」という書き込みには、実際にAI

画像生成AIにイラストや写真を学習させることを防ぐため、「Mist」などを使って画像に敵対的サンプルと呼ばれるノイズを入れる方法があります。この敵対的サンプルによるノイズを画像から除去するためのツール「AdverseCleaner」が登場しています。 GitHub - lllyasviel/AdverseCleaner: Remove adversarial noise from images https://github.com/lllyasviel/AdverseCleaner AdverseCleanerはHugging Faceで公開されており、実際に試してみることができます。 AdverseCleaner - a Hugging Face Space by p1atdev https://huggingface.co/spaces/p1atdev/AdverseCleaner 今

初めにCursorというAIファーストのすごいテキストエディタのご紹介です。もちろんChatGPT内蔵です。このエディタは、Visual Studio Code をフォークして作られているため、VSCode からのスムーズな移行ができます。そのため、Github Copilot も併用できます。 できること、基本的な機能や特長AI編集機能Command KはAIと一緒にコードを編集、生成する機能です。コードの一部を選択して「Command K」を押すか、「Edit」とクリックすると、そのコードをどのように変更すべきかをAIに説明することができます。 使い方

本稿は Gergely Orosz 氏によって書かれた次の記事の日本語翻訳です。著者に翻訳の許可を得て公開しています。 blog.pragmaticengineer.com また本稿は DeepL Pro を使って下訳したものに手を加えています。日本語翻訳の不具合または誤訳については Gergely Orosz 氏ではなく、本稿のコメント欄にお願いします。 著者も機械翻訳を下地にしたやり方に関心をもたれたようです。 The article translated to Japanese: https://t.co/4uynyyhm4E The author was transparent and noted that the article is a modification of an ML-translated article. This person managed to transl

iOSDC Japan 2023登壇資料

はじめに TerraformやVaultを開発するHashiCorpは自社製品をOSSのMPL(Mozilla Public License v2.0) から、ソースコードは公開するも一部の利用に制限があるBSL(Business Source License) への変更をアナウンスしました。 これは2018年のRedisを皮切りにMongoDBやCockroachDB、ElasticSearchなど多くのプロダクトで進められている脱OSSの流れです。商用のオープンソース[1]と言われてしまうこともある最近のこの動きの理由は何故なのか？　という点を以下の動画で解説しました。 動画中では尺の都合で端折った個所も多いので、こちらの記事の方にもまとめておきたいと思います。 OSSとは？ OSSの定義 まず、OSS（オープンソース）とはなんでしょうか？ これはRMSのフリーソフトウェアを源流とする

運用保守 ログの保存と活用 API監視 ライブラリ管理 速度性能 GPT-3.5, GPT-4の速度性能の例(Azure) イベントストリームでの対処 可用性 APIの稼働率 クォータ制限 APIの負荷分散による対処 セキュリティ Azure OpenAIのネッ…

本記事は、当社オウンドメディア「Doors」に移転しました。 約5秒後に自動的にリダイレクトします。 このたびブレインパッドは、LLM/Generative AIに関する研究プロジェクトを立ち上げ、この「Platinum Data Blog」を通じてLLM/Generative AIに関するさまざまな情報を発信をしています。 今回は、ビジネス展開を想定したAzure OpenAI Serviceのネットワークセキュリティの設定について紹介します。 アナリティクスサービス部の秋本です。 今回は、AzureOpenAIを利用するまでのガイドラインとして、Azure管理者・プロジェクト管理者向けにビジネス展開を想定したAzure OpenAI Serviceの設定について紹介していきます。 初回利用や利用者向けの記事は下記を読んでいただければと思います。 Azure OpenAI Service

機械学習を「社会実装」する際に待ち受けている罠と、その解決方法の考察 (2023年7月版) です。今回は、LLM等の生成AIの進化が加速し実用化フェーズを迎えた激動の時代において、機械学習プロジェクトに取り組む私たちに何ができるか？といった内容を盛り込みました。 ※この資料は、東京大学メタバース工…

世の中は生成AI「ChatGPT」の話題で持ちきり。世界中の人々が様々なアイデアを試している。サイバー攻撃者も例外ではなく、悪用方法を模索している。そこで本特集ではChatGPTがもたらすセキュリティーリスク（脅威）を、具体例を挙げながら解説する。一般にはまだあまり知られていないリスクや、「自律型AIエージェント」の脅威などを独自の検証を交えて紹介するほか、マルウエア解析などのサイバーセキュリティー領域への活用についても解説する。

対話型AI（人工知能）の基盤となる大規模言語モデル（LLM）を日本独自に研究・開発する動きが急加速している。NTTや富士通といったIT大手からネット大手のサイバーエージェントやLINE、さらにはABEJAなどAI専業のスタートアップまで。各社は日本語処理の水準や企業利用の利便性を高めて差異化する考えだ。海外の技術に頼らず自前のLLMを整備する動きは、生成AIに関する経済安全保障の意味合いも帯びる。「日の丸LLM」は実現するか。各社の挑戦を追った。