こんにちは、パトルです。 2023年12月17日、カルフォルニアのシボレーの販売店で使われている顧客対応用のChatGPTが、プロンプトインジェクション（AIのハッキングみたいなやつ）にあって、多大な特典を付与したり、新車を1ドルで売ってしまう事案が発生しました。 今回は、このショッキングな事案の概要、どういうプロンプトインジェクションが用いられたのか、損害状況などを解説しながら、プロンプトインジェクションのリスクを勉強したいと思います。 概要今回の舞台はカルフォルニアのワトソンビルという地区にあるシボレーのディーラーのホームページに設置されていたセールチャットボットです。URLはこちらです。（残念ながら12/22時点ではChatGPTは外されています） https://www.chevroletofwatsonville.com/ChatGPTは、商品を説明するという位置づけで導入されて

11月7日 、OpenAI DevDay が開催。 全ての内容が革命的という衝撃の発表となりました。 発表された内容は、大きくまとめると、主に3つです。 1. GPT API が大幅に改善、新しいAPIも 2. GPTs 発表： 自然言語で作れるAIボット 3. Assistants API 発表: 開発者のための、AIアシスタントAPI 全て、インパクトが非常に大きいです。 それぞれ、詳しく解説していきます。

https://forest.f2ff.jp/introduction/7866?project_id=20230601

最近流行りのChatGPT。 「色々な作業を自動化した」 「国家試験に合格した」 ニュースで目にする機会も最近は多いと思います。 では、ChatGPTは現段階でどのくらい賢いのでしょうか？ 「海外の司法試験で人間を超えた」などの情報をよく耳にしますが、実感が湧きませんよね。 今回は日本人に馴染みの深い大学入学共通テスト（旧センター試験）を題材に、その実力を検証してみました。 実験方法今回は、令和４年度の国語・英語（リーディング）・公民（倫理 / 政治・経済）の3科目について実験を行いました。 ※ 数学・理科等の科目については図表を読み取る問題が多く、正確に試験できないため今回は除外しました。 ポイント①： テキストになおす大学入試センターで公表されている試験問題がPDFのため、ChatGPTに読めるテキスト形式にする必要があります。 今回はGoogle Docsの機能を活用して文字起こしし

ChatGPT関連情報の追い方、個人・業務での使い方、サービスへの組み込み方、 ABEJAでの取り組み4例、ここ2週間のトピックなど行けるところまで

ネット上などの膨大な情報を学習し、まるで人間のように会話ができるAI「ChatGPT」。 世界中で急速に利用が広がり、私たちの生活に大きな影響を及ぼし始めている。 「インターネットや携帯電話の発明に並ぶ革命だ」（ビル・ゲイツ氏） 「恐ろしくすごい。危険なほど強力なAIが現実味を帯びてきた」（イーロン・マスク氏） 正と負の両面が、大きくクローズアップされている“異次元”のAI。 「私たち人間は、AIとどう向き合っていくのか」。 避けられない命題が、いま、突きつけられている。

ChatGPT は既にエンジニア以外の方も含めて知られ始めています。2023年4月現在の ChatGPT が何なのかを整理するとともに。その社会やビジネスへの実装の価値を考えます。 入門編としてご参照ください。 - ChatGPT 概要 - Prompt の例 - 気の利いたPrompt

目次[非表示] 1.はじめに 2.AI関連の指針・原則・ガイドラインの動向 2.1.国内における分野横断の主なAI関連の指針・原則・ガイドライン 3.ChatGPTの業務利用に関する動向 3.1.ChatGPT等の業務利用を推進する企業様のニュース 3.2.ChatGPTの業務利用を制限・禁止する企業様のニュース 3.3.AIサービスの業務利用に関するガイドライン策定のニュース 4.ChatGPTのプライバシーポリシーと利用規約における留意点 4.1.情報漏えい 4.2.情報の正確性 4.3.参照 5.ChatGPT Web版の業務利用における情報セキュリティ上の留意点のまとめ 5.1.情報漏えい 5.2.情報の正確性 6.まとめ はじめに昨今、ChatGPTに関する話題に注目が集まるなか、「業務利用」について検討される企業様が増加しています。実際に、クラウドリスク評価「Assured（ア

人間のように自然な受け答えができる高度な性能を備え、世界で急速に利用が広がる対話式AI「ChatGPT」。開発したアメリカのベンチャー企業のCEO・サム・アルトマン氏（37）が来日し、NHKの単独インタビューに応じました。 この中でアルトマン氏は「想像できない方法で、私たちの生活を向上させるものだ」と述べた上で、「リスクを軽減するための規制が必要で、政府と話し合うことが重要だ」という認識を示しました。 「私たちすべての生活の質を向上させる」 アメリカのベンチャー企業「オープンAI」のCEO、サム・アルトマン氏は、「ChatGPT」を去年11月に公開した後の初めての訪問国として日本を訪れ、10日NHKの単独インタビューに応じました。 アルトマン氏は『ChatGPT』が社会に与える影響について、「新しいテクノロジーが登場すると、今日では想像できない方法で、私たちすべての生活の質を向上させること

「ChatGPT」を開発したアメリカのベンチャー企業「オープンAI」のサム・アルトマンCEOは10日午前、総理大臣官邸を訪れて、岸田総理大臣と面会しました。 面会のあとアルトマン氏は記者団に対し、「とてもいい面会だった。岸田総理大臣とはAI技術の長所とともに、欠点をどう軽減していくかについて話し合った」と述べました。 一方、岸田総理大臣は総理大臣官邸を出る際、記者団に対し「新しい技術が登場し、利用されている一方、プライバシーや著作権といったリスクも指摘されているという状況について意見交換した。合わせて国際的なルールづくりについてもどのように考えるか、意見交換した」と述べました。 アルトマン氏は午後、自民党の「デジタル社会推進本部」の会合に出席し、冒頭で「AIの開発が、技術的な革命をもたらすことを信じている。日本が果たしうる役割は非常に大きいと思う」と述べました。 出席者によりますと、会合の

値上がり ポジティブ日経平均42,715.38+0.19%ポジティブ値上がり ポジティブダウ平均45,631.74+1.89%ポジティブ値上がり ポジティブ英 FTSE9,321.40+0.13%ポジティブ値上がり ポジティブS&P500種6,466.91+1.52%ポジティブ値上がり ポジティブUSDJPY=X147.28+0.27%ポジティブ

ChatGPT APIの使い方 実際にChatGPT APIを使ってみましょう。 openai-pythonのインストール 今回はOpenAIのPython用ライブラリであるopenai-pythonを使います。pipを用いて、openai-pythonをインストールしましょう。 pip install openai APIリクエスト ChatCompletion.createで対話を生成できます。たとえば、以下のようなコードになります。 import openai openai.api_key = "sk-..." # APIキー completion = openai.ChatCompletion.create( model="gpt-3.5-turbo", messages=[{"role": "user", "content": "こんにちは！"}] ) print(complet

ChatGPTで文章を作成して、最後に『文章を書く時は以下のルールを忠実に守ってください。』と入力すると、自分の希望通りの文章を書いてくれます。具体的にはこんな感じです↓↓ pic.twitter.com/A4ABtkGN3u — ミスティー＠専業ブロガー (@misty_blog) March 19, 2023 ChatGPTで『〇〇 〇〇で検索するユーザーが思わずクリックしてしまうブログ記事のリード文を〇〇のプロ目線で書いてください」と指示すると、SEOで上位表示できるレベルの『リード文』が簡単に書けてしまう。詳しいやり方はこんな感じです↓ pic.twitter.com/e2wweMLfkr — ミスティー＠専業ブロガー (@misty_blog) March 22, 2023

「OpenAI」の「ChatGPTプラグイン」の記事が面白かったので、かるくまとめました。 ・Chat Plugins - OpenAI API ・ウェイトリスト 1. ChatGPTプラグイン「ChatGPTプラグイン」は、「ChatGPT」をサードパーティのアプリケーションに接続するためのプラグインです。「ChatGPT」は、開発者によって定義されたAPIと対話し、機能を強化し、幅広いアクションを実行できるようになります。 次のような機能を追加できます。 ・リアルタイム情報の取得 (スポーツスコア、株価、最新ニュースなど) ・知識ベース情報の取得 (会社のドキュメント、個人的なメモなど) ・ユーザーに代わってアクションを実行 (フライトの予約、食べ物の注文など) プラグイン開発者は、マニフェストファイルとAPIエンドポイントを公開します。これらはプラグインの機能を定義し、「ChatGP

We’ve implemented initial support for plugins in ChatGPT. Plugins are tools designed specifically for language models with safety as a core principle, and help ChatGPT access up-to-date information, run computations, or use third-party services. In line with our iterative deployment philosophy, we are gradually rolling out plugins in ChatGPT so we can study their real-world use, impact, and safety

［速報］「GitHub Copilot X」発表、GPT-4ベースで大幅強化。AIにバグの調査依頼と修正案を指示、ドキュメントを学習し回答も GitHubは、GTP-4をベースに「GitHub Copilot」の機能を大幅に強化した「GitHub Copilot X」を発表しました。 GitHub Copilot is already helping developers code faster in their IDEs. But what’s next? Our answer is GitHub Copilot X. It’s our vision for the future of AI-powered software development. Check it out https://t.co/3Xrn7dAPgi — GitHub (@github) March 22, 202

AIがヤバい。今回は本気でヤバい。 既存の仕事は今後どうなってしまうのか。ライター業は、AIに取って代わられるのではないか。 危機感の理由は「GPT-4」だ。米OpenAIが3月14日（現地時間）に公開した、次世代の大規模自然言語モデル。その試用が、AIチャットbot「ChatGPT」の有料版で利用できるようになったので、早速試したところ、たまげた。 以前のバージョン「3.5」は、詳細かつ適切に指示しないと狙った結果が得られなかったのだが、「4」は、雑な指示でも適切な結果を返してくれる。例えば、以下のような感じだ 「ゆかたんかわいい」で「縦読み」を作ってもらった。「縦読み」とは、横書きで意味の通じる文章で、冒頭の文字を縦に読むと別の意味になっている、という言葉遊びの一種だ。前モデルの「GPT-3.5」だと要領を得ない返答だったが、「GPT-4」は一発でこんな答えを示した。 「ゆめのような彼

「GPT-4」発表　日本語でもChatGPT英語版より高性能、司法試験で上位10％、「この画像何が面白いの？」にも回答（1/3 ページ） 米OpenAIは3月14日（現地時間）、大規模言語モデル「GPT-4」を発表した。テキストでのやりとりだけでなく、新たにユーザーから画像を受け取り、適切な情報も返せるようになったという。司法試験の模擬問題を解かせたところ、現在の「ChatGPT」が採用しているGPT-3.5では受験者の下位10％ほどのスコアしか取れないのに対し、GPT-4では上位10％のスコアで合格するとしている。 ChatGPTの有料版「ChatGPT Plus」やAPI経由ですでに利用できるようになっている。 専門的領域なら人間レベル　日本語でもGPT-3.5の英語版より高性能に GPT-4の性能について、同社は「現実世界のシナリオにおいては人間に劣ることも多いが、（司法試験の模擬問