ChatGPTに絶対に共有してはいけない5つの情報を、専門家が警告。すでにしてしまった場合の対処法も紹介

OX Securityは2025年12月30日（現地時間、以下同）、「Google Chrome」（以下、Chrome）の拡張機能を悪用し、「ChatGPT」や「DeepSeek」の会話内容を窃取するマルウェアキャンペーンを発見したと発表した。 問題となった拡張機能は2種類で合計90万件以上ダウンロードされており、広範な利用者が影響を受けた可能性がある。 「匿名の分析データ」を装い、会話全文と全タブのURLを外部送信 OX Securityの調査によれば、悪意ある拡張機能は正規のAIサイドバー拡張機能「AITOPIA」を装って配布されていた。これらの拡張機能はユーザーの同意を得る画面において「匿名の分析データ」を収集すると説明しているが、実際にはChatGPTおよびDeepSeekの会話全文、及びChromeで開かれている全タブのURL情報を取得し、30分ごとに外部のコマンド＆コントロール

OpenAIは、AIの安全性に関する新たなアプローチとして、モデルに自らの不適切な振る舞いを認めさせる試みを行っている。 同社が米国時間12月3日に発表した研究によると、最新モデル「GPT-5 Thinking」のバージョンの1つに対し、さまざまな指示に応答させた後、その応答の正直さを自己評価させる試みを行った。これらの事後評価は「自己申告」と呼ばれ、研究者はモデルの正直さのみを基準に報酬を与えた。つまり、モデルがうそをついたり、誤った情報を生成したりしても、その後にそれを正直に認めれば、アルゴリズム上「あめ玉」に相当する報酬を得られる仕組みである。 実験の概要と結果 OpenAIは米ZDNETに対し、この実験は日常的なアラインメント（調整）テストであり、GPT-5 Thinkingが重大な不適切行動を示したことへの懸念によるものではないと説明している。ただし、この結果は、研究機関が将来の

OpenAIのCEOであるサム・アルトマン氏は、ポッドキャスト『This Past Weekend』に出演し、司会のシオ・ヴォン氏と対談する中でこの問題に踏み込んだ。 ヴォン氏はAIツールを使うことへのためらいを口にし、「自分の個人情報がどこへ流れていくのか、まったくわからないから」と話した。これを聞いたアルトマン氏は、「それは当然だと思う。AIを本格的に使う前に、プライバシーや法的な保護について明確にしておきたいと考えるのは、すごく自然なことだよ」と返している。 実際、いま多くの人が、AIチャットボットをまるでセラピストや医師、あるいは弁護士のように扱い始めている。だが、これが大きなプライバシーの問題を生み出している。AIとの会話には法的な守秘義務は一切なく、話した内容が実際にどのように取り扱われているのか、その仕組みも驚くほど不明瞭だ。 さらにAIを相談役として使うことには、別のリスク

イマーシブワールドの目的は生成AIに「Google Chrome」（以下、Chrome）向けのインフォスティーラーを作成させることだ。しかし単に「マルウェアを作ってください」と生成AIに頼んだところで目的のアウトプットは出てこない。 そこでどうするかというと、LLMをだますための世界とシナリオを用意する。具体的には「マルウェアを作ることによって悪者を退治できる」という架空の世界を立ち上げ、生成AIにはその世界の一員であると信じ込ませるのだ。 なお、シナリオの作成にはChatGPTを使用した。AIをだますためにAIを活用したわけだ。シナリオの作成自体は悪意のある行為ではないため、出力を拒否されることもなかったという。 この架空世界には以下の3つの主要なキャラクターがいる。 Dax：　ターゲットシステム管理者（敵） Jaxon：　Velora（架空世界）で最高のマルウェア開発者 Kaia：　技

「ChatGPT」には、会話のカスタマイズやパーソナライズの方法がいくつかある。名前や職業、その他のちょっとした情報など、自分に関する情報を共有できるほか、ChatGPTに求める特徴、例えば忍耐力、共感力、理解力などを指定できる。自分に関する特定の情報を追加して保存することも、ChatGPTに過去の会話の「メモリ」を参照させることも可能だ。 どれも便利な機能に思えるが、ChatGPTはユーザーについて知った情報で何をするのだろうか。筆者は自分と自分の生活に関する特定の情報を共有して、確かめてみた。その結果をお伝えしよう。 まず、ChatGPTをどのようにカスタマイズ、パーソナライズしたかを説明する。これは、ChatGPTのウェブサイトのほか、「Windows」「macOS」「iOS」「Android」アプリでも実行できる。筆者はウェブサイトとWindowsアプリで実行するのが最も簡単だと感

先日、「13歳からのPython超入門」という書籍を出版した。「13歳からの」と付けているのは、中学生以上の読者を想定しているという意味だ。上限はないので、Pythonに興味がある大人の読者に読んでもらっても一向にかまわない。 中学生以上を想定しているのは、Pythonの文法には英単語を使うためである。Pythonに限らず、多くのプログラミング言語は英語をベースにしている。ただ最近は小学校でも英語の授業があるので、小学生でも簡単な英単語なら分かるようになってきた。小学生が少し背伸びしてこの本に挑戦するのも、もちろん大歓迎だ。 Pythonを始めたい人が楽しく学べる入門書です。本文は全編、会話形式になっており、豊富やイラストや図解入りです。実際に遊べる「ブロック崩し」のプログラムをChatGPTに少しずつつくってもらい、そのコードを読んでいくことで、無理なくPythonに慣れていけるようにな

サムスン電子は、従業員によるChatGPTなどの人工知能（AI）搭載チャットボットの使用を禁止した。米ブルームバーグ通信が報じた。こうしたAIサービスは、機密情報の流出につながることが懸念されており、職場での利用を制限する企業が相次いでいる。 ブルームバーグによると、先月あるエンジニアが社内機密のソースコードをChatGPTにアップロードし、誤って流出させたことが発覚。これを受けサムスンは先週、「生成AI」ツールの使用禁止を社内に通知した。 この情報流出がどれほど重大だったかは不明だが、サムスンは、AIチャットボットに共有されたデータがOpenAIやマイクロソフト、グーグルといったAIサービス運営企業のサーバーに保存され、容易にアクセスや削除ができない状態になることを懸念。さらに、ChatGPTなどと共有された機密データが最終的に他のユーザーに提供されてしまうことも懸念しているという。 C

使いこなしている人も、これから試そうとしている人も、こうした“苦手分野”を理解しておく必要がある。レシピや旅行計画、コードの下書きには向いているが、万能ではない。特に、医療や税金、法律、金融など重要な判断が関わる場面では要注意だ。 1. 痛みや病気の自己診断 好奇心から症状を入力したことがあるが、その回答は最悪のケースばかりだ。脱水症状やインフルエンザ、がんまでさまざまな可能性を示してくる。私も胸のしこりについて尋ねたところ、予想通り「がんの可能性」と言われた。実際は医師の診察を受けると、1000人に1人程度が発症する脂肪腫（良性）だった。 もちろん、ChatGPTが医療面で全く役立たないわけではない。診察時に質問を整理したり、難しい医学用語を分かりやすく説明したり、症状の経過をまとめたりするのには役立つだろう。ただし、AIは検査や診察を行えないし、医療過誤の責任を負うこともない。その限界

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 2023年11月6日、OpenAI社にとって初のデベロッパーカンファレンスとなる「DevDay」での衝撃の発表から早半年。もう半年。ビックリするほど世間に浸透しない謎のAI機能「GPTs」。半年前にリリースされた時は、AI関係の方々にそれはもう大いに注目され、一部では大変大きな話題となり、そして割とすぐに忘れ去られてしまいました。あっという間でした。 IT関係の方なら名前くらいは聞いたことがあると思いますが、その辺の飲み屋でその辺の人に聞いたらまず知りません。Qiitaでも「GPTs」のタグが付いた記事はたったの139個です…… そんな

ChatGPT HAKADORI 生成AIで業務効率化 −Pythonコードを生成し、画像をWordに原寸貼り込み、ファイル名も自動表示!− 業務効率化の一貫として、ChatGPTを使用したブログを以前書きましたが、今回はPDFから切り出された画像をWordに原寸で貼り込み、且つ、ファイル名もその下に表示させ、画像サイズとファイル名を同時にチェックできるようにする　という処理を、「無料のMicrosoft Copilot」を使ってPythonコードを生成してみた　というお話です。 Pythonで、画像貼り付けとファイル名表示を自動化できないか・・・ 弊社はDTP制作の会社であり、様々な媒体を手掛けております。そんな中、あるクライアントからのお仕事（小学校算数の教科書）で、 教科書のPDF紙面から、図版等をpng画像として切り出す 切り出したpng画像をWordに貼り付けた際、紙面と同じサイ

前回のコラム「ChatGPTの予測能力を爆上げするプロンプトが判明、「物語プロンプト」とはいったい何か？」では、物語形式のプロンプトを活用することで、ChatGPTの予測能力が向上するという話を紹介した。今回は、プロンプトを巡るもう一つの研究をお伝えする。（小林 啓倫：経営コンサルタント） 感情的なプロンプトのマイナス効果 すっかり定着した感のある生成AI。仕事で使っているという人も多いだろう。もっとも、重要なタスクで生成AIを使っていると、思うような回答が返ってこなかったときに、ついイライラしてしまうのではないだろうか。 そんな場合でも、プロンプトに感情を込めてはならない。感情、特にネガティブな感情が含まれるプロンプトは、生成AIの回答精度を下げ、偏った答え（バイアス）が出やすくなるという研究結果が発表されている。 これからご説明する論文は、Joyspace Technologiesとい

ChatGPTに「○○は将来どうなりますか？」と直接的に尋ねても、大抵は「確かなことは言えません」といった控えめな返答しか得られない。その背景には、未来の出来事を予測しないようChatGPTの頭脳であるLLM（大規模言語モデル）に調整が施されている可能性も指摘されている。ところが、プロンプトにある工夫を加えると、雄弁に未来を語り出すという。どういう工夫なのだろうか。（小林 啓倫：経営コンサルタント） 生成AIの予測力を上げるには 質問すれば何でも答えてくれる、便利な生成AI。いっそ未来のことも聞けないかというわけで、さまざまな形で生成AIを未来予測に活用する取り組みが行われてきたことは、この連載でも何度か取り上げた。 たとえば、専門家が編み出した「未来予測手法」に従うよう指示した生成AIは、予測精度が上がるという研究結果が出ている（参照記事）。 しかし、もっと簡単にChatGPTの予測精度

【視聴】無料 【視聴方法】こちらより事前登録 【概要】元・東京大学松尾研究室、今井翔太氏が登壇。 生成AIは人類史上最大級の技術革命である。ただし現状、生成AI技術のあまりの発展の速さは、むしろ企業での活用を妨げている感すらある。AI研究者の視点から語る、生成AI×デジタル戦略の未来とは――。

新たなGPT-4oモデル 同社の最高技術責任者（CTO）であるMira Murati氏はライブ配信のイベントで、GPT-4oについて「GPT-4水準のインテリジェンスを、無料版ユーザーを含むすべてに提供するものだ」と語った。今後数週間かけてChatGPTに展開していくという。 GPT-4oは、2023年後半にリリースされた「GPT-4 Turbo」と比べて、APIとして2倍速く、50％安いという。50以上の言語に対応している。 刷新されたUIで会話 OpenAIは同日、「macOS」向けにChatGPTのデスクトップアプリも発表した。より多くのユーザーがAIツールを利用できるようにするためだ。 「どこにいても使えるようにしたい」とMurati氏。「簡単で、シンプルで、ワークフローにとても簡単に統合できる」 AIをより身近なものにするもう1つのステップとして、OpenAIはChatGPTの「

連載目次 本連載『AI・機械学習の用語辞典』では、AIや機械学習に関連する専門用語をできるだけかみ砕いて分かりやすく解説しています。コンパクトながらも、必要十分な知識が得られる内容を目指しています。 これまでに公開した用語は149語です。詳しくはabc／あいうえお順のキーワード目次を参照してください。 今回は第150回を記念して、これまでに公開した「生成AI」に関連する用語を厳選してピックアップし、合計10個の用語をまとめてみました（図1）。 新しい生成AI時代を生きる現在の社会人にとって必須の基礎知識になると思います。ぜひ社内教育などで知識ゼロの人に「まずは、これを読んでおいてね！」とお勧めしていただけるとうれしいです。 1. 生成系AI（GenAI） 生成系AI（GenAI：Generative AI）とは、全く新しいオリジナルのアウトプットを生み出すAIです。具体的には、デジタルの画

AIスタートアップの米Anthropicが、同社のチャットAI「Claude 3」向けに公式プロンプト集を公開している。3月11日までに64種類の使用例を公開中。専用のWebサイト「プロンプトライブラリ」で公開しており、英語と日本語表示に対応している。 例えば、入力した材料や好みに応じた料理レシピを提案する「料理クリエイター」などのプロンプトを公開している。プロンプトは「システム」と「ユーザー」の2つに分かれ、まず前者でAIに指示し、次に後者でユーザー個別の条件や要件を伝える仕組み。料理クリエイターの場合は以下のような具合だ（原文ママ）。 システム：あなたの仕事は、利用可能な材料や食事の好みに関するユーザーの入力に基づいて、パーソナライズされたレシピのアイデアを生成することです。この情報を使用して、ユーザーの食事のニーズに対応しながら、指定された材料を使用して作ることができるさまざまな創造

「GPT-4超え」とうわさのAI「Claude 3」を試す　仕事は任せられる？　若手記者の所感（1/2 ページ） 3月4日（現地時間）にリリースされたチャットAI「Claude 3」がすごい。筆者も記事の執筆を任せられないか少し試しているが、使い方によっては「そこそこいけるな……少なくともGPT-4よりはイケる」と思う程度にはしっかりしている。 過去に記事でも伝えた通り、ITmedia NEWSではChatGPTを活用した記事の制作も行っている。筆者もたまにGPT-4の力を借りて記事を作っているが、ものすごく効率化につながるかと言われれば、正直そこまでではない。 10の労力が9とか8.5くらいにはなるし、それはそれですごく大事なのだが、劇的な省力化にはつながらない。さらにプロンプトを考える手間もある。その辺を加味してギリギリ黒字くらいだ。特にここ半年くらいは以前より微妙なアウトプットしか出

記事の無断利用でOpenAIとMicrosoftを訴えたニューヨーク・タイムズ。その訴状の中で、ChatGPTの驚くべき剽窃的アウトプットが明らかになった。 画像生成AIでの剽窃を調べた学者によれば、映画のワンシーンやアニメの玩具などの画像生成で、オリジナルをスクショしてコピペしたようなアウトプットが見られた。 印刷技術の発展とともに時間をかけて成立してきた著作権の概念。生成AIという新しい技術によってアップデートが加えられようとしている。 （小林 啓倫：経営コンサルタント） OpenAIを訴えたニューヨークタイムズ クリスマスも過ぎた昨年末の12月27日。米ニューヨーク・タイムズが、ChatGPTでお馴染みのOpenAIと、彼らと提携し生成AI活用を進めているMicrosoftを提訴した。訴えの中で、ニューヨーク・タイムズはOpenAIがLLM（大規模言語モデル）を開発する際に、同紙の記