研究者が論文執筆や助成金の申請書を書く際、近年は大規模言語モデル（LLM）を活用するケースが増えています。確かにo1proの書く文章はAI臭さが無いですし、その知識や発想力に驚かさせる事は多いです。ただo1proをアカデミック関連の業務に試してきましたが、その経験から言えば、3万円を払ってo1Proを使う必要性は低い、というのが私の現在のところの正直な結論です。以下に理由を述べます。 1. o1モデルにおけるプロンプトのコツo1モデルは「シンプルなプロンプトがベスト」とされており、複雑なコンテキストや指示を加えすぎると性能を発揮しづらいと言われています。一部のプロンプト設計技法（few-shot learning や「think step by step」など）は、性能を向上させない場合もあります。以下がベストプラクティスです： シンプルで直接的に：簡潔な指示が最も効果的です。 連鎖的思考

昨年、OpenAIが最後までComputerUse、つまりコンピュータの自動操作する、いわゆる「本物のエージェンティックAI」を出さなかったことが腑に落ちなかったのだが、よくよく考えると、作るのは簡単でも、それを世に放つのは難しい問題というのがある。 特に今年から正式にOpenAIは非営利団体ではなく営利団体になった。 営利団体というものが目指すものは、当然ながら営業利益である。 さて、ではComputerUseがChatGPTのように「誰でも」使えるようになると困るのは誰だろうか。 まず最初に困るのは、おそらくGoogleだ。だが、すでにサム・アルトマンはGoogleは敵に回してもいいという判断をしている。だからChatGPT Searchを作って、デフォルトの検索エンジンとして使うように勧めている。ただ、まだデフォルトの検索エンジンにするにはChat GPT Searchは不便なことが

蜜月はいつまで続く？ マイクロソフトはOpenAI製モデルを減らす方針か2024.12.26 12:30 Thomas Maxwell - Gizmodo US ［原文］ （ 岩田リョウコ ） 賢い未来プランを持ってるっぽいぞ。 Microsoft（マイクロソフト）とOpenAIは、これまである種共生の関係にありました。MicrosoftはOpenAIに数十億ドルの資本提供して、そのお返しとして、現在Microsoftの生産性ソフトウェアスイートに組み込まれている最先端モデルへの早期アクセスをもらっていました。 しかし、仲の良かった2社は今、違う方向に進んでいるようです。ロイター通信は、MicrosoftがOpenAI以外が開発したモデルを365 Copilot製品に追加することを検討していると報じています。 OpenAI離れしていくMicrosoft今回の報道によるとMicrosoftが

2024年がもうすぐ終わろうとしている。 OpenAIが鳴物入りで始めた平日12日間連続の発表会は、AGIテストで飛躍的な成果を出したという｢o3｣の発表で幕を閉じた。 2024年末、12日間の連続発表が終わった直後というこの象徴的な時期に、批判的な視点も含めて、プログラマーでAI研究者でもある筆者の視点で、OpenAIと生成AIの最新動向を総括してみたい。 OpenAIの｢失敗｣と中国勢の脅威 ｢o3｣の発表は、多いに話題になったが、率直なところ個人的には冷ややかに見ていた。我々AI業界ではこういった、ベンチマーク結果の自慢だけをする発表を｢自慢リリース｣と呼んでいる。 OpenAIの発表だから嘘ということはないだろうが、触ることができない以上、社外の人間がそれが本当かどうか確かめることはできないからだ。 AI業界、特に生成AIに関わる業界には、誇大広告や実態のない詐欺まがいの論文が跳梁

以下の記事が面白かったので、簡単にまとめました。 ・Reasoning models 1. OpenAI o1「OpenAI o1」シリーズは、複雑な推論を行うために強化学習を用いて学習された新しい大規模言語モデルです。回答する前に考える特性があり、ユーザーに応答する前に長い内部思考の過程を生み出すことができます。これにより、科学的な推論に優れ、競技プログラミングの問題 (Codeforces) では89パーセンタイルにランクインし、米国数学オリンピック (AIME) の予選で全米の上位500人の学生に入る成績を収めています。また、物理学、生物学、化学の問題に関するベンチマーク (GPQA) では、人間の博士レベルの精度を上回る成績を達成しています。 APIでは、次の2つのモデルが提供されています。 ・o1 世界に関する幅広い一般知識を使用して難しい問題を推論できるように設計されている。

OpenAIが12日間連続で発表を行うイベント「12 Days of OpenAI」の最終日である2024年12月20日(金)に、新しい推論AIモデル「o3」シリーズを発表しました。OpenAIによると、o3シリーズやo1シリーズには「deliberative alignment(熟慮的調整)」という新しい安全性訓練手法が組み込まれているとのことです。 Early access for safety testing | OpenAI https://openai.com/index/early-access-for-safety-testing/ Deliberative alignment: reasoning enables safer language models | OpenAI https://openai.com/index/deliberative-alignment/ o

米OpenAIは12月20日（現地時間）、高度な推論能力を持つ新しいLLM「o3」と同時に、oシリーズに適用した「Deliberative alignment」（熟慮的アラインメント）と呼ばれるアラインメント戦略を発表した。 この手法は、AIモデルがより安全で信頼性の高い応答を生成できるように設計されているという。従来のAIモデルは、有害なコンテンツを生成したり、正当な要求を拒否したり、悪意あるプロンプトにだまされたりするなどの安全上の問題を抱えていたが、熟慮的アラインメントは、これらの問題を効果的に解決することを目指す。 熟慮的アラインメントの中核となるのは、推論だ。モデルは、回答を生成する前に、人間が作成した安全仕様を明示的に考慮するように訓練される。 具体的には、ユーザーのプロンプトを分析し、関連する安全ポリシーを特定し、それらに基づいてより安全な応答を作成する。人間が倫理的なジレン

表の引用元：Available models and languages: openai/whisper -github.com Whisperを使ってみる Whisperは、MITライセンスのOSS版とAPI版の利用が可能です。それぞれを利用する方法を見ていきます。 以下は筆者の動作環境になります。 M2 MacBook macOS Sonoma 14.7 メモリ 16GB Python 3.11.5 [1] OSS版 OSS版のWhisperを利用するには、pipでインストールします。また、動画と音声を記録・変換・再生するためのコマンドラインツールFFmpegが別途必要です。FFmpegはほとんどのパッケージマネージャーから入手できますので、ご自身の環境にあった方法でインストールしてください。 Whisperでは音声データの読み取りにFFmpegを使用しているため、FFmpegが対応し

AI開発団体のOpenAIが開発するチャットAI「ChatGPT」は、大学レベルの自由記述試験に合格したり、駐車違反の異議申し立てに有効活用されたりと、その高い能力に注目が集まっています。そんなChatGPTには不適切な質問への回答を拒否する機能が搭載されているのですが、あの手この手でChatGPTのセーフガードを突破する手法をAI研究者のデイビス・ブレイロック氏がまとめています。 Here are all the ways to get around ChatGPT's safeguards: [1/n]— Davis Blalock (@davisblalock) December 13, 2022 ChatGPTはユーザーの質問に対して会話調で答えてくれるチャットAIですが、「強盗の仕方を教えて」「武器の作り方を教えて」といった不適切な質問には「法律で禁じられています」などの回答を返

OpenAIが「OpenAI o1(正式リリース版)」のAPIを公開しました。合わせて、AIとの音声会話機能を提供する「Realtime API」のアップデートや、モデル微調整機能のアップデート、GoライブラリおよびJavaライブラリのリリースも発表されています。 OpenAI o1 and new tools for developers | OpenAI https://openai.com/index/o1-and-new-tools-for-developers/ Our reasoning model @OpenAI o1 is now in the API! It comes with function calling, developer messages, Structured Outputs, and vision. 🍓 We also shipped WebRTC s

夢アカデミー @yumeacademy 1/ AI Agent開発にo1-previewとo1を使い倒した結果の纏め o1 = o1-previewのQ*(事後学習)↑ + TTC(ユーザー利用時の推論)↑ + 軽量化↑(能力↓) (+ システムprompt↓?) 結果的に殆どのケースで、o1はo1-previewより実務タスク能力が下がっていると感じます 以下、仕組と対策を詳説 2024-12-15 13:11:12 夢アカデミー @yumeacademy 2/ o1系の最大の強みは複雑な難解タスクの推論です TTC↑ = 能力↑ つまりユーザー利用時の思考時間を長くできる程、能力が上がります ところがo1はpreviewに対して、思考時間を長くするのが無理ゲーに近い程難しい その為に最大能力を引き出す難易度が超絶高い 2024-12-15 13:12:35 夢アカデミー @yumeac

OpenAIは2024年10月9日（米国時間）、同社の脅威インテリジェンスレポートの最新版「Influence and cyber operations: an update, October 2024」を発表した。 同レポートは、脅威アクターがどのようにOpenAIの生成AI（人工知能）を悪用しようとしているのか把握するため、2024年10月時点でOpenAIが阻止した活動を分析し、一連の脅威の傾向を特定したものだ。OpenAIによると、2024年初頭から同社の生成AIを悪用しようとしてきた世界中の20以上のサイバーオペレーションや「Deceptive network（欺瞞的なネットワーク）」を阻止してきたという。 OpenAIはレポートの中で、サイバーオペレーションを行っていた脅威アクターを次のように説明している。 OpenAIの生成AIを悪用していた脅威アクターとは？　どう悪用してい

OpenAIはこのほど、「An update on disrupting deceptive uses of AI｜OpenAI」において、2024年10月の脅威インテリジェンスレポートを発表した。レポート全文は「(PDF) Influence and cyber operations: an update」から閲覧することができる。 An update on disrupting deceptive uses of AI｜OpenAI 重要な洞察 OpenAIが脅威インテリジェンスレポートにおいて、重要な洞察として発表した脅威の概要は次のとおり。 脅威アクターはサイバー攻撃の中間段階のタスクを実行するために、OpenAIのモデルを悪用することが多い 脅威アクターはOpenAIのモデルの実験を続けているが、新しいマルウェアの作成、バイラルオーディエンス(悪性の二次情報発信者)の構築に十分な

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? OpenAI DevDay 2024でいくつかの新しい機能が実装されています。 新機能のひとつに、プロンプト自動作成というものがあります。 目的を入力しただけで、自動的にシステムプロンプトを作成してくれるというものです。 他の新機能に比べると、やや地味目ですが、どんな感じのプロンプトを作成してくれるのか気になったので試してみました。 TL;DR 曖昧な一文からでも、マークダウン形式に沿ったプロンプトを書いてくれるので、たたき台としてよさそう。 プロンプト自体がマークダウン形式なせいか、Output形式がマークダウンに引きずられることがあ

INFO: connection open input_audio_buffer.speech_started input_audio_buffer.speech_stopped input_audio_buffer.committed input_audio_buffer.speech_started user: こんにちは input_audio_buffer.speech_stopped input_audio_buffer.committed response.output_item.added model: わかりました。ちょっと調べますね。 お待ちください。 user: 今日の東京の天気について教えて頂ければと思います。 response.output_item.added tool call {'type': 'response.function_call_arguments

May 30, 2024 Disrupting deceptive uses of AI by covert influence operations We’ve terminated accounts linked to covert influence operations; no significant audience increase due to our services. OpenAI is committed to enforcing policies that prevent abuse and to improving transparency around AI-generated content. That is especially true with respect to detecting and disrupting covert influence ope

韓国・ソウルで開催された第2回のAIサミットで、AI開発に取り組む世界の企業16社がAIの安全性で合意しました。合意に関連して、「GPT-4o」などを開発するOpenAIは安全性に関して自分たちが取り組んでいる実践例を公開しています。 OpenAI safety practices | OpenAI https://openai.com/index/openai-safety-update/ 1：リリース前の実証的のモデルへのレッドチーミング(敵対的攻撃)とテスト OpenAIでは、AIのリリース前にモデルの安全性を社内外で実証的に評価しています。リスク閾値が準備フレームワークで中程度を超えた場合、緩和後スコアが中程度に戻るだけの安全対策を行うまで新モデルはリリースしません。また、70人以上の外部の専門家がレッドチームとしてGPT-4oのリスク評価に協力しました。 2：アラインメントと安全

Microsoft Build2023が開幕 Microsoft Buildは、米マイクロソフトが年に一度開催している開発者向けカンファレンスです。今まではWindowsやMicrosoft365、GitHubにVisual Studioなどさまざまなサービスやプロダクトに関する発表がされていて、一般ユーザーにとっても無視することはできないイベントになっています。 Microsoft Build2023では、「AI時代」を加速させるさまざまな情報が発表されました。話題のOpenAIが開発した「ChatGPT」を検索エンジンのBingに統合することや、「Copilot」という「ChatGPT」内に搭載されているLLM（大規模言語モデル）とマイクロソフト製品を組み合わせた次世代サービスなどが発表され、日本でも大きなインパクトを残しました。 本稿ではMicrosoft Build2023で発表さ