今年のノーベル物理学賞は、広がりを見せる人工知能（AI）の機械学習を確立した米国とカナダの研究者2人に贈られることが決まりました。機械学習の中核を担う技術は、人間の脳神経のつながりをまねた「ニューラルネットワーク」です。実は、この技術の歴史をさかのぼると、「源流」の一つは日本にありました。受賞者に先駆け、重要な成果を上げた日本人研究者たちは、AIの発展に大きく貢献しています。　（榊原智康） ノーベル物理学賞を受けるのは、米プリンストン大のジョン・ホップフィールド教授（91）と、カナダ・トロント大のジェフリー・ヒントン教授（76）です。 ホップフィールド氏は1982年、脳の構造をヒントに機械学習の原型となる数理モデル「ホップフィールド・ネットワーク」を開発。断片的な記憶から全体を再現する「連想記憶」をコンピューターで実現することを可能にしました。 ヒントン氏は85年、ホップフィールド・ネット

心理学者。キングス・カレッジ・ロンドンの精神医学・心理学・神経科学研究所の講師。2015年に科学的心理学会（アメリカ）の「期待の星（ライジンング・スター）」賞を受賞。『タイムズ』『ワシントン・ポスト』『ワイアード』などに数多く寄稿し、BBCラジオなどの出演もある。 Science Fictions　あなたが知らない科学の真実 スタンフォード監獄実験はイカサマだった！ 権威ある心理学研究の100件のうち、再現に成功したのはたったの39％!? 科学の信頼性を根底から揺るがす「再現性の危機」に迫る真実の書、日本上陸！ 科学における不正・怠慢・バイアス・誇張が起きる仕組みを多数の実例とともに解説。既存の本で知ったウンチクを得意げに語る人に読ませたい、真実の書。 バックナンバー一覧 「すべての科学研究は真実である」と考えるのは、あまりに無邪気だ――。 科学の「再現性の危機」をご存じだろうか。心理学、

機械学習エンジニアの吉田です。今回は、LLM (Large Language Models) を活用して、機械学習モデルに必要なデータのアノテーション作業を効率化する取り組みについて紹介します。 なお、アノテーションにおけるLLMの利用に関しては、クラウドベンダー各社及び社内の法務確認のうえ進めています。この記事で登場するLLMがアノテーション用途で使えることを保証するわけではないのでご留意ください。 背景 LayerXで提供しているバクラクでは、帳票をアップロードするだけで支払金額や支払期日などを自動で読み取るOCRの機械学習モデルを開発しています。 このモデルのデータセットを作成するために、内製のアノテーション基盤を使って日々手作業でアノテーションを行っています。帳票の種類が多く、解釈が複数ある場合もあるため、アノテーション作業は簡単ではありません。モデルの推論結果やユーザーの入力値を

気象予測にAIと従来の物理学的手法のどちらが最も効果的かについては、気象や気候の専門家の間でも意見が分かれている。グーグルの研究者は、両者を組みわせることで、より低コストで正確な予測ができるシステムを発表した。 by James O'Donnell2024.07.24 15 この記事の3つのポイント グーグルが機械学習と従来手法を組み合わせた新たな気象予測モデルを構築 従来モデルよりも少ない計算能力で迅速に高品質な予測が可能 異常気象リスクの長期的モデリングへの使用が期待されている summarized by Claude 3 グーグルの研究者は、機械学習と従来の手法を組み合わせた新たな気象予測モデルを構築した。これにより、現在よりも遥かに安い費用で正確な予報が得られるようになる可能性がある。 「ニューラルGCM（NeuralGCM）」と呼ばれるこのモデルは、7月22日付けのネイチャー（N

安野たかひろ事務所 技術チームの角野です。前回の投稿ではAIあんのにおける返答生成技術の詳細に触れましたが、今回は返答生成に用いるデータの整備に焦点を当てて解説します。 なぜデータの整備が必要なのか？AIあんのでは政策に関する質問に対してLLMで返答の生成を行っていますが、元のLLMには安野の政策に関する知識が含まれておらず、そのままでは政策に関する質問には回答できません。 そこで、前回の記事でも解説しましたが、AIあんのではLLMに入力するプロンプト中に政策に関する知識を注入することで、政策に関する質問に回答できるようにしています。当然知識がない質問に対しては回答できないため、ユーザーの質問に対して正確に回答するには政策に関する知識をデータとして整備することが重要となります。 返答生成に利用しているデータAIあんのでは、次の2種類のデータを返答生成時に利用しています。 今回の記事では、私

※本サイトは、アフィリエイト広告および広告による収益を得て運営しています。購入により売上の一部が本サイトに還元されることがあります。 Appleが、WWDC24において「Apple プラットフォームでの機械学習の詳細」を公開しています。 Appleのオンデバイス機械学習チームのAnil Katti氏は、AppleのOSやアプリケーションの多くの革新的な機能の根底には、高度な機械学習とAIモデルがあります。空間コンピューティングのためのジェスチャー認識、画像キャプチャのポートレートモード、健康のためのECGと心拍数のモニタリング。これらの機能はすべて機械学習とAIによって実現されており、これらの機能を支えるモデルはすべてデバイス上で動作すると説明しています。 今年のリリースでは「Apple Intelligence」がアプリやシステム全体の新機能をパワーアップさせ、エキサイティングな進化をも

Amazon Web Service（AWS）は、ゲームを通じてAWSを学べる「AWS Cloud Quest日本語版」に、新たに「Machine Learning（機械学習）」の教材が追加されたことを明らかにしました。 「AWS Cloud Quest」は、クラウド技術者となったプレイヤーがクエスト内の街の住人から出題される課題やクイズなどを、AWSを使って解決しつつ、クラウドの技術を学んでいくオンラインロールプレイングゲームです。 実際にAWSのサービスを組み合わせてソリューションを構築するため、非常に実践的な内容となっています。 2022年3月に英語版が登場し、その後に日本語版で、入門編としてプレイヤーがクラウドプラクティショナー（クラウドを実践する人）となってプレイする「クラウドプラクティショナー」ロールと、ソリューションアーキテクトとしてゲームをプレイする「ソリューションアーキテ

6月11日、Appleは「Apple Intelligence」を発表した。これは、iPhone、iPad、およびMac向けの個人向けAIシステムであり、強力な生成AIモデルを中心に据えたものである。 Apple IntelligenceはiOS 18、iPadOS 18、およびmacOS Sequoiaに深く統合されており、Appleシリコンの力を活用して言語や画像を理解・生成し、アプリ全体でアクションを実行し、日常のタスクを簡素化および迅速化する。 「Apple Intelligenceを発表できることに興奮しています。これにより、ユーザーが当社の製品でできること、そして当社の製品がユーザーのためにできることが変わるでしょう。」とAppleのCEO、ティム・クックは述べる。「私たちの独自のアプローチは、生成AIとユーザーの個人文脈を組み合わせて、本当に役立つインテリジェンスを提供します

Microsoftは2024年2月29日（米国時間）、オープンソースでクロスプラットフォームの機械学習（ML）モデルアクセラレータ「ONNX Runtime」の「ONNX Runtime Web」機能において、WebGPUを用いてWebブラウザ内でのMLを高速化できるようになったと発表した。 ONNX Runtimeは、さまざまなハードウェア、ドライバ、OSと互換性があり、グラフの最適化や変換に加え、ハードウェアアクセラレータを適宜活用したパフォーマンスを提供する。PyTorch、TensorFlow/Keras、TensorFlow Lite、scikit-learnなどのフレームワークのモデルで使用できる。 ONNX Runtime Webは、JavaScript APIとライブラリを使用して、WebアプリケーションでMLモデルを実行、デプロイ（展開）できる。 関連記事 「Chrome

急速に広がる生成AI（人工知能）を巡り、文化審議会小委員会は、AIがウェブ上のデータを取り込む「機械学習」に著作権者の許諾は要らないとする考え方を維持しつつ、権利侵害の具体例をあえて示すことで野放図な利用をけん制した。AIによる技術革新に期待が高まる一方、クリエーターらは権利侵害への懸念が拭えず、バランスの取り方が課題として残り続けている。【李英浩】 文化庁が実施したパブリックコメント（意見公募）には、クリエーターや業界団体から計約2万5000件の意見が寄せられた。自作がAIに学習され続けることへの対策を求める内容がある一方、公的機関が機械学習の「歯止め」になる考え方を示すことはAI開発の萎縮につながりかねないと指摘する声も上がった。 「機械学習がクリエーターの利益を侵害しないというのは、机上の議論に過ぎない」。…

PyTorchチームは1月31日、PyTorch® 2.2のリリースを発表した。新機能や最適化が盛りだくさんのこのバージョンは、エンジニアたちの期待を十分に満たすリリースだ。 PyTorch 2.2では、FlashAttention-v2の統合により、SDPA（_scaled_dot_product_attention_）のパフォーマンスが 約2倍向上 した。これにより、A100 GPUsで最大FLOPs/sの約50-73%まで到達する高速なSDPAが実現された。 新しい機能としては、非Pythonサーバーサイド向けのAOTInductorも導入。これにより、PyTorchプログラムのコンパイルとデプロイメントが可能になり、非Python環境での利用が向上した。 その他にも、Optimizersのサポート向上や新しいログメカニズムTORCH_LOGSの追加など、多くの改良が行われた。一方で

Researchers working for Apple and from Cornell University quietly pushed an open-source multimodal LLM in October, a research release called "Ferret" that can use regions of images for queries. The introduction in October to Github largely flew under the radar, with no announcement or fanfare for its introduction. The code for Ferret was released alongside Ferret-Bench on October 30, with checkpoi

こんにちは、CTOの森です。 本記事はiimonアドベントカレンダー16日目の記事となります。 普段機械学習を使うことは無いのですが、勉強も兼ねてCloudFrontのログを機械学習させてみたらどうなるのか試してみました。 検証した環境 ログデータの形式 使用したログデータのフィールド 分析までの手順 正しくデータを読み込む 学習できる形式に変換 method result_type path_num path_0 ~ path_4 query_num query_len sc-status time-to-first-byte 学習 元のデータと結合 CSVファイルに出力 コード全体 分析結果 (比較的)うまくいった結果 うまくいかなかった結果 参照したサイト まとめ 最後に 今回ログデータをIsolation Forestという手法を用いて分析してみました。Isolation Fore

また、Primate LabsのJohn Pooleさんによると、Geekbench ML for iOSでは、これまでTensorFlow Liteを利用してきたものの、iOSアプリではGoogleのTensorFlow LiteよりAppleのCore MLが採用されることが多いことから、iOSアプリのAPIをCore MLに切り替えており、 Geekbench ML v0.6はGeekbench ML v0.5の画像セグメンテーションや姿勢推定、物体検出、顔検出、自然言語処理(NLP)などの機械学習専用ワークロードに加え、深度推定とスタイル変換、高解像度化ワークロードを追加し、実際に機械学習モデルが使用されるケースに近づけ、 正式リリースとなる「Geekbench ML v1.0」は2024年にリリースを予定しているそうなので、使用しているデバイスの機械学習スコアが気になる方は試して

Intel.com サーチを使用 いくつかの方法で Intel.com のサイト全体を簡単に検索できます。 製品名: Core i9 文書番号: 123456 開発コード名: Alder Lake 特別な演算子: “Ice Lake”, Ice AND Lake, Ice OR Lake, Ice*

強化学習におけるLLMの活用パターン調査 はじめに：実世界における強化学習の課題 LLM×強化学習 人間はゼロショット推論によりサンプル効率の良い学習ができる LLMによるゼロショット推論の例 さまざまなLLM活用パターン 1. 報酬モデルとしてのLLM LLMによる代理報酬モデル VLMによる外観ベース代理報酬モデル 外部知識にもとづく報酬モデル設計 2. 計画モデルとしてのLLM LLMによるセマンティック計画 LLMによる構造的な探索計画 3. 方策モデルとしてのLLM LLM as 確率方策 マルチモーダルLLM as 確率方策 参考：GPTアーキテクチャの転用 4. 世界モデルとしてのLLM Language Models Meet World Models (あとで書く) おわりに：VLM as 確率方策に期待 はじめに：実世界における強化学習の課題 レトロゲームで人間並みのパ

三菱UFJフィナンシャル・グループ（MUFG）がAWSとの連携を強化する。すでにAWSのクラウドインフラや、データ分析サービスなどを導入しているが、AI関連サービスの活用をさらに加速するという。 三菱UFJフィナンシャル・グループ（MUFG）がAWSとの連携を強化する。すでにAWSのクラウドインフラや、データ分析サービスなどを導入しているが、AI関連サービスの活用をさらに加速。生成AIサービス「Amazon Bedrock」や機械学習ソリューション「Amazon SageMaker JumpStart」などの利用を進める。AWSジャパンが11月15日に発表した。 MUFGはすでに、Amazon Bedrockを社内文書の要約や問い合わせ対応の自動化に役立てる検証を進めている。並行して、複数の商用利用可能な大規模言語モデルの精度や費用対効果の測定も進めており「特性に応じて用途ごとに柔軟に使い