今年の1月にこんな話題を取り上げたわけですが。 この記事の最後にちょろっと書いた通り、実際にはこういう"too good to be true"即ち「そのモデルの精度いくら何でも高過ぎるんじゃないの？」→「実は汎化性能見てませんでした」みたいなケースって、想像よりも遥かに多くこの世の中存在するみたいなんですね。ということで、それこそ『はじパタ』の2章とかPRMLの最初の方に出てくる初歩中の初歩なんですが、その辺の話を改めてだらだら書いてみようと思います。 そもそも「精度100%」とか「相関係数0.9以上」とか見たら身構えるべき 冒頭に挙げた例は、そもそも「精度100%なんておかしい」という声があちこちから挙がったことで話題になり、蓋を開けてみたらleakageはあるわ訓練誤差でしか評価してないわで散々だったわけです。 一般に、実世界のデータセットで統計モデリングにせよ機械学習にせよモデリン

2023年版データ分析の100冊 が好評でしたので、2024年版を作りましたよ。 データサイエンティスト協会スキルチェックリストに対応したリストも作成しましたよ 本記事のめあて IT系の技術者の方がデータ分析関連の仕事をするために役立つ本を紹介する（私が学び始めた時にあれば欣喜雀躍したであろう）記事として書いております 本記事作者の青木はバイオインフォマティクス（ゲノムデータのDB化中心・Perl・MySQL）からRで時系列分析→Pythonでデータ分析一般と業務をしてまいりました ですので研究者目的の本はありません。また、データ分析の基礎は主にRで学んだのですが、昨今の流行に合わせて理論のほかはほぼPython本のみにしています こういうリストを挙げる奴は大抵読んでいない、と過去にも言われたのですが、未読本は削除しました 最近好著連発なので読んでいる途中だけど挙げている本はあります（初版

はじめに Pythonのデータ解析エコシステムは日々進化を続けています。2024年現在、効率的なデータ処理、直感的な可視化、高度な機械学習の自動化など、様々な新しいツールが登場しています。本記事では、最新のPythonデータ解析ライブラリを紹介し、それぞれの特徴や使用例、実際のユースケース、そして導入方法まで詳しく解説します。 1. データ操作ライブラリ 1.1 Polars: 高速データ処理の新標準 Polarsは、Rustで実装された高速なデータ操作ライブラリです。pandasに似たAPIを持ちながら、大規模データセットでより高速に動作します。 特徴: 高速な処理速度 メモリ効率が良い pandasに似たAPI 使用例: import pandas as pd # サンプルデータを作成 data = { "age": [25, 32, 28, 35, 40, 50], "categor

大学ではないが、東京大学エクステンション・データサイエンススクール・技術実務者コースでは 前提知識　高校までの理系数学と大学1・2年生の数学の一部（偏微分、積分、行列） 数学科目　統計学、最適化 ざっとレベル感をまとめますと 高校までの計算主体の数学 計算力があればなんとかなる 理工系大学教養レベルの定義・定理で入ってくる数学 抽象度は上がるがまだ図が描ける 理工系大学専門レベル抽象度の上がった数学 位相とかはイメージしずらい、高次元・無限次元とかはもう図もイメージもできない 数学科 超絶 薄い記事では、これらのうちどこを言っているのかとイメージしていない人が言っているのでしょうが、アカデミアの方やエンジニアでもR＆Dで新たなアルゴリズムを開発担当とかでなければ、大体下記をイメージすれば良いのではないかとのところが自論 高校までの数学はほぼ必須 理工系大学教養レベルの数学はできるだけマスタ

chat.md 結城浩 こんにちは。今後、GPT-4を使ったアプリケーションやサービスがたくさん登場してくると思います。その中には、たとえばSNSを利用したbotもたくさん出てくるでしょう（現在でもすでにありますけれど）。そこで質問なんですが、SNSでおしゃべりしている相手が、人間なのか、GPT-4などの技術を使ったAIなのかを識別するにはどのような会話をしてみればいいでしょうか。一般的なAIでは難しいかもしれないので、GPT-4に限ってもいいです。あなたの考えを聞かせてください。 ChatGPT Model: GPT-4 GPT-4のような高度なAIと人間を識別するのは、時に難しいことがあります。しかし、いくつかの方法を試してみることで、相手が人間かAIかを見極めることができるかもしれません。 複雑な感情やニュアンスについて尋ねる: AIは感情やニュアンスを理解するのが苦手です。複雑な感

Innovative Tech： このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。Twitter: ＠shiropen2 ドイツの研究機関CISPA Helmholtz Center for Information Securityに所属する研究者らが発表した論文「Prompt Stealing Attacks Against Text-to-Image Generation Models」は、テキストから画像を生成するモデルで生成した画像からテキストプロンプトを盗用する攻撃を提案した研究報告である。 Stable Diffusion、DALL-E 2、Midjourneyなどのテキストから画像を生成するモデルの登場以来、プロのアーティストに頼るのではなく、プロンプトと呼

対話型AI「ChatGPT」は人間からの質問に的確に答えることができる文章生成AIで、大学生レベルの試験の自由記述問題に合格してしまうほどの文章作成能力を誇っていることなどで注目を集めています。そんなChatGPTをビジネスのアドバイザーとして使用したら素晴らしい回答が得られたということで、YouTuberのクリス・グリーニング氏がChatGPTとの対話文を公開しました。 Using ChatGPT As a Co-Founder https://www.atomic14.com/2022/12/05/using-chatgpt-as-a-co-founder.html グリーニング氏はスタートアップ企業を立ち上げることを想定し、事業を発展させていくために何をすれば良いのかをChatGPTに質問。得られた回答をブログに掲載しています。 グリーニング氏： 私は、企業の依頼を受けた顧客が簡単に

一昔前まで、AIはフィクションの中の話だった。「2001年宇宙の旅」に登場したAI「HAL 9000」のように、人間の理解が遠く及ばない判断を実行する“人知を超えた存在”として描かれることが多かった。 しかし現在、AIは私たちの生活に浸透している。あらゆる分野でAIのビジネス活用が進む一方で、さまざまな課題も見えてきた。その一つがAIのブラックボックス化だ。AIで満足のいく結果を出力できても、「なぜその結果になったのか」「根拠はどこにあるのか」が分からない点を懸念する声がある。万が一トラブルが起きたとき、その理由を説明できないのはビジネス上のリスクだ。 「AIの創造は人類史上で最大の出来事ですが、リスク回避の方法を学ばなければ、残念ながら最後の出来事になるかもしれません」――スティーブン・ホーキング博士の言葉を引用して、このリスクに警鐘を鳴らす人物がいる。世界的な機械学習のコンペティション

AWS Certified Machine Learning - Specialty この認定の詳細と、準備に役立つ AWS のリソースをご紹介します この資格は、組織がクラウドイニシアチブを実装するための重要なスキルを持つ人材を特定して育成するのに役立ちます。AWS Certified Machine Learning - Specialty を取得すると、AWS で機械学習 (ML) モデルの構築、トレーニング、チューニングおよびデプロイに関する専門知識を認定します。 AWS Certified Machine Learning - Specialty は、開発またはデータサイエンスの担当者で、AWS クラウドでの機械学習 (ML)/深層学習ワークロードの開発、アーキテクチャ設計、実行において 1 年以上の実践経験を持つ個人を対象としています。この試験を受ける前に、以下のことをお勧めし

お前だれよ バックエンドとかETL書いてる AWSは今は使っていない。以前、RDSとかEC2とかはちょっと触った AWSの資格は３つ目 AWS Certified Data Analytics Specialty (DAS-C01) AWS Certified Database(DBS-C01) 機械学習の知識 勉強したこと 色々書いてますが、 まずはExam Readinessで概要 AWS Certified Machine Learning SpecialtyでAIサービス系 Data Science on AWSでSageMaker scikit-learn、Keras、TensorFlowによる実践機械学習で機械学習系の知識 を勉強しました。 Exam Readiness:AWS Certified Machine Learning - Specialty AWS試験毎（多分）に

Introduction 先日 AWS Certified Machine Learning – Specialty(MLS-C01) を受験してパスしたので、 自分がそれまで行った学習方法について紹介します。 AWS Certified Machine Learning – Specialty? AWS Certified Machine Learning – Specialty(以下、MLS)は、特定のビジネス上の問題に対して 機械学習ソリューションを設計から運用まで遂行する能力を検証したい開発者や データサイエンティスト向けの資格試験です。 AWSに関連する知識だけでなく、機械学習や統計学の知識も要求される試験となっています。 Background knowledge 前提となる私の知識など。 機械学習関連の知識 以前JDLAの資格は取得しており、機械学習の超基本的な知識は有していま

ControlFlagはGitHubのようなバージョン管理システム上のオープンソースリポジトリをマイニングする。それにより、C/C++のような高級プログラミング言語の制御構造における一般的なパターンを学習し、新たに与えられたコードの異常を検出する。 ControlFlagは単純な誤植（タイポエラー）の検出はもちろん、NULLチェック漏れに対するフラグ付けなど、さまざまな問題検出に利用できる。 開発時間と開発コストの50％を占めるデバッグを改善 ソフトウェア開発者は開発時間の50％以上をデバッグに費やしていると推定されている。ControlFlagは、コードの異常パターンの自動検出機能により、デバッグを改善することを目指したツールだ。 Intelは、開発者がControlFlagを使ってデバッグ作業を効率化し、創造的な作業により多くの時間をかけられるようになることを期待している。 デバッグが

【シリコンバレー=佐藤浩実】米マイクロソフトは25日、人が話す言葉でプログラミングをできるようにすると発表した。AI（人工知能）で機械がわかる言語に「翻訳」し、コーディングの知識が乏しくてもアプリケーションソフトを作れるようにする。IT（情報技術）人材の拡大につながり、企業のデジタル活用にも弾みがつく。「Power Apps（パワーアップス）」と呼ぶ業務用アプリの開発ソフトに、文章を判断してプ

by stem.T4L 宿泊予約サイトのBooking.comはプラットフォームに機械学習を取り入れており、毎日いくつものA/Bテストを実施して最適なオプションや表示方法を模索しています。機械学習を取り入れるなかで失敗と成功の両方を何度も経験してきたBooking.comが、150の成功モデルから学んだことについて論文を発表しました。「機械学習が現実の企業やプラットフォームのパフォーマンスにどう影響するのか」を述べたこの論文を、VMwareのCTOを務めたのちにAccelのベンチャーパートナーとなったAdrian Colyer氏がかみ砕いて解説しています。 150 Successful Machine Learning Models: 6 Lessons Learned at Booking.com (PDFファイル)http://delivery.acm.org/10.1145/3340

Googleがオンラインイベント「Google I/O 2021」の中で、AIの開発や運用を容易に行えるようにする機械学習プラットフォームの「Vertex AI」を発表しました。 Vertex Ai  |  Vertex AI  |  Google Cloud https://cloud.google.com/vertex-ai Google Cloud launches Vertex AI, unified platform for MLOps | Google Cloud Blog https://cloud.google.com/blog/products/ai-machine-learning/google-cloud-launches-vertex-ai-unified-platform-for-mlops Googleによると、Vertex AIを利用すると競合に比べて80％近

【シリコンバレー=佐藤浩実】米半導体大手のエヌビディアは12日、CPU（中央演算処理装置）に参入すると発表した。英アームの基本設計を利用し、2023年に米欧のスーパーコンピューターに搭載する。人工知能（AI）計算を10倍速くできる見通しで、米インテルの主戦場に切り込む。AIの進化を左右する「頭脳」を巡り競争が激しくなる。12日に開いたAIイベントでCPU「Grace（グレース）」を発表した。エ

サイバーセキュリティにおける情報検索が可能な収集ツールを活用し、ハッカーやリサーチャーが利用するウェブサイトやダークウェブなど膨大なデータソースを対象に、関連する業界や製品に関する脅威・脆弱性情報を効率的に収集する。また、収集した数万件におよぶ情報の中から、利用者に関連する情報を独自AIによって選別する。 過去のサイバー攻撃事例における業界特有の攻撃パターンや影響などを学習させたAIモデルにより、収集した情報に含まれるセキュリティ要素や業界固有の要素をAIで抽出し、自動的に関連の有無を選別する。これにより属人性を排除した情報の収集と品質向上を可能にし、ユーザーが本当に対応すべき情報を漏れなくスピーディーに提供できるようになるという。 先行的な取り組みとして、ある大手製造業と連携し、同サービスを活用した情報収集・分析の実証実験を行った。その結果、人手で行っていた分析時間を約80％短縮するとと

Microsoftは米航空宇宙局（NASA）と協力し、プロジェクトベースの3つの学習モジュールを開発した。これらの学習モジュールは、初心者レベルのプログラマーを対象として、宇宙探査や隕石の分類、天候によるロケット打ち上げ延期の予測などに、プログラミング言語「Python」と機械学習のアルゴリズムをどう利用すればいいのかを教えてくれる。 モジュールを最後まで受講するには、「Windows」PCか「Mac」、あるいは「Linux」を搭載したPCが必要だ。プログラミング言語とは何か、Microsoftのコードエディター「Visual Studio Code」の使い方、Python向け拡張機能のインストール方法、VS Code内で基本的な「Jupyter Notebook」を実行する方法といった基礎を教えてくれる。これらは、機械学習プロジェクトの学習を始めるうえで大切な要素だ。 「宇宙探査のための