（※はてなフォトライフの不具合で正しくない順番で画像が表示されている可能性があります） さて、こんな記事をクリスマス・イヴのプレゼントにするのはアレなんですが（笑）、教師あり学習＆分類器系では一旦これでシリーズを〆る予定です。 トリを飾るのはランダムフォレスト。アンサンブル学習の代表選手ですね。「ランダムフォレスト最強」とか言っちゃう人が多いらしいんですが*1、そういう人にはぜひ今回（と次回予定の5回分まとめ）の記事を読んでもらいたいなぁと思います。 今回の参考文献もピンクの薄い本です。pp.193-197に決定木、バギング、アダブーストの後にランダムフォレストの説明があります。 はじめてのパターン認識 作者: 平井有三出版社/メーカー: 森北出版発売日: 2012/07/31メディア: 単行本（ソフトカバー）購入: 1人 クリック: 7回この商品を含むブログ (4件) を見る 他だと、例

Answer (1 of 3): See Figure 6 from [1]: Also, Stephen Wolfram provided his take recently in [2]: The Watson authors provide a few more hints on Reddit [3]. Also here's a video with Grady Booch that talks about the system architecture at a high level: https://www.youtube.com/watch?v=E1pMI6JYk...

3. 相関係数 ・目的 2つの集合(x, y)の線形関係を定量的に表現したい ・性質 １．相関係数は[-1, 1]の範囲で表す。 ２．0に近いほど相関が弱く、1(-1)に近づくほど相関が強い。 ３．相関関数が3倍になる事は、3倍の相関を得ることを示さない。 相関度合いの比較を可能とするだけである。 ・計算式 x = (x1, x2, x3, ... xn), y = (y1, y2, y3, ... yn)の時 n x, yの相関関係Rは下記の式で求まる。だたし、      である。 x = n i=1 xi ¯ 1 n i=1 (xi x)(yi ¯ y) ¯ R= n n i=1 (xi x)2 ¯ i=1 (yi y )2 ¯ 3

世の中データ分析部門を立ち上げる企業が増えてきて、「データサイエンティスト」と名乗ろうが名乗るまいがデータ分析者を置いて様々なビジネス上のデータを分析させるところが目立ってきました。 でも、一方で実際のデータ分析者たちが何をやっていて、どういうアウトプットを出しているのか？について、きちんと理解している人はあまり多くなさそうに見えます。うっかりすると、「金とデータは渡すから良きに計らえ」*1ってところも少なくないかも。。。 それではあまりにもざっくりし過ぎているので、実際のデータ分析者がどんなことをしているのかを、超絶大ざっぱに4つに分けてみました*2。即ち、「回帰・分類・推定・予測」の4つのコンセプトです。今回はこの4つのコンセプトについて、データ分析を「させる（依頼する）」側の人たちに出来る限り分かりやすく説明してみようと思います。 ということで、データ分析を「させる（依頼する）」側の

ハミング距離とエラー検出 以下では、図2.6に示したデータの値を変えずに伝送する、あるいは記憶するケースについて考える。 少し形式張るが、nビットの2進数をn次元2進空間の点と考える。これを3ビットの2進数について書くと図2.8のようになる。 この立方体のそれぞれの辺の長さを距離1とすると、2進数000と100の距離は1であり、000と101の距離は2、000と111の距離は3ということになる。回り道をしない2点の間の最短経路の距離を「ハミング距離(Hamming Distance)」という。4次元以上の立方体を図示することは難しいが、要するにハミング距離は2つの2進数の対応するビットの値が異なっているところの数ということになる。 そして、1ビットのエラーが起こるということは、n次元2進空間の中で2進数の位置が距離=1だけ動くということに相当する。 入力データのビットと図2.4のようなプレ

データ分析から導き出されたインサイト無しにAI（人工知能）の活用は始まりません。私たちは、各業界知識とデータ・アナリティクス技術を駆使しデータドリブン経営を強力に支援します。 データ、アナリティクス、AIは企業にとって競合他社との差別化を図るかつてないほど大きな要因になっています。今日の経営幹部が効率を向上しながら新たな収益源を開拓し、新しいビジネスモデルをタイムリーに構築する方法を模索する中、価値を生み出し成長を続ける企業には「データ活用」という共通項があります。私たちは、無数のデータから企業にとって本当に必要なデータを活用するための方法を知っています。 将来を見据えたオペレーション体制を備えている企業の半数以上（52％）は、すでにデータとアナリティクスを大規模に活用しています。データとAIに関する取り組みをビジネス戦略に沿って実施することで投資利益率を迅速に最大化し、最終的にはAIをビ

概要卒業研究の題目について担当の先生に相談した際にハッと気付かされた。 題目を「評価要因に着目した評価情報分類」で考えています。と切り出し研究の内容について紹介した。 レビュー集合を用意(Amazon.co.jp, kakaku.com) ↓ レビュー文から評価表現辞書を用いた評価要因を抽出するパターンを考案・実装・適用 ↓ 評価要因の抽出 ↓ 抽出した結果をtf-idf法を用いてベクトル化し、レビュー集合をクラスタリング ↓ レビュー集合を直接クラスタリングしたものと比較 ↓ 今回の提案手法を用いると、評価軸ごとにレビュー集合を分類できることを検証する という内容で相談メールを送信したところ、先生から返答をしてもらった、以下が先生の返答の一部の抜粋。 「分類」と「クラスタリング」のどっち？ 「評判情報分類」で終わってよいのか？ 衝撃的だった。えっ！？分類とクラスリングって意味違うの？？？

If you're wondering which machine learning algorithm to use, the answer depends primarily on two aspects of your data science scenario: What do you want to do with your data? Specifically, what's the business question you want to answer by learning from your past data? What are the requirements of your data science scenario? What are the features, accuracy, training time, linearity, and parameters

カルマンフィルタという数理手法がロケットの姿勢制御等で良く使われています。これをアドテクに応用できそうに思うのでシェアしてみます。 カルマンフィルタと関連手法（知ってる人は飛ばして次へ） カルマンフィルタは一言でいうと「連続値の隠れ変数についてのモデルが既知でそれが線形で不定性をガウスノイズでくくれるような問題」に適用可能な手法です。 データサイエンティスト的な手法分類としては、線形じゃなくて非線形だったら粒子フィルタというのを使いますが、粒子フィルタはサンプリングといって乱数でシミュレートしてあたりをつけるみたいな方法なのに対して、カルマンフィルタは次の推定値を式一発でビシッと出してくれる（そういうのを「閉形式で解析的に求まっている」みたいな言い方をします）ので線形モデルで近似できそうならば線形モデルを使うことの利点はかなりあります。 隠れ状態が連続値でなく離散値だったら隠れマルコフモデ

Axundefined=λxundefinedA\overrightarrow{x}=\lambda \overrightarrow{x}Ax=λx が成立するとき xundefined\overrightarrow{x}x を AAA の固有ベクトル(英：eigenvector)，λ\lambdaλ を AAA の固有値(英：eigenvalue)と言う。ただし，AAA は正方行列，xundefined\overrightarrow{x}x は 0undefined\overrightarrow{0}0 でないベクトル，λ\lambdaλ は スカラー。

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 部分空間法 機械学習を行うために、マシーンに食わせるデータを準備します。 その際にデータの次元数（大きさ）が小さい方がより学習に効果的なので、 $d$次元特徴ベクトル空間を重要な情報をもつ$r(≤d)$次元空間に縮小します。 9章では、教師なし学習次元削除手法の 主成分分析、特異値分解、 部分空間法、カーネル主成分分析、カーネル部分空間法 について取り上げています。 部分空間法、カーネル主成分分析、カーネル部分空間法は難しいので後半に分けます。 なお、はじめてのパターン認識 第４章 確率モデルと識別関数　前半（観測データの線形変換）の話

はじめに 当ブログでは Apache Spark プロジェクトの機械学習ライブラリ MLlib について何度か取り上げました。 Spark / MLlib の K-means を Java から利用してみる Scala ではじめる Spark / MLlib の単純ベイズ分類器 今回のエントリでは MLlib の協調フィルタリングについて書きます。 アルゴリズムの簡単な解説と Java からの利用方法、性能評価実験などの話をします。 Spark 1.1.0 が9月にリリースされてからしばらくたってしまいましたが、1.1.0 から実装された機能も紹介します。 少し長くなるので前・後編に分かれます。 以下では Spark 1.1.0 を想定しますが、このあたりは今も発展中であり、以降のバージョンではまた違う話になっている可能性が高いのでご注意ください。 MLlib における協調フィルタリング

Machine Learning Advent Calendarです。 普段はGunosyという会社で推薦システムを作ってます はじめに 推薦システムに関する最近の文献を読むと結構な割合で出てくるMatrix Factorizartion(MF)と呼ばれる手法があります。 ざっくり言うとこの手法は協調フィルタリングにおける次元削減を行うことでよりよい推薦を行おうという手法であり、 Netflix Prize(100万ドルの賞金が賭けられた推薦システムのコンテスト)で最も成果を上げたモデルの一つでもあります。 本記事ではこの手法を紹介していきます。 協調フィルタリング まず協調フィルタリングについておさらいしましょう。 あるサービスで3人のユーザが５つのアイテムに対して5段階評価をしたとき、その評価値を以下のようにベクトルで表すことができます。 \vec{user_{1}} = (4, 5,

捕食者と被食者の個体数は捕食を通じて互いに影響しており、時に双方の個体数が共振動することがある。例えば、カナダのカンジキウサギ(被食者)とカナダオオヤマネコ(捕食者)の個体数は、約10年の周期で共振動している。野外では気象条件などの影響を排除し切れないが、室内の実験系においても共振動は確認されているらしい。 個体数の共振動という現象は、理論的にはロトカ・ヴォルテラの捕食式を用いることで確認できる。 ロトカ・ヴォルテラの捕食式では以下の仮定をしている。 まず、捕食者、被食者がそれぞれ単独で存在していて、捕食-被食の関係が存在しない時、捕食される心配のない被食者は世代ごとにrの割合で個体数を増やし、獲物を得られない捕食者は世代ごといqの割合で死亡すると仮定する。被食者の個体数をN、捕食者の個体数をPとすると と表現できる。 次に、単位時間あたりに捕食される被食者の数について、その数は捕食者が多