須藤玲司 @LazyWorkz うちの親がニュース見ながら「最近は殺人が増えとるなあ…昔よりもずっと。こわいわあ」とか寝言ぬかすんで、ちょっと待てババアあんたらの時代よりおれらの時代のほうがずーっと日本は良くなっとるんや、殺人なんか８割減やでと数字を見せつける朝。 pic.twitter.com/KqCTGeyLr1 2016-09-14 08:08:43 須藤玲司 @LazyWorkz 「昔は殺人のニュースなんか珍しかったのに」 「そら昔は殺人が珍しくなかったからやろ。珍しくないことなんかわざわざニュースにしないし、聞いても忘れるがな」 pic.twitter.com/JjUNhzNLG2 2016-09-14 08:19:35 須藤玲司 @LazyWorkz 他殺死亡者数グラフ、おまけの自殺者数のほうに「こんなに多いのか！」って驚く声がありますが、むしろ驚くほど少ないんですよこれ。 「

昨日の記事からのつづき． 今日は本題の順位相関係数について書く． 元々は2つのリストの類似度を測る指標としての文脈で考えていたわけだけれど，実は2つの変数が正規分布しなかったり，離散値を取る時などに相関係数を測るノンパラメトリックな方法でもあることがわかった (昨日の話)． 2つの順位相関係数について解説した後，ちょっと気になること，異なる集合の順序リストの相関係数を測る方法などについて書く． 順位相関係数 情報検索や推薦などにおいて，2つの順序リストが与えられた場合に，それらがどれほど 似ているかという類似性評価のために順位相関係数を用いる． ただ，前回説明したピアソン相関係数は確率変数が正規分布している仮定を置いているので，確率変数が明らかに正規分布していない場合の計算に利用できる． 順位相関係数はケンドールの順位相関係数と，スピアマンの順位相関係数というものがある．注意するべき点は，

ソフトウェア開発の原点は可能性の追求であり、不可能を可能にすることです。ひとたび ソフトウェア が開発されると、エンジニアは次に 程度 という課題に向き合うことになります。企業向けのソフトウェアであれば、「速度はどれくらいか」と頻繁に問われ、「信頼性はどの程度か」という点が重視されます。 ソフトウェアのパフォーマンスに関する質問に答え、さらには正しい内容を語る上で欠かせないのが統計学です。 とはいえ、統計学について多くを語れる開発者はそうはいません。まさに数学と同じで、一般的なプロジェクトで統計学が話題に上ることなどないのです。では、新規にコーディングをしたり、古いコードのメンテナンスをしたりする合間に、手が空くのは誰でしょうか？ エンジニアの方は、ぜひ時間を作ってください。近頃は、15分でも貴重な時間と言えるでしょうから、 こちらの記事をブックマークに追加 しておいてもいいでしょう。とに

庄野研究室は，視覚の情報処理を基盤とした画像処理，機械学習（神経回路モデル，深層学習）といった分野を中心に研究を行っています． 神経回路モデルや機械学習をベースに，計測画像などに対する情報処理技術を日夜開発しています．興味がある方はご連絡ください． 人間や動物の脳がどのような情報処理を おこなっているかは未だ人類にとって未知の領域となっています．これは情報処理の機構が異なっていることに起因していると考えられます．脳は比較的単純な部品であるニューロンと呼ばれる部品からなりたっており，ひとつひとつの ニューロンは高い能力をもっているわけでも精度の高い動作をしているわけもありません．それどころか生体の内部のさまざまな雑音によって非常に不確かな情報処理をせざるをえない状態にあります． ところが，このニューロンが莫大な個数（人間で約１４０億個）集まると人間のように物を視て，言葉を操り，思考を巡らすと

Given samples from a pair of variables A, B, find whether A is a cause of B.

「相関」って何． 統計学を学んだことがあれば、誰もが一度は聞いたことがある「相関」という言葉。最近では、高校でも扱われる概念になったようですが、「相関」っていったい何でしょうか？教科書（という名のWikipedia）にはこういう風に書かれています。 相関係数（そうかんけいすう、英: correlation coefficient）とは、2 つの確率変数の間の相関（類似性の度合い）を示す統計学的指標である。原則、単位は無く、−1 から 1 の間の実数値をとり、1 に近いときは2 つの確率変数には正の相関があるといい、−1 に近ければ負の相関があるという。0 に近いときはもとの確率変数の相関は弱い。因みに 1 もしくは −1 となる場合は 2 つの確率変数は線形従属の関係にある。 ここでは、相関ではなく、相関係数という言葉を用いていますね。「相関」というのは、2つ以上のもとがあるときに、それら

1. 問題 離散の場合 連続の場合 HSIC 実験 まとめ Bayes Independence Test - HSIC と性能を比較する - 鈴木 譲 大阪大学 人工知能学会 基本問題研究会 (宮古島) 2014 年 3 月 3 日 Bayes Independence Test - HSIC と性能を比較する 1 / 19 3. 問題 離散の場合 連続の場合 実験 HSIC まとめ 問題: (x1 , y1 ), · · · , (xn , yn ) から、X ⊥ Y か否かを検定 ⊥ 相互情報量: I (X , Y ) := ∑∑ x PXY (x, y ) log y PXY (x, y ) PX (x)PY (y ) I (X , Y ) = 0 ⇐⇒ X ⊥ Y ⊥ Hilbert Schmidt independent criterion: 相関係数の非線型化 相関係数 (X

相変わらずうちのチームでは論文輪読会をやってまして、先日僕が担当したのが「21世紀の相関の本命」HSIC (Hilbert-Schmidt Independence Criteria)の原論文たるこいつ↓でした。 Measuring Statistical Dependence with Hilbert-Schmidt Norms (Gretton et al., Algorithmic Learning Theory, 2005) HSICと言えば@motivic_氏の手による一昨年夏のTokyoRでの発表が一番ナイスな解説だと思います。 21世紀の手法対決 (MIC vs HSIC) 追記 HSIC関連だと鈴木先生のこれもお勧め(昔紹介したかも Bayes Independence Test - HSIC と性能を比較する- http://t.co/IMWUpB5qEu— motivi

だいぶ前に大学で発表したMICの解説スライドです。 サイト作ってます。 http://logics-of-blue.com/Read less

1. . はじめに . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21 世紀の手法対決 . . 参考 . ...... 21 世紀の手法対決 @motivic 第 33 回 R 勉強会@東京 2013 年 8 月 31 日 @motivic 21 世紀の手法対決 2. . はじめに . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21 世紀の手法対決 . . 参考 目次 ...1 はじめに 自己紹介 ...2 21 世紀の手法対決 20 世紀の独立性を見つける方法の限界 21 世紀の相関：MIC 21 世紀の検定：HSIC test いざ勝負！ ...3 参考 参考文献 参考 HP @motivic 21 世紀の手法対決 3. . はじめに . . .

今年の1月にこんな話題を取り上げたわけですが。 この記事の最後にちょろっと書いた通り、実際にはこういう"too good to be true"即ち「そのモデルの精度いくら何でも高過ぎるんじゃないの？」→「実は汎化性能見てませんでした」みたいなケースって、想像よりも遥かに多くこの世の中存在するみたいなんですね。ということで、それこそ『はじパタ』の2章とかPRMLの最初の方に出てくる初歩中の初歩なんですが、その辺の話を改めてだらだら書いてみようと思います。 そもそも「精度100%」とか「相関係数0.9以上」とか見たら身構えるべき 冒頭に挙げた例は、そもそも「精度100%なんておかしい」という声があちこちから挙がったことで話題になり、蓋を開けてみたらleakageはあるわ訓練誤差でしか評価してないわで散々だったわけです。 一般に、実世界のデータセットで統計モデリングにせよ機械学習にせよモデリン

Hadley Wickham, Lisa Stryjewski. 40 years of boxplots. Download: pre-print The boxplot plot has been around for over 40 years. This paper summarises the improvements, extensions and variations since Tukey first introduced his 'schematic plot in 1970. We focus particularly on richer displays of density and extensions to 2d. @TechReport{boxplots, author = {Hadley Wickham and Lisa Stryjewski}, instit

Bokeh documentation# Bokeh is a Python library for creating interactive visualizations for modern web browsers. It helps you build beautiful graphics, ranging from simple plots to complex dashboards with streaming datasets. With Bokeh, you can create JavaScript-powered visualizations without writing any JavaScript yourself. Finding the right documentation resources# Bokeh’s documentation consists

先日行われた第9回「データ解析のための統計モデリング入門」読書会にて、 「可視化で理解するマルコフ連鎖モンテカルロ法」というタイトルで発表させて頂きました。 発表スライドは以下です。 可視化で理解するマルコフ連鎖モンテカルロ法 from hoxo_m この発表は、みどりぼんに登場する、マルコフ連鎖モンテカルロ法(MCMC)のアルゴリズムである「メトロポリス法」と「ギブス・サンプラー」について、可視化して理解しようというお話です。 「マルコフ連鎖モンテカルロ法」というのは、字面だけ見ると難しそうですが、この発表で理解すべきポイントは、次のスライド 1枚に凝縮されています。 このことを念頭に置いて、それぞれの手法を見ていきましょう。 まず、メトロポリス法ですが、これは、 前の状態の近くの点を次の遷移先候補として選ぶ（マルコフ連鎖） そのときの確率比 r < 1 ならば確率 r で棄却する。それ