はじめに: 本講座は「機械学習ってなんか面倒くさそう」と感じている プログラマのためのものである。本講座では 「そもそも機械が『学習する』とはどういうことか?」 「なぜニューラルネットワークで学習できるのか?」といった 根本的な疑問に答えることから始める。 そのうえで「ニューラルネットワークでどのようなことが学習できるのか?」 という疑問に対する具体例として、物体認識や奥行き認識などの問題を扱う。 最終的には、機械学習のブラックボックス性を解消し、所詮は ニューラルネットワークもただのソフトウェアであり、 固有の長所と短所をもっていることを学ぶことが目的である。 なお、この講座では機械学習のソフトウェア的な原理を中心に説明しており、 理論的・数学的な基礎はそれほど厳密には説明しない。 使用環境は Python + PyTorch を使っているが、一度原理を理解してしまえば 環境や使用言語が

実装 コード全体はこちら DOC 実装はこちらを参考にしてください。 L2-Softmax-Loss 異常検知ではありませんが、こちらで実装しています。 ArcFace 実装は、こちらを参考に（ほとんどコピー）させていただきました。 結果 Fashion MNISTの結果 L2-SoftmaxLossとArcFaceが良いスコアを示しました。 やはり、距離学習による異常検知は性能が良いようです。 中央値が重なって見づらいですが、DOCとの差は中央値で0.05ポイント （全体の精度は10%くらい？）の差が出ています。 L2-SoftmaxLossは、以前の結果と食い違っていますが、以前は データ数も少なく、最適化手法のlrも違う値でした。 cifar-10の結果 こちらも、L2-SoftmaxLossとArcFaceが良いスコアになりました。 DOCとの差はさらに大きくなっています。 met

Graeme Malcolm speaks during an AI school event on Microsoft's campus in Redmond, Wash. on Tuesday, December 6, 2017. (Photo by Dan DeLong) As a software engineer at Microsoft, Elena Voyloshnikova’s job is to make informed recommendations about how to improve the performance of software engineering tools. But too often, she spends her days manually analyzing the data she needs to make those decisi

Philosophy We strive to create an environment conducive to many different types of research across many different time scales and levels of risk. Learn more about our Philosophy Learn more

はじめに 最初の一歩を間違える 勉強の方針まとめ 巷で有名な教科書を読む 参考記事 流行りのフレームワークを入れる 参考記事 インターネットで知識を詰め込む 参考記事 目的と合っていない手法に着手 はじめに 新年始まって、機械学習始めよう！と意気込んでる方もいらっしゃると思います。 そしていきなり ・専門用語 ・プログラミング ・数式 などの壁にぶつかり諦める方も多いと思います。 しかし、ちょっと待ってください。方針が（というか最初の一歩）がたまたま間違っていただけで、まだまだいくらでも手立てはあるはずです。 今回は機械学習始めてみようと思ったけど、全く何すればいいかわからない人たちに向けた勉強方針をまとめたいと思います。 最初の一歩を間違える まず最初の一歩を間違えるパターンがいくつかあると思います。 それを思いつく限りあげてみます。 ・巷で有名な教科書を読んでみた ・最近流行りのフレー

This class will teach you the end-to-end process of investigating data through a machine learning lens, and you'll apply what you've learned to a real-world data set. This class will teach you the end-to-end process of investigating data through a machine learning lens, and you'll apply what you've learned to a real-world data set.

2016/12/15: にわかに閲覧者が増えたのでおかしなところを微修正 概要 統計学史をちょっと調べていておもしろかったのでまとめてみた 技術的にはすごく初歩的な話なので, 回帰分析 (最小二乗法) の入門的な「読み物」という位置づけになりそう 入門的な読み物なので, 特に最小二乗法の説明箇所は中学高校の数学の知識だけで理解できるような表現をしている, したつもり. PDF換算で 10 ページ (ただし画像が結構多い) 惑星の軌道を予測する連立方程式で惑星の軌道を予測する19世紀初頭にフランスの数学者ルジャンドル*1が最小二乗法のアイディアを最初に発表したが, ドイツの数学者ガウス*2が直後に自分こそが先に思いついたと主張し, 論争を生んだという (Abdulle & Wanner, 2002, 200 Years of Least Squares Method). しかし, いずれが先

信号解析の基本手法：フーリエ級数展開 フーリエ級数展開 回帰問題とフーリエ級数展開 特徴量抽出としてフーリエ係数 機械学習における基本手法 ニューラルネットワークの回帰 表現力の高さとは 無駄な働きとは 個人的見解 特徴抽出 しっかり学ぶためには 新規のニューラルネット 信号解析の基本手法：フーリエ級数展開 信号解析の基本手法といえばフーリエ解析があります。フーリエ解析は任意の関数を三角関数の和に分解することで対象を解析する手法です。時系列信号に適応すれば、その信号をいろいろな周波数の正弦波の和として表現できるということです。 フーリエ級数展開 フーリエ解析の基本的理念は以下の記事で解説しています。 s0sem0y.hatenablog.com ここでもその理念をおさらいしましょう。 という基本的な信号を準備して、これを適当な重み付けで足しあわせてみます。 いま様々な重み付けで基本的な信号

s0sem0y.hatenablog.com ディープラーニングは2006年にトロント大学のHinton氏が考案したDeep Belief Networkから始まりました。このとき考案されたのが事前学習という手法で、一層ずつ層を学習させてから繋げていくことで、一気に深い構造を学習させる際に生じていた勾配消失問題を回避することに成功しました。 その後深い構造を使った機械学習が全てディープラーニングと呼ばれるようになり、今やその種類は非常に多岐に渡ります。今回はディープラーニングって言っても色々出てくるけど、どれがどれだか分からないという人のために（そして自分の中で整理するために）、ディープラーニング手法をまとめてみたいと思います。 ディープラーニングの種類のまとめ Deep Belief Network(DBN) 最初に登場したディープラーニングの手法 特徴抽出を人手でやらなくても良くなった

結論 理由 実装がライブラリに依存していない しっかりと解説が行われている リファレンスが充実している 計算グラフによってネットワークの計算を扱う 中身 誰におすすめできるか 誰におすすめできないか 私が本を購入して 結論 非常に良い書籍です。迷っているならば購入してもいいでしょう。 ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装 作者: 斎藤康毅 出版社/メーカー: オライリージャパン 発売日: 2016/09/24 メディア: 単行本（ソフトカバー） この商品を含むブログ (5件) を見る 理由 以下記事で理由を述べていきます。 実装がライブラリに依存していない もしもライブラリに依存したものである場合、ライブラリが更新されると、本の内容が古くなって価値のないものになることもありえます。しかしこの本は、ディープラーニングを理解することに焦点を

※この記事は苫小牧高専 AdventCalendar-2016の5日目の記事です。 はじめに 最近流行りのDeepLearningについての記事を書こうと思います。ただし、理論についてではなく、理論をプログラムに落とし込むためのツールに関するお話です。それも1つのフレームワークに関することなので、比較などではなく自分が使ってみた感想をつらつら書いていきます。 僕は4月から卒業研究でDeepLearningに関する研究をしており、PythonとDeepLearning用フレームワークKeras（バックエンドはTensorflow）な環境で色々コードを書いています。そこで、半年くらいKerasを使ってみていいなと思ったこと、苦しかったことを書こうと思います。テーマはなんでもいいってことだったので、刺さる人が少ないのは申し訳ないですが、この記事がきっかけで機械学習をKeras使って始めてみようみ

はじめに 『統計にそんなに詳しくないけど、機械学習とかのモデルを自分で実装してみたい！』 ってことよくありますよね？ 『そんなこと全くないわー（#^ω^）』って思った人も素直になってください。 絶対に一度は思ったことがあるはずです。 とくにPythonでロジスティック回帰を実装したいと思ったことがある人は多いと思います。 多いはずです。 ここでは、統計の知識をヌルくと説明しつつPythonで実際に動くLogistic回帰モデルを実装します。 統計に詳しくない方でも無理なく出来るよう、統計の説明➔実装 を1ステップづつ進められるようにしました。 なんでかんで、統計モデルとか機械学習も自分で実装しながら覚えると効率がよかったりします。 この記事の対象読者 基本的にはデータサイエンスに多少興味ある方向けです。 ロジスティック回帰って聞いたことあるけど、よくわからん 上司がロジスティック回帰でクラ

ここ最近、Google翻訳がリニューアルされ、性能が向上したという話が流れてきたので、さっそく試してみた。 ぼくが真っ先に試したのは、「母は、父が誕生日を忘れたので、怒っている。」だ。 なぜこの文が気にかかっていたかは後述する。 結果は次の通り。 "My mother is angry because my father forgot her birthday." すばらしい。 では、「母は、父が鞄を忘れたので、怒っている。」はどうだろうか。 "My mother is angry because my father forgot his bag." 完璧だ！ 「誕生日を忘れた」の場合は「母の誕生日」と解釈し、「鞄を忘れた」の場合は「父の鞄」と解釈する。 これこそ、利用者が翻訳に求めるものじゃないだろうか。 しかし、ここまでだった。 次にぼくは、「父」と「母」を入れ替え、「父は、母が誕生日

You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert

この記事は、去年私が書いた「Machine Learning in a Week（機械学習に挑んだ一週間）」という記事の続編です。その記事では、私が5日間集中的に機械学習を学び、のめり込んでいった経緯について説明しています。 機械学習に挑んだ一週間 一般の人にとって機械学習の分野に足を踏み入れるのは、無謀なことに思えるでしょう。medium.com 私は順調なスタートを切った後も、時間を見つけて勉強を続け、およそ一年後には、仕事で機械学習を活用した初プロジェクトを立ち上げることができました。そのプロジェクトでは、さまざまなタイプの機械学習や自然言語処理（NLP）の技術を駆使して、 Xeneta の 潜在顧客の特定 を行っています。 趣味でやっていたことが仕事になって、とても嬉しかったです。 同時に、仕事として機械学習を利用するのは博士号を持つ限られた人だけだ、という思い込みも払拭されました

要約 機械学習をやりたいけれど、どこから手をつけていいか分からない。 → まずは機械学習の全体像を調べて、自分が解きたい問題にあった分野の見当をつけよう！ 投稿の目的 機械学習について、自分の学習記録を投稿いたします。 学習記録とは書いていますが、ただの備忘録ではなく、以下の目的から誰かに読んでいただくことを想定しています。 自分の解釈についてフィードバックを得たい。 自分の考えをわかりやすく人に伝える力を付けたい。 せっかくだし、自分と同じ内容を勉強している人には役立ててもらいたい。 はじめに これは機械学習以外にも言えることですが、専門技術というのは理論と実践が１セットになっています。 この両輪を回して初めて専門技術を習得することができます。 そして、理論と実践を修めるには大きく２つのアプローチ方法があります。 先に理論を修め、それを実問題に適用する人（理論（1）→実践先（N）） 先に