Fashion-MNIST を動かしてみる （注）このデータはMNISTを少し複雑化することを意図したもので、衣服等の識別に使える種類のデータではない。あくまでもテストデータ。 今回はDockerを用いてKeras + Jupyterの環境を構築する。 Docker及びGitコマンドが使える環境であれば実行できるように記述したつもり。 事前準備 Dockerのインストール https://www.docker.com/ 実行環境 macOS Sierra 10.12.6 MacBook air early 2015 手順 Docker Keras をクローン

Update! (2nd December 2019)I’ve just released a series on MuZero — AlphaZero’s younger and cooler brother. Check it out 👇 How to Build Your Own MuZero Using Python (Part 1/3) How to Build Your Own MuZero Using Python (Part 2/3) How to Build Your Own MuZero Using Python (Part 3/3) In this article I’ll attempt to cover three things: Two reasons why AlphaZero is a massive step forward for Artificial

リアルタイムに物体検出するのってどうやるんだろう？と思い調べてみたら、想像以上に高機能なモデルが公開されていたので試してみました。こんな感じです。 自動運転で良く見るようなリアルタイムの物体認識をしています。このモデルは「Single Shot MultiBox Detector（SSD）」という深層学習モデルで、Kerasで動いています。 環境さえ整えればレポジトリをクローンして簡単に実行できます。今回はデモの実行方法をまとめてみます。 環境 ちょっと古いiMacにUbuntu16.04を入れたものを使いました。詳しくはこのへんとかこのへんをご参照ください。 ##SSD: Single Shot MultiBox Detector 深層学習を利用したリアルタイムの物体検出は次々と新しい技術が公開されているようです。ざっと調べたところ、R-CNN、Fast R-CNN、Faster R-C

以前からやってみたかったRaspberry Piの物体認識を試してみました。今回はクラウドサービスを使わずに深層学習ライブラリと学習済みモデルを使ってみました。 環境 Raspberry Pi3 (RASPBIAN JESSIE WITH PIXEL 4.4　/ Python 3.4.2) LOGICOOL ウェブカム HD画質 120万画素 C270 ミニロボットPC等用スピーカー小型かわいい白 7インチ(1024*600) IPS液晶パネル　ディスプレイ 今までカメラモジュールを利用していたのですが、OpenCVでストリーミングをさせるためWebカメラを購入しました。ついでにちょっと可愛らしいロボット型のスピーカーも合わせて買ってみました。 ロボット型のスピーカーがWebカメラに映った物をしゃべってくれます（英語です）。 こんな感じ Deep Learning Object Recog

Time series prediction problems are a difficult type of predictive modeling problem. Unlike regression predictive modeling, time series also adds the complexity of a sequence dependence among the input variables. A powerful type of neural network designed to handle sequence dependence is called a recurrent neural network. The Long Short-Term Memory network or LSTM network is a type of recurrent ne

こんにちは。次世代システム研究室のJK (男)です。 突然ですが書籍の「ゼロから作るDeep Learning」読みましたか？基礎からクリアに説明されていて、個人的にはとても面白かったです。これまでLSTM, 強化学習の記事を書いてきましたが、今回はこの本にならってDeep Learningの基礎の「ちょい深」理解を目指し、Deep Learningの可視化に焦点をあてたいと思います。 ちなみに今回の内容のcodeは、ここに上げておきました。 0. 可視化のモチベーション 最近のDeep Learningのフレームワークは充実していて、簡単に動かせるようになりましたね。でも動かせたけど理解した気がしない、って人も多いのではないでしょうか？その理由の一つが、Deep Learningがブラックボックス化していることだと思います。簡単に動かせることの副作用だと思いますが、インプットデータと教師

VGG16はILSVRCのコンペ用に学習されたニューラルネットなのでImageNetの1000クラスを認識できる。しかし、前の記事（2017/1/4）で実験したように「ひまわり」のようなImageNetに存在しないクラスはそのままでは認識できない。 この問題を解決するためVGG16の高い認識能力を継承しつつ、新しい独自のクラス（今回は犬か猫かの2クラス）を認識できるように少量のデータでニューラルネットの重みを再調整することをFine-tuningという*1。「少量のデータで」というところがすごく重要。もし大量データでないとダメだったらAWSの利用料で破産するのでこの記事は書けない(^^;; 今回は、Keras Blogの - Building powerful image classification models using very little dat を参考に犬と猫の2クラス認識を

DeeplearningライブラリのKerasを使っているときにはまったことをいくつかメモ。 ほぼ自分用かもしれない 今までTheanoを使ってアルゴリズムの勉強かついろいろ実験していたのだが、 勉強にはなるものの一から新しいアルゴリズムを実装するのはなかなかしんどいので Theanoのラッパーとして使えるKerasを使ってみた 他にも色々あるっぽいけど評判良さそうなので。。 そのうち浮気するかもしれん ちょっと使って見たところ、何個か細かい点でつまずいたのでメモしておく。 バックエンドはTheanoしか使っていないのでTensorflowについてはわかりません ラベルはバイナリベクトルで扱う まずこれ。 keras.datasetsからmnistなどのデータセットを取ってこれる。 mnistの場合だと以下 import keras.datasets import mnist (X_tra

Kerasの公式ブログにAutoencoder（自己符号化器）に関する記事があります。今回はこの記事の流れに沿って実装しつつ、Autoencoderの解説をしていきたいと思います。間違いがあれば指摘して下さい。また、Kerasの公式ブログはKerasでの実装に関してだけでなく、機械学習自体についても勉強になることが多く、非常におすすめです。 今回の記事では様々なタイプのAutoencoderを紹介しますが、日本語ではあまり聞き慣れないものもあるかと思いますので、今回は名称を英語で統一したいと思います。 目次 イントロダクション Undercomplete Autoencoder Sparse Autoencoder Deep Autoencoder Convolutional Autoencoder Denoising Autoencoder まとめ イントロダクション Autoencod

こんにちは、あんどう（@t_andou）です。 前回から、少ないデータで効率よく学習させるfinetuningの記事を翻訳していますが、今回は全3回中の第2回です。 全3回の予定 データの準備・データの水増し 1から小さな畳み込みニューラルネットワークを作ってみる（<-今回はここ） 学習済みネットワークを流用する 前回の記事はこちら andoo.hatenablog.com 前回は学習に使うデータの準備を行いました。 今回は小さな畳み込みニューラルネットワークを1から作って、前回準備したデータを学習させてみます。 小さなCNNを0から作る：40行のコードで80%の正解率 画像のクラス分類器にふさわしいツールは畳み込みニューラルネットワーク（以降CNN）です。それでは最初の一歩として、犬・猫のデータを学習させてみましょう。 今回は少ない画像で学習を進めますので、一番の懸念点は過学習でしょう。

こんにちは。あんどう（@t_andou）です。 ディープラーニングによる学習精度を上げるためには大量のデータが必要と言われていますが、学習済みのモデルを流用することで少ないデータから効率よく・高精度な学習をさせることが可能な場合があります。 それが Fine Tuning と言われるものです。 具体的なやり方については↓こちらの記事がとてもわかりやすかったので、著者のFrancois Cholletさんより許可を頂き、翻訳させていただきます。 Building powerful image classification models using very little data 注意：意訳しています。間違っているところも多々あると思いますので、ご指摘いただけると幸いです。 本文が長いので3回程度に分けて投稿する予定です。 データの準備・データの水増し 1から小さな畳み込みニューラルネットワ

2016 - 06 - 20 Keras ImageDataGeneratorの使い方 Kerasでは ImageDataGenerator クラスを使うこと簡単にデータ拡張(Data augmentation)することができます。 ランダムなパラメータの組み合わせで実行時にデータ拡張することで、完全に同じデータから学習することが少なくなり、汎化性能が向上することが期待できます。 また、 ImageDataGenerator クラスの flow メソッドでデータ拡張したデータを保存することができるので、chainerなど他の フレームワーク でも活用することができます。 古いバージョンだと rescale がなかったりするので、 kerasのバージョンを更新してください。 実行環境はkeras-1.0.4です。 pip install keras --upgrade 基本的な使い方

In this new era of deep learning, a number of software libraries have cropped up, each promising users speed, ease of use, and compatibility with state-of-the-art models and techniques. The go-to library in the Caltech vision lab has been Caffe, an open-source library developed by Yangquing Jia and maintained by the Berkeley Vision and Learning Center (BVLC). It has been the gold standard in terms

はじめに 機械学習、特にディープラーニングが近頃（といってもだいぶ前の話になりますが）盛んになっています。CaffeやChainerといったフレームワークもありますが、特にGoogleがTensorflowでtensorboardと呼ばれる簡単に使える可視化基盤を提供して有名になったのを機に、Tensorflowで機械学習を始めてみたという方も少なくないと思います。 しかしTensorflowは低レイヤーな行列演算、ベクトル演算を記述するには適していますが、機械学習モデルの記述という面では書きにくいことも確かで、何かが動いていることは確かめられたけれど自分で何かをするには敷居が高かったです。例えば、Tensorflowでsoftmax層を定義するには、以下のコードを書く必要があります。 # softmax, i.e. softmax(WX + b) with tf.variable_sco

はじめに 少し時代遅れかもしれませんが、強化学習の手法のひとつであるDQNをDeepMindの論文Mnih et al., 2015, Human-level control through deep reinforcement learningを参考にしながら、KerasとTensorFlowとOpenAI Gymを使って実装します。 前半では軽くDQNのおさらいをしますが、少しの強化学習の知識を持っていることを前提にしています。 すでにいくつか良記事が出ているので紹介したいと思います。合わせて読むと理解の助けになると思うので、是非参考にしてみてください。 DQNの生い立ち　＋　Deep Q-NetworkをChainerで書いた DQNが生まれた背景について説明してくれています。Chainerでの実装もあるそうです。 ゼロからDeepまで学ぶ強化学習 タイトルの通り、ゼロからDeepま

（左：Keras、右：MXnet） Kaggle Masterの間ではMXnetよりさらに人気なDeep Learningフレームワークというかラッパーが、@fchollet氏の手によるKeras。 Keras Documentation 結構苦心したのですが、ようやく手元のPython環境で走るようになったので、試してみました。なおKerasの概要と全体像についてはid:aidiaryさんが詳細な解説を書いて下さっているので、そちらの方を是非お読み下さい。 追記 Kerasは人気のフレームワークなので、僕なんぞがこんなブログ記事を書く前から素晴らしい紹介記事・スクリプトが幾つもあります。こちらでは参考までに以下のお二方のものをご紹介させていただきます。 Kerasはレゴブロックを組み合わせるかのようにして、簡単にディープラーニングのモデルを作成できる便利なライブラリです。これを使って楽し