のんびりしているエンジニアの日記

ソフトウェアなどのエンジニア的な何かを書きます。

DeepLearningを使った実装を纏めてみた

Sponsored Links

皆さんこんにちは
お元気ですか。私は全然です。

Deep Learning 一言で言うとただの深層学習ですが、
作り手や用途によって構造が全然違います。

今回は逆引き辞典よろしく、Deep Learningの実装のリンク集を作ってみました。
今回はライブラリは問わず、掲載します。
Caffe、Theano(Lasagne)、Torch7、Chainerなんでもござれです。

後日、追記するかも・・・

Neural Network(Full Connected)

Lasagneによる実装、同じページにCNNのサンプルもあります。
Lasagne/mnist.py at master · Lasagne/Lasagne · GitHub

Chainerによる実装、3層の簡単なニューラルネットワークです。
並列GPUの実装例の記載もあるので、複数のGPUを差している人はおすすめです。
chainer/examples/mnist at master · pfnet/chainer · GitHub

Torch7のデモ、こちらもMNIST。まぁMNIST楽なのですよ。。
demos/train-a-digit-classifier at master · torch/demos · GitHub

Caffeによるチュートリアル。
Caffe | LeNet MNIST Tutorial

Tensorflowによるチュートリアル
tensorflow/tensorflow/g3doc/tutorials/mnist at master · tensorflow/tensorflow · GitHub

Auto Encoder

Auto Encoder

Chainerで実装したStacked AutoEncoder
chainerでStacked denoising Autoencoder - いんふらけいようじょのえにっき

AutoEncoderの実装が様々あるgithubリポジトリ(実装はTheano)
caglar/autoencoders · GitHub

Torchで実装されているAuto Encoder
demos/train-autoencoder.lua at master · torch/demos · GitHub

Machine Learning Advent Calendarの3日目。色んな符号器作っています。
Theanoによる自己符号化器の実装 - 人工知能に関する断創録

Convolutional AutoEncoder

Convolutional AutoEncoderのChainerによる実装
Refactored code for a Convolutional Autoencoder implemented with Chainer. · GitHub

Convolutional Neural Network

Convolutional Neural Network

Chainerの公式サンプル
chainer/examples/imagenet at master · pfnet/chainer · GitHub

CIFAR10のサンプル(私です)
ChainerでCIFAR-10の分類を行ってみる - のんびりしているエンジニアの日記

Lasagneのサンプルです。MNISTで、Full-ConnectとConvolutional Neural Networkの実装が
書かれています。
Lasagne/mnist.py at master · Lasagne/Lasagne · GitHub

Caffeのチュートリアルの日本語ver
caffe.md · GitHub

度々私です。tensorflowによる実験を記載しています。(CNN,Full-Connectあり)
TensorFlowのTutrialの解説と機械学習の実験をした。 - のんびりしているエンジニアの日記

Fast-RCNN

ChainerによるFast-RCNNの実装(既存のImageNetによるモデル構築)
mitmul/chainer-fast-rcnn · GitHub

Faster-RCNN

著者によるMatlabでのFaster-RCNNの実装。
ShaoqingRen/faster_rcnn · GitHub

CaffeによるFaster-RCNNの実装
rbgirshick/py-faster-rcnn · GitHub

Recurrent Neural Network

Recurrent Neural Network

chainer/examples/ptb at master · pfnet/chainer · GitHub

luaのdp packageを使用したサンプル
dp/recurrentlanguagemodel.lua at master · nicholas-leonard/dp · GitHub

torch7のrnnパッケージ
Element-Research/rnn · GitHub

Seq2Seq

ChainerによるExample
chainer_examples/mt_s2s_attention.py at master · odashi/chainer_examples · GitHub

TensorFlowによる公式seq2seq
http://www.tensorflow.org/tutorials/seq2seq/index.html

word2vec

Chainerの公式Example Skip-GramやCBOWもあり
chainer/examples/word2vec at master · pfnet/chainer · GitHub

TensorFlowのword2vecのチュートリアル
http://www.tensorflow.org/tutorials/word2vec/index.html
tensorflow/models/embedding - tensorflow - Git at Google

Torch7によるword2vec
word2vec_torch/word2vec.lua at master · yoonkim/word2vec_torch · GitHub

Deep Reinforcement Network

Deep Q Network

torchによる実装
kuz/DeepMind-Atari-Deep-Q-Learner · GitHub
Caffeによる実装
muupan/dqn-in-the-caffe · GitHub
Chainerによる実装、解説記事もあります。
ugo-nama-kun/DQN-chainer · GitHub

その他

Siamese Neural Network

ChainerによるSiamese Neural Networkの実装
mitmul/chainer-siamese · GitHub

Memory Network

Torchで実装されているMemory Network
facebook/MemNN · GitHub

Theano baseのNeural Network
MemNN/main.py at master · npow/MemNN · GitHub

Deep Dream

著者によるMatlab実装
aravindhm/deep-goggle · GitHub

DCGAN

DCGANと呼ばれる画像生成のニューラルネットワークの実装
soumith/dcgan.torch · GitHub
Chainer Vesrsion アニメ画像凄い
mattya/chainer-DCGAN · GitHub

アプリケーション

コンペティション

Kaggleで行われたCIFAR10のコンペティションのコード(torch7)
内部にDataArgumentationやZCA Whitingのコードもあります。
nagadomi/kaggle-cifar10-torch7 · GitHub

Kaggleで行われたリクルートのコンペ、Chainerを使って5位へ
nagadomi/kaggle-coupon-purchase-prediction · GitHub

Lasagneを使ったニューラルネットワーク、
去年すごく流行したプランクトンコンペティションのコードです。
benanne/kaggle-ndsb · GitHub

顔の特徴点位置の予測にLasagneを使った手法が掲載されています。
Using convolutional neural nets to detect facial keypoints tutorial — Daniel Nouri's Blog

Right Whale Competition
鯨コンペで使ってくださいといって公開されたもの実装はneonと呼ばれるライブラリ

anlthms/whale-2015 · GitHub

Waifu2x

本家本元オリジナルのWaifu2x、超解像を行うニューラルネットワーク
nagadomi/waifu2x · GitHub

Caffe version
lltcggie/waifu2x-caffe · GitHub

やってみた系

はじめてのアニメ顔認識 with Chainer - Qiita
[Chainer] Deep Learning でアニメ (ゆるゆり) キャラクターを識別する(2015/11/4少し追記) | まさかり募集中
DenoisingAutoEncoderでアニメ顔の特徴を抽出してみた - のんびりしているエンジニアの日記
ニコニコ静画の学習済みchainerモデルを試してみた - studylog
ご注文はDeep Learningですか? - kivantium活動日記
Deep Learningでラブライブ!キャラを識別する - christinaの備忘録
Deep Learningの気持ちになって考えてみる - kivantium活動日記
Deep Learningでスケジュール調整してみる、ための自然言語処理をしてみた | GREE Engineers' Blog
Deep Learningを用いた将棋プログラムGunyanzaを公開しました
Chainerのptbサンプルを解説しつつ、自分の文章を深層学習させて、僕の文章っぽい文を自動生成させてみる - shi3zの長文日記
Python - ニューラルネットワークを用いたランク学習(ChainerによるRankNetの実装) - Qiita
Python - ChainerとRNNと機械翻訳 - Qiita
Oriental Robotics: RNNによる学習で文豪っぽいテキストを出力させる (aka DeepDazai)
【エヴァンゲリオン】アスカっぽいセリフをDeepLearningで自動生成してみる - Qiita
Implementing a CNN for Text Classification in TensorFlow – WildML
ねこと画像処理 part 3 – Deep Learningで猫の品種識別 « Rest Term
ディープラーニングで本田翼を見分けたい。初歩編 | moxt
Caffeで手軽に画像分類 - Yahoo! JAPAN Tech Blog
Caffeによる特徴抽出+AROWによる分類を試した - kivantium活動日記
便利マシンやあほロボットを作る回路師のブログ Caffe(Deep Learning)を使って画像の分類をしてみる