You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert

PyTorch : PyTorch 0.1.12 リリースノート PyTorch 0.1.12 がリリースされましたので、リリースノートを翻訳しておきました。 [ 詳細 ] (05/05/2017) PyTorch : Tutorial 初級 : 分類器を訓練する – CIFAR-10 一般に画像・テキスト・音声あるいはビデオデータを扱わなければならない時、データを numpy 配列にロードする標準 python パッケージが使用できます。それからこの配列を torch.*Tensor に変換できます。 画像については、Pillow, OpenCV のようなパッケージが有用です。 音声については、scipy と librosa。 テキストについては、生の Python あるいは Cython ベースのロード、あるいは NLTK と SpaCy が有用です。 ビジョンについては、torchv

You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert

Data Show, I spoke with Soumith Chintala, AI research engineer at Facebook. Among his many research projects, Chintala was part of the team behind DCGAN (Deep Convolutional Generative Adversarial Networks), a widely cited paper that introduced a set of neural network architectures for unsupervised learning. Our conversation centered around PyTorch, the successor to the popular Torch scientific com

GANの論文を読んだついでにMNIST用に実装しました． ネットワークには，Convolutionを使わず，多層ニューラルネットです．層の数，活性化関数やバッチ正規化などの設定はてきとうです．なのでGANもどきです． がんもどき pytorchで実装したかったので，本家のDCGANのコードを参考にしながら書きました． github.com また，こちらの方の実装も参考にしました．(keras) yusuke-ujitoko.hatenablog.com 結果として，以下のような出力を得ました． それなりに数字には見えますが，１が多い一方，２が少ないという偏りがありました． 一応，コードはここにあります．

気になる記事があったのでメモ。 http://datascience.ibm.com/blog/the-mathematics-of-machine-learning/ ここ数ヶ月で、私は、データ科学の世界への挑戦と、機械学習（ML）技術を使用して統計的規則性を探り、完璧なデータ駆動型製品を構築するという熱意について、私に連絡しました。しかし、私は実際に有用な結果を得るために必要な数学的な直感とフレームワークがないことを知っています。これが私がこのブログ記事を書くことにした主な理由です。最近では、scikit-learn、Weka、Tensorflow、R-caretなどの使いやすいマシンやディープ・ラーニング・パッケージが多数利用できるようになっています。機械学習理論は、統計的、確率的、コンピュータ的データから繰り返し学習し、インテリジェントなアプリケーションを構築するために使用できる隠

You can find (just about) anything on Medium — apparently even a page that doesn’t exist. Maybe these stories about finding what you didn’t know you were looking for will take you somewhere new?

In 2014, Ian Goodfellow and his colleagues at the University of Montreal published a stunning paper introducing the world to GANs, or generative adversarial networks. Through an innovative combination of computational graphs and game theory they showed that, given enough modeling power, two models fighting against each other would be able to co-train through plain old backpropagation. The models p

1. The document discusses Wasserstein GAN (WGAN), a type of generative adversarial network (GAN) that uses the Wasserstein distance rather than Jensen-Shannon divergence. WGAN has improved stability during training over traditional GANs. 2. WGAN trains the discriminator/critic to estimate the Wasserstein distance between real and generated distributions rather than classify samples. The gradient o

アイドル顔識別のためのデータ収集 をコツコツ続けて それなりに集まってきたし、これを使って別のことも…ということでDCGANを使ったDeep Learningによるアイドルの顔画像の「生成」をやってみた。 まだだいぶ歪んでいたりで あまりキレイじゃないけど…。顔画像を多く収集できているアイドル90人の顔画像からそれぞれ120件を抽出した合計10800件をもとに学習させて生成させたもの。 分類タスクとは逆方向の変換、複数のモデル定義などがあってなかなか理解が難しい部分もあったけど、作ってみるとそこまで難しくはなく、出来上がっていく過程を見るのが楽しいし とても面白い。 DCGANとは "Deep Convolutional Generative Adversarial Networks"、略してDCGAN。こちらの論文で有名になった、のかな？ [1511.06434] Unsupervise

今回はGAN（Generative Adversarial Network）を解説していきます。 GANは“Deep Learning”という本の著者でもあるIan Goodfellowが考案したモデルです。NIPS 2016でもGANのチュートリアルが行われるなど非常に注目を集めている分野で、次々に論文が出てきています。 また、QuoraのセッションでYann LeCunが、この10年の機械学習で最も面白いアイディアと述べていたりもします。 “The most interesting idea in the last 10 years in ML, in my opinion.” –Yann LeCun GANは聞いたことはあるけれどあまり追えてないという人向けに基礎から解説していきたいと思います。それでは順に見ていきましょう。 目次 基礎理論 DCGAN 実装 論文紹介 まとめ 基礎理

前回，GANを勉強して実装したので、その取り組みの続きとして、 DCGAN(Deep Convolutional GAN(DCGAN)を実装して遊んでみる。 生成結果はこのようになった。 (2017/9/7 追記) DCGANの論文を読んでみたところ、GANの論文よりも読みやすかった。 またGANのときには省略されていたモデルの構造も書かれていたため実装の難易度が低かった。 （DCGAN著者の実装も公開されているため，パラメータを参考にすることもできる） DCGANの肝は以下の三点だ（と論文で触れられている） deterministicなpooling手法の代わりに、 fractionally-stridedを使っている こと。これにより、ネットワークが自身のdownsamplingを学習可能となった。 全結合層を使っていない こと。convolutional featuresを入力層と出

Wasserstein GAN，略してWGANと呼ばれる Arxiv: https://arxiv.org/abs/1611.02163 著者によるコード: https://github.com/martinarjovsky/WassersteinGAN このWGANを使って以下のようないらすとや画像を生成したというのが本記事の主旨。 本論文のcontribution 確率分布間の距離を計算するための，従来使われてきた距離指標とEarth Mover(EM) distanceとの比較を行った EM distanceの近似関数を最小化するWasserstein-GANを定義した WGANが既存のGANにおける問題を解決することを示した WGANではdiscriminatorとgeneratorの学習バランスを気にしなくて良い ネットワーク構造も気にしなくて良い mode dropping p

ABEJAでリサーチャーをしています高橋です。 昨今 deep learning 界隈では Generative Adversarial Net(GAN) が流行っていて、世はまさにガンガン行こうぜ時代ですね。 GAN を用いると綺麗な絵が作成できたり二つの絵の中間のような絵を生成できたりします。例えばこの論文のような感じです。このように GAN は有用なモデルである一方、最近の GAN では急によくわからない式が出てきたりするので、勉強も兼ねて「一日一GAN」をやってみました。今回読んだ論文のリストは以下です。 EBGAN (https://arxiv.org/abs/1609.03126 ) WGAN (https://arxiv.org/abs/1701.07875) LSGAN (https://arxiv.org/abs/1611.04076) f-GAN (https://ar

You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert

better-exceptions インストール 使い方 better-exceptions github.com better-exceptionsを使用すると例外情報が図のようにみやすくなる。 インストール pipでインストールできるので下記コマンドを実行。 $ pip install better_exceptions 使い方 以下のようにbetter_exceptionsをインポートすればよい。 import better_exceptions 試しに下記コードを実行した場合の出力を比べてみる。 import better_exceptions foo = 52 def shallow(a, b): deep(a + b) def deep(val): global foo assert val > 10 and foo == 60 bar = foo - 50 shallow(b

2023-10-20 【システム開発戦略編 その4】 The Twelve-Factor App 連載 プライベートブリッジ サービス開発の方法論であるThe Twelve-Factor Appについて紹介しつつ、これまで本連載で紹介してきた私たちのチームが行っている品質向上のための取り組みについて振り返ります。 #アプリケーション開発 2023-09-29 【システム開発戦略編 その3】モジュラーモノリス プライベートブリッジ 連載 Python ネットワークサービス部のid:a8544です。 連載22回目の今回は、わたしたちが採用しているアーキテクチャのパターンである モジュラーモノリスについてご紹介します。 以前の記事『【システム開発戦略編 その1】 ドメインドリブンでクリーンなアーキテクチャ… #Python #モジュラーモノリス #クリーンアーキテクチャ 2023-09-26 【

TIOBE Softwareから、2017年8月のTIOBE Programming Community Index (PCI)が公開された。TIOBE PCIは、複数の検索エンジンの検索結果から、対象となるプログラミング言語がどれだけ話題になっているかをインデックス化したもの。 2017年8月におけるインデックスは次のとおり。 順位 プログラミング言語 インデックス値 推移