はてなブックマーク

git clone https://github.com/Kazuki-Nakamae/Lua_DLfromScratch はじめに 前回は原書4章の二層ニューラルネットワークを実装し、それによるMNISTの学習処理を実装することになっていましたが、現状の数値微分による勾配算出では遅すぎるため、まず誤差逆伝搬法の実装をしてから学習実装したいと思います。 今回はまず単純な加算レイヤと乗算レイヤ実装です。スクリプトは以下の通りです。 --Copyright (C) 2017 Kazuki Nakamae --Released under MIT License --license available in LICENSE file --- MulLayerクラス（オブジェクト） -- 乗算レイヤを実装 MulLayer={} MulLayer.new = function() local ob

--Copyright (C) 2017 Kazuki Nakamae --Released under MIT License --license available in LICENSE file common = require './common' --- simpleNetクラス（オブジェクト） -- 単純なニューラルネットワークを生成する -- @param isConstW 重みを固定 {Type:Bool} simpleNet={} simpleNet.new = function(isConstW) local obj={} --メンバ変数 if isConstW then --原書で紹介されている重みを使用 obj.W = torch.Tensor({{0.47355232, 0.9977393, 0.84668094}, {0.85557411, 0.03563661

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article?

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article?

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article?

---ANDゲート関数. -- 入力１、２の両方が入力されたときに１を返す -- @param x1 入力1 -- @param x2 入力2 -- @return 1 or 0 function AND(x1, x2) local x = torch.Tensor({x1, x2}) local w = torch.Tensor({0.5,0.5}) --重み local b = -0.7 --バイアス local temp = w:dot(x)+b -- torch.sum(w:cmul(x))+b とも書ける if temp <= 0 then return 0 else return 1 end end ---NANDゲート関数. -- 入力１、２の両方が入力されたときに０を返す -- @param x1 入力1 -- @param x2 入力2 -- @return 1 or 0