Download - ニューラルネットワーク ことはじめ
![Page 1: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/1.jpg)
Copyright © 2014 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
ニューラルネットワークことはじめ
2014年11月17日
先端IT活用推進コンソーシアムクラウド・テクノロジー活用部会
勉強会資料
岡村 和英(株式会社テクリエ)
![Page 2: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/2.jpg)
ニューラルネットワーク?
2
![Page 3: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/3.jpg)
脳の仕組みをシミュレーションによって表現した数学モデル
3
![Page 4: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/4.jpg)
脳の働きをコンピューターで
再現する
4
![Page 5: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/5.jpg)
ニューロンと
シナプス
5
![Page 6: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/6.jpg)
ニューロン(neuron)
6
![Page 7: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/7.jpg)
神経細胞
7
![Page 8: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/8.jpg)
細胞体(soma)
http://commons.wikimedia.org/wiki/File:Neuron_Hand-tuned.svg
樹状突起(dendrite)
核
シナプス(synapse)
軸索(axon)(細かいところは省略)
8
![Page 9: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/9.jpg)
樹状突起から入力される信号が
ある一定のしきい値を超えると
急激な電位変化が生じる
(ニューロンの発火)
9
![Page 10: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/10.jpg)
軸索から出力された信号が
シナプスを通じて接続された
別のニューロンに伝えられる
10
![Page 11: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/11.jpg)
シナプスの信号伝達効率は
それぞれ異なる
11
![Page 12: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/12.jpg)
モデル化してみる
12
![Page 13: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/13.jpg)
人工ニューロン
13
![Page 14: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/14.jpg)
しきい値
Θ
結合係数wi
入力 xi
出力O
ユニット
14
![Page 15: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/15.jpg)
階層型ネットワーク
15
![Page 16: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/16.jpg)
wkjxi Okwji
入力層 中間層 出力層
16
![Page 17: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/17.jpg)
wkjxi Okwji
前向き演算
入力層 中間層 出力層
17
![Page 18: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/18.jpg)
パターン識別程度であれば
3階層で実現可能
18
![Page 19: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/19.jpg)
ネットワークに
学習させる
19
![Page 20: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/20.jpg)
結合係数を調整することで
理想の出力を得る
20
![Page 21: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/21.jpg)
全てのユニットの
しきい値は同じ
Θ=一定
21
![Page 22: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/22.jpg)
発火したニューロンの出力は
入力量に関わらず常に一定
O=0or1
22
![Page 23: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/23.jpg)
しきい値を半分に減らしたい(より敏感に反応)
Wiを2倍にする
(入力感度を高める)
23
![Page 24: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/24.jpg)
出力を2倍にしたい(より強く反応)
Wjiを2倍にする
(出力先の入力感度を高める)
24
![Page 25: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/25.jpg)
バックプロパゲーション(誤差逆伝搬法)
25
![Page 26: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/26.jpg)
wkjxi Okwji
後向き演算
入力層 中間層 出力層
26
![Page 27: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/27.jpg)
出力層で得られる誤差が
少なくなるように
結合係数を修正する
27
![Page 28: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/28.jpg)
具体的な計算方法は
ここで説明するには
難しすぎるので割愛
28
![Page 29: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/29.jpg)
複数の教師信号パターンを
繰り返すことで
全体の誤差を最小化できる
29
![Page 30: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/30.jpg)
今回はここまで!
30
![Page 31: ニューラルネットワーク ことはじめ](https://reader033.vdocuments.mx/reader033/viewer/2022052623/559868ec1a28abae738b46cb/html5/thumbnails/31.jpg)
Copyright © 2014 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
http://aitc.jp
https://www.facebook.com/aitc.jp
ハルミンAITC非公式イメージキャラクター