nevronske mreže
DESCRIPTION
TRANSCRIPT
![Page 2: Nevronske mreže](https://reader035.vdocuments.mx/reader035/viewer/2022081414/54c2099f4a7959e6068b4640/html5/thumbnails/2.jpg)
Nevron
![Page 3: Nevronske mreže](https://reader035.vdocuments.mx/reader035/viewer/2022081414/54c2099f4a7959e6068b4640/html5/thumbnails/3.jpg)
Sinapsa
![Page 4: Nevronske mreže](https://reader035.vdocuments.mx/reader035/viewer/2022081414/54c2099f4a7959e6068b4640/html5/thumbnails/4.jpg)
Perceptron
![Page 5: Nevronske mreže](https://reader035.vdocuments.mx/reader035/viewer/2022081414/54c2099f4a7959e6068b4640/html5/thumbnails/5.jpg)
Aktivacijska funkcija
• Linearna
• Prag
• Sigmoida
![Page 6: Nevronske mreže](https://reader035.vdocuments.mx/reader035/viewer/2022081414/54c2099f4a7959e6068b4640/html5/thumbnails/6.jpg)
Razširitve
![Page 7: Nevronske mreže](https://reader035.vdocuments.mx/reader035/viewer/2022081414/54c2099f4a7959e6068b4640/html5/thumbnails/7.jpg)
Večslojni perceptron
• Poljubno natančna aproksimacija zvezne funkcije (Cybenkov izrek)
![Page 8: Nevronske mreže](https://reader035.vdocuments.mx/reader035/viewer/2022081414/54c2099f4a7959e6068b4640/html5/thumbnails/8.jpg)
Povratna nevronska mreža
• Pojavi v času
• Univerzalen Turnigov stroj
![Page 9: Nevronske mreže](https://reader035.vdocuments.mx/reader035/viewer/2022081414/54c2099f4a7959e6068b4640/html5/thumbnails/9.jpg)
Samo-organizirajoče karte
• N-dimenzionalna mreža nevronov
• Nevron kot točka v prostoru
• Stabilnost narašča s časom
• Hierarhične karte• Nevronski plin
![Page 10: Nevronske mreže](https://reader035.vdocuments.mx/reader035/viewer/2022081414/54c2099f4a7959e6068b4640/html5/thumbnails/10.jpg)
Uporaba
• Napovedovanje• Prepoznavanje vzorcev• Klasifikacija• Obdelovanje podatkov
– Filtriranje– Grozdenje– Kompresija
• Odločanje
![Page 11: Nevronske mreže](https://reader035.vdocuments.mx/reader035/viewer/2022081414/54c2099f4a7959e6068b4640/html5/thumbnails/11.jpg)
Učenje
![Page 12: Nevronske mreže](https://reader035.vdocuments.mx/reader035/viewer/2022081414/54c2099f4a7959e6068b4640/html5/thumbnails/12.jpg)
Učenje
• Nadzorovano– Pari vhod-izhod
• Nenadzorovano– Učenje iz primerov
• Vzpodbujevalno– Interakcija z okoljem
![Page 13: Nevronske mreže](https://reader035.vdocuments.mx/reader035/viewer/2022081414/54c2099f4a7959e6068b4640/html5/thumbnails/13.jpg)
Nadzorovano učenje
![Page 14: Nevronske mreže](https://reader035.vdocuments.mx/reader035/viewer/2022081414/54c2099f4a7959e6068b4640/html5/thumbnails/14.jpg)
Rprop
• Napaka se širi od izhodov nazaj po mreži
• Pri posodobitvah uteži upoštevamo le spremembe smeri napake
• Batch učenje
![Page 15: Nevronske mreže](https://reader035.vdocuments.mx/reader035/viewer/2022081414/54c2099f4a7959e6068b4640/html5/thumbnails/15.jpg)
Rprop/napaka
Izhodni nevron(delta i j) = (* (dtanh (activation i j))
(- (target j) (activation i
j)))
Ostali nevroni(delta i j) = (* (dtanh (activation i j))
(sum #’* (delta i) (weight
i)))
![Page 16: Nevronske mreže](https://reader035.vdocuments.mx/reader035/viewer/2022081414/54c2099f4a7959e6068b4640/html5/thumbnails/16.jpg)
Rprop/posodobitev
(incf (weight i j) (cond ((> (delta i j t) 0)
(update- i j t))
((< (delta i j t) 0)
(update+ i j t))
(t 0)))
![Page 17: Nevronske mreže](https://reader035.vdocuments.mx/reader035/viewer/2022081414/54c2099f4a7959e6068b4640/html5/thumbnails/17.jpg)
Rprop/posodobitev
step+ = 1.2
step- = 0.5
(update i j t) = (cond ((> (* (delta i j (1- t))
(delta i j t))
0)
(* step+ (update i j (1- t))))
((< (* (delta i j (1- t))
(delta i j t))
0)
(* step- (update i j (1- t))))
(t (update i j (1- t))))
![Page 18: Nevronske mreže](https://reader035.vdocuments.mx/reader035/viewer/2022081414/54c2099f4a7959e6068b4640/html5/thumbnails/18.jpg)
Nenadzorovano učenje
![Page 19: Nevronske mreže](https://reader035.vdocuments.mx/reader035/viewer/2022081414/54c2099f4a7959e6068b4640/html5/thumbnails/19.jpg)
Samo-organizirajoče karte
Za vsak dražljaj:
1. Izberemo nevron najbližje dražljaju
2. Izbranca premaknemo še bližje
3. Okoliške nevrone premaknemo bližje
4. Zmanjšamo okolico & koeficient učenja
![Page 20: Nevronske mreže](https://reader035.vdocuments.mx/reader035/viewer/2022081414/54c2099f4a7959e6068b4640/html5/thumbnails/20.jpg)
Izboljšave
![Page 21: Nevronske mreže](https://reader035.vdocuments.mx/reader035/viewer/2022081414/54c2099f4a7959e6068b4640/html5/thumbnails/21.jpg)
Hierarhija mrež
• Problem razstavimo– Prevedemo (recikliranje rešitev)
• Hitrejše učenje (konvergenca)• Različne mreže
– Preprostejše– Namenske
• Različni učni algoritmi• Omilimo overfitting