talk at kuz xiii

Motivácia a náš model MNSAlgoritmus BAL

Experimenty a výsledky

Robotický model systému zrkadliacich neurónovKognícia a umelý život XIII

Kristína Rebrová a Igor Farkaš[email protected]

Centrum pre kognitívnu vedu FMFI UKCognition and Neural Computation Group

http://cogsci.fmph.uniba.sk/cnc

Kristína Rebrová a Igor Farkaš Robotický model systému zrkadliacich neurónov

http://cogsci.fmph.uniba.sk/cnc



Prehľad

1 Motivácia a náš model MNS

2 Algoritmus BAL

3 Experimenty a výsledky




Senzomotorická kognícia

Porozumenie na základe prepojenia akcie a percepcie -párovanie pozorovanej akcie a vlastného motorickéhorepertoáraSystém zrkadliacich neurónov (mirror neuron system, MNS)(Pellegrino a kol., 1992; Rizzolatti a kol. 2001; Rizzolatti a Sinigaglia, 2010)

Obojsmerný tok informácie medzi vizuálnymi a motorickýmioblasťami (Tessitore a kol,2010)




Variantné a invariantné neuróny

Horná spánková brázda (superior temporal sulcus, STS)STS poskytuje vstupy pre zrkadliace neurónyRôzne typy neurónov, variantné a invariantné neuróny (Perret a

kol, 1991)

Invariantné n. anatomicky najbližšie k frontálnej časti kôry –najvyššia úroveň reprezentácie (Jellema a Perret, 2006)

Variantné a invariantné vlastnosti objavené aj u zrkadliacichneurónov v F5 (Caggiano a kol, 2009)




Výpočtové modely systému zrkadliacich neurónov

Klasický prístup, napr. model MNS1 (Oztop a Arbib, 2002)

Model reflektuje biologické časti MNS

Základný predpoklad:vizuálna informácia, ktorávstupuje do MNS je pozičneinvariantnáIll-posed problem,zjednodušenie




Robotický model systému zrkadliacich neurónov

Interakcia medzi MN a STS (Tessitore a kol., 2012)

Modulárna architektúra, na najvyššej úrovni dochádza krozpoznaniu a porozumeniu akciiRobot iCub sa učí uchopovať predmety 3 spôsobmi

1 Základná senzomotorika: spojité učenieposilňovaním (CACLA, van Hasselt, 2007)

2 Vyššie oblasti F5 a STS: samoorg.mapa MSOM (Strickert a Hamker, 2005)

3 Prepojenie F5 a STS: binarizáciapomocou k-WTA a náš model BAL

STSvizuálna

reprezentáciaPF

F5zkradliaceneuróny

motorický modulpredspracovanie

vizuálnej informácie




Algoritmus GeneRec

Zovšeobecnená recirkulácia (Generalized Recirculation,GeneRec) (O’Reilly, 1996, O’Reilly a Munakata, 1999)

Biologicky plausibilné učenie na báze rozdielu aktivačných fáz(miesto neplauzibilného šírenia chyby na výstupe)Leabra framework (aproximácia biologických neurónov)Rôzne variantny učenia: základné, symetrické, CHL-ekvivalent

Dve aktivačné fázy

mínusová fáza: od vstupu na výstup,sieť produkuje odhadplusová fáza: od výstupu na vstup, sieťdostane "zafixovanú" želanú hodnotu navýstup a učí sa

Zmena váh na základe rozdielov v plusovej amínusovej fáze: ∆wij = ε(y+

j − y−j )xi




Algoritmus obojsmerného učenia na báze aktivačných fáz(BAL)

F F

B B

vrstva x yskrytávrstva

xh hy

váhy hx yhváhy

váhy váhy

vrstva

Perceptrón so 4 maticami váh, 2 pre každý smer toku aktivácieDve vstupno–výstupné vrstvy x a yDve aktivačné fázy indikujú smer toku aktivácie

Dopredný beh (F): xF → hF → yF

Spätný beh (B): yB → hB → xB




BAL: úprava váh

Inicializácia: malé náhodné (Gaussovské) hodnotyV smere F: ∆wF

ij = λ · aFi (aB

j − aFj )

V smere B: ∆wBij = λ · aB

i (aFj − aB

j )

Parametre: rýchlosť učenia λTrénovateľné biasové neuróny (konštantný vstup 1.0,analogická úprava váh)

Layer Phase Net Input Activationx F - xF

ih F ηF

j =∑

i w IHij xF

i hFj = σ(ηF

j )

y F ηFk =

∑j wHO

jk hFj yF

k = σ(ηFk )

y B - yBk

h B ηBj =

∑k wOH

kj yBk hB

j = σ(ηBj )

x B ηBi =

∑j wHI

ji hBj xB

i = σ(ηBi )




GeneRec verzus BAL

Jednosmerné mapovanieDynamické neurónyČiastočné obojsmerné šírenieaktivácie

Obojsmerná asociáciaŠtandardné neurónyKompletne obojsmernéšírenie aktivácie




Kódovač 4-2-4 – parametre

nie vždy skonverguje k 100% úspešnosti (úspešnosť podľarýchlosti učenia)porovnanie s pôvodným GeneRec modelom:

konvergencia: BAL 65% vs. GeneRec 90% (základný), 56%symetrická a CHL verziapočet epoch: 100 až tisíce (GeneRec konverguje rýchlejšie)

0 1 2 3

0

20

40

60

rýchlosť učenia

úspe

šné

siet

e

2 2.1 2.20

20

40

0 1 2 3

0

1,000

2,000

3,000

rýchlosť učenia

epoc

hy

2 2.1 2.20

500

1,000

1,500

0 1,000 2,000 3,000 4,000 5,000

0

0.5

1

epocha

úspe

šnos

ťsi

ete

vzoryF

vzoryB

bityF

bityB

mseF

mseB




Párovanie riedkych binárnych vzorov

Motivácia pre typ dát: riedke reprezentácie v mozgu100 párov vzorov, 144 bitov, k = 12 pozitívnychOptimálna λ = 0.2, optimálna nH = 120 (vplýva viacmenej lenna dĺžku trénovania)Aktivácie na skrytej vrstve: blížia sa k sebe a nebinarizujú sa(hodnoty okolo 0.5)

0.1 0.2 0.3 0.4 0.5

0

0.5

1

rýchlosť učenia

úspeš

nosť

siet

e

bityF bityB

vzoryF vzoryB

0.3 0.32 0.34

0

0.5

1

80 100 120 140 160 1800.94

0.96

0.98

1

hidden layer size

úspeš

nosť

siet

e

bityF bityB

vzoryF vzoryB

100 150

1,000

2,000

3,000

epochy

0 500 1,000 1,500 2,000 2,500

0

0.5

1

epocha

úspe

šnos

ťsi

ete

vzoryF

vzoryB

bityF

bityB

mseF

mseB




Komplexné asociácie

Motivácia pre typ dát: asociácia 4 perspektív na 1 pohyb16 párov vzorov, 16 bitov, k = 3 pozitívnychOptimálna λ = 1.0, optimálna nH = 14

0 0.5 1 1.2

0

0.5

1

rýchlosť učenia

úspeš

nosť

siet

e

bityF bityB

vzoryF vzoryB

10 15 20 25

0

0.5

1

veľkosť skrytej vrstvy

úspeš

nosť

siet

e

vzoryF vzoryB

bityF bityB

0 200 400 600 800 1,000

0

0.5

1

epocha

úspe

šnos

ťsi

ete

bityF

bityB

vzoryF

vzoryB

mseF

mseB




Komplexné asociácie

značne menšia úspešnosť pre nejednoznačný smer B(bity ≈ 86%, vzory len ≈ 4%)sieť nevie určiť, ktorý zo 4 asociovaných vzorov vybrať




Robotický MNS model

Najvyššia úroveň: mapovaniereprezentácií na STS a F5Výstupy z MSOM sú zbinarizovanépomocou k-WTAVizuálne dáta: 14×14 s kv = 16Motorické dáta: 12×12 s km = 8Experimenty s prvou perspektívou,52 párov vzorov

STSvizuálna

reprezentáciaPF

F5zkradliaceneuróny

motorický modulpredspracovanie

vizuálnej informácie




Robotický MNS model

Optimálna λ = 0.2, optimálna nH = 170Malá úspešnosť – nejednoznačné asociácie asociácie m:nChyby v rámci jednej kategórie pohybu, nie medzikategóriami

0 500 1,000 1,500

0

0.5

1

epocha

úspe

šnos

ť

bitSuccF bitSuccB

vzoryF vzoryB

0 500 1,000 1,500

0

5 · 10−2

0.1

epocha

mse

/vzd

iale

nosť

mseF mseB

pattDistF pattDistB




Robotický MNS model – príklad reprodukcie vzorov




Zhrnutie

obojsmerné učenie vplýva na konvergenciu BALemergujúce reprezentácie na skrytej vrstve nemajú tendenciubinarizovať sa (nevznikajú interné reprezentácie)úspešnosť na robotických dátach v našom MNS modeli jenízka (nejednoznačné asociácie m-n)chyby na robotických dátach sa vyskyujú v rámci kategórie niemedzi kategóriami




Ďalší postup pri skúmaní BAL a modelovaní MNS

Algoritmus BALskúmať konvergenciu algoritmu, jeho citlivosť na rýchlosťučenia a charakter obojsmerého prepojeniaskúmať reprezentácie na skrytej vrstve a tiež možnosti akoovplyvniť vznik reprezentácií aj na tejto vrstve (v kontextesystému zrkadliacich neurónov)

Robotický model MNSzaviezť do modelu ďalšie vizuálne perspektívyvytvoriť priestor/mechanizmus pre vznik variantných ainvariantných reprezentácií v STS a F5




Koniec

Ďakujem za pozornosť

Kristína Rebrová[email protected]


talk at kuz xiii

Documents