plikynas, darius „individuali ir kolektyvinė sąmonė agentinių ir daugiaagenčių sistemų...

Post on 29-Jun-2015

512 Views

Category:

Technology

3 Downloads

Preview:

Click to see full reader

DESCRIPTION

Mokomasis seminaras magistrantams ir doktorantams „Kompiuterininkų dienos - 2013“ Šiauliai, 2013.09.19 d.

TRANSCRIPT

1

Individuali ir kolektyvinė sąmonė agentinių ir

daugiaagenčių sistemų projektavime

Darius Plikynas, prof.KSU mokslo plėtros centras

Email: darius.plikynas@vva.lt

Pranešimo medžiaga: http://www.vva.lt/mc/pranesimas%20%20VGTU.pdf

Seminaras

Kompiuterininkų dienos – 2013Šiaulių universitetas, 2013 09 19

2

Vykdoma pagal socialinių mokslų krypties visuotinės dotacijos projektą* “Virpesinės socialinių sistemų elgesio paradigmos kūrimas” Nr. VP1-3.1-SMM-07-K-01-137, žr.

http://osimas.vva.lt

* Sutrumpintas pavadinimas - OSIMAS (nuo angl. trumpinio“Oscillations Based Multi- Agent System Development”)

TURINYS

I. ĮVADAS

1.1 Tradicinės daugiaagentės sistemos

1.2 Platesnis požiūris: individuali ir kolektyvinė sąmonė

I. OSIMAS: BANGINĖ PARADIGMA

II. OSIMAS: PROJEKTINĖS GAIRĖS

III. GRETIMŲ TYRIMŲ KONTEKSTAS

IV. EKSPERIMENTINIAI TYRIMAI

V. AGENTŲ IR JŲ SISTEMŲ MODELIAVIMAS BEI

IMITAVIMAS

3

Pav. Bendroji dirbtinės savitvarkės sistemos schema

4I. ĮVADAS: 1.1 Tradicinės daugiaagentės sistemos (1)

Agentai ir daugiaagentės sistemos: tradiciniu supratimu (1)

5

Pav. Apibendrinta metaprotavimo principo veikimo schema

I. ĮVADAS: 1.1 Tradicinės daugiaagentės sistemos (2)

Agentai ir daugiaagentės sistemos: tradiciniu supratimu (2)

27

Pav. Tradicinės DAS blokinė schema

6I. ĮVADAS : 1.1 Tradicinės daugiaagentės sistemos (3)

Agentai ir daugiaagentės sistemos: tradiciniu supratimu (3)

7

Pav. 2b Bendroji hibridinė DAS, kai naudojamiintelektiniai agentai

Agentai ir daugiaagentės sistemos: tradiciniu supratimu (4)

I. ĮVADAS : 1.1 Tradicinės daugiaagentės sistemos (4)

8

Dabartiniu metu DAS vyrauja poriniai komunikacijosprotokolai

- sąveika tarp siuntėjo ir gavėjo apribota laike ir erdvėje,

- du agentai keičiasi ontologiškai klasifikuota semantine informacija,

naudodami bendrą komunikacijos protokolą arba tarpinį agentą,

- tokia porinė komunikacija neefektyvi sprendžiant daug uždavinių

vienu metu, organizuojant paralelinį duomenų apdorojimą, valdant

duomenų srautus, sprendžiant konfliktines situacijas ir pan.

I. ĮVADAS : 1.1 Tradicinės daugiaagentės sistemos (5)

9

Tendencijos rodo, kad ateityje DAS (daugiaagenčių sistemų)komunikacija ir koordinacija bus realizuojama naudojantbanginius principus

- nesuporinta sąveika,

- netiesioginis ryšys,

- kontekstiniai duomenų mainai,

- plačiajuostis komunikacijos diapazonas

Šiuolaikinės informacijos ir komunikacijos technologijosįgalina tokių koordinacinių mechanizmų diegimą

Paralelė: šiuolaikinių aukšto dažnio,šviesos greičiu veikiančių ICT tinklųsavybės turi akivaizdžių panašumųsu daugialąstelinių organizmųlaukais valdoma homeostazės irmetabolizmo procesų koordinacija ...

I. ĮVADAS: 1.1 Tradicinės daugiaagentės sistemos (6)

Šiuolaikinėse informacinėse visuomenėse…

1) informacinis agentas gali vos ne momentaliai gauti ir išsiųsti

informaciją per daugybę kanalų (broadcasting),

2) informacijos srautus agentas valdo pagal savo poreikius

prisiderindamas prie atitinkamų informacinių kanalų,

3) socialiniuose tinkluose (tinklinėje ekonomikoje) agentai tampa

informacijos perdirbėjais, saugotojais ir skleidėjais, t.y. socialinio

tinklo informaciniais mazgais...

ICT valdymas: laukais paremtos koordinacinės technologijos...

Field-based coordination, Amorphous computing, Multilayered Multi

Agent Situated System (MMASS), Gradient Routing (GRAD), Directed

Diffusion, “Co-Fields” at TOTA Programming Model, CONRO, etc

10I. ĮVADAS : 1.1 Tradicinės daugiaagentės sistemos (7)

Kvantiniame laukų ir virpesių pasaulyje mes nesame atskirtinuo daugialypės banginės visumos, o sudarome atitinkamuosesavitvarkos lygmenyse neatsiejamą fizinį, biologinį ir socialinįkontinuumą.

Tokia heterogeninė ir kartu holistinė pasaulėžiūra verčia išesmės kitaip modeliuoti socialinius agentus bei jų sistemas. Topasėkoje atsiranda naujos mokslo šakos, kaip antai socialinisneuromokslas, neuroekonomika, grupių neurodinamika ir pan.

Šiame pranešime pristatomos kelios naujosios pasaulėžiūroshipotezės, prielaidos ir postulatai, pagal kuriuos socialiniai irgrupiniai (kolektyvinės sąmonės) reiškiniai kildinami ištarpusavyje suderintų individualių neurodinaminių procesų.Pastarieji EEG/MEG/fMRI tyrimų dėka žmogaus smegenyseregistruojami taip vadinamų smegenų bangų pavidale.

111.2 Platesnis požiūris: individuali ir kolektyvinė sąmonė (1) 11

Jeigu idėja iš pirmo žvilgsnio neatrodo absurdiška – ji yra beviltiška (Albert Einstein)

Pav. 2 Daugialypiai laukai kaip susietumo ir sąveikų pernešėjai

12121.2 Platesnis požiūris: individuali ir kolektyvinė sąmonė (2)

Bendras vaizdas daugialypės savitavarkės informacijoskontekste

Daugiadisciplininių OSIMAS tyrimų problema susiveda į šiųbioelektromagnetinės ar kitos kilmės laukų virtualų modeliavimą,kuriant socialinio „virpesinio“ agento imitacinius modelius, kuriegeneruotų panašią į eksperimentais stebimą individo būsenųkaitos dinamiką ir galėtų būti panaudojami socialinių sistemųmodeliavimui (daugiaagenčių imitacinių platformų kūrimui).

Kol kas dar tik vystoma naujosios paradigmos koncepcija, todėlyra kur kas daugiau klausimų nei atsakymų. Pavyzdžiui, nėra ikigalo aišku kaip socialinėse grupėse esančių individų smegenųaktyvacijų svyravimai sinchronizuojasi tarpusavyje, koks jųspektrų spektrinis koherentiškumas ir pan.

Nepaisant to, jau galima numatyti seriją individualių ir grupiniųeksperimentų, kurie galėtų patikrinti iškeltas teorines prielaidas,leistų patikslinti virpesinio agento modelio savybes beitarpusavyje suderintos daugiaagentės (socialinės) sistemosmodeliavimo galimybes bei sąlygas.

1313131.2 Platesnis požiūris: individuali ir kolektyvinė sąmonė (3)

1.2 Platesnis požiūris: individuali ir kolektyvinė sąmonė(4) 14

Prieš keliasdešimt metų “rimtam mokslui” sąmonės klausimasišvis neegzistavo, nes jos tyrimai buvo už racionalausmokslinio pažinimo ribų...

Per pastaruosius keliolika metų sąmonės pažinimo klausimasvėl tapo labai aktualus; dabar sąmonės pažinimas jaudaugiadisciplininis mokslas ...

Psichologija

Neuromokslasir neurologija

Kognityvinėpsichologija

Filosofija

Kvantinėfizika

Kosmologija

Parapsichologija

Socialiniai mokslai

Pav. 1 Sąmonės pažinimo mokslai

15

Individuali sąmonė...? Kolektyvinė sąmonė...?

Mokslininko mąstymo tikslas – matyti bendrą atskirame ir amžiną laikiname (Alfred North Whitehead )

15151.2 Platesnis požiūris: individuali ir kolektyvinė sąmonė (5)

161616

William James, psichologijos disciplinos įkūrėjas,argumentuoja, kad nei vienas empirinis mokslo atradimasapie smegenų veiklą neprieštarauja galimybei, kad jostarnauja kaip priemonė atspindėti už fenomenalaus esantįnomenalų (transcendentinį) pasaulį, o ne kiekvienoindividualaus žmogaus atveju realizuoja naują sąmonę.

Emile Durkheim, vienas iš šiuolaikinės sociologijosįkūrėjų, aprašo kolektyvinę sąmonę kaip visuomenės protą,sukuriamą, kai individų sąmoningumas tampa sugrupuotasir sujungtas.

Carl Jung, kolektyvinę pasąmonę suvokė kaip žmonijospatirčių bendrą rezervuarą, kuris įkūnija archetipinįmąstymą, realizuojantį individo psichikos tobulėjimą irsavikūrą.

http://www.truthabouttm.org/truth/SocietalEffects/Rationale-Research/index.cfm#rationale

1.2 Platesnis požiūris: individuali ir kolektyvinė sąmonė (6)

17

Iš esmės, eina kalba apie idealistines pasaulėžiūras(subjektyvizmas, fenomenalizmas, egzistencializmas,idealistinis monizmas ir pan.), kurių filosofinės doktrinospirmiausia randamos Egipte (pvz., hermetizme), Indijoje (pvz.,hinduizme, Kašmyro Šaivizme, Advaita Vedantoje), budizme,vėliau Graikų filosofijoje (pvz., platonizme) ir t.t.

Šių laikų idealizmo filosofijos atstovai: Immanuel Kant, G. W. F.Hegel, Johann Gottlieb Fichte, Spinoza, Friedrich WilhelmJoseph Schelling, Arthur Schopenhauer, G. Leibnitz, E.Schrodinger, D. Bohm ir t.t.

Keli pagrindiniai idealistinės filosofijos postulatai

- tikrovė yra mentalinės prigimties, t.y. nemateriali- tikrasis realybės pagrindas yra visaapimančioje sąmonėje- materiali Visata atsiranda iš sąmonės, kuri yra pirminė- materija yra savitvarkės informacijos (sąmonės) forma- laikas ir erdvė yra universalios sąmonės atributai

1.2 Platesnis požiūris: individuali ir kolektyvinė sąmonė(7)

18

• Kuriamos OSIMAS paradigmosprielaidos remiasi idealistine filosofija

- tai ką sąmoningai jaučiame ir mintijame tėralabai maža dalis to kas slypi nesąmoningamelygmenyje, iš kurio formuojasi mūsųindividualus sąmoningumas...

- ne mūsų mintys ar būsenos kuria šįnesąmoningą sąmonės lauką, o atvirkščiai –individualios būsenos, mintys, pojūčiai kyla išnesąmoningo lygmens, o pastarasis išuniversalios sąmonės lauko...

- universalios sąmonės lauką pagal analogijągalima interpretuoti tarsi kvantinių galimybiųpotencialumą...

1.2 Platesnis požiūris: individuali ir kolektyvinė sąmonė (8)

Individualus

sąmoningumas

Individualus

nesąmoningas

laukas

(pasąmonė ir

viršsąmonė)

Universalios

sąmonės laukas

19

Paimkime pavyzdį iš fizikos

Ar gravitacinis laukas gali būti tiesiogiai pajaustas mūsų jutimoorganais? Ats.: ne, tačiau tai nereiškia, kad grav. lauko nėra.

Panašiai ir su kitais laukais (EM, silpnos ir stiprios sąveikos) -nors mes tiesiogiai jų nejaučiame, tačiau prielaidos apie jųegzistavimą padeda paaiškinti daugybę stebimų fizikiniųreiškinių, todėl šių laukų buvimo paneigti negalime.Remiantis tuo, pagrindinis fizikos uždavinys yra sukurtiVieningo Lauko Teoriją, kuri apjungtų visas žinomas sąveikas.

Analogiškai, universalios sąmonės lauko fenomenalią raiškąstebėti/jausti per individualios sąmonės registruojamusjutimus taip pat tiesiogiai negalime, tačiau tai nereiškia, kaduniversalios sąmonės laukas neveikia mūsų nesąmoningųbūsenų ir per jas neįtakoja sąmoningų mąstymo procesų.

1.2 Platesnis požiūris: individuali ir kolektyvinė sąmonė (9)

20

Individuali sąmonė tyrinėjama daugybės disciplinų, pradedantneuromokslu ir baigiant kognityvine psichologija.

Klausimas, o kaip tyrinėti universalią sąmonę, kur jos ieškoti?

Matomai Universali sąmonė netiesiogiai reiškiasi peruniversalius principus ir dėsningumus, kurių fone veikiaindividuali ir kolektyvinė sąmonės, pvz.,

- ind. ir kolekt. sąmonės procesų negentropija (savitvarka),

- sąmonės procesų koherentiškumas ir sinchroniškumas,

- socialinis susietumas (angl. binding),

- socialiniai tinkliniai efektai,

- informacijos “broadcasting’as”,

- “visi su visais” informacijos mainai (atviroms sistemoms),

- ir pan.

1.2 Platesnis požiūris: individuali ir kolektyvinė sąmonė(10)

21

II. OSIMAS: VIRPESINĖ PARADIGMA

22III. OSIMAS: VIRPESINĖ PARADIGMA (1)

I. Mezoskopiniame lygmenyje pati sudėtingiausia mums žinomasavitvarkės informacijos forma yra žmogaus sąmonė.

II. Sekant bioelektromagnetiniais laukais paremtomis neurofiziologinėmisteorijomis, žmogaus sąmoningumas turi dvilypę, t.y. korpuskulinę irbanginę prigimtį.

III. Banginė prigimtis žmogaus sąmonei suteikia atviroms sistemomsbūdingų savybių ir sukuria prielaidas bendro kolektyvinės pasąmonėslauko egzistavimui.

IV. Tokiu būdu, žmonių visuomenėse stebimi socialiniai procesaisąlygojami suderinto kolektyvinės pasąmonės lauko, kurį aktualizuojašiuolaikinės informacinės ir komunikacinės technologijos.

V. Tam, kad geriau suprasti, modeliuoti, imituoti ir prognozuotiinformacinio amžiaus žmonių visuomenių elgesį korpuskuline sąveikaparemti daugiaagenčių sistemų poriniai sąveikų modeliai turėtų būtipraplėsti laukams būdingais koordinacijos ir savitvarkos dėsningumais.

OSIMAS paradigmos prielaidos (sutrumpinta):

II. OSIMAS: VIRPESINĖ PARADIGMA (2) 23

Pagrindiniai OSIMAS projekto etapai

Konceptualizavimas

Eksperimentavimas

Modeliavimas

Taikymas

Dabartinis etapas!

II. OSIMAS: VIRPESINĖ PARADIGMA (3) 24

Viena iš pagrindinių problemų – kaip paaiškinti sąmoneibūdingą savybę – “susietumą” (jungtį), angl. binding, t.y.holistinį savęs suvokimą kaip integralios visumos...

Jeigu tariame, kad sąmonei būdingas vientisumas irsusietumas, kas fizikiniame pasaulyje būdinga sąveikaspernešantiems laukams, tuomet galima daryti prielaidą, kadsąmonei būdinga ir banginė, ne tik korpuskulinė raiška...

Banginės prigimties prielaida turi potencialias galimybespaaiškinti sąmonės susietumo, vientisumo, daugialypiškumobei kitas savybes...

Tačiau dėl tinkamų banginių modelių bei tyrimo metodųnebuvimo žmogaus protavimo procesų bei sąmonėsmodeliuose bei imitacijose dabar vyrauja išskirtinai“korpuskuliniai” metodai...

25

Sąmonės banginė prigimtis, pvz., pagal Mc Fadden sąmoningoelektromagnetinio lauko (CEMI) teoriją aiškinama kaip mūsųsmegenyse krūvininkų judesių sukurtas elektromagnetinislaukas, kuris per grįžtamąjį ryšį (per joninius neuroniniųmembranų kanalus) įtakoja neuroninių tinklų veiklą...

II. OSIMAS: VIRPESINĖ PARADIGMA (4)

Kitos analogiškos teorijos:Holonomic Brain, Quantum-Holographic Theory

Pav. 2 Smegenų bangų aktyvacijos Pav. 1 Neuroniniai tinklai

26II. OSIMAS: VIRPESINĖ PARADIGMA (5)

Socialinio tinklo efektai vedantys į koherentiškų ekosistemų susidarymą:

- minios elgesys, socialinių normų plitimas,

- ekonominė konvergencija,

- kaskadiniai efektai techno-socialinėse-ekonominėse sistemose,

- žiniasklaidos įtaka, politinės kompanijos, gandai ir nuomonių plitimas,

- svyravimai finansinėse rinkose bei socialinių tinklų susižadinimai,

- demografiniai bei epideminiai pokyčiai,

- mados ir kultūrinių trendų, etinių, religinių bei mokslinių memų plitimas…

Poriniai stipriai tarpusavyje surišti sąveikų modeliai

Suderinti socialiniai tinklai

Koherentiškos informacinės ekosistemos

Ateitis!

Socialinių sistemų modeliavimo tendencijos...Poriniai (pair-to-pair) silpnai tarpusavyje surišti sąveikų modeliai

27II. OSIMAS: VIRPESINĖ PARADIGMA (6)

Paradigminis poslinkis… … naujajampasaulio suvokimuibūdingos banginėssavybės!

Pav. 3 ES flagmaninių projektų gairės

28

III. OSIMAS: PROJEKTO GAIRĖS

29III. OSIMAS: PROJEKTO GAIRĖS (1)

OSIMAS projekto eiga…

1 etapaskonceptualizavimas

OSIMAS paradigma

Virtualaus skaičiavimo lauko modelis (VSL)

Virpesinio agento modelis (VAM)

Banginės sąveikos mechanizmo modelis (BSM)

2 etapaseksperimentavimas,

modeliavimas

3 etapasimitavimas/taikymas

Daugiaagentė imitavimo platforma (DAS)

Taikomasis uždavinys

Dabartinis etapas...

2011 2012 2013 2014 2015

Virtuali laboratorija (V-lab)

30III. OSIMAS: PROJEKTO GAIRĖS (2)

Veiklų planas (numatyti rezultatiniai rodikliai) …

- konceptualiai nauja imitavimo paradigma

- VAM, VSL, BSM modelių sukūrimas

- daugiaagentė imitavimo sistema (DAS)

- virtuali laboratorija (V-lab)

- DAS pritaikymas konkrečiai praktinei problemai

- monografija (anglų k.)

- straipsniai,

- konferencijos,

- viešinimas (seminarai ir pan.)

31III. OSIMAS: PROJEKTO GAIRĖS (3)

VSL ir VAM teorinio modeliavimo, pvz., …

VSL modelis skirtas:

- virtualios banginės modeliavimo terpės sąlygų nustatymui,

- virpesinių agentų identifikavimui bendrame daugialypiame virtualios energijos lauke,

- galimų energijos būsenų kvantizavimui.

Pav. 4 Socialinių agentų energinių būsenųkvantizavimo pavyzdys remiantisrotaciniu-vibraciniu dviatomių molekuliųmodeliu, kur k- rotacinis kvantinisskaičius, h- vibracinis kvantinis skaičius

32III. OSIMAS: PROJEKTO GAIRĖS (4)

Pav. 5 Agento kaip negentropijos “siurblio”modelis.

Modeliuojamo virpesinio agento ypatumai...

- savitvarkės energijos forma,

- energija išreikšta virpesių (bendru atveju bangų) formoje,

- energijos išraiškoje koduojama ir informacija,

- saviorganizavimas pagrįstas negentropijos principu.

33III. OSIMAS: PROJEKTO GAIRĖS (5)

Kiti svarstomi virtualaus agento ir jų sistemos imitavimomodeliai...

- rezonansinių natūralių dažnių,

- fononų,

- banginių paketų sąveikos (WIM),

- stovinčių bangų,

- solitoninių bangų,

- Kuramoto ir Vitiella

silpnai surištų

osciliatorių modeliai ir t.t.

Medžiaga pateikta:http://www.vva.lt/vcf.pdfhttp://www.vva.lt/mc/Work_in_progress.pdf

Pav. 6 Laikinė-dažninė agento elgesio reprezentacija.

Pav. 7 VSL reprezentacija, kur agentai ir ištekliai transformuojami į dažninę formą.

34III. OSIMAS: PROJEKTO GAIRĖS (6)

Pav. 8 VAM: agentas kaip produkcinių taisyklių visuma transformuojanti vidiniusagento energijos išteklius.

35III. OSIMAS: PROJEKTO GAIRĖS (7)

Pav. 9 Horizontalios produkcinės taisyklės (energijos ir informacijos apsikeitimui tarpagentų)

36III. OSIMAS: PROJEKTO GAIRĖS (8)

37

IV. GRETIMŲ TYRIMŲ KONTEKSTAS

38IV. GRETIMŲ TYRIMŲ KONTEKSTAS (1)

Idėjiškai artimos kitos tyrimų kryptys ...

- field model of consciousness [4],

- field-based coordination mechanisms for multi-agent systems in arobotics domain [12],

- field computations in natural and artificial intelligence [11],

- vibrating potential field [5],

- quantum computation as a model of consciousness [6],

- intra- and inter-cellular communication mechanisms [7],

- the CEMI theory of consciousness [8],

- the neurophysics of consciousness [9],

- modeling the neurodynamic complexity of teams [10] ,

- organic computing for the emergent behavior of complex systems [13],

- amorphous or pervasive computing in contextual environments [14], etc.s

žr. medžiaga: http://www.vva.lt/mc/Work_in_progress.pdf

39IV. GRETIMŲ TYRIMŲ KONTEKSTAS (2)

Idėjiškai artimos kitos tyrimų grupės ...

- social neuroscience studies at NYU,

- active research center of neuroscientific studies at Caltech,

- behavioral and neural systems research (SNS-Lab) at the Economics Department in the University of Zurich,

- neuroeconomics at Maastricht University (Netherlands),

- the Self-Organizing Systems Research Group of Harvard University in Cambridge (USA),

- the Pervasive Artificial Intelligence (PAI) Research Group of the University of Fribourg (Switzerland),

- the Centre for Computational Analysis of Social and Organizational Systems (CASOS) of Carnegie Mellon University, etc.

- team neurodynamics studies (Advanced Brain Monitoring group)

ES 7-tosios programos (angl. framework) projektai, susiję su

sudėtingų savitvarkių sistemų koordinacijos tyrimais ...

40IV. GRETIMŲ TYRIMŲ KONTEKSTAS (3)

Pav. 10 Sudėtingų savitvarkių sistemų Europiniai projektai

Naujausios ES ir JAV tyrimų tendencijos...

Europos Sąjungos komisija iš 6 flagmaninių ES mokslo projektų atrinko 2 lyderiaujančius, kuriems per ateinančius 10 metų bus skirta po 1 mlrd eurų.

Tai „Human brain project“ ir „Graphene“,

žr. http://www.lrytas.lt/sroves/mokslas/grafeno-ir-zmogaus-smegenu-tyrimams-europos-

komisija-skyre-po-milijarda-euru.htm?p=2 ; video klipas

Įdomu tai, kad JAV analogiškas “Brain Activity Map Project” projektas jau startuoja tik su vos ne trigubai didesniu biudžetu, žr. http://www.nytimes.com/2013/02/18/science/project-seeks-to-build-

map-of-human-brain.html?_r=1&

Tai reiškia, kad žmogaus smegenų ir atitinkamai sąmonės tyrimai tampa prioritetiniais ...

414141IV. GRETIMŲ TYRIMŲ KONTEKSTAS (4)

Pavyzdys #1, “Co-Fields” modelis

The key points of the field-approach can be summarized as follows:

1. The environment is represented and abstracted by “computational fields”,

propagated by agents or by an environmental network infrastructure. These

fields convey useful information for the agents' coordination tasks and

provide agents with strong coordination-task-tailored context awareness.

2. The motion coordination policy is realized by letting agents move

following the gradients of these fields.

3. Environmental dynamics and agents' movements induce changes in the

fields' surface, composing a feedback cycle that influences agents' movement.

4. This feedback cycle let the system (agents, environment and

infrastructure) auto-organize, so that the coordination task is eventually

achieved in an adaptive and fully distributed way.

A computational field can be considered a sort of spatially distributed data

structure characterized by a unique identifier, a location-dependent numeric

value, and a propagation law determining how the numeric value should change

in space. Fields are locally accessible by agents depending on their location,

providing them a local perspective of the global situation of the system....

424242IV. GRETIMŲ TYRIMŲ KONTEKSTAS (5)

434343IV. GRETIMŲ TYRIMŲ KONTEKSTAS (6)

Pav. 11 The tourist Y senses the field generated by the tourist guide X(increasing with the distance from the source, as the numeric values in eachroom indicates). (left) Y agent follows the field downhill to approach X;(right) Y follows the eld uphill to get farther from X. In this figure, agent Yuses the field generated by X directly as an application-specic coordinationfield.

Co-fields modelio taikymas: TOTA middleware

Pavyzdys # 2, MMASS modelisDifferent forms of interaction are possible within a MMASS: synchronous

reaction between spatially adjacent agents and asynchronous and at-adistance

interaction through a field emission-diffusion-perception mechanism.

Fields are emitted by agents according to their type and state, and propagate

throughout the spatial structure of the environment according to their diffusion

function, reaching and being perceived by other spatially distant agents.

Different sensitivity to fields, capabilities, and behaviors characterize agents of

different types. The platform also supports the implementation of applications

based on the situated cellular agents (SCA) model (Bandini et al. 2003), which is

a particular class of MMASS characterized by a single-layered agent

environment and specific constraints on field definition.

The MMASS platform basic elements:

• Specification and modification of agent structured environment.

• Behavior description and execution of situated agents.

• Synchronous reaction involving spatially adjacent agents.

• Specification and management of field emission-diffusion-perception

mechanism(i.e., asynchronous and at-a-distance interaction among agents).

444444IV. GRETIMŲ TYRIMŲ KONTEKSTAS (7)

454545IV. GRETIMŲ TYRIMŲ KONTEKSTAS (8)

Pav. 12 MMASS model elements and relationships among them.

V. EKSPERIMENTINIAI TYRIMAI

46

Pagrindiniai EEG tyrimų tikslai

- abstrakčios virpesinio agento (VAM) idėjos eksperimentinistikrinimas, remiantis smegenų bangų aktyvacijomis,

- kolektyvinės sąmonės eksperimentinių įrodymų paieškosgrupei žmonių, esančių analogiškose sąmonės būsenose,

- grupei žmonių eksperimentiškai pastebėtų sinchroniškumo irkoherentiškumo dėsningumų panaudojimas konstruojantvirpesinių agentų sistemą

- DAS imitacinės platformos kūrimo etape imituoti žinomusekonominio aktyvumo ciklus, demografinius pasiskirstymus,finansinio kapitalo rinkų dinamiką, kultūros ar psichologinioklimato kitimą, idėjinių memų sklaidą bei kitus sudėtingossocialinės (tinklinės) dinamikos reiškinius

V. EKSPERIMENTINIAI TYRIMAI (1) 47

Eksperimentinio tyrimo etapai

I. Individualių būsenų testai

II. Grupinių būsenų testai

V. EKSPERIMENTINIAI TYRIMAI (3) 48

Pav. 12 Iškeltų hipotezių tikrinimui skirti du eksperimentinių tyrimų etapai

EEG įranga

– BIOSEMI kompanijos (64 kanalų, 31nV triukšmų lygis)

- ABM kompanijos (bevielė 10 kanalų, 1,5V triušmų lygis)

V. EKSPERIMENTINIAI TYRIMAI (4) 49

Pav. 12 Autorius kaip “bandomasis triušis” MRI institute Indijoje

V. EKSPERIMENTINIAI TYRIMAI (5) 50

Pav. 13 Filtruoti spektriniai diapazonai: , , , .

Smegenų bangų sinchronizacijos ir koherencijosindividualūs ir grupiniai tyrimai

V. EKSPERIMENTINIAI TYRIMAI (6) 51

Pav. 14 Grupės žmonių smegenų bangų aktyvacijų vizualizacija (web nuoroda)

52V. EKSPERIMENTINIAI TYRIMAI (7)

Pav. 15 Grupės žmonių smegenų bangų aktyvacijų vizualizacija (web nuoroda)

53V. EKSPERIMENTINIAI TYRIMAI (8)

Pav. 15 Spektrinės galios tankio skirtumai tose pačiose būsenose dviems žmonėms

54V. EKSPERIMENTINIAI TYRIMAI (9)

Pav. 15 Spektrinės galios tankio pasiskirstymai dažnių diapazonuose

55V. EKSPERIMENTINIAI TYRIMAI (10)

Preliminarių eksperimentinių EEG tyrimų išvados...

- skirtingiems žmonėms tos pačios bazinės (ne sensorinių stimulųaktyvuotos) sąmonės būsenos gali būti atpažintos pagalcharakteringus EEG signalų spektrinio tankio pasiskirstymus,t.y. tų pačių būsenų spektrai koreliuoja tarpusavyje skirtingiemsžmonėms)...

- pereinant iš vienų sąmonės būsenų į kitas, stebimascharakteringas spektrinės galios persiskirstymas iš vienų dažniųdiapazonų į kitus...

- bendrai, remiantis EEG eksperimentiniais tyrimais buvopatvirtinta esminė prielaida, kad žmogaus sąmonės būsenasgalima nusakyti kaip dėsningas virpesių sistemas...

- tačiau grupiniams eksperimentam reikalinga tikslesnė įranga,nes naudingi signalai paskęsta triukšmuose...

56V. EKSPERIMENTINIAI TYRIMAI (11)

Pav. 15a Grupinio eksperimento eskizas

57V. EKSPERIMENTINIAI TYRIMAI (12)

Grupinių EEG tyrimų tikslai:

i) how coherent and synchronous neurodynamics of brain wavesactivations is in the non-sensory evoked states of consciousness likecontemplation, concentration, meditation, self-awareness, etc thanmeasured simultaneously in the groups of people,

ii) finding out whether and how deeper states of consciousness correlatewith the level of spectral coherence between frequencies and brainregions,

iii) whether coherent mind state of group of people can influenceunaware and sensory isolated individuals,

iv) finding out whether highly concentrated and sensory isolated mindstate can make influence on the mind states of the unaware group ofpeople

Laikinės sinchronizacijos tyrimų metodika...(įvertinama kaip žmonių grupė yra laike sinchronizuota)

1) Išsirenkama dažninė sritis, kurioje atliekama

sinchronizacijos paieška.

2) Įvertinama kanalo ir būsenos sinchronizacija tarp skirtingų

asmenų -> signalų koreliacijos koeficientas

]);Hz0.1Hz,44.0[,(Filter)( ,,,, channelstatepersonchannelstateperson CtF

);,(_ ,,,,,,, channelstatejchannelstateichannelstateji FFcoefcorrcc

58V. EKSPERIMENTINIAI TYRIMAI (11)

3) Laikinės sinchronizacijos įvertinimas:

a) Bendras sinchronizacijos įvertinimas

b) Laikinis kanalų įvertinimas

c) Bendras kanalų įvertinimas

channels

k ji

kstatejiccpersonspersonschannels

Sin ,,,)1(**

1

ji

channelstatejiccpersonspersons

channeltSin ,,,)1(*

1),(

),()( channeltSinchannelSin

59V. EKSPERIMENTINIAI TYRIMAI (12)

Koreliacija tarp kanalų...

60V. EKSPERIMENTINIAI TYRIMAI (13)

Dažninės koherencijos tyrimų metodika...(Dažninė grupės sinchronizacija – įvertina dažnius, kuriuose sinchronizuojasi smegenų veikla)

1) suskaičiuojamas sunormuotas spektras tam tikroje bangų srityje (range)

2) įvertinamas spektrinis skirtumas

);,(Spectrum)( ,,,, rangeCwS channelstatepersonchannelstateperson

)()(

1)( ,,

,,

,, wSwS

wNS channelstateperson

w

channelstateperson

channelstateperson

;))(()( ,,, personswNSwSD channelstatepersonchannelstate

61V. EKSPERIMENTINIAI TYRIMAI (14)

3) Spektrinė koherencija įvertinama:

a) spektrinis atitikimas per visus kanalus

b) jei spektras skaičiuojamas trumpiems laiko

intervalams galime įvertinti laikinį kitimą

c) Jei spektras skaičiuojamas trumpiems laiko

intervalams galime įvertinti bendrą kanalo spektro

panašumą

channels

k

kstate wSDchannels

wSin )(1

)( ,

w

channels

k

kstate twSDwchannels

tSin ),(*

1)( ,

wtchannelstate twSDchannelSin,, ),()(

62V. EKSPERIMENTINIAI TYRIMAI (16)

Spektrinis panašumas

Kurio kanalo spektras

mažiausiai keičiasi?

Kaip keičiasi

kanalų spektrų

panašumas

laike?

63V. EKSPERIMENTINIAI TYRIMAI (17)

SMEGENŲ BANGŲ SANTYKINĖS ENERGIJOS ĮVERTINIMAS SKIRTINGIEMS DAŽNIŲ DIAPAZONAMS

1 pav. Smegenų bangų santykinės energijos priklausomybė nuo būsenos numerio 1-38 Hz

dažnių diapazonui (4 žmonės).

64

Būsenos numeris:

1 – meditacija;

2 – meditacija ir signalų skaičiavimas;

3 – signalų skaičiavimas;

4 – mąstymas;

5 – mąstymas ir signalų skaičiavimas.

Smegenų bangų santykinė energija yra didžiausia meditacijos būsenoje (1 - 38 Hz dažnių

diapazonas). Reikėtų pažymėti, kad 3-čiasis ir 4-tasis žmonės yra nepatyrę medituotojai, ko

pasėkoje yra neatitikimų.

SMEGENŲ BANGŲ SANTYKINĖS ENERGIJOS ĮVERTINIMAS SKIRTINGIEMS DAŽNIŲ DIAPAZONAMS

2 pav. Smegenų bangų santykinės energijos priklausomybės nuo būsenos numerio atitinkamai

delta, teta, alfa ir beta dažnių diapazonuose (4 žmonės).

65

Delta, teta ir beta bangų

dažnių srityse smegenų bangų

santykinė energija yra

didžiausia meditacijos

būsenoje. Kitoks dėsningumas

stebimas alfa bangų dažnių

srityje: smegenų bangų

santykinė energija yra

didžiausia signalų skaičiavimo

ir mąstymo būsenose.

SMEGENŲ BANGŲ SANTYKINĖS ENERGIJOS PASISKIRSTYMAS SKIRTINGUOSE DAŽNIŲ DIAPAZONUOSE

3 pav. Smegenų bangų santykinės energijos pasiskirstymas tarp skirtingų dažnių diapazonų:

delta, teta, alfa ir beta (4 žmonės: 1,2 ir 3 būsenos).

66

Alfa bangos santykinai išauga delta bangų atžvilgiu mąstymo

ir signalų skaičiavimo būsenose. Taigi galime teigti, kad alfa

bangos labiausiai išryškėja vienareikšmėse ir labiausiai

apibrėžtose būsenose. Tuo tarpu labiausiai neapibrėžtoje ir

nevienareikšmėje meditacijos būsenoje alfa bangos santykinai

yra mažiausios delta bangų atžvilgiu.

SMEGENŲ BANGŲ SANTYKINĖS ENERGIJOS PASISKIRSTYMAS SKIRTINGUOSE DAŽNIŲ DIAPAZONUOSE

4 pav. Smegenų bangų santykinės energijos pasiskirstymas tarp skirtingų dažnių diapazonų:

delta, teta, alfa ir beta (4 žmonės: 4 ir 5 būsenos).

67

Čia pateiksime mišrių būsenų analizę, t.y. meditacijos ir signalų skaičiavimo būsena, mąstymo ir signalų skaičiavimo

būsena. Šiose būsenose alfa bangos santykinai išauga delta bangų atžvilgiu lyginant su meditacijos būsena (labiausiai

neapibrėžta ir nevienareikšme), tačiau yra santykinai mažesnės negu atskirose mąstymo ir signalų skaičiavimo

būsenose (labiausiai apibrėžtose ir vienareikšmėse). Meditacijos ir signalų skaičiavimo būsena yra neapibrėžtos ir

apibrėžtos būsenų superpozicija, ko pasėkoje minėtos superpozicinės būsenos apibrėžtis išauga: vienu laiko momento

žmogus užsiima ne tik neapibrėžtu veiksmu (meditacija), bet ir apibrėžtu veiksmu (signalų skaičiavimu). Todėl

meditacijos ir signalų skaičiavimo būsenoje alfa bangos santykinai išauga delta bangų atžvilgiu lyginant su

meditacijos būsena. Mąstymo ir signalų skaičiavimo būsena yra dviejų apibrėžtų būsenų superpozicija, ko pasėkoje

minėtos superpozicinės būsenos apibrėžtis sumažėja: vienu laiko momento žmogus užsiima dvejais apibrėžtais

veiksmais (meditacija ir signalų skaičiavimu), t.y. neaišku, kas konkrečiu laiko momentu yra veikiama – ar mąstoma,

ar skaičiuojami signalai. Todėl mąstymo ir signalų skaičiavimo būsenoje alfa bangos santykinai sumažėja delta bangų

atžvilgiu lyginant su atskiromis mąstymo ir signalų skaičiavimo būsenomis.

4 pav. Smegenų bangų santykinės energijos pasiskirstymas tarp skirtingų dažnių diapazonų:

delta, teta, alfa ir beta (4 žmonių grupė: 1’ būsena).

Būsenos numeris:

1’ – 4 žmonių grupės komandinis darbas.

Čia pateikti 4 žmonių grupės

tyrimų rezultatai. Šiuose

tyrimuose buvo naudojama kita

mažesnio matavimų tikslumo

EEG įranga (256 Hz), ko

pasėkoje stebimi kitokio

pobūdžio santykinės energijos

pasiskirstymai.

SMEGENŲ BANGŲ SANTYKINĖS ENERGIJOS PASISKIRSTYMAS SKIRTINGUOSE DAŽNIŲ DIAPAZONUOSE

68

69

VI. AGENTŲ IR JŲ SISTEMŲ MODELIAVIMAS

BEI IMITAVIMAS

70

3.1 Simulation of individual EEG signal dynamics using

refined coupled oscillator energy exchange model

(COEEM)

Main goals:

1. This research addresses an attempt to narrow the gap between field

theoretic and experimental research of single brain neurodynamics.

2. It also gives a framework for applying similar principles of field-

based coordination for the coherent social behavioral dynamics.

VI. AGENTŲ IR JŲ SISTEMŲ MODEL. BEI IMITAVIMAS (1)

Despite all efforts, most difficult problems remain

– the explanation of the dynamic relationships between different

brain regions (Ho et al. 2005),

- explanation of the partial coherence of EEG signals (Pessa and

Vitiello 2004), (Schelter et al. 2006).

In fact, proposed coupled oscillator energy exchange model

(COEEM) addresses both issues without modeling of a complex

brain network from the point of detailed mapping of neural

networks.

In the COEEM model, each neuron (or brain region) is modeled as

an oscillator, which has a phase and a complex amplitude. Thus,

modeling the energy exchange between groups of neurons is

replaced by the model of the energy exchange between groups of

oscillators (Jacobs et al. 2007).

71VI. AGENTŲ IR JŲ SISTEMŲ MODEL. BEI IMITAVIMAS (2)

In the COEEM, we assume that different areas of the brain connect

via the general electromagnetic field, following coupled oscillator

energy exchange model, which is designed to model the temporal

evolution of EEG data.

This model is similar to the Kuramoto model but essentially differs

in that the Kuramoto model oscillator amplitude is constant, while in

the COEEM model it is dependent on the phase of the oscillator.

In this way, we expand the work of other researchers like Pessa and

Vitiello 2004; Onton and Makeig 2006; Friston and Price 2001;

Rubinov and Olaf Sporns 2010; Quiroga et al. 2001; Cerda and

Girau 2013; Ma et al. 2013; Matsuoka 2011.

The reasoning behind the COEEM model is based on a simulation

of synchronization phenomena observed in activations of the brain.

For this purpose, a coupled oscillator phase-locking mechanism

(PLM) has been proposed.

72VI. AGENTŲ IR JŲ SISTEMŲ MODEL. BEI IMITAVIMAS (3)

We use the sinus coupling function of oscillators. The COEEM

model equations are as follows:

where is the complex amplitude of the i-th oscillator, – the

phase of the i-th oscillator, – the angular frequency of the i-th

oscillator, and t – the temporal coordinate.

Therefore, here we have 2N linear equations for the phases and

complex amplitudes of the oscillators. The system of 2N linear

equations describes the temporal evolutions of the phases and the

complex amplitudes of the oscillators.

Ni

i j i jj 1, j i

θw w sin(θ θ )

t,

Ni

i j i jj 1, j i

w w sin(θ θ )t

,i j

AA A

iA

i

i

73VI. AGENTŲ IR JŲ SISTEMŲ MODEL. BEI IMITAVIMAS (4)

The systems of the internal and external oscillators

Fig. 1 The time-evolution of the simulated EEG data is modeled as the

total energy fluctuations of an internal oscillator (or group of

oscillators).

74VI. AGENTŲ IR JŲ SISTEMŲ MODEL. BEI IMITAVIMAS (5)

The phase difference between two oscillators describes the energy

exchange mechanism between them: the energy exchange process

takes place between oscillators where the phase difference is not

equal to zero (if the phase difference is zero, then energy exchange

is absent).

In short, by using the COEEM model, we seek to characterize the

dynamic mechanism of the relationships between different brain

regions (Ho et al. 2005) and explain the partial coherence of EEG

signals (Pessa and Vitiello 2004).

In this way, we can get the temporal evolution of the energy of

each oscillator and evaluate the energy redistribution between

oscillator groups after a certain time.

U W w

U W wN N N

U W wE E E

75VI. AGENTŲ IR JŲ SISTEMŲ MODEL. BEI IMITAVIMAS (6)

Fig. 2 The iterative scheme: E is the energy of the EEG signal, RK4 –

the fourth-order Runge-Kuta algorithms, A and denote complex

amplitude and phase respectively.

76VI. AGENTŲ IR JŲ SISTEMŲ MODEL. BEI IMITAVIMAS (7)

Fig. 3 The COEEM curve calibrated to the experimental EEG curve:

the number of iterations is equal to 3 in case (a), the number of

iterations is equal to 6 in case (b), and the number of iterations is equal

to 16 in case (c).

77VI. AGENTŲ IR JŲ SISTEMŲ MODEL. BEI IMITAVIMAS (7)

Fig. 4 Calibration and prognostication of the COEEM curve: the

number of the calibrated external oscillators is equal to 5 in case (a),

the number of the calibrated external oscillator is equal to 15 in case

(b), and the number of the calibrated external oscillator is equal to 0 in

case (c).

78VI. AGENTŲ IR JŲ SISTEMŲ MODEL. BEI IMITAVIMAS (8)

Table 1. Values of correlation coefficient and mean squared error (35

and 92 points for prognostication).

It should be noted, that

- phase differencies of all the external oscillators’ does not change

with time, (ii)

- all external oscillators’ are coupled and their phases are locked; in

this way, we apply a coupled oscillator phase-locking mechanism

(PLM).

Fig. 4. (a) (b) (c)

35 points prognoses

Mean squared error

(MSE) 0,43E-06 2,36E-06 1,52E-06

Correlation coefficient 0,80 0,12 -0,30

92 points prognoses

Mean squared error

(MSE)

0,70E-06 2,39E-06 1,72E-06

Correlation coefficient 0,76 0,19 -0,17

79VI. AGENTŲ IR JŲ SISTEMŲ MODEL. BEI IMITAVIMAS (9)

80

Concluding remarks:

- In fact, our findings revealed that each external uncalibrated

oscillator can radically change the COEEM generated signal.

Therefore, the whole system of oscillators has to be well calibrated.

- Hence follows the assumption that each oscillator potentially

contains information about all the rest of the system.

- It is shown that the COEEM model, which is based on the

PLM, is uniquely suitable for relatively accurate prognoses of

human brain EEG signal dynamics for the chosen EEG channels.

- The proposed model has revealed phase-locking and energy

exchange features uniquely characteristic of human brain EEG

signal dynamics.

VI. AGENTŲ IR JŲ SISTEMŲ MODEL. BEI IMITAVIMAS (10)

81

Excitation propagation in the homogenous ANN media

Main goals:

1. Construction of artificial neural networks (ANN) in order to

simulate and analyze spatio-temporal patterns of information

transmission in the social media.

2. Exploration of local and global conditions for emergence of

deterministic or purely chaotic information transmission patterns.

VI. AGENTŲ IR JŲ SISTEMŲ MODEL. BEI IMITAVIMAS (11)

82

Fig. 13 Emergence of local chaos and global order (each dot represents a perceptron).

Š. Raudys. Information Transmission Concept

Based Model of Wave Propagation in Discrete

Excitable Media. Nonlinear Analysis: Modelling

and Control, 2004, Vol. 9, No. 3, 271–289.

VI. AGENTŲ IR JŲ SISTEMŲ MODEL. BEI IMITAVIMAS (12)

83

Pav. Planuojamos taikymų sritys ir modeliavimo platformos

VI. AGENTŲ IR JŲ SISTEMŲ MODEL. BEI IMITAVIMAS (13)

84

Pav. Kuriamos DAS blokinė schema

VI. AGENTŲ IR JŲ SISTEMŲ MODEL. BEI IMITAVIMAS (14)

85

Pav. Viena iš taikymo sričių - ekonominių svyravimų modelis

VI. AGENTŲ IR JŲ SISTEMŲ MODEL. BEI IMITAVIMAS (15)

86

Pav. Agento principinė schema

VI. AGENTŲ IR JŲ SISTEMŲ MODEL. BEI IMITAVIMAS (16)

87

OSIMAS modelių testavimo virtuali platforma (V-lab):

http://vlab.vva.lt/ (Login: Guest, passw.: guest)

VI. AGENTŲ IR JŲ SISTEMŲ MODEL. BEI IMITAVIMAS (16)

Nuorodos (1)

Plikynas, D. (2010). A virtual field-based conceptual framework for the simulation of complex social

systems. Journal of Systems Science and Complexity, 23(2), 232-248. http://www.vva.lt/vcf.pdf

Plikynas, D. (2012) The Conceptual Premises for the Construction of an Oscillation-Based Social

Simulation Paradigm. In the proceedings of the international conference ICSSH 2012, Chennai, 2012.

Acebrn, Juan A., Bonilla L. L., Vicente P., Conrad J., Ritort F., Spigler R. (2005). The Kuramoto model: a

simple paradigm for synchronization phenomena. Reviews of Modern Physics, 77, 137185

Bunge S.A., Kahn I. (2009). Cognition: An Overview of Neuroimaging Techniques.Encyclopedia of

Neuroscience, 1063-1067

Fries, P. (2009). Neuronal Gamma-Band Synchronization as a Fundamental Process in Cortical

Computation.The Annual Review of Neuroscience, 32, 209-224.

Frohlich, H. (1968). Long-range coherence and energy storage in biological systems.International

Journal of Quantum Chemistry, 2(5), 641-649.

Lachaux J. P., Rodriguez E., Martinerie J., Varela F. J. (1999). Measuring phase synchrony in brain

signals.Human brain mapping, 8(4), 194-208.

Libet, B. (1994). A testable field theory of mind-brain interaction.Journal of Consciousness Studies, 1(1),

119-226.

88

Nuorodos (2)

Lindenberger U., Li S. C., Gruber W., Muller V. (2009). Brains swinging in concert: cortical phase

synchronization while playing guitar.BMC Neuroscience, 10(22), 1471-2202.

McFadden, J. (2002). Synchronous Firing and Its Influence on the Brain’s Electromagnetic Field.Journal

of Consciousness Studies, 9 (4), 23-50.

Minfen Shen, Ting, K. H., Chan, F. H. Y.(2003). Analysis of time-varying synchronization of multi-

channel EEG signals using wavelet coherence.Neural Networks and Signal Processing, 1, 216-219.

Orme-Johnson D.W., Haynes C.T. (1981). EEG phase coherence, pure consciousness, creativity, and TM-

Sidhi experiences.International Journal of Neuroscience, 13, 211-217.

Travis F. T., Orme-Johnson D. W. (1989). Field model of consciousness: EEG coherence changes as

indicators of field effects.International Journal of Neuroscience, 49, 203-211.

Mamei, M., Zambonelli, F. (2006). Field-Based Coordination for Pervasive Multiagent Systems.Berlin:

Springer-Verlag.

Stevens R., Galloway T., Wang P., Berka C., Tan V., Wohlgemuth T., Lamb J., Buckles R.(2012). Modeling

the neurodynamic complexity of submarine navigation teams.Computational and mathematical

organization theory, DOI 10.1007/s10588-012-9135-9

89

Dėkoju už dėmesį

Darius Plikynas, prof.KSU mokslo plėtros centrasEmail: darius.plikynas@vva.lt

Pranešimo medžiaga: http://www.vva.lt/mc/pranesimas%20%20VGTU.pdf

top related