otk prvih 6 predavanja

Download OTK Prvih 6 Predavanja

Post on 23-Nov-2015

69 views

Category:

Documents

2 download

Embed Size (px)

DESCRIPTION

Osnove telekomunikacija predavanja

TRANSCRIPT

  • Osnove telekomunikacija

    0. Uvodno predavanje

    Objekat komunikacije meu ljudima, bez obzira na udaljenost i razloge za komunciranjem, ini informacija. Potreba da se ista obradi i prenese je stara koliko i ljudsko drutvo i trajae dok traje ljudsko drutvo. Historijski gledano, potreba za obradom i isto tako i prenosom informacije je doivjela vie transformacija koje su pratile razvoj ljudskog drutva uopte. Sutinu ovih procesa, kako obrade tako i prenosa informacije, treba gledati sa vie aspekata: oteenja informacije u procesu obrade i tokom prenosa, vremena potrebnog za prenos informacije, utroenih resursa za zadate parametre oteenja i brzine prenosa informacije, itd.

    Sadanje stanje u domenu potreba za obradom i prenosom informacije se moe tretirati sa aspekata vremenski korelisane i vremenski nekorelisane informacije. Kao najei oblik vremenski korelisane informacije je govorna informacija dok je elektronska pota jedan od tipinih primjera vremenski nekorelisane informacije. U sutini ova korelisanost je vezana za vremenski period u kojem informacija nosi odreenu koliinu informacije. Za govornu informaciju ova korelisanost je reda stotinu milisekundi u odnosu na referentno vrijeme dok elektronska pota moe da ima ovo vrijeme reda sekundi, minuta, sati...

    Ovakav pristup i zahtjevi pri obradi i prenosu informacije je doveo do toga da se, kako za vremenski korelisanu tako i za vremenski nekorelisanu informaciju, koristi sistem koji na ovom stepenu tehnikog i tehnolokog razvoja ljudstvog drutva kao jedino mogue rjeenje nalazi u modelu digitalnog telekomunikacionog sistema sa nosaima za prenos informacije u obliku elektromagnetnog talasa. Ovaj sistem u osnovi znai da se u obradi informacije koristi, kao rezultat, elektrini signal kao informacijski signal dok se za prenos informacije opisane elektrinim signalima (informacijskih signala) koristi elektromagnetni (svjetlosni) talas kao nosa. Ovo ne znai da e telekomunikacioni sistem, na sadanjem stepenu razvoja digitalni, ostati kao konano rjeenje u obradi i prenosu informacije kao trajne kategorije u komunikaciji ljudskog drutva. Ono to e ostati trajno bie potreba za obradom i prenosom informacije. Sa dananjeg stepena razvoja, informacije moe da ima sljedee forme (intuitivne opisane fizike forme): govorna, muzika, video, podaci, telemetrijska, telekomandna itd.

    U navedenom kontekstu, savremene digitalne telekomunikacije poivaju na konceptu koji podrazumijeva da se prenos informacijskih signala, bez obzira na vrstu i osobine signala koje pripadaju skupu informacijskih signala, vri posredstvom sistema koji ima uglavnom univerzalnu strukturu tipa izvor odredite.

  • Osnove telekomunikacija

    Za svaki dogaaj xi iz skupa dogadjaja X (predajnik) vezemo njegovu apriornu vjerovatnocu p(xi) i odgovarajuu koliinu informacija Q(xi). Koliina informacija je objekt transporta u telekomunikacijama. Obrnuto je proporcionalna vjerovatnosti dogaaja, odnosno sto je dogaaj vjerovatniji, to manju koliinu informacija nosi.

    Koliinu informacija raunamo po formuli Q(xi)=log2

    . Jedinica za kolicinu informacija je Shannon

    (Claude Shannon - osniva savremene teorije informacija) .U praksi se ee koristi jedinica 1 bit. Ako kao bazu logaritma koristimo 10, a ne 2, onda koliinu informacija izaraavamo u Hartley-ima.

    1 [Sh] je koliina informacija koju sadri poruka o dogaaju koji ima samo dva podjednako vjerovatna ishoda.

    Primjer:

    P(xi) = 1, slijedi Q(xi) = log2

    = log21 = 0, tj. dogaaj ne nosi nikakvu koliinu informacije.

    P(xi) = 0, slijedi Q(xi) = log2

    = log2

    = log2 = , tj. dogaaj nosi maksimalnu koliinu informacija.

    Intuitivno moemo zakljuiti da informaciju primamo ako saznamo za dogaaj iji nastup nije bio unaprijed odreen. Poznato je da se odreenost nastupa nekog dogaaja moe mjeriti njegovom vjerojatnou. Kao sto smo vec rekli, sto je nastup dogaaja vjerojatniji, to emo manje informacije primiti nakon to se on realno dogodi. Promatramo li prenos informacije kroz kroz prizmu modela sistema izvor-odredite, tada je bit prenosa u najjednostavnijem sluaju u tome da se od n simbola izvora izabire neki simbol xi , za koji se na ulazu u odredite primjeuje simbol yj . Na osnovi primljenog simbola yj potrebno je odluiti koji je simbol xi predan na ulazu.

  • Osnove telekomunikacija

    1. Prvo predavanje

    1.1. Entropija i transinformacija

    Bitno je naglasiti da, na naem nivou razmatranja, skupovi koji predstavljaju predajnik i

    prijemnik imaju iste elemente, bilo da je rije o simbolima, fonemima i sl. Odnosno, da bi se

    odreeni simbol ili fonem pojavio u skupu Y (prijemnik), on mora pripadati skupu X

    (predajnik).

    Virtuelni posmatra je imaginarna struktura koja vidi ta se deava na strani predajnika i na

    strani prijemnika. Na strani predajnika virtuelni posmatra bez dileme zna koji su se simboli i

    fonemi poslali, dok na strani prijemnika on samo moe pretpostaviti da je primljeni simbol ili

    fonem jednak onom koji je poslan.

    Prenos simbola i fonema od predajnika ka prijemniku (iz X ka Y) vri se diskretnim kanalom.

    Pri tome mi ne znamo kako je kanal realizovan niti koji je prenosni medij, te zato za opis

    diskretnog kanala koristimo statistike metode. Prenos simbola ili fonema opisujemo, izmeu

    ostalog, zdruenom vjerovatnoom p(xi, yj).

    Ova vjerovatnoa karakterie prenos na nain da je p(xi, yj) vjerovatnoa ispravnog prenosa

    za i=j, odnosno vjerovatnoa pogrenog prenosa za ij.

    Kao to znamo, za svaki dogaaj xi, veemo koliinu informacija Q(xi). Ona opisuje taj dogaaj

    na strani prijemnika. Analogno, koliina informacija Q(yj) opisuje dogaaj yj na strani

    prijemnika. U sluaju ispravnog prenosa (i=j) koliine informacija Q(xi) i Q(yj) su jednake. Dok

    za slucaj pogresnog prenosa (ij) vai da je Q(xi) razliito od Q(yj) i da je Q(yj)=Q(xi)Q(xi).

    Pored zdruene vjerovatnoe, za opis prenosa simbola i fonema koristimo i:

    1. Apriorna vjerovatnoa p(xi) vee se za jednostruke dogaaje koji treba da se zbiju.

    Dobivena je na osnovu prethodnih eksperimenata.

    2. Uslovna vjerovatnost p(yj/xi) vee se za dvostruke dogaaje. To je vjerovatnost zbivanja

    dogaaja yj ako se dogodi xi.

    3. Aposteriorna vjerovatnost p(xi/yj) vee se za dvostruke dogaaje. To je vjerovatnost

    zbivanja dogaaja xi ako se ve dogodio yj.

    Rekli smo da ispravan prenos karakterie jednakost koliina informacija sa strane prijemnika i

    predajnika. Odnosno apriorne vjerovatnosti p(xi) i p(yj) su jednake. Suprotno tome, u sluaju

    pogrenog prenosa, saznanja koja imamo na osnovu apriorne vjerovatnosti potrebno je

    korigovati aposteriornom vjerovatnosti. Tako dobivamo uzajamnu koliinu informacija

    I(xi, yj)= log2

    . Uzajamna koliina informacija se takoer izrazava u Shannonima.

    Odavde vidimo da to je manja aposteriorna vjerovatnost, to je manja uzajamna koliina

    informacija. Takoer, smanjenje aposteriorne vjerovatnosti govori nam da je vea

    neispravnost prenosa. Zbog toga je uzajamna koliina informacija najbolji pokazatelj

  • Osnove telekomunikacija

    ispravnosti prenosa. Uzmimo sada da je u pitanju ispravan prenos, odnosno da je p(xi/yj) = 1,

    onda je I(xi, yj) = log2

    = Q(xi).

    U praksi, mnogo ese koristimo srednje vrijednosti, tj. vrimo usrednjavanje pojedinanih.

    Usrednjavanjem koliine informacija Q(xi) dobivamo veliinu koja se naziva entropija izvora.

    Utvrdili smo kolika je koliina informacije povezana sa proizvoljnim ishodom sluajnog

    eksperimenta. Ako su mogui ishodi eksperimenta uzajamno iskljuivi dogaaji x1, x2, . . , xN a

    odgovarajue vjerovatnosti p(xi), kao mjera neizvjesnosti itavog eksperimenta uvodi se

    entropija:

    log2

    Budui da svaka promjena apriornih vjerovatnosti dogaaja xi, odnosno odgovarajuih

    koliina informacija uzorkuje promjenu entropije, onda kaemo da entropija opisuje

    ponaanje i promjene u prenosu simbola ili fonema. Entropija je takoer mjera nesredjenosti

    sistema odnosno ona je pokazatelj postojanja odnosno nepostojanja pravila koja opisuju

    sistem. Entropiju izraavamo u Shannonima po simbolu ili bitima po simbolu, prema tome

    ona predstavlja koliinu informacije po simbolu.

    Kako su vjerovatnoe p(xi) brojevi izmeu 0 i 1, onda je entropija pozitivna veliina, odnosno

    njena donja granica je nula. Da bi odredili gornju granicu entropije, najprije treba rei da je

    entropija maksimalna kada je sistem potpuno neureen, odnosno kada nema nikakvih

    pravila. Ovom oigledno odgovara sluaj kada su sve vjerovatnosti p(xi) meusobno jednake

    i prema tome jednake

    . Ako izraunamo entropiju za ovaj sluaj dobivamo

    H(X)=Hmax=

    log2

    = log2N.

    Na primjer, za N = 2, Hmax = log22 = 1

    Usrednjavamo takoer i uzajamnu koliinu informacija. Dobivena veliina zove se

    transinformacija I(X, Y).

    ]

  • Osnove telekomunikacija

    Entropija izvora H(X) predstavlja korisnu informaciju u sistemu koju elimo komunikacijskim

    kanalom u potpunosti prenijeti do prijemnika, sa to manje izoblienja, tj. sa sto manjim

    dodatkom neeljene informacije i gubicima orginalne informacije.

    Uslovna entropija H(X/Y) zapravo opisuje gubitak informacije izvora (iznos gubitka) prilikom

    prenosa kroz komunikacijski kanal. Uoimo da H(X/Y) predstavlja informaciju koju dobijemo

    spoznajom orginalnog simbola izvora (vrijednost X), ako ve poznajemo primljeni simbol

    (vrijednost Y). Pri tome je bitno napomenuti da informacija o orginalnom simbolu predstavlja

    autentinu informaciju (bez greke)