1

Variabile aleatoare

Variabila aleatoare sau intamplatoare este legata de experimente aleatoare, care desfasurate in timp conduc la procese aleatoare. In cadrul teoriei statistice a semnalelor, procesul (semnalul) aleator este un model mai realist decat semnalul determinist pentru o serie intreaga de semnale atat utile (date, imagini, sunete) cat si perturbatoare (zgomote) din sistemele de prelucrare si transmitere a informatiei. Teoria statistica a semnalelor este strans legata de teoria probabilitatilor si de teoria multimilor, care impreuna permit introducerea notiunii de spatiu probabilistic.

1. Spatiu probabilistic Baza pentru definirea variabilei aleatoare este spatiul probabilistic = (H, $, P), numit de unii autori si model statistic. Acesta este compus din trei elemente: multimea esantioanelor H, campul evenimentelor $, si masura probabilistica P.

• multimea esantioanelor H: multimea tuturor rezultatelor posibile ale unui experiment aleator.

Exemplu: numerele corespunzatoare apelurilor sosite la o anumita centrala de comutatie, fetele aparute la aruncarea zarului, durata de viata a unei anumite componente a unui sistem, tensiunea retelei masurat la bornele unei prize.

• campul evenimentelor $ multimea nevida, continand

submultimi ale multimii H, avand urmatoarele proprietati: a) ∈H $

b) Din A ∈

rezulta A∈$

c) Din A1, A2, ... ∈ $ rezulta *∞

=∈

1iiA $ .

In aceasta definitie se noteaza cu A complementul mutimii A, adica toate elementele multimii H care nu sunt in A. In consecinta, un rezultat Hi ∈η poate fi element al mai multor evenimente. Exemplu: la aruncarea zarului, multimea rezultatelor este H = 1, 2,..., 6 unde i = aparitia fetei i si un camp posibil de evenimente este $ = ∅, 1, 1, 2, 2, 3, 4, 5, 6, ..., H

2

• Masura probabilistica P: o masura speciala care se poate asocia elementelor campului evenimentelor, o functie care se poate defini pe acest camp $. Domeniul valorilor ei este intervalul 0, 1 al numerelor reale; se poate spune ca functia P este o aplicatie a campului $ pe intervalul 0, 1. Proprietatile lui P sunt definite prin trei axiome (Kolmogorov):

a) P(A) ≥ 0 b) P(H) = 1

c) P(*n n

ii APA1 1

)() ∑= unde Ai sunt disjuncte doua

cate doua. Definitiile probabilitatii:

• ca frecventa relativa: n

nAP A

n ∞→= lim)( unde un experiment

aleator este repetat de n ori si evenimentul A apare de nA ori

• in sens clasic: N

NAP A=)( unde N este numarul total de

rezultate ale experimentului (numarul elementelor din H finit), din care evenimentul A intervine de NA ori.

Legi uzuale ale probabilitatii:

• P(∅) = 0 unde ∅ este evenimentul nul, • P(A) • Daca

)(1)(atuncisi APAPAAHAA −==∩=∪ φ • Daca )()( atunci BPAPBA ≤⊂ • )()()()( BAPBPAPBAP ∩−+=∪ • )()()( BPAPBAP +≤∪

• )(...)()()()(

atunci...siDaca

21

21

n

nji

AAPAAPAAPHAPAP

HAAAjiAA

∩++∩+∩=∩=

=∪∪∪≠∀=∩ φ

adica seturile Ai sunt mutual exclusive si complete.

3

Probabilitatea conditionata:

)(

)()|()|( :Bayes formain sau

)(

)()|(sau

)(

)()|(

BP

APABPBAP

AP

BAPABP

BP

BAPBAP

=

∩=∩=

In contextul de mai sus, P(A) se numeste probabilitatea a priori iar P(A|B) se numeste probabilitatea a posteriori a evenimentului A. Din axiomele de mai sus rezulta:

disjunctesunt A si A daca)|()|()|(

1)|(

0)|(

212121 BAPBAPBAAP

BHP

BAP

+=∪=≥

Se spune ca doua evenimente sunt statistic independente daca:

1)(deoarece)()|(

)()|(

)()|(

:rezulta mai atunci si)()()(

====

=∩

HPAPHAP

BPABP

APBAP

BPAPBAP

2. Definitia varibilei aleatoare reale X(η) Variabila aleatoare reala X(η) este reprezentarea multimii

rezultatelor H a unui experiment aleator pe multimea IR a numerelor reale cu urmatoarele proprietati:

a) IRxxX ∈∈≤ fiecarepentru )( $η b) 0))(())(( =+∞==−∞= ηη XPXP

Valoarea unei variabile aleatoare X(η) pentru un argument η = ηi se numeste o realizare a variabilei (vezi fig. alaturata). Variabila aleatoare poate fi continua sau discreta. Daca multimea rezultatelor H este numarabila, atunci X(η) este o variabila aleatoare discreta

* * ηi * * * *

experiment aleatoriu IR

X(ηi) axa reala

multimea rezultatelor H

4

(aruncarea cu zarul), daca multimea rezultatelor H este nenumarabila, atunci variabila aleatoare este continua (masurarea valorilor unei tensiuni). Exemplu: aruncarea zarului; H = toate fetele posibile)

η 1 2 3 4 5 6 X(η) 0 0 5 10 10 100

3. Functia de repartite a probabilitatii si densitatea de probabilitate

Permit caracterizarea completa a unei variabile aleatoare. Functia de repartitie a probabilitatii este:

• ))(()( xXPxFx ≤= η . Proprietatile ei sunt:

monoton creste )( c)

1)( )b

0)( a)

xF

F

F

x

x

x

=+∞=−∞

• Densitatea de probabilitate este:

dx

xdFxf x

x

)()( =

Aceasta derivata exista numai pentru varibile cu functie de

repartitie absolut continua. In punctele in care functia de repartitie are salturi, se introduc distributii δ ponderate cu un factor egal cu marimea saltului lui Fx(x) in punctul respectiv.

5

Functia de repartitie se poate deduce din densitate prin integrare:

)(xFx ∫∞−

=x

fx(u)du.

Exemple: Variabile aleatoare discrete Variabile aleatoare continue (Aruncarea cu banul ) (Masurarea timpului de viata) Daca o variabila aleatoare discreta ia valorile xi cu i = 1, ..., M atunci densitatea de probabilitate este de forma:

Fx(x) 1,0 0,5 fx(x) 0,5

x x

tmax

Fx(x) 1 fx(x) 2/tmax

x x

(x/tmax)2

tmax

6

∑

∫

∫

∫ ∑

∑

≤≤

∞+

∞

∞− ≤

=

==≤≤

=≤≤

=

≥

===

==

−=

21

2

1

))(())((

:devine ateaprobabilit

, lui a filtrare de iiproprietat datorita discrete iabilePentru var

)())((

: si intre valoare

o ia sa )( ca ateaprobabilit )(din calcula poate Se

1)( b)

ipentru tot 0)( a)

:aleatoare variabileunei a ateprobabilit de densitatii ale iProprietat

))(()()(

:obtine se )(lui expresiain relatii doua cele dIntroducan

))((

: la )( lui saltul este a unde)()(

21

21

21

-

1i

xxxi

x

xx

x

x

x

x

xxixx

ii

ix

M

iiix

i

i

xXPxXxP

dxxfxXxP

xx

Xxf

dxxf

xxf

xXPduufxF

xxF

xXPa

xxFxxaxf

ηη

δ

η

η

η

η

δ

4.Valori medii ale variabilelor aleatoare (valori asteptate =

expected values) Permit caracterizarea incompleta, partiala a variabilelor aleatoare.

• Momente de ordin n

dxxfxXEX xnnn

)()]([)(

∫==+∞

∞−η = mx

(n)

Pentru n = 1 (valoare medie liniara):

discrete variabilepentru

continue variabilepentru)(

1∑=

∫=

=

+∞

∞−n

kkk

x

xPX

dxxfxX

Pk= P(X() = xk)

7

Operatorul de mediere se poate extinde si asupra functiilor de variabila aleatoare. Daca g(X()) este o functie bijectiva de variabila aleatoare X(), atunci:

∫=η∞

∞−)()())(( xdFxgXgE x

Daca desitatea de probabilitate fx(x) exista, atunci:

∫=η∞

∞−dxxfxgXgE x )()())((

Operatorul de mediere este un operator liniar: ))(())(( η=η XgaEXagE ))(())(())(())(( η+η=η+η YhEXgEYhXgE

Pentru n = 2 (valoare medie patratica):

discrete variabilepentru

continue variabilepentru)(

1

2)2(

2)2(

∑=

∫=

=

+∞

∞−n

kkk

x

xPX

dxxfxX

• Momente centrale de ordin n:

dxxfXxXXEXX xnnn )()(])([)( )( ∫

+∞

∞−−=−=− η

= x ( n)

Pentru n = 2 (varianta):

continue variabilepentru)()()( 2)2(dxxfXxXX x∫ −=−

+∞

∞−

VarX(` 1x2;

1x este dispersia (deviatia standard) a v.a. Se poate arata ca:

8

VarX(` 1x2 = 2)2(

)(XX − Statistica clasica este o statistica de ordin 2, care descrie variabilele aleatoare numai cu valori medii de ordinul 1 si 2. Statisticile de ordin superior folosesc pentru caracterizarea v.a. si valorile medii de ordin n >2. Valorile medii de ordin superior lui 2 se numesc cumulanti. Interesul crescand din ultimul timp pentru statisticile de ordin superior este justificat de urmatoarea teorema: O v.a. poate fi complet caracterizata daca se cunosc valorile medii pana la ordinul n, cand n:

5. Ansamble de doua variabile aleatoare Pe acelasi spatiu al esantioanelor H se pot defini mai multe variabile aleatoare, de exemplu X() si Y(), proiectand multimea H a rezultatelor posibile pe doua multimi IR de numere reale.

Pentru aceste doua variabile se pot defini:

6. Functia de repartitie a ansamblului: FXY (x,y) = P(X() x@^ Y() y) si

Densitatea de probabilitate a ansamblului:

=),( yxf xy yx

yxFxy

δδδ ),(2

.

Evenimentele sigure in aceasta situatie sunt X() `

respectivY() ` LD HYHQLPHQWHO LPSRVLELO ^X() - `respectivY() - `

9

Rezulta astfel pentru ansamblul de doua v.a. urmatoarele Proprietati ale functiei de repartitie de ansamblu, FXY (x,y):

FXY (x, + FX (x) FXY (+, y) = FY (y) FXY (x, - FXY (- , y) = 0

FXY (+,+ Functia de repartitie a ansamblului se poate determina prin integrarea densitatii de probabilitate a ansamblului:

∫ ∫=+∞

∞−

+∞

∞−dudvvufyxF XYXY ),(),( .

Densitatile marginale de probabilitate se pot determina cu relatiile:

∫=+∞

∞−dyyxfxf XYX ),()(

∫=+∞

∞−dxyxfyf XYY ),()(

Proprietatile densitatii de probabilitate de ansamblu:

• este o functie nenegativa: 0),( ≥yxf XY

• satisface conditia de completitudine:

1),( =∫ ∫+∞

∞−

+∞

∞−dxdyyxf XY

Observatie: Pentru v.a. discrete densitatile de probabilitate se inlocuiesc cu probabilitati, iar integrarile prin sumari. Independenta statistica a doua variabile aleatoare Este una din relatiile interesante pentru studiul sistemelor de prelucrare a informatiei, deoarece efectele variabilelor pot fi luate in consideratie separat. Conditia de independenta statistica este:

)().(),( yfxfyxf YXXY = .

10

Rezulta pentru functiile de repartitie relatia: )().(),( yFxFyxF YXXY = . Valori medii (momente) ale ansamblului

• Moment de ordin k, m

:necorelatesunt statistic teindependen aleatoare bileDoua varia

0

:ortogonale Variabile

0

:necorelate Variabile

:relatiaexista Cov siCor Intre

),()()(

))(())((

mutuala covariatie defunctia obtine se 1,m 1,k pentru

),()()(

))(())((

m k, ordin decentrat Moment

mutuala corelatie defunctia obtine se 1,m 1,k pentru

),()()(

)1()1(

)1()1()1,1(

)1()1(

)1()1(),(

)1,1(

),(

==

⋅=→=

⋅−=⋅−=

∫ −−∫=

=−−==

==

∫ −−∫=

=−−=

•

==

==

∫ ∫==

∞+

∞−

∞+

∞−

∞+

∞−

∞+

∞−

+∞

∞−

+∞

∞−

XYEXYCor

YEXEXYEXYCov

YEXEXYEYEXEXYCorXYCov

dxdyyxfmymx

mYmXEXYCov

dxdyyxfmymx

mYmXE

XYEXYCorm

dxdyyxfyxYXEm

XYyX

YXxy

XYm

yk

X

mY

kX

mkxy

xy

XYmkmkmk

xy

ηηµ

ηηµ

ηη

11

)()()()(

)()(),()()(

ηη

ηη

YEXEdyyyfdxxxf

dxdyyfxxyfdxdyyxxyfYXE

YX

YXXY

=∫ ∫

∫ ∫ =∫ ∫ ==

∞+

∞−

∞+

∞−

+∞

∞−

+∞

∞−

+∞

∞−

+∞

∞−

Reciproca nu este intotdeauna adevarata: conditia de independenta statistica este mai „ tare” decat cea de necorelare (decorelare).

Coeficient de corelatie

11-

:sunt uluicoeficient ale variatiede domeniului limitele

|))(())((|

))()()((2)1(2)1(

)1()1()1,1(

≤≤

−⋅−−−==

XY

YX

YX

YX

XYXY

mYEmXE

mYmXE

ρ

ηηηη

σσµρ

Demonstratie:

. 0 pentru 1 si 0 pentru 1ca

arata poate se atunci ),()( :dependenteliniar sunt Daca .2

0

:pentru decorelateSunt 1.

:aleatoare biledoua varia dintrerelatia arata corelatie de ulCoeficient

1|| pentru numai semne ambele pentru valabila este care

0121

:este relatieia stanga din partiia medievaloarea

0)()(

2)1()1(

<−=>==

=

≤≥+±

≥

−±−

aa

aXY

mYmXE

XYXY

XY

XY

XY

Y

Y

X

X

ρρηη

ρ

ρρ

ση

ση

12

Functia de repartitie conditionata si densitatea de probabilitate conditionata.

)(),(

)/(

)(),(

)/(

)(

0

)(

)(

)(

)(

)/()/(

)(

)()/(

))(())()((

1)/(

))(())()((

))(())()((

)/(

)(

)/()/(

)/)(()/(

yf

yxfBxf

yF

yxFBxF

yYB

ax

axduuf

xf

aF

xf

dx

BxdFBxf

aF

xFBxF

xXPaXxXPax

BxF

aXPaXxXPax

aXP

aXxXPBxF

aXBdx

BxdFBxf

BxXPBxF

Y

XYX

Y

XYX

a

X

X

X

X

XX

X

XX

X

X

XX

X

=

=

≤=

≥

≤∫

=

==

=⇒

≤=≤∩≤→≤

=⇒≤=≤∩≤→≥

≤≤∩≤=

≤=

=

≤=

∞−

η

ηηη

ηηηη

ηηη

η

Pentru

pentru

pentru

Pentru

13

7. Densitati de probabilitate uzuale Distributii discrete

• Uniforma, cand rezultatele experimentului aleator sunt egal probabile: ninxXP i ,...,3,2,1/1)( ===

• Binomiala, cand intereseaza probabilit atea de aparitie a unui eveniment A de probabilit ate p de k ori in sirul de n repetitii ale experimentului:

nkppCkXP knkkn ,...2,1,)1()( =−== − unde :

1!0);1)(2)(3)...(2)(1(! si )!(!

! =−−=−

= mmmmknk

nC k

n

Exemplu: Probabilit atea de eronare a k simboluri intr-un cuvant de lungime n • Poisson, cand intereseaza numarul k al rezultatelor pozitive

ale unui experiment intr-un interval de timp de lungime T :

,...2,1,0,!

)( === − kek

kXPk

λλ

cu timp.deunitatea inapar care

pozitiveor rezultatel numarul este ' unde ' λλλ T=

Exemplu: Numarul apelurilor primite de o centrala telefonica sau numarul electronilor emisi de un catod fierbinte.

Distributii continue:

• Distributia uniforma

rest in 0

),/(1)(

bxaabxf x

≤≤−=

Media si varianta varibilei aleatoare uniforme sunt:

12)(

22

2 ab

abm

x

x

−=

+=

σ

Exemplu: Eroarea de cuantizare • Distributia normala (gaussiana) unidimensionala

14

Este cea mai utilizata, avand o forma analitica simpla; are multiple aplicatii ca urmare a teoremei limita centrala.

Pentru schimbarea de variabila : z = (x – mx)/σx, integrala precedenta devine:

dzzaXPx

xxma

)2/exp(21

)( 2

/)(

−∫=>− σ π

O medoda de calcul a acestei integrale se bazeaza pe integrala tabulata Q(y):

]/)[()(

0,)2/exp(21

)( 2

xx

x

y

maQaXP

ydzzyQ

σ

π

−=>

>−∫=

Deasemenea se poate calcula: )(1)( yQaXP −=≤ sau:

2/1)0( =≤XP

x

fx(x)

Aria = 1/2

Aria = P(X > mx + y σx) = Q(y)

mx mx + yσx

−−= 2

2

2 2)(

exp2

1)(

x

x

x

x

mxxf

σπσ

−−∫=> 2

2

2 2)(

exp2

1)(

x

xx

a x

mxaXP

σπσ

P(X a) = 1-Q(a)

0 a

Q(a)

[1-2Q(a)]

0 a -a a

Q(a)

15

• Distributia normala bidimensionala

−−

−

−+

−

−−

−=

YX

YX

Y

Y

X

X

YX

xymymx

mymx

yxf

σσρ

σσρρσπσ ))((2)1(2

1exp

12

1),(

22

22

8. Transformari de variabile aleatoare

Cazul unidimensional: Exemplu: caracteristica unui amplificator In ce consta problema: daca este cunoscuta fX (x) trebuie determinata fY (y)

a) Cazul cand g(x) este bijectiva: g: R :5

)(1

1)()()()(

ygx

XYYX

dx

dyxfyfdyyfdxxf

dyyYyPdxxXxP

−=

=⇒=

⇓

+≤≤=+≤≤

b) Cazul cand g este bijectiva pe portiuni:

g: R :5

∑=

⇓

=⇒∈∃∈∀

−= )(1

)()(

)(,

ygkx

kxY

ii

dx

dyxf

yf

yxgRxRy

X g(X)

Y

Y = g(X)

X

g (x)

y+dy y

x x+dx

x

1 2 3 4 5 6

g(x)

x

16

Cazul bidimensional:

ϕ=ϕ=

→

==

→

ϕϕ

),(

),(:

),(

),(:

2122

2111

2122

2111

21

21

yyx

yyxXY

xxgy

xxgyYX gg

yyPxxP ∆∈=∆∈

x

yxxfyyfyyyfxxxf xxyyyyxx ∆

∆⋅=⇒∆⋅=∆⋅ )()()()( 21212121 21212121

→∆∆

x

y Jacobianul transformarii

∆⋅=⇒

∂∂

∂∂

∂∂

∂∂

=∆∆=

∆∆

>−∆

1)()(

)(

)(2121

2

2

2

1

1

2

1

1

21

21

02121lim xxfyyf

x

y

x

y

x

y

x

y

xx

yy

x

yxxyy

x

Exemplu: schimbarea de coordonate rectangulare / polare

y1

x

x2

x1

x2+dx2

x2

x1 x1+dx1

y2

y2+dy2

y2

y1 y1+dy1

17

x1 = ! FRV \1 cos(y2) ! \1= 22

21 xx +

x2 ! VLQ \1 sin(y2) \2 = arctg1

2

x

x

22

211

2121

22

2

2

2

1

1

2

1

1

)cos()sin(

)sin()cos(xxy

yyyy

yy

x

y

x

y

x

y

x

y

xy +==−

=

∂∂

∂∂

∂∂

∂∂

=∆ →

)(1

)()( 212121 212121yyf

y

xyyfxxf yyyyxx ⋅=

∆∆⋅=

ρ

)()( 2121 2121xxfyyf xxyy ⋅= ρ

Modificarea coordonatelor duce la schimbarea distributiilor

∫ ∫∞− ∞−

=1 2

2121),()( 21

x x

xxxx dudvvufxxF

∫ ∫∞− ∞−

=1 2

2121),()( 21

y y

yyyy dudvvufyyF

9. Variabile aleatoare complexe

Variabila aleatoare complexa Z se defineste cu ajutorul variabilelor aleatoare reale X si Y: Z = X+jY Valoarea medie of g(Z) este definita ca:

x2

x1

x2

x1

! \1 \2

18

conjugatcomplex semnifica * unde

)(*)(

:este , lui covarianta

||

:esteianta var

:este , Z, luimedia

),()()(

22

,

ZnnmZmnZmZ

nm

ZZ

YXZ

Z

YX

mZmZEC

ZZ

mZE

jmmYjEXEZEm

m

dxdyyxfzgZgE

−−=

−=

+=+==

∫ ∫=∞

∞−

∞

∞−

σ

10. Vector aleator

Variabila aleatoare scalara ia valori pe axa reala, iar vectorul aleator ia valori intr-un spatiu m dimensional Rm. Functia de repartitie a vectorului aleator ca si densitatea sa de probabilit ate se pot defini ca pentru ansamble de m variabile aleatoare:

m

mmXXm

mmXXX

mmmmXX

xxx

xxFxxxf

xXxXPxxF

∂∂∂∂

=

≤≤=

...

),...,(),...,,(

))...([(),...,(

21

1,...,121...2,1

111,...,1

Parametrii i mportanti sunt valorile medii si covariantele:

jXiXjijXiX

iiX

mmXXE

XEm

−=

=

σ

Legile probabili stice pentru vectori aleatori pot fi formulate concis, folosind notatii vectoriale. Ansamblul de m variabile aleatoare X1, …Xm poate fi reprezentat ca un vector coloana cu m componente:

],...,[.. 21

2

1

m

m

XXX

X

X

X

=

= TX sau X

Vectorul medie si matricea de covariatie sunt:

19

=−=∑

==

mXmXXXXmXXmX

mXXXXXX

mXXXXXX

mXE

XE

XE

σσσσ

σσσσσσ

1121

22212

12111

2

1

............

...

...

)(

...

)(

)(

)

TXX

TX

X

mmEXX

E(Xm

componentele sunt necorelate daca:

jiijjXiX ≠∀== ,0σσσ

si independente daca:

∏==

m

iiiXmmXXX xfxxxf

12121

)(),...,,(,...,,

11. Functia caracteristica • Definitie

Este transformata Fourier a densitatii de probabilitate.

∫=Φ

=∑=Φ

=Φ

→=Φ

∞

=

dxxfej

xXPej

eEjj

Xxj

X

kXk

kxjX

XjX

X

)()(

:continue variabilepentru

)()(

:discrete variabilepentru

)()(

1

ω

ω

ω

ω

ω

ωω

CR

20

• Proprietati:

∫∞

∞−

−Φ=

=Φ

ωωπ

ω

ω dejxf

xfj

xjXX

XX

)(2

1)(

)(*)( )

• Legatura cu momentul unei variabile aleatoare Daca se diferentiaza functia caracteristica:

∑=∑=Φ

∑Φ=Φ

Φ−=

=∫=Φ

∫=Φ

∞

=

∞

=

∞

= =

=

∞

∞−=

∞

∞−

00

0 0

0

0

!)(

!)(

)(

!)(

)(

)()(

)()(

)()(

n

n

nn

nn

X

n

n

nX

n

X

nX

nnn

XX

XxjX

n

jm

n

jXEj

nd

jdj

d

jdjXE

XjEdxxfxjd

jd

dxxfxejd

jd

ωωω

ωω

ωω

ωω

ωω

ωω

ω

ω

ω

ω

1

Semnale si procese aleatoare

7LQD FRQ G PVXU L FDU ! ! O ! VXQ " SUHYL]LELO ! L WLPS

VHPQDOHO # SR $ I %&% HUDUKL]DW # L ' IHOX ( XUPWRU • 6HPQDO ) GHWHUPLQLVWH *,+.- UR / HYROX L 0 L 1 WLP2 V 0 SRDW 0

SUHYHGHD 3 HO 0 ILL 1&4 GHVFULV 0 G 0 5 IXQF L 0 G 0 WLP2cunoscuta, ca de exemplu )cos()( ϕω += tAtX .

• 6HPQDO 687 RQGL LRQD9 – GHWHUPLQLVWH :<;87 UR = HYROX L 6 L >WLP? V 6 SRDW 6 SUHYHG 6@; SDU LDO : GHRDUHF 6 X >A? DUDPHWU B D Csemnalului este o variabila aleatoare, ca de exemplu:

+=+=+=

))(cos()(

sau ))(cos()(

sau )cos()()(

ηϕωϕηωϕωη

tAtX

tAtX

tAtX

• SemnaO 6 DOHDWRDUH :D;E7 UR = HYROX L 6 L > WLP? HVW 6 SUDFWL 7imprevizibila si care vor fi studiate in continuare.

1. 'HILQL L F VHPQDOXOX G DOHDWRU 8H VHPQD I DOHDWR J UHD I HVW K8L IXQF L K G K GR M SDUDPHWU M ),( tX η unde η ia valori in VSD LX N HúDQWLRDQHORU O LD P t, de obicei, ia valori S Q D[ R UHDODSR]LWLY R V S DU Q VHPQLILFD L T G U WLPS 2ULF V VHPQD W DOHDWR X V V RE LQ V F Y XUPDU V Y HIHFWXUL Z XQX ZH[SHULPHQ [ FDU \ FRQVW ] L ^ DOHJHUH ] GL ^ VSD LX _ HúDQWLRDQHOR ` H a XQX a HúDQWL bc^ HOHPHQWD η i FDU \ GHWHUPLQ ] DOHJHUH ] IXQF LH a

),( tX iη GL ^ IDPLOL ] G \ IXQF ada ),( tX η (vezi figura).

* * ηi * * * *

experiment aleatoriu

X(ηi, t)

egfih j kmlonqprezultatelor H

t1 t2 t

2

)LHFUH r YDORU r η rdr FRUHVSXQG sut IXQF L s X(η ,t), notata Xv (t), numita realizare particulara VDw IXQF L x HúDQWLR yz VHPQDOXOXL 'DF | HVW FXQRVFX ~ SURFHVX DOHDWR SUL PXO LPH | UHDOL]ULOR sale particulare, in orice moment de timp t V RE LQ E DULDELO |aleatoare Xt(η , FRQVHFLQ D GXS FX YDULD] FH GR SDUDPHWU η si tGHRVHEL XUPWRDUHO D]XUL

• η si t variabile: X(η ,t HVW VHPQD DOHDWRU DGLF IDPLOL G UHDOL]U SDUWLFXODUH

• η variabil si t fix: X(η ,t) = Xt(η ) este o variabila aleatoare;

• η fix si t variabil: X(η ,t) = X (t) este o realizare SDUWLFXODUDDGLF IXQF L G WLP LúQXLWD

• η si t fixe, X(η ,t HSUH]LQW PU

2. Clasificarea semnalelor aleatoare. • Semnale aleatoare in timp continuu, sau simplu semnale

aleatoare, constituite din o familie nenumarabila de variabile aleatoare Xt(η ) cu t ℜ∈ . 1. Daca Xt(η ) pentru un t oarecare este o variabila

aleatoare continua, semnalul este de amplitudine continua (figura a1); un exemplu îl poate constitui tensiunea de la bornele unei prize electrice.

2. Daca Xt(η ) pentru un t oarecare este o variabila aleatoare discreta, semnalul este de amplitudine discreta (figura a2); un exemplu îl poate constitui un semnal de date intr-o transmisie asincrona, când úLUX ¡de date poate începe la orice moment de timp.

• Semnale aleatoare in timp discret sau serii aleatoare care UHSUH]LQW PXO LP QXPDUDELO ¢ G IXQF L DOHDWRDU notate Xn(η ), unde t = nT cu .Zn ∈

1. Daca pentru un n oarecare, Xn(η ) este o variabila aleatoare continua, seria este de amplitudine continua (figura b1); un exemplu îl poate constitui un semnal G £ DPSOLWXGLQ £ FRQWLQX ¤ DQDORJLF ¥ HúDQWLRQDW

2. Daca pentru un n oarecare, Xn(η ) este o variabila aleatoare discreta, seria este de amplitudine discreta ILJXU ¦ E § V ¨ V © PD ¨ QXPHúW © V ¨«ª DQ DOHDWRU ¬®­

3

exemplu îl poate constitui un semnal analogic HúDQWLRQD ° V ± FXDQWL]D °

3. )XQF L ² G ³ UHSDUWL L ´ V µ GHQVLWDW µ G ´ SUREDELOLWDW ´ DO ´semnalelor aleatoare in timp continuu • )XQF L ¶¸·º¹ UHSDUWL L »½¼¾ UREDELOLWDWLOR ¿ G » RUGLQX À se

GHILQHúW Á F Â SHQWUÃÅÄÇÆ DULDELO Â DOHDWRDU Á FRQWLQX Â RE LQXW Âdin semnalul aleator la un moment oarecare de timp:

)),((),( xtXPtxFX ≤= η • Densitatea de probabilitate de ordinul 1 V Á GHILQHúW Á WR È

ca pentru o variabila aleatoare continua si este:

x

txFtxf X

X ∂∂= ),(

),(

• )XQF L ¼ ɺ» UHSDUWL L » G » RUGLQX À Q se refera la n v.a. continue, considerate la n momente de timp diferite:

).,(notat am unde

),...,(),....,,;,....,,( 112121,....,, 21

ii

nnnnXXX

tXX

xXxXPtttxxxFn

η=

≤≤=

• Densitatea de probabilitate de ordin n este:

t

X1(t) Xi(t) XN(t)

t = ti

Fig. a1

Xi(t)

t

Fig. a2

t T

Fig. b1

t

T q

Fig. b2

4

n

nnXXn

nnXX xx

ttxxFttxxf n

n ∂∂∂

=,..,

),..;,..(),..,;,..,(

1

11,..,11,..,

11

)XQF LLO Ê G Ê UHSDUWL L Ê V Ë GHQVLWDWLO Ê G Ê SUREDELOLWDW Ê Ì O Êsemnalului aleator depind de momentele de timp ti la care sunt considerate variabilele aleatoare. • )XQF L Í ÎºÏ UHSDUWL L Ð Ñ Ñ Ò VDPOXOX Ó G Ð ÔÖÕ×ØÑ VHPQDOH

aleatoare continue in timp X(W) si Y(W) definite pe DFHODú Ù VSD L Ú D Û HúDQWLRDQHOR Ü HVWH

)),(,),((),;,( 2121 ytYxtXPttyxFXY ≤≤= ηη • Densitatea de probabilitate a ansamblului de doua

semnale aleatoare continue in timp mai sus considerat este:

),;,( 21 ttyxf XY yx

ttyxFXY

∂∂∂= ),;,( 21

2

'DF Ý GRX Ý VHPQDO Þ VXQ ß GHILQLW Þ S Þ Ý FHODú Ù VSD LÚ D ÛHúDQWLRDQHORU à DWXQF Ù V Þ SRDW Þ YHULILF Ý GDF Ý VXQ ß VWDWLVWL áindependente.

4. Semnale aleatoare statistic independente 'HILQL LH: Doua semnale aleatoare X(W) si Y(W) definite pe DFHODú â VSD L ã D ä HúDQWLRDQHOR å V æ QXPHV ç VWDWLVWL ç LQGHSHQGHQW ædaca pentru orice momente t11,…,t1i din intervalul de timp pe care este definit X(W) si pentru orice momente t21,…,t2j din intervalul de timp pe care este definit Y(W), variabilele aleatoare X(W11),…, X(W1i) sunt statistic independente de variabilele aleatoare Y(W21),…, Y(W2j). Atunci, cu t1 yx TtT ∈∈ 2, (Tx si Ty

sunt intervalele pe care se observa semnalele aleatoare X, Y:

),(),(),;,(

),(),(),;,(

2121

2121

tyftxfttyxf

tyFtxFttyxF

YXXY

YXXY

⋅=

⋅=

In interpretare fizica, intre doua semnale statistic independente nu V æ SRDW æ VWDE âdädâ QLF âéè OHJWXUD ê HO æ SURYL ë ì æ UHJXO í GL ë VXUV ædiferite si de aceea efectele lor in sistemele de prelucrare a LQIRUPD LH â SR î I âä XDW æ L ë FRQVLGHUD L æ VHSDUDW Pentru cazul in care variabilele aleatoare X(W1i) si Y(W2j) sunt GLVFUHWHFRQGL L í G æ LQGHSHQGHQW í VWDWLVWLF í GHYLQH

PPPPP knnkkn == :unde )),(,),(( 21 njki btYatX == ηη ,

5

)),((

)),((

2

1

njn

kik

btYPP

atXPP

====

ηη

iar ak si bn sunt valori ale variabilelor X si YDOHV ï GL ð úLUXULO ï G ïvalori posibile ale acestor variabile:

,...,...,, respectiv ...,...,, 21,21 nk bbbaaa

5. Valori medii statistice ale semnalelor aleatoare 3HQWU ñ ñ ò VHPQD ó DOHDWRU ô S õ PXO LPH ö UHDOL]ULOR ÷ VDle particulare, se pot defini doua tipuri de valori medii: valori medii VWDWLVWLF õéö O õ UHDOL]ULOR ÷ SDUWLFXODU õ O öøñò DQXPL ù PRPHQ ù G õ WLPú

V û YDORULO õ PHG ûdû ù HPSRUDO õö O õ ILHFUH û UHDOL]U û SDUWLFXODUH Valorile medii statistice sunt de fapt valori medii ale variabilelor aleatoare considerate la un anumit moment de timp si care devin DVWIH ó IXQF üdü G ý WLPS þ $FHVW ý YDORU ü PHG üdü V ý GHILQHV ÿ F V ü SHQWUvariabile aleatoare, ceea ce se vede in continuare:

• Valoarea medie liniara

∫==∞+

∞−dxtxxftXEtm Xx ),(),()()1( η

• Valoare PHGL ý SWUDWLFD

∫==∞+

∞−dxtxfxtXEtm Xx ),(),()( 22)2( η

• Varianta

dxtxftmxtmtXEt XxXX ),())(())(),(()( 222 ∫ −=−=∞+

∞−ησ

Valoare medie temporala

Valoare medie statistica t t t t t

X(η4 t)

X(η1 t)

X(η3 t)

X(η5 t)

6

• )XQF L G DXWRFRUHODWLHFDU PVRDU OHJWXU DU H[LVW intre valorile semnalului aleator la momente de timp diferite

212121212121 ),;(),(),(),(2121

dxdxttxxfxxtXtXEttR XXXX ∫∫==+∞

∞−

∞

∞−ηη

• )XQF L G DXWRYDULDWLHFDU HVW IXQF L G DXWRFRUHODWL

semnalului centrat pe valoarea sa medie si are expresia:

adevarata!a intotdeaun este nu Reciproca.necorelate si

sunt ele atunci te,independen statisticsunt semnaledoua Daca

ortogonale sisunt ele atunci nula, medie valoarea are ele din unul

putin celdaca si necorelatesunt aleatoare semnaledoua Daca

0),(),(

:dacaadica ,ortogonalesunt

respective aleatore le variabileT si T valoriletoate

pentrudaca ortogonalesunt lor esantioane al spatiu acelasi pe

definite aleatoare semnaledoua :ortogonale Semnale

),(),(),(),(

:dacaadica ,necorelatesunt

respective aleatore le variabileT si T valoriletoate

pentrudaca necorelatesunt lor esantioane al spatiu acelasi pe

definite aleatoare semnaledoua :necorelate aleatoare Semnale

),;,())())(((

))(),())((),((),(

tieintervaria de sau covariatie de Functia

),;(),(),(),(

),( si ),( aleatoare semnale

doua intremutuala corelatie de sau atieintercorel de Functia

)()(),(),(

:aleatoare lela variabidedusa relatia pastreaza seca arata poate Se

),;())())(((

))(),())((),((),(

21

y2x1

2121

y2x1

2121

221121

212121

21

212121

2121212211

221121

2121

21

21

•

•=

∈∈

•=

∈∈

•

−−

=−−=•

==

•

−=

−−

=−−=

∫ ∫

∫ ∫

∫ ∫

∞+

∞−

∞+

∞−

∞+

∞−

∞+

∞−

∞+

∞−

∞+

∞−

tYtXE

tt

tYEtXEtYtXE

tt

dxdyttyxftmytmx

tmtYtmtXEttC

dxdyttxyfxytYtXEttR

tYtX

tmtmttRttC

dxdxttxxftmxtmx

tmtXtmtXEttC

XYyx

yxXY

XYXY

xxXXXX

XXxx

xxXX

ηη

ηηηη

ηη

ηη

ηη

ηη

7

6. Valori medii statistice ale semnalelor aleatoare discrete Valorile medii statistice se calculeaza pe ansamblul realizarilor particulare considerate la momente arbritare de timp t1, t2, …, ti, …, deci asupra variabilei aleatoare ce rezulta in aceste momente de timp. Se mai numesc valori medii pe ansamble si depind de alegerea momentelor de timp alese. Acestea sunt:

• Valoare medie (moment de ordinul 1, media liniara) ∑==k

kkx )n(Pa)]n,(X[E)n(m η

unde a1, …, ak, …, aN reprezinta ansamblul valorilor posibile.

• Valoarea patratica medie (moment de ordinul 2)

∑==k

k2k

2)2(x )n(Pa)]n,(X[E)n(m η

• Varianta

222 ])X[E(]X[E)n( −=σ • Momentul de ordinul n

∑==k

knk

n)n(x )n(Pa)]n,(X[E)n(m η

• Functia de autocorelatie

∑ ∑= =

==N

1i

N

1j21ijji2121xx )n,n(Paa)]n,(X)n,(X[E)n,n(R ηη

)a)n,(X,a)n,(X(P)n,n(P j2i121ij === ηη

• Functia de corelatie mutuala a doua semnale aleatoare )t,(X η si )t,(Y η

∑ ∑= =

=N

1i

N

1j21jiijji21xy )n,n;b,a(Pba)n,n(R

cu

)b)n,(Y,a)n,(X(P)n,n;b,a(P j2i121jiij === ηη

8

unde ai, i=[1,N], sunt valorile posibile ale lui )n,(X 1η iar bj, j=[0,N], sunt valorile posibile ale lui )n,(Y 2η .

• Functia de autovariatie )n(m)n(m)n,n(R)n,n(C 2x1x21xx21xx −=

• Functia de covariatie a doua semnale )t,(X η si )t,(Y η

)n(m)n(m)n,n(R)n,n(C 2y1x21xy21xy −=

7. Valori medii pentru semnale aleatoare complexe

)t,(jY)t,(X)t,(Z ηηη +=

deducem )]t,(Y[jE)]t,(X[E)]t,(Z[E ηηη +=

• Momentul de ordinul 2

)]t,(Z)t,(Z[E)t,t(M 2121z ηη=

• Functia de autocorelatie continua

)]t,(Z)t,(Z[E)t,t(R 2*

121zz ηη=

• Functia de autocorelatie discreta

)]n,(Z)n,(Z[E)n,n(R 2*

121zz ηη=

cu proprietatile:

2112z21z t,t),t,t(M)t,t(M ∀=

simetrie hermitica 2112zz*

21zz t,t),t,t(R)t,t(R ∀=

• Corelatia statistica de ordinul n

)]t,(X)...t,(X)t,(X[E)t,...,t,t(R n21n21x ηηη=

9

8. Medii temporale pentru semnale in timp continuu Mediile temporale se calculeaza pe o realizare particulara

)t,(X η si depind de parametrul η din spatiul esantioanelor. Acestea sunt:

• Valoarea medie liniara

)tt(Xdt)t,(XT

1lim)t(Xm 0

2

T

2

TTx +=== ∫

−∞→

ηηη η

Deci nu depinde de originea timpului t0. Valoarea medie temporala reprezinta componenta continua a

semnalului si este ea insasi o variabila aleatoare deoarece depinde de η . Valoarea sa medie statistica este:

∫−

∞→==

2

T

2

Tx

Tmdt)]t,(X[E

T

1lim])t(X[E ηη

Rezulta ca valoarea medie statistica a tuturor valorilor medii liniare temporale este egala cu valoarea medie liniara statistica a semnalului.

• Valoarea patratica medie (moment de ordinul 2)

20

2

T

2

T

2

T

2 )]tt(X[dt)]t,(X[T

1lim)]t(X[ +== ∫

−∞→

ηη η

Valoarea patratica medie, nu depinde de originea timpului si reprezinta puterea medie a semnalului pe sarcina unitara.

10

• Momentul de ordinul n

n0

2

T

2

T

n

T

n )]tt(X[dt)]t,(X[T

1lim)]t(X[ +== ∫

−∞→

ηη η

• Functia de autocorelatie

Depinde de diferenta dintre momentele de timp considerate.

=++= )tt(X)tt(X)t,t(R 2121,xx ηηη

)tt(Rdt)tt,(X)tt,(Xlim 12,xx2

T

2

T21

T−=++= ∫

−∞→

ηηη

• Functia de corelatie mutuala

=++= )tt(Y)tt(X)t,t(R 2121,xy ηηη

)tt(Rdt)tt,(Y)tt,(Xlim 12,xy2

T

2

T21

T−=++= ∫

−∞→

ηηη

Se poate demonstra ca: )(R)(R ,xy,xy ττ ηη −≠

12,yx,xy tt);(R)(R −=−= τττ ηη

• Functia de autovariatie

)tt(C]m)tt(X][m)tt(X[)t,t(C 12,xxx2x121,xx −=−+−+= ηηηη

• Functia de covariatie

)tt(C]m)tt(Y][m)tt(X[)t,t(C 12,xyy2x121,xy −=−+−+= ηηηη

11

9. Medii temporale pentru semnale in timp discret Daca semnalul aleator este definit doar in momente discrete de timp, in formulele anterioare se inlocuieste indicele ℜ∈t prin indicele Zn∈ , stiind ca nTtn = unde T reprezinta intervalul de timp intre doua momente de timp, iar integrarea se inlocuieste printr-o insumare. De exemplu:

• Valoarea medie liniara

∑−=∞→ +

=2

N

2

Ni

0N

x )i,(X1N

1lim ηm

S-a notat )i,(X 0η pentru )iT,(X 0η sau, inca, )t,(X i0η . Indicele η este un element arbritar al spatiului esantioanelor.

• Momentul de ordinul n

∑−=+

∞→=

2/

2/0

)( ),(1

1lim

N

Ni

nnX iX

NN

m ηη

• Functia de autocorelatie

∑−=∞→

++

=2

N

2

Ni

00N

,xx )mi,(X)i,(X1N

1lim)m(R 0 ηηη

•

Functia de corelatie mutuala

∑−=∞→

++

=2

N

2

Ni

00N

,xy )mi,(Y)i,(X1N

1lim)m(R 0 ηηη

12

• Functia de corelatie circulara

∑−=

++

≅2

N

2

Ni

00xy )mi,(Y)i,(X1N

1)m(r ηη

Observatii: ♦ In cazul seriilor aleatoare digitale (semnale digitale sau

semnale discrete in timp cu amplitudine discreta), variabila aleatoare )i,(X 0η (respectiv )i,(Y 0η ) ia valori in alfabetul finit a,...,a,...,a,a nk21 (si, respectiv, b,...,b,...,b,b mj21 ).

Autocorelatia ca medie temporala devine:

∑−=

+∞→ +

=2

N

2

Nk

hkkN

,xx aa1N

1lim)h(R 0η

Corelatia mutuala temporala a doua semnale digitale este:

∑−=

+∞→ +

=2

N

2

Nk

hkkN

,xy ba1N

1lim)h(R 0η

♦ Corelatiile temporale de ordinul n depind de realizarea particulara aleasa prin parametrul η si de n variabile

1n21 ,...,, −τττ reprezentand diferentele dintre momentele de timp considerate :

n,...,1i,tt i1ii =−= +τ

10. Stationaritate

Definitie: Un semnal aleator este stationar daca proprietatile sale statistice sunt invariante in raport cu

13

schimbarea originii timpului sau, echivalent, la orice translatie de timp.

Doua semnale sunt simultan stationare daca fiecare este stationar si daca proprietatile lor statistice simultane sunt invariante la orice translatie de timp.

Stationaritatea poate fi in sens strict sau in sens larg. Stationaritate in sens strict

Definitie(stationaritate in sens strict sau tare): Un semnal este stationar tare sau in sens strict daca functia sa de repartitie (legea temporala) de orice ordin este invarianta la orice translatie de timp τ .

)t,...,t;x,...,x(F)t,...,t;x,...,x(F n1n1nn1n1n ττ ++=

Rezulta ca densitatile de probabilitate de orice ordin n sunt invariante la orice translatie de timp. Daca semnalul este o secventa digitala aleatoare )n,(X η cu valori in alfabetul a,...,a,...,a,a Nk21 , atunci stationaritatea in sens strict presupune: - )aX(PP ini == este independenta de n - )aX,...,aX(P)a,...,a(P Nn11N1 === depinde numai de diferentele de timp.

Stationaritate in sens larg Definitie(stationaritate in sens larg sau slaba): Un semnal este stationar in sens larg sau slab daca functiile sale de repartitie de ordinul 1 si 2 sunt invariante la orice translatie de timp τ .

)x(F)t,x(F)t,x(F 111 =+= τ

122122121221212 tt),;x,x(F)tt,tt;x,x(F)t,t;x,x(F −==++= ττ

Ca urmare densitatile de probabilitate de ordinul 1 si 2 sunt invariante la orice translatie de timp si deci:

)]t,(X[Emx η= - nu depinde de timp

14

)]t,(X[Em 2)2(x η= - nu depinde de timp

)]t,(X)t,(X[E)(Rxx τηητ += - depinde de diferenta de timp )]t,(Y)t,(X[E)(Rxy τηητ += - depinde de diferenta de timp

In cazul unui semnal digital, stationaritatea in sens larg se defineste prin:

- )aX(PP ini == este independenta de n - )kn(P)aX,aX(P)k,n(P ijjkinij −==== depinde

numai de n-k.

Stationaritatea in sens larg se mai numeste stationaritate pana la ordinul al doilea. Spre deosebire de aceasta, stationaritatea simpla de ordinul al doilea se refera doar la invarianta in timp a proprietatilor statistice de ordinul al doilea, ceea ce nu implica si stationaritatea de ordinul intai. De exemplu, in cazul unei secvente digitale aleatoare, probabilitatea

∑ ∑= =

−======N

1j

N

1jijjkinini )kn(P)aX,aX(P)aX(PP

nu depinde de alegerea lui kX dar poate depinde de n desi )kn(Pij − depinde numai de (n-k).

In concluzie: stationaritatea in sens larg este verificata prin relatiile:

• cazul semnalelor discrete in timp - ]X[E n independenta de n

- ∞<]|X[|E 2n

- )nn(R)n,n(R 12xx21xx −= • cazul semnalelor continue in timp

15

- )]t,(X[E η independenta de t

- ∞<]|)t,(X[|E 2η - )tt(R)t,t(R 12xx21xx −= - continuitatea in origine a functiei de autocorelatie

care asigura continuitatea realizarilor particulare in medie patratica.

15

11. Ergodicitate Stationaritatea este o proprietate a unui semnal aleator care DW I GHWHUPLQDW GHFk GL

PXO LPH WXWXUR HDOL]ULOR

particulare. Din punct de vedere practic, interesant este cazul in care o singura realizare particulara poate fi luata drept model pentru întregul proces aleator.

8 DVHPHQH D UHSUH]LQW VHPQDOHO DOHDWRDU VWD LRQDU DO FUR PHGL VWDWLVWL !#" VXQ $ HJDO " !&% PHGLLO " WHPSRUDO "FRUHVSXQ]WRDU '(' IHFWXDW ' S '*) VLQJXU + UHDOL]DU ' SDUWLFXODUD , G 'care se dispune simplu. Aceste semnale se numesc ergodice. 'HILQL L - HUJRGLFLWDW - WDUH 8. VHPQD / VWD LRQD0 V 1QXPHúW 2 ergodic tare sau in sens strict daca mediile temporale SDQ 3 O 3 RUGLQX 465 DO 2 XQH 7 UHDOL]U 8 SDUWLFXODU 9: UELWUDU 9 VXQ ; HJDOH

cu probabilitate 1, cu mediLO 9 VWDWLVWLF 9 G 9<: FHODú 8 RUGLQ = SHQWU >orice n.

'HILQL L ? HUJRGLFLWDW ? VODED 8@ VHPQD A VWD LRQD B V CQXPHúW C ergodic slab sau in sens larg daca mediile statistice de ordinul întâi si al doilea sunt egale, cu probabilitatea 1, cu mediile temporale ale unH D UHDOL]U E SDUWLFXODU F DUELWUDU F G F DFHODú E RUGLQ

Egalitatea, cu probabilitatea 1, a unei medii statistice cu o PHGL G WHPSRUDOD H G G H[HPSOX H L I FD]X J RUGLQXOX K vQWkL H vQVHDPQ

convergenta in probabilitate: [ ]

1)()(lim

),()(

),()(

=<−

=

=

∞→εη

ηη

η

η

η

tmmP

tXm

tXEtm

XXT

X

X

ceea ce implica anularea variantei variabilei aleatoare )(ηηXm .

Deoarece demonstrarea ergodicitatii este, in general, anevoioasa, adesea in practica este suficienta considerarea ergodicitatii in raport cu media liniara (de ordinul întâi), care poate fi numita erodicitate practica. 'HILQL L L HUJRGLFLWDW L SUDFWLF M V MON L P UDSRU Q F N PHGL Mliniara) R 8 S VHPQD T DOHDWR U VWD LRQDU V V QXPHúW V SUDFWL WXV UJRGL Wdaca varianta mediei temporale este nula:

16

[ ] 0)(var 2 ==

ησηη XmXm

Interpretarea fenomenului de ergodicitate practica (sau in raport cu media liniara) este imediata. Deoarece )(ηηXm este o

variabila aleatoare obtinuta printr-un proces la limita, conditia din definitia anterioara poate fi rescrisa sub forma:

0),(1

varlim2/

2/

=

∫

−∞→

T

TTdttX

Tη

sau, daca se introduce o noua variabila aleatoare:

= ∫

−

2/

2/

),(1

),(T

TX dttX

Ttm ηηη

XXT

XT

mtm

tm

=

=

∞→

∞→

),(lim

sau 0),(varlim

η

η

η

η

Considerând un úL Y G Z PRPHQW Z ∞→nT , fiecare dintre variabilele aleatoare XnX mTm media are ),(ηη , varianta tinzând

la zero pentru ∞=n (fig. 1) Fig.1. Reprezentarea fenomenului de ergodicitate practica. Punctele indica valori ale variabilelor aleatoare ),( nX Tm ηη

oscilând in jurul mediei Xm , varianta tinzând la zero pentru ∞→n .

8[ FULWHUL \^] Z HUJRGLFLWDW Z XWL _ HVW Z FRQ LQX ` L [ WHRUHP a XUPWRDUH

T 0 T1 T2 ∞→nT

Figure 0

),( nX Tm ηη

Xm

17

Teorema (criteriul de ergodicitate practica): Fie un semnal stationar in sens larg )t,(X η continuu in timp. Daca:

0)(11

lim =

−∫

−∞→ττ

τdC

TT XX

T

TT,

atunci semnalul )t,(X η este practic ergodic.

Demonstratie:

'L b FRQGL L c G d c QXODU d c YDULDQWH e PHGLH egf HPSRUDO d OLQLDUH

rezulta:

[ ] [ ] ( )

22/

2/

2/

2/2

2222

)(),(),(1

lim

)()(

X

T

T

T

TT

XXXXm

mdvduuXvXT

mmEmmEX

−=

−=−=

∫ ∫− −∞→

ηη

ηησ ηηη

cu schimbarea de variabile

ττ +=⇒=− uvuv ,

vv = ,

se trece de la planul )u,v( la planul ),v( τ . Domeniul de integrare in planul )u,v( din fig.2a se transforma in domeniul de intregrare din fig2b, limitele obtinandu-se din:

2

Tv

2

Tu +=⇒= τ ,

2

Tv

2

Tu −=⇒−= τ .

Cu aceasta, integrala dubla din ultima expresie a lui 2η

σXm

se transforma in integrala simpla, deoarece elementul de VXSUDID c)dvdu( din planul )u,v( se transforma in elementul ττ d|)|T( −

din planul ),v( τ : ττ d|)|T(dvdu −→

18

Fig.2 transformarea domeniului de integrare prin substitutia

τ=− uv

Intr-adevar, aria paralelogramului din fig.2b se obtine prin scaderea suprefetei hasurate in fig.3b din suprafata hasurata din fig.3a.

Fig.3. Calculul elementului de suprafata in planul ),v( τ

Rezulta deci: ∫ ∫ ∫− − −

−=−T

T

T

T

T

Td|)|T(d||d

2

T2 τττττ

0

2

T

2

T

u

v

2

T−

2

T−

v

2 0

2

T

2

T

T

-T

2

T−

a) b)

2

T

v

2

T−

2 T -T

||v τ=

2 T -T

a) b)

19

in loc de ∫ ∫− −

2

T

2

T

2

T

2

Tdvdu

Teorema este demonstrata deoarece expresia lui 2η

σxm devine

∫−∞→

=−=T

TXX

Tm dC

TTx0)()

||1(

1lim2 τττσ

η

Un alt criteriu practic de recunoastere a ergodicitatii unui semnal aleator este dat de urmatorul corolar al teoremei precedente. Corolar (alt criteriu de ergodicitate practica): Daca IXQF L hde autocovarianta a unui semnal aleator )t,(X η VWD LRQD i WLQG jFWU j ]HUR

0)(lim =τ∞→τ XXC ,

atunci semnalul )t,(X η este practic ergodic. 'HPRQVWUD LH

Pentru orice 0>ε se poate alege un 0' >τ astfel incat: ',|)(| τ>τε<τXXC .

Rezulta, atunci, pentru 'T τ> :

ε=ττ−ε≤τττ− ∫∫−−

2)||

1(|)()||

1(1

| dTT

dCTT

T

T

T

TXX .

Deci: ∫−∞→

=τττ−T

TXX

TdC

TT0)()

||1(

1lim

si din teorema anterioara rezulta ca semnalul )t,(X η este practic ergodic. • Prin urmare, pentru a verifica ergodicitatea unui semnal aleator

in raport cu valoarea sa medie liniara, trebuie calculata IXQF L hsa de autocovarianta )(τXXC , deci o valoare medie de ordinul al doilea.

In general, pentru verificarea ergodicitatii unei valori medii de ordinul k HVW j QHFHVDi V h V j GLVSXQ G jkml DORDU j PHGL j G j RUGLQX n2k.

20

Demonstrarea ergodicitatii unui proces aleator este dificila si, ca DWDUH o V p p IHFWXHD] QXPD q qsr FD]XU q VSHFLDOH o DOWPLQWHU qproprietatea de ergodicitate este doar presupusa. • Ergodicitatea implica întotdeauna proprietatea de stationaritate

F tvu FRQGL L p QHFHVDUD o GDw LQVXILFLHnta. Ierarhizarea claselor VHPQDOHOR w VWD LRQDU x V y HUJRGLF x HVW x UHSUH]HQWDW z L ILJ

2EVHUYD LH Doua semnale aleatoare sunt simultan ergodice daca ambele

VXQ | HUJRGLF V ~ GDF PRPHQWHO OR PXWXDO FRUHOD L PXWXDO V ~FRYDULDQ D VWDWLVWLF VXQ Hgale cu cele temporale.

Fig.4. Ierarhizarea semnalelor aleatoare dupa proprietatile de stationaritate si ergodicitate.

semnale aleatoare

semnale stationare

in sens larg

semnale stationare

in sens strict

semnale ergodice in sens

larg(slab) semnale ergodice in

sens strict(tare)

21

Exemplu: Fie un semnal aleator sinusoidal cu amplitudinea, frecventa si faza aleatoare:

)(t)(sin[)(A)t,(X ηϕηωηη += , unde )(si)(),(A ηϕηωη sunt variabile aleatoare independente;

)(si)(A ηωη au DFHHDú IXQF L G UHSDUWL L V D DORULO 0A ≥ si, respectiv, 0≥ω .

In schimb, )(ηϕ DU < UHSDUWL L XQLIRUPD π

ϕ2

1)(f = , in

intervalul ]2,0[ π . 5HDOL]ULO SDUWLFXODU WUDLHFWRULile) semnalului aleator dat sunt semnale sinusoidale uzuale (fig.5).

Fig.5. Realizari particulare sinusoidale ale unui semnal aleator cu amplitudinea, frecventa si faza aleatoare.

a) $FHV VHPQD HVW VWD LRQD GHRDUHF DU UHSDUWL LLOH respectiv densitatile de probabilitate, invariante la WUDQVOD LLO G WLPS

)tsin(A),...,tsin(Af

)tsin(A),...,tsin(Af

n1n

n1n

ϕωϕωϕωτωϕωτω

++==++++

Daca se noteaza:

0 2 4 6 8 10 12

t

0

-4

-2

4

2

)tsin(A 111 ϕω + )tsin(A iii ϕω +

22

,ατϕψ += regintk,k2ˆ =+= πψψ ,

atunci ramane de demonstrat egalitatea: ),,A(f)ˆ,,A(f ϕωψω = , unde s-au definit evenimentele simultane

.)(ˆ,)(,A)(A ϕηψωηωη ≤≤≤ Dar ϕω ,,A sunt variabile aleatoare independente, de unde rezulta si independenta v.a. ψω ˆ,,A . Egalitatea anterioara se reduce atunci la:

)(f)(f)A(f)ˆ(f)(f)A(f ϕωψω = sau la: )(f)ˆ(f ϕψ =

Dar ψ se obtine din ϕ prin translatia cu ατ si reducere modulo π2 . Deoarece repartitia lui ϕ este uniforma, aceasta nu se

modifica prin translatie. Prin urmare, ultima egalitate este demonstrata. b) Media statistica liniara este constanta, semnalul fiind

stationar; pentru t−=τ , rezulta: ),0()()( )1()1()1(

XXX mtmtm =τ+=

∫π

ϕ =ϕϕπ

=ϕ=ϕ=2

0

)1()1()1()1( 0sin2

1sinsin)0( dAmAmAmm AXX

c) Functia de autocovarianta, egala cu functia de autocorelatie deoarece valoarea medie este nula, se calculeaza dupa cum urmeaza:

)]2cos([)](cos[2

1

)]sin()sin([),(),(

22

2

ϕ+ω+ω−−ω=

=ϕ+ωϕ+ω==

stAEstAE

stAEstRstC XXXX

Notand densitatea de probabilitate a lui ω prin )(f ω , rezulta:

∫∞

ω−ωω=−ω=−ω0

222 )(cos)()]([cos)(cos[ dstfAstEAstAE

Similar, se deduce:

0]]2[sin)[sin(]]2[cos)[cos(

)]2[cos(][)2cos([

22

22

=ϕω+ω−ϕω+ω=

=ϕ+ω+ω=ϕ+ω+ω

EstEAEstEA

stEAEstAE

S-a tinut cont ca 0]2[sinE]2[cosE == ϕϕ Datorita faptului ca ϕ este v.a. uniform repartizata pe intervalul

]2,0[ π .

23

Rezulta, prin urmare:

∫π

ω−ωω=−=2

0

2 ,)(cos)(2

1)(),( dstfAstCstC XXXX

ceea ce confirma stationaritatea semnalului. In cazul densitatii de probabilitate particulare de forma (GLVWULEX &DXFK\

)(1

12)(

2ω

ω+π=ω uf ,

unde )(u ω HVW IXQF L WUHDSW XQLWDWHV RE LQH

∫∞

−=ωω+ω

π===

0

||22

2

2

1

1

cos1)0,()0,()( t

XXXXXX eAdt

AtRtCtC

)XQF L G XWRFRUHODWL VW UHSUH]HQWDW L ILJ V HVW WLSL #SHQWU m URFH DOHDWR VWD LRQDU

FLJ ¡ )XQF L ¢ £6¤ DXWRFRUHODWL ¤ DXWRFRYDULDQWD¥¢ VHPQDOXOX ¦)t,(X η sinusoidal cu amplitudine, frecventa si faza aleatoare.

0 t

)()( tCtR XXXX =

2

2

1A

24

12. Analiza spectrala a semnalelor aleatoare stationare in sens larg

• Densitatea spectrala de putere

[ ] [ ]

[ ]

[ ]

putere de spectrala densitatea este)(1

)(

unde )(2

1)(

1

2

1

)(2

1)(

1

:este normata medie Puterea

)(2

1)(

:este normata medie Energia aleator. proces asemenea de este si

)(2

1)(

:este ) 1R (pe normata Energia aleator. proces tot este care

)exp()()exp()()(

:Fourier ata transformadmite )(

restin ,0)(

2/,)()(

:jos mai ca definita ,procesului a procesului a aleator

. trunchiatrealizare .particular realiz. proces

)()(),(

2

2

22

22

22

2/

2/

lim

limlim

ω=ω

ωωπ

=ωωπ

=

=ωωπ

==

ωωπ

==

ωωπ

=

Ω=

ω−=ω−=ω

=

≤=

↓↓↓

⇒⇒η

η

∞→

∞+

∞−

∞

∞−

η

∞

∞−

η

∞→

∞

∞−

η

∞→

∞

∞−

η∞

∞−

η

∞

∞−

η∞

∞−

ηη

−

η∞

∞−

ηη

η

η

ηη

ηη

∫∫

∫∫

∫∫

∫⇒∫

∫∫

TT

XX

XXT

TT

TT

TTT

TParseval

TT

T

TT

T

T

T

T

XT

q

dqdXT

dXT

dttXT

P

dXdttXE

dXdttXE

dttjtXdttjtXX

tX

tX

TttXtX

tXtXtX

• Teorema Wiener – Hincin Teorema: pentru un semnal aleator stationar in sens larg, densitatea spectrala de putere qXX(ω) este transformata Fourier a functiei de autocorelatie RXX(τ) .

25

∫∫

∫∫

∫∫

∫∫

−−∞→

−

ηη

−∞→

ηη∞

∞−

∞

∞−∞→

∞

∞−

η∞

∞−

η

∞→

ηη

∞→

η

∞→

←→

−ω−=

=−ω−=

=−ω−

=ω−ω=

=ω⋅ω=ω=ω

τωω=τ

τ=ω

2/

2/211221

2/

2/

2112

2/

2/21

2/

2/

211221

222111

*2

1-

1-

))(exp(),(1

))(exp()()(1

))(exp()()(1

)exp()()exp()(1

)()]([1

)(1

)(

)()()(F)(

)(F)(

lim

lim

lim

lim

limlim

F

F

T

TXX

T

TT

T

TTT

T

TT

TTT

TTT

TTT

TT

XX

XXXXXXXX

XXXX

dtdtttjttRT

dtdtttjtXtXT

dtdtttjtXtXT

dttjtXdttjtXT

XXT

XT

q

RqqR

Rq

[ ]

)(F)exp()(

1)exp()(lim)(1

lim)(

, variabilade schimbareaCu

)(1

lim)(

rezulta ))(exp()()( noteaza se Daca

)(),( larg, sensin stationar este semnalul Daca

12

2/

2/

2/

2/1212

121212

1221

τ=τωτ−τ=

=τ

τ−ωτ−τ=ττ−τϕ=ω

τ=−

−ϕ=ω

−ω−−=−ϕ−=

∫

∫∫

∫ ∫

∞

∞−

−∞→−∞→

− −∞→

XXXX

T

TXX

T

T

TTXX

T

T

T

TTXX

XX

XXXX

RdjR

dT

jRdTT

q

tt

dtdtttT

q

ttjttRtt

ttRttR

Densitatea spectrala de putere de interactiune (mutuala).

Fie doua semnale aleatoare:

)( )(

)( )(

),(),(

ωω

↓↓

↓↓ηη

ηη

ηη

TT

TT

YX

tYtX

tYtX

26

)(F)]([)(1

lim)(

)(F)()]([1

lim)(

*

*

τ=ω⋅ω=ω

τ=ω⋅ω=ω

ηη

∞→

ηη

∞→

YXTTT

YX

XYTTT

XY

RYXT

q

RYXT

q

• Proprietatile densitatii spectrale de putere

semnalului a medie puterea este )(2

1 4.

pentru reala este)( 3.

para functie o este :)()( 2.

definita pozitiv functie o este:,0)(1

lim)( 1. 2

∫∞

∞−

∞→

ωωπ

=

ω∀=ωω−=ω

ω∀>ω=ω

dqP

q

qq

XT

q

XX

XX

XXXX

TT

XX

<ω≥ω

=ω

ω⋅ω=ω

ωωπ

=

>ωω

∫∞

0,0

0,1)(

)()(2)(

)(2

1

0pentru putere de spectrala densitatea este )(

0

U

Uqp

dpP

p

XXXX

XX

XX

• Proprietatile densitatii spectrale de putere de interactiune si ale functiilor de intercorelatie

)()(

)]([)(

)()(*

τ−=τω−=ω

ω−=ω

YXXY

XYXY

YXXY

RR

qq

qq

qXX(ω) 1

ω

pXX(ω) 2

ω

27

mX (2) σX

2

(mX)2

τ

RXX(τ)

mX (2)

σX2

(mX)2

RXX(τ)

τ

• Proprietatile functiei de autocorelatie

( )

( ) )()0(.3

)(2

1)(

),(,(),()(

)0(.2

),(),()(

)exp()(2

1)(

,(),()()(),(

lim

lim

lim

lim.1

2)2(2

0

)2(2

0

)2(

221

211221

τ−=−=σ

=ωωπ

=τ

=η=η⋅η=τ

==

=η⋅η=τ

ωωτωπ

=τ

η⋅η=τ=−=

∞→τ

∞

∞−→τ

→τ

∞→τ

∞

∞−

∫

∫

XXXXXXX

XXXX

XXX

XXX

XXX

XXXX

XXXXXX

RRmm

PdqR

mtXEtXtXER

PmR

mtXEtXER

djqR

tXtXERttRttR

[ ]

τ∀τ≥⇒≥τ−⇒

≥τ+ηη−η⇒

≥τ+ηη−τ+η+η

≥τ+η−η

τ∀τ≥

),()0(

0)()0(

0),(),(2),(2

0),(),(2),(),(

0),(),(

0in maxima este tieautocorela de fctia:)()0(.4

2

22

2

XXXX

XXXX

XXXX

RR

RR

tXtXtX

tXtXtXtX

tXtX

RR

28

)cos()()(F)(

linii despectru un )()(2)(

)(

)exp()()(

/2perioada aceeasi de

periodic semnalun este periodic semnal unui a tieautocorela de functia.6

)cos()(2

1)exp()(

2

1)(

para este tieautocorela de fctia)()(.5

0

2

01

0

2

0

2

0

00

00

tnnCqR

nnCq

nCP

tjnnCtX

T

dqdjqR

RR

nXXXX

nXX

n

Parseval

n

XXXXXX

XXXX

ω⋅ω=ω=τ⇒

ω−ωδ⋅ωπ=ω⇒

ω

ωω=

ωπ=

τωτωπ

=τωτωπ

=τ

τ−=τ

∑

∑

∑=

∑

∫∫

∞

−∞=

−

∞

−∞=

∞

−∞=

∞

−∞=

∞

∞−

∞

∞−

• Banda de frecvente a semnalelor aleatoare

a) Semnale aleatoare trece-jos, al caror spectru se intinde intre 0 si

frecventa maxima fmax care si determina largimea de banda B a acestor semnale: B = fmax.

Exemple: semnale in banda de baza: o Sunet:

- de calitate telefonica, avand fmax= 3,4 kHz - de calitate radio, avand fmax=7 kHz - de inalta fidelitate (Hi-Fi), avand fmax=20 kHz

o Imagine: - alb – negru, avand fmax= 5,5 MHz - color, avand fmax= 7,5 MHz

o Date: B = 0,7 fT , unde fT este frecventa de tact b) Semnale aleatoare trece banda

care ocupa o banda de frecvente B in jurul unei frecvente centrale fc

Exemple: semnale modulate in amplitudine, semnale esantionate

ω/2π

qXX(ω)

-B B

qXX(ω)

ω/2π - fc fc

B B

29

qXX(ω)

ω /2π Bech

RXX(τ)

τ τc

c) Semnale aleatoare cu banda de frecvente echivalenta

)0(

)(

21

)()0(2

XX

XX

ech

XXXXech

q

dqB

dqqB

ωω

π

ωωπ

∫⋅=

∫=⋅

∞

∞−

∞

∞−

• Timp de corelatie τc

echXX

XXc

XXXX

XX

XX

c

XXXXc

Bdq

q

qR

R

dR

dRR

πωωτ

ωτ

τττ

τττ

21

)(

)0(

atunci

))((F)(Daca

)0(

)(

)()0(

1-

=∫

=

=

∫=

∫=⋅

∞

∞−

∞

∞−

∞

∞−

• Functia de coerenta a doua semnale aleatoare X(η, t) si Y(η,t) poate preciza gradul de dependenta intre procese:

)()(

)()(

22

ωωω

ωρYYXX

XYXY qq

q

⋅=

002

002

frecventa la coerentesunt semnalele 1)( pentru

frecventa la incoerentesunt semnalele 0)( pentru

ωωρ

ωωρ

=

=

XY

XY

30

13. Exemple de func §§ G ¨ DXWRFRUHOD LH

[ ]

( )22

2

00

0

2)(

|)|exp()()c

2/

2/sin)(

rest pentru ,0

pentru ,1)()b

)()(2

)(

cos)()a

ω+αα=ω

τα−=τ

ωτωτ⋅=ω

<ττ−

=τ

ω+ωδ+ω−ωδ=ω

τω=τ

Aq

AR

Tq

TTR

Aq

AR

XX

XX

XX

XX

XX

XX

τπ⋅τ⋅π

=τ

⋅+≤π

ω≤−∀=ω

ωπ=τ=ττω

πω=τ

πω=ω≤ω∀=ω

→ττδ=τ

∞→ω∀=ω

cXX

ccXX

cXX

echXX

cXX

echXX

fAB

R

Bf

BfAq

AR

BAq

NR

BN

q

2cos2

Bsinc

2)(

222)(f)

sinc)(

2)(e)

0 )(2

)(

real 2

)(d)

000

0

00

0

0

BB

RXX(τ)

τ T0/2 A

ω

qXX(ω)

-2πf0 2πf0

A2δ(ω-ω0)/2

RXX(τ)

τ -T T qXX(ω)

ω

-4π/T -2π/T 2π/T 4π/T

RXX(τ)

τ

qXX(ω)

ω

qXX(ω) N0/2 ω RXX(τ) δ(τ) N0/2 τ qXX(ω) A ω RXX(τ) τ

τ0

B

qXX(ω) A ω RXX(τ) τ

τ0

2πfc -2πfc cosωcτ

31

τ Corelator

X(η,t) Y(η,t)

RSS(t0 -τ)

14. Aplica ©©6ª¬« IXQF L « G ­ FRUHOD LH

[ ] [ ]

)()()()()()(

),(),(),(),(

),(),()(

:unde de 0)()(

:ortogonale sisunt ,0),( daca si decorelatesunt deci statistic,

teindependensunt diferite, surse de produse fiind ),,( si ),(

eperturbati utilsemnalt receptionasemnal

),(),(),(

aleator semnalun Fie

iperturbati de acoperite slabe, semnalelor Detectia)a

τ+τ=τ+τ+τ+τ=τ+η+τ+η⋅η+η

=τ+η⋅η=τ=τ=τ

=ηηη

⇓⇓⇓η+η=η

NNSSNNNSSNSS

XX

NSSN

RRRRRR

tNtStNtSE

tXtXER

RR

tNE

tNtS

tNtStX

)()(lim τ=τ∞→τ

SSXX RR

deplasare de vitezelorMasurarea)b Exemplu: masurarea vitezei v a unui mediu mobil M fata de doua traductoare fixe T1, T2, situate la o distanta cunoscuta l unul de altul.

RSS(τ)

τ

RNN(τ)

τ

RXX(τ)

τ

Corelator RXX(τ)→RSS(τ)

Decorelator

S(η,t) X(η,t)

τ ®

),(),(),(

),(),(),(

20

1

tNttStY

tNtStX

η+−η=ηη+η=η

l

v

T1 T2

M

32

Functionare: se regleaza τ pana cand RSS(t0 -τ) este maxim. Atunci t0 - τ = 0 sau t0 = τ = l/v ⇒ v = l/τ. Se pot masura astfel viteze de deplasare ale laminatelor, vehicolelor, etc.

( )

( ) ( )[ ]

( ) ( ) ( ) ( )[ ][ ] [ ]

origine.in continua este tieautocorela de sa functia daca deci

0)()0(lim0)(2)0(2lim

,,2,,lim

0,,lim

: daca patratice, mediei sensul

in continuu, este , larg sensin stationar aleator Semnalul

aleator semnal unui tiicontinuita eaDeterminar)c

00

22

0

2

0

=τ−⇒=τ−⇒

η⋅τ+η−η+τ+η⇒

=η−τ+η

η

→τ→τ

→τ

→τ

XXXXXXXX RRRR

tXtXtXtX

tXtX

tX

Obs.: structura generala a unui corelator, pentru semnale analogice ergodice, este data in fig. de mai jos:

unde RYX(η,τ) = dttYtXT

T

T),(),(

1 2/

2/η∫ τ+η

−

Pentru semnale digitale

RYX(η, l) = ∑ η+η−

=

1

0),(),(

1 M

kkYlkX

M

τ Multiplicator X(η,t) Y(η,t)

Integrator RYX(τ) = RYX(η,τ)

Multiplicator X(η,k) Y(η,k)

RYX(η,l)

z-1

1/M ....

valori l

+

dupa M-1 tacte

33

H(ω), h(t) x(t) ↓ X(ω)

y(t) ↓ Y(ω)

15. Prelucrarea liniara a semnalelor aleatoare (filtrare) • Notiuni fundamentale

Se considera ca semnalele aleatoare x(t) = Xη(t) = Xη(t) trec prin sisteme liniare, invariante in timp si cauzale (SLITC), la care functia pondere respecta relatia: h(t) = 0, t<0

)()()( ω⋅ω=ω XHY

[ ] )()()(

)()()(

thxdthx

dhtxty

∫ ∗=ττ−τ=

τττ∫ −=

∞

∞−

∞

∞−

[ ]

[ ] [ ] )()(F);()(F)()()()(

)()()()(

)()()()(

)()(),(

)()()()()()(),(

)0()(

)()()()()()()(

)()()()()(

)(lim)(

)()(lim

)(lim)(

1-*

2121221121

21212211

222211112121

*2

22

22

τ=ωω=τ

ωω⋅ω=ω

τ−∗τ∗τ=τ

τττττ+−τ−∫ ∫=−

τττττ−τ−∫ ∫=

=

∫ ∫ τττ−⋅τττ−=⋅=

⋅=∫ ττ⋅=

=∫ τττ−=ττ∫ τ−=

∫ τττ−=

ω⋅ωω=ω⋅ω=

=ω

ω=ω⋅ω

=ω

=ω

∞

∞−

∞

∞−

∞

∞−

∞

∞−

∞

∞−

∞

∞−

∞

∞−

∞

∞−

∞

∞−

∞

∞−

∞→∞→∞→

YYYYYYYYXXYY

XXYY

XXYY

XX

YY

XX

X

XXXX

T

T

T

T

T

TYY

RqqRHHqq

hhRR

ddhhttRttR

ddhhttR

dhtxdhtxEtytyEttR

Hmdhm

dhtmdhtxEdhtxEtyE

qHHqH

T

XH

T

HX

T

Yq

F

ωω⋅∫ ωπ

==

ωωτω⋅∫ ωπ

=ω=τ

∞

∞−

∞

∞−

−

dHqRtyE

djHqqR

XXYY

XXYYYY

22

21

)()(2

1)0()(

)exp()()(2

1)()(

34

)()()()(

)()()()()()()()()(

)()()( )()()(

)()()()()()(

*

*

*

ω=ωω⋅ω

τ∗τ−∗τ=τ⇒ω⋅ω=ω⋅ω=ω

τ−∗τ=τ⇒ω⋅ω=ω

τ∗τ=τ⇒ω⋅ω=ω

YYXX

XXYYXYYXYY

XXYXXXYX

XYXYXXXY

qHHq

hhRRHqHqq

hRRHqq

hRRHqq

• Trecerea zgomotului alb prin sisteme liniare

Pentru zgomot alb:

intrare. de semnalului al corelare de graduldecat mare mai

corelare de gradun cu iesire de semnalun produceliniar sistem orice :Obs.

0)(

4

)exp()(4

)0()(

)(

:este tieautocorela de ulcoeficient

0)0(

)exp()(4

)exp()(21

)(

)(2

)(

:iesire la de semnalulPentru

0)0(

)()(

:este tieautocorela de ulcoeficient

0

)(2

)(

,2

)(

20

20

20

20

0

0

≠∫ ωω

π

∫ ωωτωπ=τ=τρ

=⋅=

∫ ωωτωπ∫ =ωωτω

π=τ

ω⋅=ω

=τ=τρ

=

τδ=τ

ℜ∈ω∀=ω

∞

∞−

∞

∞−

∞

∞−

∞

∞−

dAN

djAN

R

R

mHm

djAN

djqR

AN

q

R

R

m

NR

Nq

YY

YYYY

XY

YYYY

YY

XX

XXXX

X

XX

XX

qXX(ω) N0/2 ω RXX(τ) δ(τ) N0/2 τ

Pentru zg. alb

35

• Determinarea lui h(t) pentru SLITC, prin metoda de autocorelatie

Pentru zgomot alb la intrare:

sus mai de montajulcu obtine se )( unde

)(2

)(

)(2

)(2

)()(

)(2

)()()()()(

),(2

)(

0

00

0

0

τ

τ⋅=τ⇒

τ=−τδ∫=τ

τ=−τ∫=τ∗τ=τ

ℜ∈ω∀τδ=τ

∞

∞−

∞

∞−

XY

XY

XY

XXXXXY

XX

R

RN

h

hN

duuN

uhR

hN

duuRuhhRR

NR

Y(t)

h(t) Corela tor

X(t) = N(t) (zg. alb)

RXY(τ)

1 Detectia semnalelor

Detectia semnalelor presupune determinarea prezentei sau

absentei unui semnal cu semnificatie (exemple: ecoul in radar sau in sonar, la transmisii de date prezenta sau absenta unor simboluri dintr-un alfabet finit si cunoscut ).

1. Modelul sistemelor de detectie a semnalelor Obs.: • la receptie se verifica toate ipotezele relative la simbolurile Si si

daca ipoteza Hi este adevarata se ia decizia Di ca semnalul receptionat r(t) corespunde simbolului Si.

• ipotezele pot fi simple (Si ⇔ si(t) ca punct in spatiul semnalelor) sau compuse (Si ⇔ si(t) ca domeniu in spatiul semnalelor)

• observatiile pot fi discrete (esantioane ale r(t)) sau continue (pentru intregul semnal r(t)).

2. Detectie binara (i = 0,1) cu observatii discrete (o singura

observatie pe simbol)

Modulator Canal Receptor Decizii

Sursa simbol

simboluri purtatoare perturbatie ipoteze Hi decizii

Si Di

n(t) s(t)

r(t)

perturbare

verificare ipoteze

spatiul simbolurilor

Si

spatiul deciziilor

spatiul observatiilor

r(t) = si(t) + n(t)

Di spatiul semnalelor emise

si(t)

modulare

s0(t) s1(t)

0 1 1 0

1 1 1 0

s(t)

r(t)

T

Si Di

t t

observatii

d. eronata

2 In detectia binara avem doua simboluri (S0 si S1) si doua ipoteze (H0 si H1):

H0: a fost transmis 0 (S0) H1: a fost transmis 1 (S1)

Se urmareste gasirea unui criteriu de stabilire a ipotezei corecte, pe baza unei singure observatii asupra R. Se presupun cunoscute densitatile de probabilitate ale R in cele doua ipoteze:

1,0cu )|( Dac ).|( úL )|( 1|0| 10=irHPHrfHrf iHRHR

reprezinta probabilitatea ipotezei Hi la receptia r:

1)|()|(

:concis sau,)|()|(dac alege se

)|()|(dac alege se

0

1

0

1

011

100

H

H

rHP

rHP

rHPrHPH

rHPrHPH

<>

>>

• Criteriul de decizie MAP (maximum a posteriori probability). Criteriul dedecizie duce la partitia spatiului observatiilor in doua regiuni R0 si R1 si se alege H0 daca r este continut in R0 si H1 daca r este continut in R1. Cu regula Bayes se poate scrie:

3

0 K 1 r

)|( 0| 0Hrf HR )|( 1| 1

Hrf HR

P(D0| H1) P(D1| H0)

)(

)(

)|(

)|()(

:cu testuluipragul si

)( tateplauzibili de raportul noteaz se daca

)(

:sau )(

)(

)|(

)|(

:sau 1)()|(

)()|(

:rescrie se sus mai

de criteriul atunci úL )(

)()|()|(

1

0

0|

1|

1

0

1

01

00|

1|

1

000|

11|

|

0

1

0

1

0

1

1

HP

HPK

Hrf

Hrfr

K

r

Kr

HP

HP

Hrf

Hrf

HPHrf

HPHrf

rf

HPHrfrHP

HR

HR

H

H

H

HHR

HR

H

HHR

HR

R

iiHRi

==Λ

Λ

Λ

=

><

><

><

Din cauza zgomotului se pot lua decizii eronate. Pot fi urmatoarele situatii:

a) se decide D0 cand H0 este adevarat b) se decide D1 cand H1 este adevarat c) se decide D0 cand H1 este adevarat d) se decide D1 cand H0 este adevarat

primele doua decizii sunt corecte iar ultimele doua sunt eronate. Eroarea de tip c) se numeste eroare de pierdere (miss) si are

accept H0 accept H1

4 probabilitatea PM = P(D0| H1). Eroarea de tip d) se numeste alarma falsa (false alarm) si are probabilitatea PF = P(D1| H0). Ca masura a performantei sistemului se alege probabilit atea medie de eroare :

)|()()|()( 101010 HDPHPHDPHPPe +=

• Criteriul de decizie Bayes Acest criteriutine cont de “costurile” deciziilor in procesul de detectie binara. In acest proces apar perechi (Di, Hj). Fiecarei perechi i se poate asocia un cost Cij. Criteriul de decizie Bayes minimizeza costul mediu. Costul mediu se defineste cu relatia:

)|()(),(

1,0

1,0

1,0

1,0jijij

j

ijiij

j

iHDPHPCHDPCC ∑ ∑

==

∑ ∑

==

==

[ ] drHrfCCHP

HrfCCHPHPCHPCC

RRRR

CCCC

drHrfHPCdrHrfHPC

drHrfHPCdrHrfHPC

HPHDPCHPHDPC

HPHDPCHPHDPCC

HR

R HR

R HRR HR

R HRR HR

)|())((

)]|())(([)()(

:atunci si si ),( ca faptul de uz face se si

si

:corecta cea

decât mult mai cost incorect decizia c rezonabil prezum UH face se

)|()()|()(

)|()()|()(

)()|()()|(

)()|()()|(

0|00100

1|11011111010

0101

11010010

1|1111|101

0|0100|000

1111111001

0011000000

0

0 1

1 10 1

1 00 0

−

∫ −−++=

φ=∩∞−∞=∪>>

∫∫ ++

∫ +∫ +==++

++=

Cea mai mica valoare a costului mediu se obtine cand integrandul ecuatiei de mai sus este negativ pentru toate valorile lui r ∈ R0. Se poate accepta ipoteza H0 daca:

ia

5

KCCHP

CCHP

H

H

Hrf

Hrfr

HrfCCHPHrfCCHP

HR

HR

HRHR

=−−=Λ

−<−

<>

))((

))((

)|(

)|()(

:concissau

)|())(()|())((

11011

00100

0

1

0|

1|

0|001001|11011

0

1

01

Se vede ca pentru C10 - C00 = C01 - C11, criteriul Bayes devine criteriul MAP. Se poate arata ca daca: C00 = C11= 0 si C10 = C01 =1, atunci criteriul Bayes minimizeaza probabilitatea deciziilor eronate.

6

3. Detectia binara (i = 0, 1) cu observatii multiple pe simbol (daca r > 0 ⇒ 1, daca r < 0 ⇒ 0)

Daca receptorul observa N esantioane ale r(t) in intervalul (0, T), notate r1, r2, ..., rN, se defineste vectorul

[ ]

)/()/,...,,(

)/()/,...,,(

:ateprobabilit de edensitatil si ca ,...,,

1|121

0|021

21

1

0

HrfHrrrf

HrfHrrrf

rrrr

HRN

HRN

TN

=

=

=

Se urmareste gasirea unor decizii corecte, pe baza mai multor observatii asupra R . Se presupun cunoscute densitatile de probabilitate ale R in cele doua ipoteze:

).|( úL )|( 1|0| 10HrfHrf

HRHR

Criteriile de decizie deduse pentru o singura observatie se pot rescrie pentru N observatii, dupa cum urmeaza:

T

momentele observatiilor

0 1 1 0

0 1 1 0 dispare decizia eronata

s0(t) s1(t)

s(t)

r(t)

Si Di

t t t

T

1 2............N

D0

D1

r1

r2

rN

7

αΛ

Λ

Λ

Λ

Λ

≤=

−−⋅==

==

==

><°

FHR

HR

HR

HR

HR

HR

HR

HR

H

H

PKHrf

Hrfr

CC

CC

HP

HPK

Hrf

Hrfr

KHrf

Hrfr

HP

HPK

Hrf

Hrfr

Kr

conditiadin alege se )|(

)|()(

:Pearson-Neymanpentru

)(

)(

)|(

)|()(

:Bayespentru

1)|(

)|()(

:maxima tateplauzibilipentru

)(

)(

)|(

)|()(

:MAPpentru unde

)(

0|

1|

1101

0010

1

0

0|

1|

0|

1|

1

0

0|

1|

1

0

0

1

0

1

0

1

0

1

Daca se noteaza cu

∏=

∏=

=±

=±N

iiHRHR

N

iiHRHR

i

iHRiHR

HrfHrf

HrfHrf

HHr

HrfHrf

i

i

ii

11|1|

10|0|

10

0|0|

)|( )|(

)|( )|(

:avem te,independen statistic

sunt leobservatii daca si ,ipotezelein iobservatie ale

ateprobabilit de edensitatil )|( si )|(

11

00

00

Exemplu: detectia a doua semnale de forma cunoscuta

Tttsats

Tttsats

≤≤=≤≤=

0)()(

0)()(

11

00

8

⇐⇐

=+=11

00)()()(

Ha

Haatntsatr

Se presupune ca zgomotul este gaussian, de valoare medie nula si de varian σ2. Densitata de probabilitate pentru un esantion de semnal receptionat este:

[ ]

[ ]=∑ −−−=

∑ −−−−==

⇐

−∑−=

⇐

−∑−=

⇐

−−∏=

⇐

−−∏=

⇐

−−=

⇐

−−=

=²

=²

=²

=²

=²

=²

N

iiiii

N

iiiii

HR

HR

ii

N

i

NHR

ii

N

i

NHR

ii

N

i

NHR

ii

N

i

NHR

iiiHR

iiiHR

sarsarr

sarsarHrf

Hrfr

HsarHrf

HsarHrf

HsarHrf

HsarHrf

HsarHrf

HsarHrf

i

i

1

20

212

1

20

212

0|

1|

12

11

221|

02

01

220|

12

12121|

02

02120|

12

1221|

02

0220|

)()(2

1)(ln

)()(2

1exp

)|(

)|()(

:este tateplauzibili de raportul

)(2

1exp)

2

1()|(

)(2

1exp)

2

1()|(

:sau

)(2

1exp)

2

1()|(

)(2

1exp)

2

1()|(

:estet receptiona torulpentru vec ateprobabilit de densitatea

)(2

1exp

2

1)|(

)(2

1exp

2

1)|(

0

1

1

0

1

0

1

0

σΛ

σΛ

σπσ

σπσ

σπσ

σπσ

σπσ

σπσ

9

( ) ( )

drHrfHPdrHrfHP

HDPHDPP

H

HrN

H

Hr

N

ssaa

s

H

HrN

s

H

Hr

N

ssaa

saa

H

Hsr

KH

Hr

saasraa

R HRR HR

e

N

ii

i

N

ii

i

N

ii

N

iii

N

i

N

iiii

)|()()|()(

),(),(

:este eroare de ateaProbabilit

0:1pentru si 01

,1,1pentru

21 daca si

21

,1,0pentru

2

01lnln)(ln

: scrie poate se maxime tatiiplauzibili Criteriul

22

1

1 00 10|01|1

0110

0

1

0

1

1

10

0

1

0

1

1

10

1

210

0

1

1

0

1

1 1

210102

∫+∫

=+=

=∑

==−=

=∑

===

∑+

∑

==

∑ ∑++−−=

<³>´

<³>´

=µ

<³>´

<³>´

=µ

=µ<³>´

=µ

<³>´

=µ =µ

Λ

σ

Observatie: Desi problema de detectie pe care ne-am propus sa o solutionam este formulata pentru un spatiu multidimensional, decizia se ia dupa o singura coordonata, care este, pentru cazul

general: ∑=µN

iiisr

1, iar pentru cazurile particulare mentionate

∑==µN

iiR r

Nm

1

1

Aceasta unica coordonata dupa care se poate lua decizia se numeste “Statistica suficienta” .

10

4. Detectie binara cu observatii multiple in ipoteza compusa In ipoteza compusa, simbolului Si ii corespunde in spatiul semnalului nu un punct si(t) ci un domeniu Σi . Exemplu: Semnal de amplitudine variabila

)|(

)()|(

)|(

)|((

:este tateplauzibili de Raportul

)()|(

),()|()|()|(

)|()|(

domeniulin cuprins este ),( semnalul ce in timp

),( domeniulin valoriia careparametru un este unde

)(),()(

)()(),()(

0|

|

0|

1|

|

||11|1|

|1|

11

11

11

00

00

1

11

1

Hrf

dfrf

Hrf

Hrfr)

dfrf

drfrfsrfHrf

rfHrf

PsP

ts

tntstrH

tntntstrH

HR

R

HR

HR

R

RRHRHR

RHR

Mm

θθθΛ

θθθ

θθΠθΣ

θ

ΠθΣ

ΣθθθΠθ

θθ

ΘΠ θ

ΘΠ θ

Π θθ

θ

∫==

∫=

=∫=∈=∈=

=

∈=∈

=+=⇒

=+=⇒

Pentru cazul particular al unui semnal de amplitudine variabila, cu amplitudinile uniform distribuite:

θM

θm

θM t tn tn+1

s(t,θ)

11

−

∫

−−−

=

=

∑−

∫

−∑−

−

=

∏

−

=

∏

−−

=

−=

=¶

=¶

=¶

=¶

2

2

2

2

21

2

2

2

1

12

2

20|

12

2

2|

2

)(exp

2

)(exp

1

)(

:1 pt.iar

2exp

2

)(exp

1

)(

2

)(exp

2

1)|(

2

)(exp

2

1)|(

1)(

0

σ

θσθ

θθΛ

σ

θσ

θ

θθ

Λ

σπσ

σθ

πσθ

θθθ

θ

θ

θ

θ

θ

Θ

r

dr

r

Nr

dr

r

rHrf

rrf

f

M

m

M

m

mM

N

ii

i

N

i

mM

N

i

iN

HR

N

i

iN

R

mM

12

exp2

:este Bayes testulatunci 1, este testuluipragul dacaiar

2exp

2)(

:devine raportul atunci ; 2

1exp

2

1)(

:noteaza se daca

0

1

2

22

2

22

2

H

Hr

Fr

Fn

K

rF

rF

nr

rxduuxF

mM

mM

mM

mM

x

<·>¸

∞¹−º

−−

−⋅

−

=

−−

−⋅

−

=

−=∫

−=

σθ

σθ

σθθπσ

σθ

σθ

σθθπσΛ

σθ

π

12

5. Detectia secventiala Daca este necesar sa reducem timpul de decizie, se lucreaza cu un numar m de observatii variabil, cautandu-se reducerea acestuia.

:avem decizia ia se daca

:astfel procedeaza se , eadeterminarPentru

)(sau )( cand pana d. m. a. s. )( calculeaza

se decizie o nici ia senu nou din daca );( testeazase si calculeaza se b)

obsevare doua a la la trecese si decizie ia senu )(B daca

)( daca

)( daca

:cu praguri douacu compara

se care ),( calculeaza se ,,1 observatie primapentru a)

:este testarede Algoritmul

)|(

)|()(

:este tateplauzibili de raportul ),...,(torulPentru vec

1

0113

2

21

01

11

11

0|

1|

1

0

1

D

BA

DBrDArr

r

rAr

DBr

DAr

BAA,B

rrrm

Hrf

Hrfr

rrr

m

m

mHR

mHRm

mm

m

m

•

⇒≤⇒≥

⇒<<•

⇒≤•

⇒≥•

>==

=

=

ΛΛΛ

Λ

Λ

Λ

Λ

Λ

Λ

)|()|(sau)|(

)|()( 0|1|

0|

1|

010

1 HrAfHrfAHrf

Hrfr mHRmHR

mHR

mHRm

mmm

m ≥≥=Λ

13

• daca se ia decizia D0 avem:

) emis a sursa

cand deciziei (prob. tinteipierderea de eronate, deciziei ateaprobabilit

) emis a sursa

cand deciziei (prob. falsa alarma de eronate, deciziei ateaprobabilit

detectie de ateaprobabilit

:ca reamintim sus mai de celein

1

:unde de

)1(sau )|()|(

: corespunde le carora leobservatii cuprinde daca

:unde de

sau )|()|(

: corespunde le carora leobservatii cuprinde daca

)|(|(sau)|(

)|()(

1

0

0

1

0|1|

00

0|1|

11

0|1|0|

1|

0 0 01

1 1 01

010

1

S

DP

S

DP

P

P

PB

PBPdRHrfBdRHrf

DrR

P

PA

APPdRHrfAdRHrf

DrR

HrBfHrfBHrf

Hrfr

M

F

D

F

M

FMR R mmHRmmHR

m

F

D

FDR R mmHRmmHR

m

mHRmHRmHR

mHRm

mm

mm

mm

m

m

→

→→

−≥

−≤∫ ∫≤

≤

≥∫ ∫≥

≤≤=Λ

1

Estimarea parametrilor semnalului 1. Introducere

Prin estimare se determina valoarea estimata θ a unui parametru θ (purtator de informatie) al semnalului afectat de perturbatie. Schema bloc care modeleaza procesul de estimare a unui parametru si graful prelucrarii semnalelor sunt date mai jos.

Exemple de aplicatii:

• in receptia semnalelor: estimarea intarzierilor, a amplitudinilor de semnal, a deviatiil or de frecventa;

• in sisteme de comunicatii: estimarea functiilor de transfer, a functii lor pondere, a rapoartelor semnal / zgomot in canale de comunicatii;

• in sisteme de masura si comanda la distanta: estimarea marimii comandate (acceleratie, viteza, pozitie, temperatura, debit, etc)

• in prelucrari de semnale: estimarea unor parametri statistici ai semnalului (medii, variante)

Obs.: in aceste aplicatii se estimeaza parametri continui sau discreti, constanti sau variabili i n timp; estimarea parametrilor discreti face legatura cu domeniul detectiei semnalelor (deciziei statistice) iar estimarea parametrilor variabili i n timp face legatura cu estimarea formei semnalelor. Estimarea se poate face prin observare discreta sau prin observare continua.

n(t)

perturbare

aplicare criterii

spatiul parametrului

θ

spatiul parametrului

estimat spatiul observatii lor

r(t) = s(t,θ) + n(t)

spatiul semnalului emis

s(t,θ)

modulare

mesaj purtatoare perturbatie criterii de estimare

parametru estimat

Modulator Canal Receptor Estimare

Sursa mesaje

s(t,θ)

r(t,θ)

m(θ)

θ

2

2. Observarea discreta a unui parametru aleator Semnalul receptionat este:

cost. de functie o defineste

se eroarea evalua aPentru ).(ˆ de data este estimarii Eroarea

. lui a )(ˆ estimata valoarea

determina se );( si )|( ,)|( ateprobabilit de edensitatil

folosesc Se . lin vectoru econstituit,,...., observatii fac se 0

intervalulIn .informatia continand scalar,aleator parametru un este unde

)(),()(

||

1

r

r

frfrf

rrrNTt

tntstr

RR

N

G

G

GG

G

»»

θθε

θθ

θθθ

θθ

θ

ΘΘΘ

−=

≤≤

+=

2.1 Functii de cost C(εθ¼ )

• patratul erorii

θθ

θ

θθ

θθ

εε

εε

ε

εε

=•

≥≤

=

•=

)(

:erorii modulul

2/1

2/0)(

:uniforma

)( 2

C

E

EC

C

Valoarea medie a functiei de cost se numeste risc.

( ) ( )

r

dRrfCdCER R

G

G½

valoriia carein domeniul

),(,

⇒

∫ ∫ ⋅==∞¾

∞¾−¿∆

θεθε ∆ Θθθ

Valoarea estimata a parametrului se obtine minimizand riscul. Se pune riscul sub o forma in care se poate face minimizarea acestuia functie de observatiile efectuate:

C(εθ)

C(εθ)

C(εθ)

1

εθ εθ εθ

-E/2 +E/2

3

( ) ( )

( )

( ) θθε

θεθ

θεθε

Θ∆ θ

∆ Θθ

∆ Θθθ

drfCdRrf

dRrfrfCd

dRrfCdCER

RR

RR

R

)/()(

)()/(

),(

/

/

,

GG

GG

G

ÀÀ

ÀÀ

À

∫ ∫ ⋅⋅=

=∫ ∫ ⋅=

=∫ ∫ ⋅==

∞Á

∞Á−Â

∞Á

∞Á−Â

∞Á

∞Á−Â

Minimizarea riscului se face minimizand in raport cu θ integrala definita:

∫ ⋅−=∫ ⋅=∞Á

∞Á−Â∞Á

∞Á−Âθθθθθθεθ ΘΘθ drfCdrfCrI RR )/()ˆ()/()(),ˆ( //

GGG ÀÃ

1)/( deoarece )/(ˆ

sau 0)/(2)/(ˆ2),ˆ(ˆ

)/()ˆ(),ˆ(:erorii patratulpentru

0),ˆ(ˆ

//p

//

/2

=∫∫=

=∫−∫=∂∂

⋅∫ −=•

=∂∂

∞Ä

∞Ä−Å∞Ä

∞Ä−Å

∞Ä

∞Ä−Å∞Ä

∞Ä−Å

∞Ä

∞Ä−Å

θθθθθθ

θθθθθθθθ

θθθθθ

θθ

ΘΘ

ΘΘ

Θ

drfdrf

drfdrfrI

drfrI

rI

RR

RR

R

GG

GGG

GG

G

ÆÆ

ÆÆ

Æ

• pentru functia de cost uniforma:

)|()(

)()|( in vedere are se daca

0|)|(ln|)(ln

|)|(ln

:urmare ca la;exponentia

forma o generalin are )|( deoarece )|(lnpentru

maximul caute se sa prefera Se .maxima ),(pentru minima este

)|(1),(1)|(1),ˆ(

||

ˆ|ˆ

ˆ|

||

|

2/ˆ

2/ˆ|

θθ

θ

θθ

θθ

θθ

θθθ

θθθθθ

ΘΘ

Θ

θθΘθθΘ

θθΘ

ΘΘ

Θ

θ

θΘ

rff

rfrf

rff

rf

rfrf

rI

rEfrIdrfrI

RRR

R

R

RR

u

R

E

EuR

MAPMAP

MAP

G

GG

G

G

GG

G

GGGG

ÆÆÆ

Æ

Æ

ÆÆ

ÆÆ

=⋅

=∂∂+

∂∂

=∂∂

−≈∫ −=−=

=Ç=Ç

=Ç

+È

−Å

unde θMAP este estimatul maximum a posteriori.

θ

θ - E/2 θ θ + E/2

C(εθ)

^ ^ ^

1

4

• Pentru functia de cost modulul erorii:

minima. eroare de estimatul numeste se ˆ

)/()/(

ˆ iestimatulu calcululpentru Rezulta

0)/()ˆ(ˆ

)/()ˆ(ˆ

:respectiv,0),ˆ(ˆ

:ei aminimizarepentru si )/(ˆ),ˆ(

M

/

ˆ

/ˆ

M

/

ˆ

/ˆ

/

θ

θθθθ

θ

θθθθθ

θθθθθ

θθ

θθθθθ

Θ

θ

Θθ

Θ

θ

Θθ

Θ

drfdrf

drfdrf

rI

drfrI

RR

RMRM

RM

M

M

M

M

GG

GG

G

GG

∫=∫

=∫ −∂∂−∫ −

∂∂

=∂∂

∫ −=

∞É−Ê

∞É−Ê

∞É+Ë

∞É−Ê

∞Ì+Í

∞Ì+Í

Obs.: O situare a celor trei estimati, pentru densitati de probabil itate conditionate, de forma simetrica si nesimetrica, este data in figurile de mai jos.

MpMAP θθθ ˆˆˆ =Î=Î

θ

)|(| θΘ rf R ÏÐ

θ

MAPθ Mp θθ ˆˆ

)|(| θΘ rf R ÑÐ

1

Canal Estimator

s(t)

n(t)

r(t) d(t) ^

d(t)

do(t)

εo(t) = - do(t) + d(t)

ho(t)

h(t)

^

^

d(t) - +

+ -

ε(t) = - d(t) + d(t)

n (t)

s(t)

Estimarea formei semnalului Ipotezele de lucru:

• estimarea este liniara; • semnalul receptionat si zgomotul sunt stationare in sens larg; • criteriul de optim: minimul erorii medii patratice.

1. Fil trar ea optimala a semnalelor continue. Ecuatia Wiener – Hopf

Ce se urmareste: estimarea formei lui s(t) se face prin prelucrarea liniara a semnalului receptionat r(t) = s(t) + n(t), astfel incat sa se obtina un semnal cat mai apropiat de semnalul dorit d(t) (filt rare optimala in sens Wiener – Kolmogorov).

Se urmareste determinarea functiei

pondere a unui fil tru liniar ho(t), a carui iesire, daca la intrare se aplica r(t), aproximeaza

cu eroare medie patratica minima, semnalul dorit d(t). In schema de mai sus h(t) corespunde unui filtru neoptimal, care furnizeaza un semnal care aproximeaza semnalul dorit cu eroare medie patratica mai mare ca cea

minima. Ar trebui: [ ] [ ]22 )(min)( tto εε =

[ ] ( )[ ]

[ ] ( )[ ])()()()(ˆ

)(ˆ)()(

)()()()(ˆ

)(ˆ)()(

22

22

trdtrhtd

tdtdt

trdtrhtd

tdtdt

oo

oo

0L

L

=∫ −=

−=

=∫ −=

−=

∞Ò

∞Ò−Ó

∞Ò

∞Ò−Ó

τττ

ε

τττ

ε

[ ] [ ]22 )(min)( tto εε =

2

[ ] ( ) ( ) ( )[ ] [ ]( )( )[ ]

( )( )[ ] ( ) [ ] ( ) ( ) [ ]

[ ]

te.independen )( si )( semnalepentru

)()(

)(

)()(

)(

)(

)()(

)()()(

:Fourier ata transformAplicand ).( lui eadeterminar permite aceasta

Hopf; - Wienerecuatia este care )()()(

: variabiladintroducan sau, )()()(

:sau )()()()(

)()(ˆ deoarece si ,)()(ˆ)()(

:unde de 0)(ˆ)()(

:deci ,0),( si 0)()(

:relatiile locau deci ortogonalesunt )( si )( optimalfiltru Pentru

)()(2)(2)(2

2ˆˆˆ2

:devine termen Ultimul.ˆˆ undeˆˆˆ2

)(ˆˆˆˆ)( 22222

tnts

qq

q

qq

q

q

qH

qHq

th

dchc

utdutchutc

durtrhutc

dtrhduturtdurtd

rtdtdtr

ututcurt

trt

ttrtr(t)r(t)t

trtrtrddddd

dddddd

tddddddt

nnss

ss

nnss

dr

rr

dron

rrondr

on

rrondr

rrondr

ondr

onoo

oo

ro

o

ooo

oo

ooo

ooo

o

ωωω

ωωω

ωωω

ωωω

ττθτθ

θτττ

τττ

τττ

ε

εε

εεε

δ

δεε

ε

+=

+==

⇒=

−=

−=−−=−

−=−

−=∀=

=−=⋅

∀==⋅

⋅===

=−−=−−

−=−−−

−+=−−−=−=

∫

∫

∫

∫

∞

∞−

∞

∞−

∞

∞−

∞

∞−

L'L'L'

LLL 00

Se obtine astfel functia de transfer a unui filt ru nerealizabil (nu s-a impus ca h(t) = 0 pentru t < 0) care se poate aproxima insa cu filt re realizabile. Exemplu: Fie d(t) = s(t + α) unde s(t) este mesajul transmis. Daca:

• α = 0, avem o filtrare simpla (estimarea se face pt. toate valorile trecute ale timpului)

• α < 0, avem o filtrare cu intarziere (netezire): estimarea se face cu intarziere dar se utili zeaza mai multe date, deci eroarea este mai mica.

• α > 0, avem o filtrare cu predictie (anticipare): estimarea se face in avans dar se utili zeaza mai putine date, deci eroarea este mai mare.

d εÔ o

do r

3 In domeniul frecventa, vom avea respectiv, urmatoarele functii de transfer ale unor filtre optimale nerealizabile:

)exp()()(

)()(

)exp()()(

)()(

)()(

)()(

ωαωω

ωω

ωαωω

ωω

ωωωω

jqq

qH

jqq

qH

qq

qH

nnss

sson

nnss

sson

nnss

sson

++

=

−+

=

+=

Exemplu: Filtru optimal nerealizabil, continuu in timp. Sunt valabile:

)exp()(

11

,2a

1A

cu)exp(2

)exp()()(

)()(

)(,1

)(

000

22

022

αττ

ωαω

ωαωω

ωω

ωω

ω

−−=

+=+

=

−+

=−+

=

=+

=

BAh

q

q

aB

qq

q

q

q

jB

ABj

qq

qH

qqa

qq

on

s

s

ss

nnss

sson

nns

ss

α

hon

τ intarziere

α

hon

τ predictie

4 Filtru optimal realizabil

Daca se fac schimbarile de variabile t – u →τ, τ → t, avem:

≥<

=

=∫ −=

<≥

=

=∫ −=

+=∫ −=

∞Õ−Ö−Ö

∞Õ+×

−Ö+×∞Õ

∞Õ−Ö

00

0),(

)()()(

00

0),(

)()()(

)()()()()(

0

0

τττ

ττ

τττ

ττ

ττττ

dr

rrondr

dr

rrondr

drdrrrondr

c

dttcthc

c

dttcthc

ccdttcthc

Filtrul optimal realizabil (cauzal) poate fi obtinut numai din

)(τdrc+Ø . Functia de transfer se obtine prin transformarea Fourier inversa a acestuia:

)()exp()()()( ωτωττωω drdrrro qdjcqH +∞

∞−

++ =−=⋅ ∫

)(

)()(

ωωω

rr

dro q

qH

+

=

1.1. Filtre optimale pentru zgomot alb (FOW)

)()(

:1 deoarecefrecventa, domeniulIn

zgomot. sidorit semnalul dintre covariatia

este pondere functia alb,zgomot pentru optimal filtrul la :Obs

)()()()()()()(

:12

considera se daca );(2

)()(

)()(

00

00

ωω

τττδττ

δττ

dzow

zz

dzowowrrowdr

zzrr

qH

q

chdttthdttcthc

Nt

Ncc

tztr

+

∞∞

==

==−=−=

===

=

∫∫

τ

+cdr(τ) - cdr(τ)

5 1.2. Filtre optimale Wiener pentru un semnal oarecare

)(

)()(

)()()(

)(

1)(

:erealizabil partile numaiiau se daca

)()(

1)()(

)()()()(

1

1

sW

sHsH

sHsWsH

sqsW

sqsqsWsW

sqsWsWsq

owo

orow

rr

rrrr

rrzz

−

−

+

−+

=

=

=

=−⋅

−⋅=

1.3. Filtrarea optimala Wiener prin extragerea zgomotului Ce se urmareste: estimarea formei lui s(t) se face prin estimarea lui n(t) si extragerea acestuia din r(t). Schema de extragere se da mai jos, unde:

n1(t) = zgomotul captat din semnal n(t) = zgomotul filtrat h1(t) = functia pondere a legaturii dintre cele doua componente captate

s(t) si n2(t) ale semnalului. Deoarece h1(t) este necunoscut, h(t) = h1(t) poate fi determinat numai indirect printr-un procedeu de optimizare.

)()(

)(

)(

)()(

11

1

11

11 sH

sq

sq

sq

sqsH

nn

rn

nn

nn ≅==

FOW

FA FIA FO

r(t)

w(t) W(ω)

w-1(t) W-1(ω)

ho(t) Ho(ω)

d(t) ^ z(t)

r(t)

FA: filtrul de albire FIA: filtrul invers de albire FO: filtrul optimal pentru r(t) FOW: filtrul optimal pentru zgomot alb

modelul semnalului

s(t)

z(t)

how(t)

+ _

w(t)

h1(t)

s(t)

n(t)

s(t) + n(t)

n1(t)

n(t) ^

^

h(t) = h1(t)

6 O metoda de calcul rapid a lui H(s) este cea de mai jos in care se face apel la un corelator a lui r(t) cu zgomotul alb z(t):

)()()()(

)(

)(

)(

)(

)(

)(

)(

)(

)(

)(

)()(

11

1

11

1

11

1

11

11

sHsHsWsq

sq

sq

sq

sq

sq

sq

sq

sq

sq

sq

sqsH

owzz

nz

nn

zn

zz

rz

nn

zn

nn

rn

nn

nn

==≈

≈===

unde How(s) = W-1(s)H(s) este dat de corelator.

2. Fil trul optimal Kalman – Bucy

a) Cazul ideal: )()(ˆ tstd = Este o varianta de filt ru optimal Wiener in care se relizeaza FOW printr-un sistem dinamic iar intrarea filt rului de albire este diferenta dintre semnalul receptionat si estimatul semnalului dorit. Aici sistemele

dinamice sunt generatoare de semnale aleatoare, fiind excitate de zgomot alb. Problema este de a determina functia de transfer a sistemului de asa natura incat la iesire lui sa se obtina un semnal a carui densitate spectrala de putere este cea a semnalului dorit:

)()()()( sqsHsHsq ssoozz =−

- ∑ r(t)

K FIA FO

w-1(t) W-1(ω)

ho(t) Ho(ω)

d(t) ^ z(t)

r(t)

sistem dinamic

Ho(s)

n(t)

h(t) = h1(t)

s(t)

z(t)

how(t)

+ _

w(t)

h1(t)

s(t)

n(t)

s(t) + n(t)

n1(t)

^ corelator

^ n(t)

w-1(t) h(t)

7 Obs.: daca n(t) = z(t), K = const. Exemplu: Se doreste:

sK

KsH

ssK

K

sK

KsHsH

KNsq

s

Ksq

o

oo

zz

ss

+=

+−=

−=−

==

−=

α

ααα

α

1)( arealizabil partea numai ia se realizabilfiltru Pentru

1

1

1

)()(

:2

1)( Deoarece

;)(

0

022

0

0

220

)()(

)()()(

:toarecorespunza iesire de si stare de ecuatii

......

)()(

)(

:toarecorespunza transfer de functie

)(...)()(...)()(

:constanti icoeficientcu liniara ladiferentia ecuatie

:de descris superior,ordin de dinamic sistemun necesar fi va

mare maiordin de Butteworth eaproximati ocu descrie sedorit )( Daca

01

1

01

1

0)1(

10)1(

1)(

tt

ttdt

td

asas

bsb

sU

sYsH

tubtubtyatyaty

sq

nn

n

nn

nn

nn

n

ss

Cxy

BuAxx

=

+=

•+++

++==

•++=+++

•

−−

−−

−−

−−

0...10...

0...00

1...00

...............

...............

0...10

0...01

0

2

1

0

1

2

1

==

−−

−−

= −

−−

−

CBA

b

b

b

a

a

a

a

n

nn

n

(o singura iesire)

Modelul sistemului dinamic generator de semnal aleator este dat alaturat ( u(t) = z(t) si x(t) = d(t))

- B ∫ dt C

A

u x y

8

Exemplu: fie schema din figura de mai jos, in care variabila de stare este tensiunea la bornele condensatorului, vc(t).

Se cere: 1. modelul matematic, respectiv

ecuatia de stare a circuitului 2. structura sistemului dinamic

generator al semnalului s(t) = vc(t) 3. s (t) pentru v(t) = 0 si vc(0) =V= v.a.

4. structura sistemului dinamic generator al semnalului s(t) = vc(t) in cazul (3).

5. sa se arate ca in cazul (3) s(t) este un proces aleator nestationar 6. functia de transfer a sistemului dinamic generator pentru vc(0) = V= 0

si v(t) = z(t), adica zgomot alb 7. sa se arate ca s(t) obtinut in conditiile de la (6) este un proces aleator

stationar; care este relatia dintre D.S.P. a lui v(t) = z(t) si varianta σy2

Solutie:

1;1

;1

)()(

)(1

)(1)(

)()()(

)()()(.1

==−=

=

+−=

===+

CBARCRC

tsty

tvRC

txRCdt

tdx

tstvtx

tvtvtv

C

CR

)(111

)0()(1

)(.2 sVsRCs

xsXRC

sX +

+−=

4.

R

C

vc(0) = V

v(t)

1/RC -

∫ dt + - -

- -1 +

1/RC

+

Σ - - -

(B)

(A)

v(t)

x(0) = V

y(t) = x(t) = s(t) dx/dt

−=

===

tRC

V

txtyts

1exp

)()()(.3- ∫ dt +

1/RC

x(t)

x(0) = V

9 5. daca v(t) = 0 si vc(0) =V= v.a. cu densitate de probabilitate fV(V), atunci

la momentul t = t1:

−= 11

1exp)(),( t

RCVftyf Vy deci rezulta ca y(t)

este un proces aleator nestationar deoarece densitatea de probabilitate variaza cu timpul.

6. RCkks

ksH /1:unde)( =

+=

kN

kNkNsqssqsRR

sk

kNsqsq

y(t) qk

Nkq

sk

NksqsHsHsq

Nsq

y

y

yys

yys

y

yyyy

yy

yyvvyy

vv

/22/

:prin ezecaracteriz se sagenerator dinamic sistemul excita care alb

zgomotul ca trebuie variantaaiba sagenerat semnalul capentru Deci

4/04/)()()()0(

4/)( :este care)( lui a arealizabil partea ia se Daca

stationar.aleator

proces este patratica, rationala fractie o este )( deoarece :Obs.

2/)(

2/)()()()(

2/)(

.7

20

2

000

2

0

220

2

220

2

0

limlim

σ

σ

σ

ωω

ω

=

=−=⋅−⋅=∞−=+

=

+=

−=−=

=

+

→

+

∞→

+

10 b) Cazul general ( )()(ˆ tsts ≠ Sistemul dinamic (sursa) care genereaza semnalul aleator este:

)()()( tttttt

ttdt

td

rns)n()Cx()y(

)Bu()Ax()x(

=+=+=

+=

x( =)t0 Se noteaza:

[ ][ ] 0

:albe) zgomotesunt )( si)(( covariantepentru relatii eurmatoarel Avem

][

][

εεcxx

nu

)(n)n(

)u)u(

x

T00

0

=−−

==

=

tt

ttE

(ttE

0)()])

0))

≥∀−=−=−−

≥∀−=−=−−

t,22/Wt22tt

t,22/W2(t22tt

Pc(n)][n((n)[n(

Qc](u)][u((u)[u(

nnT

uuT

τ

si urmatoarele necorelari:

00)(

00

00

≥∀≡=−−

≥∀≡−−

≥∀≡−−

tttttt

ttt

ttt

nuT

T0

T0

c)](u))][u((n)[n(

)](n)][n(x[

)](u)][u(x[

Se urmareste gasirea unui observator de stare optimal de forma:

)()()()(ˆ)()(ˆ

tttttdt

tdmyKxF

x ++=

00)(ˆ xx =t cu cerintele de optimalitate:

Topt tttttt

tt

)](ˆ)()][(ˆ)([)()(

:minimala este estimare de erorii a matriciala covarianta.2

0)(ˆ)(

:asistematic eroare fara estimare.1

xxxxcc

xx

ÙÚÙÙÚÙ −−=≤

≡−

Se propune solutia:

11

[ ]

0

1TÛÚÛ

xx

xCnyPCcuBxAx

=

−−++= −

)(ˆ

)(ˆ)()()()()(ˆ)(ˆ

0t

ttttttdt

td

sau, pentru E[n(t)] = 0 = E[u(t) si sistem invariant in timp:

[ ]

0xx

xCyKxAx

=

−+=

)(ˆ

)(ˆ)()(ˆ)(ˆ

0t

tttdt

td

unde filtrului castigul numeste se 1TÛÚÛ PCcK −= in regim permanent iar ÜÚÜc se determina din ecuatia Riccati1 pentru regimul permanent:

0==−++ −

dt

d ÜÚÜÜÚÜ1TÜÚÜTTÜÚÜÜÚÜ cCcPCcBQBAcAc

Schema fluxului de semnal la filtrul optimal Kalman-Bucy se da mai jos:

Pentru un sistem stochastic de ordinul 1:

Ptn

Qtu

tntxty

tButAxdt

tdx

;0:)(

;0:)(

)()()(

)()()(

+=

+=

unde matricile A, B, P, Q au cate un singur element.

1 Pentru justificarea ecuatiei Riccati vezi NOTA

E[n]= 0

u

+

x +

n

B ∫Ýdt C K=cεÞ εÞ CTP-1 ∫

Ýdt

A A

C

y x ^

Modelul semnalului aleator (sursa)

ξß

_ +

B

E[u]= 0

0

Filtrul Kalman-Bucy (estimatorul)

s

12

;

:fiind pozitiva solutia Riccati, ecuatia este02

222

22

QPBPAAPc

QBP

cAc

opt ++=

=+−

εε

εεεε

)()(ˆ)(ˆ

:esteKalman Filtrul2

22

2 tyP

QBAAtx

P

QBA

dt

txd

++++=

Exemplu: prin canalul cu zgomot aditiv n(t), avand 2/0Ncnn = (zgomot alb) se transmite un semnal ),()( txts = avand:

22

2)(

ωω

+=

a

aqss si sistemul dinamic generator al ),()( txts = are functia

de transfer: ω

ωja

H+

= 1)( sau

sasH

+= 1

)( rezulta:

2)( unde de)()()()(2

aqHqqq vvvvssxx === ωωωωω iar modelul de

sistem dinamic este de forma:

[ ] [ ] [ ];1;1;:rezulta deci

)()()(

);()()(

==−=+=

+−=

CBaA

tntxty

tutaxdt

tdx

la care se aduga: [ ] [ ]2/;2 0NPaQ == , vom avea ecuatia Riccati de forma:

;2)2/(2/

:fiind pozitiva solutia ,022/

2

20

20

0

2

aNaaNc

aN

cac

++−=

=+−−

εε

εεεε

)(4

)(ˆ4)(ˆ

:forma de esteKalman Filtrul

0

2

0

2 tyN

aaatx

N

aa

dt

txd

++−++−=

Castigul fil trului in regim permanent are expresia:

2/4

00

2

N

c

N

aaaK εε=++−=

Obs.: In regim tranzitoriu, cεε ⇒ cεε (t) si ecuatia Riccati devine:

13

,)(

22/

)()(2

0

2

dt

tdca

N

tctac εεεε

εε =+−− ecuatie care se poate modela

computational, iesirea modelului actualizand permanent castigul filtrului.

E[n]= 0

u

+

x +

n

B ∫àdt C K=cεá εá CTP-1 ∫

àdt

A A

C

y x ^

Modelul semnalului aleator (sursa)

ξâ

_ +

B

E[u]= 0

0

Filtrul Kalman-Bucy (estimatorul)

s

Modelul dinamic al castigului filtrului