Upload
dan-dinca
View
168
Download
3
Embed Size (px)
DESCRIPTION
O carte despre DEPI
Citation preview
1
Variabile aleatoare
Variabila aleatoare sau intamplatoare este legata de experimente aleatoare, care desfasurate in timp conduc la procese aleatoare. In cadrul teoriei statistice a semnalelor, procesul (semnalul) aleator este un model mai realist decat semnalul determinist pentru o serie intreaga de semnale atat utile (date, imagini, sunete) cat si perturbatoare (zgomote) din sistemele de prelucrare si transmitere a informatiei. Teoria statistica a semnalelor este strans legata de teoria probabilitatilor si de teoria multimilor, care impreuna permit introducerea notiunii de spatiu probabilistic.
1. Spatiu probabilistic Baza pentru definirea variabilei aleatoare este spatiul probabilistic = (H, $, P), numit de unii autori si model statistic. Acesta este compus din trei elemente: multimea esantioanelor H, campul evenimentelor $, si masura probabilistica P.
• multimea esantioanelor H: multimea tuturor rezultatelor posibile ale unui experiment aleator.
Exemplu: numerele corespunzatoare apelurilor sosite la o anumita centrala de comutatie, fetele aparute la aruncarea zarului, durata de viata a unei anumite componente a unui sistem, tensiunea retelei masurat la bornele unei prize.
• campul evenimentelor $ multimea nevida, continand
submultimi ale multimii H, avand urmatoarele proprietati: a) ∈H $
b) Din A ∈
rezulta A∈$
c) Din A1, A2, ... ∈ $ rezulta *∞
=∈
1iiA $ .
In aceasta definitie se noteaza cu A complementul mutimii A, adica toate elementele multimii H care nu sunt in A. In consecinta, un rezultat Hi ∈η poate fi element al mai multor evenimente. Exemplu: la aruncarea zarului, multimea rezultatelor este H = 1, 2,..., 6 unde i = aparitia fetei i si un camp posibil de evenimente este $ = ∅, 1, 1, 2, 2, 3, 4, 5, 6, ..., H
2
• Masura probabilistica P: o masura speciala care se poate asocia elementelor campului evenimentelor, o functie care se poate defini pe acest camp $. Domeniul valorilor ei este intervalul 0, 1 al numerelor reale; se poate spune ca functia P este o aplicatie a campului $ pe intervalul 0, 1. Proprietatile lui P sunt definite prin trei axiome (Kolmogorov):
a) P(A) ≥ 0 b) P(H) = 1
c) P(*n n
ii APA1 1
)() ∑= unde Ai sunt disjuncte doua
cate doua. Definitiile probabilitatii:
• ca frecventa relativa: n
nAP A
n ∞→= lim)( unde un experiment
aleator este repetat de n ori si evenimentul A apare de nA ori
• in sens clasic: N
NAP A=)( unde N este numarul total de
rezultate ale experimentului (numarul elementelor din H finit), din care evenimentul A intervine de NA ori.
Legi uzuale ale probabilitatii:
• P(∅) = 0 unde ∅ este evenimentul nul, • P(A) • Daca
)(1)(atuncisi APAPAAHAA −==∩=∪ φ • Daca )()( atunci BPAPBA ≤⊂ • )()()()( BAPBPAPBAP ∩−+=∪ • )()()( BPAPBAP +≤∪
• )(...)()()()(
atunci...siDaca
21
21
n
nji
AAPAAPAAPHAPAP
HAAAjiAA
∩++∩+∩=∩=
=∪∪∪≠∀=∩ φ
adica seturile Ai sunt mutual exclusive si complete.
3
Probabilitatea conditionata:
)(
)()|()|( :Bayes formain sau
)(
)()|(sau
)(
)()|(
BP
APABPBAP
AP
BAPABP
BP
BAPBAP
=
∩=∩=
In contextul de mai sus, P(A) se numeste probabilitatea a priori iar P(A|B) se numeste probabilitatea a posteriori a evenimentului A. Din axiomele de mai sus rezulta:
disjunctesunt A si A daca)|()|()|(
1)|(
0)|(
212121 BAPBAPBAAP
BHP
BAP
+=∪=≥
Se spune ca doua evenimente sunt statistic independente daca:
1)(deoarece)()|(
)()|(
)()|(
:rezulta mai atunci si)()()(
====
=∩
HPAPHAP
BPABP
APBAP
BPAPBAP
2. Definitia varibilei aleatoare reale X(η) Variabila aleatoare reala X(η) este reprezentarea multimii
rezultatelor H a unui experiment aleator pe multimea IR a numerelor reale cu urmatoarele proprietati:
a) IRxxX ∈∈≤ fiecarepentru )( $η b) 0))(())(( =+∞==−∞= ηη XPXP
Valoarea unei variabile aleatoare X(η) pentru un argument η = ηi se numeste o realizare a variabilei (vezi fig. alaturata). Variabila aleatoare poate fi continua sau discreta. Daca multimea rezultatelor H este numarabila, atunci X(η) este o variabila aleatoare discreta
* * ηi * * * *
experiment aleatoriu IR
X(ηi) axa reala
multimea rezultatelor H
4
(aruncarea cu zarul), daca multimea rezultatelor H este nenumarabila, atunci variabila aleatoare este continua (masurarea valorilor unei tensiuni). Exemplu: aruncarea zarului; H = toate fetele posibile)
η 1 2 3 4 5 6 X(η) 0 0 5 10 10 100
3. Functia de repartite a probabilitatii si densitatea de probabilitate
Permit caracterizarea completa a unei variabile aleatoare. Functia de repartitie a probabilitatii este:
• ))(()( xXPxFx ≤= η . Proprietatile ei sunt:
monoton creste )( c)
1)( )b
0)( a)
xF
F
F
x
x
x
=+∞=−∞
• Densitatea de probabilitate este:
dx
xdFxf x
x
)()( =
Aceasta derivata exista numai pentru varibile cu functie de
repartitie absolut continua. In punctele in care functia de repartitie are salturi, se introduc distributii δ ponderate cu un factor egal cu marimea saltului lui Fx(x) in punctul respectiv.
5
Functia de repartitie se poate deduce din densitate prin integrare:
)(xFx ∫∞−
=x
fx(u)du.
Exemple: Variabile aleatoare discrete Variabile aleatoare continue (Aruncarea cu banul ) (Masurarea timpului de viata) Daca o variabila aleatoare discreta ia valorile xi cu i = 1, ..., M atunci densitatea de probabilitate este de forma:
Fx(x) 1,0 0,5 fx(x) 0,5
x x
tmax
Fx(x) 1 fx(x) 2/tmax
x x
(x/tmax)2
tmax
6
∑
∫
∫
∫ ∑
∑
≤≤
∞+
∞
∞− ≤
=
==≤≤
=≤≤
=
≥
===
==
−=
21
2
1
))(())((
:devine ateaprobabilit
, lui a filtrare de iiproprietat datorita discrete iabilePentru var
)())((
: si intre valoare
o ia sa )( ca ateaprobabilit )(din calcula poate Se
1)( b)
ipentru tot 0)( a)
:aleatoare variabileunei a ateprobabilit de densitatii ale iProprietat
))(()()(
:obtine se )(lui expresiain relatii doua cele dIntroducan
))((
: la )( lui saltul este a unde)()(
21
21
21
-
1i
xxxi
x
xx
x
x
x
x
xxixx
ii
ix
M
iiix
i
i
xXPxXxP
dxxfxXxP
xx
Xxf
dxxf
xxf
xXPduufxF
xxF
xXPa
xxFxxaxf
ηη
δ
η
η
η
η
δ
4.Valori medii ale variabilelor aleatoare (valori asteptate =
expected values) Permit caracterizarea incompleta, partiala a variabilelor aleatoare.
• Momente de ordin n
dxxfxXEX xnnn
)()]([)(
∫==+∞
∞−η = mx
(n)
Pentru n = 1 (valoare medie liniara):
discrete variabilepentru
continue variabilepentru)(
1∑=
∫=
=
+∞
∞−n
kkk
x
xPX
dxxfxX
Pk= P(X() = xk)
7
Operatorul de mediere se poate extinde si asupra functiilor de variabila aleatoare. Daca g(X()) este o functie bijectiva de variabila aleatoare X(), atunci:
∫=η∞
∞−)()())(( xdFxgXgE x
Daca desitatea de probabilitate fx(x) exista, atunci:
∫=η∞
∞−dxxfxgXgE x )()())((
Operatorul de mediere este un operator liniar: ))(())(( η=η XgaEXagE ))(())(())(())(( η+η=η+η YhEXgEYhXgE
Pentru n = 2 (valoare medie patratica):
discrete variabilepentru
continue variabilepentru)(
1
2)2(
2)2(
∑=
∫=
=
+∞
∞−n
kkk
x
xPX
dxxfxX
• Momente centrale de ordin n:
dxxfXxXXEXX xnnn )()(])([)( )( ∫
+∞
∞−−=−=− η
= x ( n)
Pentru n = 2 (varianta):
continue variabilepentru)()()( 2)2(dxxfXxXX x∫ −=−
+∞
∞−
VarX(` 1x2;
1x este dispersia (deviatia standard) a v.a. Se poate arata ca:
8
VarX(` 1x2 = 2)2(
)(XX − Statistica clasica este o statistica de ordin 2, care descrie variabilele aleatoare numai cu valori medii de ordinul 1 si 2. Statisticile de ordin superior folosesc pentru caracterizarea v.a. si valorile medii de ordin n >2. Valorile medii de ordin superior lui 2 se numesc cumulanti. Interesul crescand din ultimul timp pentru statisticile de ordin superior este justificat de urmatoarea teorema: O v.a. poate fi complet caracterizata daca se cunosc valorile medii pana la ordinul n, cand n:
5. Ansamble de doua variabile aleatoare Pe acelasi spatiu al esantioanelor H se pot defini mai multe variabile aleatoare, de exemplu X() si Y(), proiectand multimea H a rezultatelor posibile pe doua multimi IR de numere reale.
Pentru aceste doua variabile se pot defini:
6. Functia de repartitie a ansamblului: FXY (x,y) = P(X() x@^ Y() y) si
Densitatea de probabilitate a ansamblului:
=),( yxf xy yx
yxFxy
δδδ ),(2
.
Evenimentele sigure in aceasta situatie sunt X() `
respectivY() ` LD HYHQLPHQWHO LPSRVLELO ^X() - `respectivY() - `
9
Rezulta astfel pentru ansamblul de doua v.a. urmatoarele Proprietati ale functiei de repartitie de ansamblu, FXY (x,y):
FXY (x, + FX (x) FXY (+, y) = FY (y) FXY (x, - FXY (- , y) = 0
FXY (+,+ Functia de repartitie a ansamblului se poate determina prin integrarea densitatii de probabilitate a ansamblului:
∫ ∫=+∞
∞−
+∞
∞−dudvvufyxF XYXY ),(),( .
Densitatile marginale de probabilitate se pot determina cu relatiile:
∫=+∞
∞−dyyxfxf XYX ),()(
∫=+∞
∞−dxyxfyf XYY ),()(
Proprietatile densitatii de probabilitate de ansamblu:
• este o functie nenegativa: 0),( ≥yxf XY
• satisface conditia de completitudine:
1),( =∫ ∫+∞
∞−
+∞
∞−dxdyyxf XY
Observatie: Pentru v.a. discrete densitatile de probabilitate se inlocuiesc cu probabilitati, iar integrarile prin sumari. Independenta statistica a doua variabile aleatoare Este una din relatiile interesante pentru studiul sistemelor de prelucrare a informatiei, deoarece efectele variabilelor pot fi luate in consideratie separat. Conditia de independenta statistica este:
)().(),( yfxfyxf YXXY = .
10
Rezulta pentru functiile de repartitie relatia: )().(),( yFxFyxF YXXY = . Valori medii (momente) ale ansamblului
• Moment de ordin k, m
:necorelatesunt statistic teindependen aleatoare bileDoua varia
0
:ortogonale Variabile
0
:necorelate Variabile
:relatiaexista Cov siCor Intre
),()()(
))(())((
mutuala covariatie defunctia obtine se 1,m 1,k pentru
),()()(
))(())((
m k, ordin decentrat Moment
mutuala corelatie defunctia obtine se 1,m 1,k pentru
),()()(
)1()1(
)1()1()1,1(
)1()1(
)1()1(),(
)1,1(
),(
==
⋅=→=
⋅−=⋅−=
∫ −−∫=
=−−==
==
∫ −−∫=
=−−=
•
==
==
∫ ∫==
∞+
∞−
∞+
∞−
∞+
∞−
∞+
∞−
+∞
∞−
+∞
∞−
XYEXYCor
YEXEXYEXYCov
YEXEXYEYEXEXYCorXYCov
dxdyyxfmymx
mYmXEXYCov
dxdyyxfmymx
mYmXE
XYEXYCorm
dxdyyxfyxYXEm
XYyX
YXxy
XYm
yk
X
mY
kX
mkxy
xy
XYmkmkmk
xy
ηηµ
ηηµ
ηη
11
)()()()(
)()(),()()(
ηη
ηη
YEXEdyyyfdxxxf
dxdyyfxxyfdxdyyxxyfYXE
YX
YXXY
=∫ ∫
∫ ∫ =∫ ∫ ==
∞+
∞−
∞+
∞−
+∞
∞−
+∞
∞−
+∞
∞−
+∞
∞−
Reciproca nu este intotdeauna adevarata: conditia de independenta statistica este mai „ tare” decat cea de necorelare (decorelare).
Coeficient de corelatie
11-
:sunt uluicoeficient ale variatiede domeniului limitele
|))(())((|
))()()((2)1(2)1(
)1()1()1,1(
≤≤
−⋅−−−==
XY
YX
YX
YX
XYXY
mYEmXE
mYmXE
ρ
ηηηη
σσµρ
Demonstratie:
. 0 pentru 1 si 0 pentru 1ca
arata poate se atunci ),()( :dependenteliniar sunt Daca .2
0
:pentru decorelateSunt 1.
:aleatoare biledoua varia dintrerelatia arata corelatie de ulCoeficient
1|| pentru numai semne ambele pentru valabila este care
0121
:este relatieia stanga din partiia medievaloarea
0)()(
2)1()1(
<−=>==
=
≤≥+±
≥
−±−
aa
aXY
mYmXE
XYXY
XY
XY
XY
Y
Y
X
X
ρρηη
ρ
ρρ
ση
ση
12
Functia de repartitie conditionata si densitatea de probabilitate conditionata.
)(),(
)/(
)(),(
)/(
)(
0
)(
)(
)(
)(
)/()/(
)(
)()/(
))(())()((
1)/(
))(())()((
))(())()((
)/(
)(
)/()/(
)/)(()/(
yf
yxfBxf
yF
yxFBxF
yYB
ax
axduuf
xf
aF
xf
dx
BxdFBxf
aF
xFBxF
xXPaXxXPax
BxF
aXPaXxXPax
aXP
aXxXPBxF
aXBdx
BxdFBxf
BxXPBxF
Y
XYX
Y
XYX
a
X
X
X
X
XX
X
XX
X
X
XX
X
=
=
≤=
≥
≤∫
=
==
=⇒
≤=≤∩≤→≤
=⇒≤=≤∩≤→≥
≤≤∩≤=
≤=
=
≤=
∞−
η
ηηη
ηηηη
ηηη
η
Pentru
pentru
pentru
Pentru
13
7. Densitati de probabilitate uzuale Distributii discrete
• Uniforma, cand rezultatele experimentului aleator sunt egal probabile: ninxXP i ,...,3,2,1/1)( ===
• Binomiala, cand intereseaza probabilit atea de aparitie a unui eveniment A de probabilit ate p de k ori in sirul de n repetitii ale experimentului:
nkppCkXP knkkn ,...2,1,)1()( =−== − unde :
1!0);1)(2)(3)...(2)(1(! si )!(!
! =−−=−
= mmmmknk
nC k
n
Exemplu: Probabilit atea de eronare a k simboluri intr-un cuvant de lungime n • Poisson, cand intereseaza numarul k al rezultatelor pozitive
ale unui experiment intr-un interval de timp de lungime T :
,...2,1,0,!
)( === − kek
kXPk
λλ
cu timp.deunitatea inapar care
pozitiveor rezultatel numarul este ' unde ' λλλ T=
Exemplu: Numarul apelurilor primite de o centrala telefonica sau numarul electronilor emisi de un catod fierbinte.
Distributii continue:
• Distributia uniforma
rest in 0
),/(1)(
bxaabxf x
≤≤−=
Media si varianta varibilei aleatoare uniforme sunt:
12)(
22
2 ab
abm
x
x
−=
+=
σ
Exemplu: Eroarea de cuantizare • Distributia normala (gaussiana) unidimensionala
14
Este cea mai utilizata, avand o forma analitica simpla; are multiple aplicatii ca urmare a teoremei limita centrala.
Pentru schimbarea de variabila : z = (x – mx)/σx, integrala precedenta devine:
dzzaXPx
xxma
)2/exp(21
)( 2
/)(
−∫=>− σ π
O medoda de calcul a acestei integrale se bazeaza pe integrala tabulata Q(y):
]/)[()(
0,)2/exp(21
)( 2
xx
x
y
maQaXP
ydzzyQ
σ
π
−=>
>−∫=
Deasemenea se poate calcula: )(1)( yQaXP −=≤ sau:
2/1)0( =≤XP
x
fx(x)
Aria = 1/2
Aria = P(X > mx + y σx) = Q(y)
mx mx + yσx
−−= 2
2
2 2)(
exp2
1)(
x
x
x
x
mxxf
σπσ
−−∫=> 2
2
2 2)(
exp2
1)(
x
xx
a x
mxaXP
σπσ
P(X a) = 1-Q(a)
0 a
Q(a)
[1-2Q(a)]
0 a -a a
Q(a)
15
• Distributia normala bidimensionala
−−
−
−+
−
−−
−=
YX
YX
Y
Y
X
X
YX
xymymx
mymx
yxf
σσρ
σσρρσπσ ))((2)1(2
1exp
12
1),(
22
22
8. Transformari de variabile aleatoare
Cazul unidimensional: Exemplu: caracteristica unui amplificator In ce consta problema: daca este cunoscuta fX (x) trebuie determinata fY (y)
a) Cazul cand g(x) este bijectiva: g: R :5
)(1
1)()()()(
ygx
XYYX
dx
dyxfyfdyyfdxxf
dyyYyPdxxXxP
−=
=⇒=
⇓
+≤≤=+≤≤
b) Cazul cand g este bijectiva pe portiuni:
g: R :5
∑=
⇓
=⇒∈∃∈∀
−= )(1
)()(
)(,
ygkx
kxY
ii
dx
dyxf
yf
yxgRxRy
X g(X)
Y
Y = g(X)
X
g (x)
y+dy y
x x+dx
x
1 2 3 4 5 6
g(x)
x
16
Cazul bidimensional:
ϕ=ϕ=
→
==
→
ϕϕ
),(
),(:
),(
),(:
2122
2111
2122
2111
21
21
yyx
yyxXY
xxgy
xxgyYX gg
yyPxxP ∆∈=∆∈
x
yxxfyyfyyyfxxxf xxyyyyxx ∆
∆⋅=⇒∆⋅=∆⋅ )()()()( 21212121 21212121
→∆∆
x
y Jacobianul transformarii
∆⋅=⇒
∂∂
∂∂
∂∂
∂∂
=∆∆=
∆∆
>−∆
1)()(
)(
)(2121
2
2
2
1
1
2
1
1
21
21
02121lim xxfyyf
x
y
x
y
x
y
x
y
xx
yy
x
yxxyy
x
Exemplu: schimbarea de coordonate rectangulare / polare
y1
x
x2
x1
x2+dx2
x2
x1 x1+dx1
y2
y2+dy2
y2
y1 y1+dy1
17
x1 = ! FRV \1 cos(y2) ! \1= 22
21 xx +
x2 ! VLQ \1 sin(y2) \2 = arctg1
2
x
x
22
211
2121
22
2
2
2
1
1
2
1
1
)cos()sin(
)sin()cos(xxy
yyyy
yy
x
y
x
y
x
y
x
y
xy +==−
=
∂∂
∂∂
∂∂
∂∂
=∆ →
)(1
)()( 212121 212121yyf
y
xyyfxxf yyyyxx ⋅=
∆∆⋅=
ρ
)()( 2121 2121xxfyyf xxyy ⋅= ρ
Modificarea coordonatelor duce la schimbarea distributiilor
∫ ∫∞− ∞−
=1 2
2121),()( 21
x x
xxxx dudvvufxxF
∫ ∫∞− ∞−
=1 2
2121),()( 21
y y
yyyy dudvvufyyF
9. Variabile aleatoare complexe
Variabila aleatoare complexa Z se defineste cu ajutorul variabilelor aleatoare reale X si Y: Z = X+jY Valoarea medie of g(Z) este definita ca:
x2
x1
x2
x1
! \1 \2
18
conjugatcomplex semnifica * unde
)(*)(
:este , lui covarianta
||
:esteianta var
:este , Z, luimedia
),()()(
22
,
ZnnmZmnZmZ
nm
ZZ
YXZ
Z
YX
mZmZEC
ZZ
mZE
jmmYjEXEZEm
m
dxdyyxfzgZgE
−−=
−=
+=+==
∫ ∫=∞
∞−
∞
∞−
σ
10. Vector aleator
Variabila aleatoare scalara ia valori pe axa reala, iar vectorul aleator ia valori intr-un spatiu m dimensional Rm. Functia de repartitie a vectorului aleator ca si densitatea sa de probabilit ate se pot defini ca pentru ansamble de m variabile aleatoare:
m
mmXXm
mmXXX
mmmmXX
xxx
xxFxxxf
xXxXPxxF
∂∂∂∂
=
≤≤=
...
),...,(),...,,(
))...([(),...,(
21
1,...,121...2,1
111,...,1
Parametrii i mportanti sunt valorile medii si covariantele:
jXiXjijXiX
iiX
mmXXE
XEm
−=
=
σ
Legile probabili stice pentru vectori aleatori pot fi formulate concis, folosind notatii vectoriale. Ansamblul de m variabile aleatoare X1, …Xm poate fi reprezentat ca un vector coloana cu m componente:
],...,[.. 21
2
1
m
m
XXX
X
X
X
=
= TX sau X
Vectorul medie si matricea de covariatie sunt:
19
=−=∑
==
mXmXXXXmXXmX
mXXXXXX
mXXXXXX
mXE
XE
XE
σσσσ
σσσσσσ
1121
22212
12111
2
1
............
...
...
)(
...
)(
)(
)
TXX
TX
X
mmEXX
E(Xm
componentele sunt necorelate daca:
jiijjXiX ≠∀== ,0σσσ
si independente daca:
∏==
m
iiiXmmXXX xfxxxf
12121
)(),...,,(,...,,
11. Functia caracteristica • Definitie
Este transformata Fourier a densitatii de probabilitate.
∫=Φ
=∑=Φ
=Φ
→=Φ
∞
=
dxxfej
xXPej
eEjj
Xxj
X
kXk
kxjX
XjX
X
)()(
:continue variabilepentru
)()(
:discrete variabilepentru
)()(
1
ω
ω
ω
ω
ω
ωω
CR
20
• Proprietati:
∫∞
∞−
−Φ=
=Φ
ωωπ
ω
ω dejxf
xfj
xjXX
XX
)(2
1)(
)(*)( )
• Legatura cu momentul unei variabile aleatoare Daca se diferentiaza functia caracteristica:
∑=∑=Φ
∑Φ=Φ
Φ−=
=∫=Φ
∫=Φ
∞
=
∞
=
∞
= =
=
∞
∞−=
∞
∞−
00
0 0
0
0
!)(
!)(
)(
!)(
)(
)()(
)()(
)()(
n
n
nn
nn
X
n
n
nX
n
X
nX
nnn
XX
XxjX
n
jm
n
jXEj
nd
jdj
d
jdjXE
XjEdxxfxjd
jd
dxxfxejd
jd
ωωω
ωω
ωω
ωω
ωω
ωω
ω
ω
ω
ω
1
Semnale si procese aleatoare
7LQD FRQ G PVXU L FDU ! ! O ! VXQ " SUHYL]LELO ! L WLPS
VHPQDOHO # SR $ I %&% HUDUKL]DW # L ' IHOX ( XUPWRU • 6HPQDO ) GHWHUPLQLVWH *,+.- UR / HYROX L 0 L 1 WLP2 V 0 SRDW 0
SUHYHGHD 3 HO 0 ILL 1&4 GHVFULV 0 G 0 5 IXQF L 0 G 0 WLP2cunoscuta, ca de exemplu )cos()( ϕω += tAtX .
• 6HPQDO 687 RQGL LRQD9 – GHWHUPLQLVWH :<;87 UR = HYROX L 6 L >WLP? V 6 SRDW 6 SUHYHG 6@; SDU LDO : GHRDUHF 6 X >A? DUDPHWU B D Csemnalului este o variabila aleatoare, ca de exemplu:
+=+=+=
))(cos()(
sau ))(cos()(
sau )cos()()(
ηϕωϕηωϕωη
tAtX
tAtX
tAtX
• SemnaO 6 DOHDWRDUH :D;E7 UR = HYROX L 6 L > WLP? HVW 6 SUDFWL 7imprevizibila si care vor fi studiate in continuare.
1. 'HILQL L F VHPQDOXOX G DOHDWRU 8H VHPQD I DOHDWR J UHD I HVW K8L IXQF L K G K GR M SDUDPHWU M ),( tX η unde η ia valori in VSD LX N HúDQWLRDQHORU O LD P t, de obicei, ia valori S Q D[ R UHDODSR]LWLY R V S DU Q VHPQLILFD L T G U WLPS 2ULF V VHPQD W DOHDWR X V V RE LQ V F Y XUPDU V Y HIHFWXUL Z XQX ZH[SHULPHQ [ FDU \ FRQVW ] L ^ DOHJHUH ] GL ^ VSD LX _ HúDQWLRDQHOR ` H a XQX a HúDQWL bc^ HOHPHQWD η i FDU \ GHWHUPLQ ] DOHJHUH ] IXQF LH a
),( tX iη GL ^ IDPLOL ] G \ IXQF ada ),( tX η (vezi figura).
* * ηi * * * *
experiment aleatoriu
X(ηi, t)
egfih j kmlonqprezultatelor H
t1 t2 t
2
)LHFUH r YDORU r η rdr FRUHVSXQG sut IXQF L s X(η ,t), notata Xv (t), numita realizare particulara VDw IXQF L x HúDQWLR yz VHPQDOXOXL 'DF | HVW FXQRVFX ~ SURFHVX DOHDWR SUL PXO LPH | UHDOL]ULOR sale particulare, in orice moment de timp t V RE LQ E DULDELO |aleatoare Xt(η , FRQVHFLQ D GXS FX YDULD] FH GR SDUDPHWU η si tGHRVHEL XUPWRDUHO D]XUL
• η si t variabile: X(η ,t HVW VHPQD DOHDWRU DGLF IDPLOL G UHDOL]U SDUWLFXODUH
• η variabil si t fix: X(η ,t) = Xt(η ) este o variabila aleatoare;
• η fix si t variabil: X(η ,t) = X (t) este o realizare SDUWLFXODUDDGLF IXQF L G WLP LúQXLWD
• η si t fixe, X(η ,t HSUH]LQW PU
2. Clasificarea semnalelor aleatoare. • Semnale aleatoare in timp continuu, sau simplu semnale
aleatoare, constituite din o familie nenumarabila de variabile aleatoare Xt(η ) cu t ℜ∈ . 1. Daca Xt(η ) pentru un t oarecare este o variabila
aleatoare continua, semnalul este de amplitudine continua (figura a1); un exemplu îl poate constitui tensiunea de la bornele unei prize electrice.
2. Daca Xt(η ) pentru un t oarecare este o variabila aleatoare discreta, semnalul este de amplitudine discreta (figura a2); un exemplu îl poate constitui un semnal de date intr-o transmisie asincrona, când úLUX ¡de date poate începe la orice moment de timp.
• Semnale aleatoare in timp discret sau serii aleatoare care UHSUH]LQW PXO LP QXPDUDELO ¢ G IXQF L DOHDWRDU notate Xn(η ), unde t = nT cu .Zn ∈
1. Daca pentru un n oarecare, Xn(η ) este o variabila aleatoare continua, seria este de amplitudine continua (figura b1); un exemplu îl poate constitui un semnal G £ DPSOLWXGLQ £ FRQWLQX ¤ DQDORJLF ¥ HúDQWLRQDW
2. Daca pentru un n oarecare, Xn(η ) este o variabila aleatoare discreta, seria este de amplitudine discreta ILJXU ¦ E § V ¨ V © PD ¨ QXPHúW © V ¨«ª DQ DOHDWRU ¬®
3
exemplu îl poate constitui un semnal analogic HúDQWLRQD ° V ± FXDQWL]D °
3. )XQF L ² G ³ UHSDUWL L ´ V µ GHQVLWDW µ G ´ SUREDELOLWDW ´ DO ´semnalelor aleatoare in timp continuu • )XQF L ¶¸·º¹ UHSDUWL L »½¼¾ UREDELOLWDWLOR ¿ G » RUGLQX À se
GHILQHúW Á F Â SHQWUÃÅÄÇÆ DULDELO Â DOHDWRDU Á FRQWLQX Â RE LQXW Âdin semnalul aleator la un moment oarecare de timp:
)),((),( xtXPtxFX ≤= η • Densitatea de probabilitate de ordinul 1 V Á GHILQHúW Á WR È
ca pentru o variabila aleatoare continua si este:
x
txFtxf X
X ∂∂= ),(
),(
• )XQF L ¼ ɺ» UHSDUWL L » G » RUGLQX À Q se refera la n v.a. continue, considerate la n momente de timp diferite:
).,(notat am unde
),...,(),....,,;,....,,( 112121,....,, 21
ii
nnnnXXX
tXX
xXxXPtttxxxFn
η=
≤≤=
• Densitatea de probabilitate de ordin n este:
t
X1(t) Xi(t) XN(t)
t = ti
Fig. a1
Xi(t)
t
Fig. a2
t T
Fig. b1
t
T q
Fig. b2
4
n
nnXXn
nnXX xx
ttxxFttxxf n
n ∂∂∂
=,..,
),..;,..(),..,;,..,(
1
11,..,11,..,
11
)XQF LLO Ê G Ê UHSDUWL L Ê V Ë GHQVLWDWLO Ê G Ê SUREDELOLWDW Ê Ì O Êsemnalului aleator depind de momentele de timp ti la care sunt considerate variabilele aleatoare. • )XQF L Í ÎºÏ UHSDUWL L Ð Ñ Ñ Ò VDPOXOX Ó G Ð ÔÖÕ×ØÑ VHPQDOH
aleatoare continue in timp X(W) si Y(W) definite pe DFHODú Ù VSD L Ú D Û HúDQWLRDQHOR Ü HVWH
)),(,),((),;,( 2121 ytYxtXPttyxFXY ≤≤= ηη • Densitatea de probabilitate a ansamblului de doua
semnale aleatoare continue in timp mai sus considerat este:
),;,( 21 ttyxf XY yx
ttyxFXY
∂∂∂= ),;,( 21
2
'DF Ý GRX Ý VHPQDO Þ VXQ ß GHILQLW Þ S Þ Ý FHODú Ù VSD LÚ D ÛHúDQWLRDQHORU à DWXQF Ù V Þ SRDW Þ YHULILF Ý GDF Ý VXQ ß VWDWLVWL áindependente.
4. Semnale aleatoare statistic independente 'HILQL LH: Doua semnale aleatoare X(W) si Y(W) definite pe DFHODú â VSD L ã D ä HúDQWLRDQHOR å V æ QXPHV ç VWDWLVWL ç LQGHSHQGHQW ædaca pentru orice momente t11,…,t1i din intervalul de timp pe care este definit X(W) si pentru orice momente t21,…,t2j din intervalul de timp pe care este definit Y(W), variabilele aleatoare X(W11),…, X(W1i) sunt statistic independente de variabilele aleatoare Y(W21),…, Y(W2j). Atunci, cu t1 yx TtT ∈∈ 2, (Tx si Ty
sunt intervalele pe care se observa semnalele aleatoare X, Y:
),(),(),;,(
),(),(),;,(
2121
2121
tyftxfttyxf
tyFtxFttyxF
YXXY
YXXY
⋅=
⋅=
In interpretare fizica, intre doua semnale statistic independente nu V æ SRDW æ VWDE âdädâ QLF âéè OHJWXUD ê HO æ SURYL ë ì æ UHJXO í GL ë VXUV ædiferite si de aceea efectele lor in sistemele de prelucrare a LQIRUPD LH â SR î I âä XDW æ L ë FRQVLGHUD L æ VHSDUDW Pentru cazul in care variabilele aleatoare X(W1i) si Y(W2j) sunt GLVFUHWHFRQGL L í G æ LQGHSHQGHQW í VWDWLVWLF í GHYLQH
PPPPP knnkkn == :unde )),(,),(( 21 njki btYatX == ηη ,
5
)),((
)),((
2
1
njn
kik
btYPP
atXPP
====
ηη
iar ak si bn sunt valori ale variabilelor X si YDOHV ï GL ð úLUXULO ï G ïvalori posibile ale acestor variabile:
,...,...,, respectiv ...,...,, 21,21 nk bbbaaa
5. Valori medii statistice ale semnalelor aleatoare 3HQWU ñ ñ ò VHPQD ó DOHDWRU ô S õ PXO LPH ö UHDOL]ULOR ÷ VDle particulare, se pot defini doua tipuri de valori medii: valori medii VWDWLVWLF õéö O õ UHDOL]ULOR ÷ SDUWLFXODU õ O öøñò DQXPL ù PRPHQ ù G õ WLPú
V û YDORULO õ PHG ûdû ù HPSRUDO õö O õ ILHFUH û UHDOL]U û SDUWLFXODUH Valorile medii statistice sunt de fapt valori medii ale variabilelor aleatoare considerate la un anumit moment de timp si care devin DVWIH ó IXQF üdü G ý WLPS þ $FHVW ý YDORU ü PHG üdü V ý GHILQHV ÿ F V ü SHQWUvariabile aleatoare, ceea ce se vede in continuare:
• Valoarea medie liniara
∫==∞+
∞−dxtxxftXEtm Xx ),(),()()1( η
• Valoare PHGL ý SWUDWLFD
∫==∞+
∞−dxtxfxtXEtm Xx ),(),()( 22)2( η
• Varianta
dxtxftmxtmtXEt XxXX ),())(())(),(()( 222 ∫ −=−=∞+
∞−ησ
Valoare medie temporala
Valoare medie statistica t t t t t
X(η4 t)
X(η1 t)
X(η3 t)
X(η5 t)
6
• )XQF L G DXWRFRUHODWLHFDU PVRDU OHJWXU DU H[LVW intre valorile semnalului aleator la momente de timp diferite
212121212121 ),;(),(),(),(2121
dxdxttxxfxxtXtXEttR XXXX ∫∫==+∞
∞−
∞
∞−ηη
• )XQF L G DXWRYDULDWLHFDU HVW IXQF L G DXWRFRUHODWL
semnalului centrat pe valoarea sa medie si are expresia:
adevarata!a intotdeaun este nu Reciproca.necorelate si
sunt ele atunci te,independen statisticsunt semnaledoua Daca
ortogonale sisunt ele atunci nula, medie valoarea are ele din unul
putin celdaca si necorelatesunt aleatoare semnaledoua Daca
0),(),(
:dacaadica ,ortogonalesunt
respective aleatore le variabileT si T valoriletoate
pentrudaca ortogonalesunt lor esantioane al spatiu acelasi pe
definite aleatoare semnaledoua :ortogonale Semnale
),(),(),(),(
:dacaadica ,necorelatesunt
respective aleatore le variabileT si T valoriletoate
pentrudaca necorelatesunt lor esantioane al spatiu acelasi pe
definite aleatoare semnaledoua :necorelate aleatoare Semnale
),;,())())(((
))(),())((),((),(
tieintervaria de sau covariatie de Functia
),;(),(),(),(
),( si ),( aleatoare semnale
doua intremutuala corelatie de sau atieintercorel de Functia
)()(),(),(
:aleatoare lela variabidedusa relatia pastreaza seca arata poate Se
),;())())(((
))(),())((),((),(
21
y2x1
2121
y2x1
2121
221121
212121
21
212121
2121212211
221121
2121
21
21
•
•=
∈∈
•=
∈∈
•
−−
=−−=•
==
•
−=
−−
=−−=
∫ ∫
∫ ∫
∫ ∫
∞+
∞−
∞+
∞−
∞+
∞−
∞+
∞−
∞+
∞−
∞+
∞−
tYtXE
tt
tYEtXEtYtXE
tt
dxdyttyxftmytmx
tmtYtmtXEttC
dxdyttxyfxytYtXEttR
tYtX
tmtmttRttC
dxdxttxxftmxtmx
tmtXtmtXEttC
XYyx
yxXY
XYXY
xxXXXX
XXxx
xxXX
ηη
ηηηη
ηη
ηη
ηη
ηη
7
6. Valori medii statistice ale semnalelor aleatoare discrete Valorile medii statistice se calculeaza pe ansamblul realizarilor particulare considerate la momente arbritare de timp t1, t2, …, ti, …, deci asupra variabilei aleatoare ce rezulta in aceste momente de timp. Se mai numesc valori medii pe ansamble si depind de alegerea momentelor de timp alese. Acestea sunt:
• Valoare medie (moment de ordinul 1, media liniara) ∑==k
kkx )n(Pa)]n,(X[E)n(m η
unde a1, …, ak, …, aN reprezinta ansamblul valorilor posibile.
• Valoarea patratica medie (moment de ordinul 2)
∑==k
k2k
2)2(x )n(Pa)]n,(X[E)n(m η
• Varianta
222 ])X[E(]X[E)n( −=σ • Momentul de ordinul n
∑==k
knk
n)n(x )n(Pa)]n,(X[E)n(m η
• Functia de autocorelatie
∑ ∑= =
==N
1i
N
1j21ijji2121xx )n,n(Paa)]n,(X)n,(X[E)n,n(R ηη
)a)n,(X,a)n,(X(P)n,n(P j2i121ij === ηη
• Functia de corelatie mutuala a doua semnale aleatoare )t,(X η si )t,(Y η
∑ ∑= =
=N
1i
N
1j21jiijji21xy )n,n;b,a(Pba)n,n(R
cu
)b)n,(Y,a)n,(X(P)n,n;b,a(P j2i121jiij === ηη
8
unde ai, i=[1,N], sunt valorile posibile ale lui )n,(X 1η iar bj, j=[0,N], sunt valorile posibile ale lui )n,(Y 2η .
• Functia de autovariatie )n(m)n(m)n,n(R)n,n(C 2x1x21xx21xx −=
• Functia de covariatie a doua semnale )t,(X η si )t,(Y η
)n(m)n(m)n,n(R)n,n(C 2y1x21xy21xy −=
7. Valori medii pentru semnale aleatoare complexe
)t,(jY)t,(X)t,(Z ηηη +=
deducem )]t,(Y[jE)]t,(X[E)]t,(Z[E ηηη +=
• Momentul de ordinul 2
)]t,(Z)t,(Z[E)t,t(M 2121z ηη=
• Functia de autocorelatie continua
)]t,(Z)t,(Z[E)t,t(R 2*
121zz ηη=
• Functia de autocorelatie discreta
)]n,(Z)n,(Z[E)n,n(R 2*
121zz ηη=
cu proprietatile:
2112z21z t,t),t,t(M)t,t(M ∀=
simetrie hermitica 2112zz*
21zz t,t),t,t(R)t,t(R ∀=
• Corelatia statistica de ordinul n
)]t,(X)...t,(X)t,(X[E)t,...,t,t(R n21n21x ηηη=
9
8. Medii temporale pentru semnale in timp continuu Mediile temporale se calculeaza pe o realizare particulara
)t,(X η si depind de parametrul η din spatiul esantioanelor. Acestea sunt:
• Valoarea medie liniara
)tt(Xdt)t,(XT
1lim)t(Xm 0
2
T
2
TTx +=== ∫
−∞→
ηηη η
Deci nu depinde de originea timpului t0. Valoarea medie temporala reprezinta componenta continua a
semnalului si este ea insasi o variabila aleatoare deoarece depinde de η . Valoarea sa medie statistica este:
∫−
∞→==
2
T
2
Tx
Tmdt)]t,(X[E
T
1lim])t(X[E ηη
Rezulta ca valoarea medie statistica a tuturor valorilor medii liniare temporale este egala cu valoarea medie liniara statistica a semnalului.
• Valoarea patratica medie (moment de ordinul 2)
20
2
T
2
T
2
T
2 )]tt(X[dt)]t,(X[T
1lim)]t(X[ +== ∫
−∞→
ηη η
Valoarea patratica medie, nu depinde de originea timpului si reprezinta puterea medie a semnalului pe sarcina unitara.
10
• Momentul de ordinul n
n0
2
T
2
T
n
T
n )]tt(X[dt)]t,(X[T
1lim)]t(X[ +== ∫
−∞→
ηη η
• Functia de autocorelatie
Depinde de diferenta dintre momentele de timp considerate.
=++= )tt(X)tt(X)t,t(R 2121,xx ηηη
)tt(Rdt)tt,(X)tt,(Xlim 12,xx2
T
2
T21
T−=++= ∫
−∞→
ηηη
• Functia de corelatie mutuala
=++= )tt(Y)tt(X)t,t(R 2121,xy ηηη
)tt(Rdt)tt,(Y)tt,(Xlim 12,xy2
T
2
T21
T−=++= ∫
−∞→
ηηη
Se poate demonstra ca: )(R)(R ,xy,xy ττ ηη −≠
12,yx,xy tt);(R)(R −=−= τττ ηη
• Functia de autovariatie
)tt(C]m)tt(X][m)tt(X[)t,t(C 12,xxx2x121,xx −=−+−+= ηηηη
• Functia de covariatie
)tt(C]m)tt(Y][m)tt(X[)t,t(C 12,xyy2x121,xy −=−+−+= ηηηη
11
9. Medii temporale pentru semnale in timp discret Daca semnalul aleator este definit doar in momente discrete de timp, in formulele anterioare se inlocuieste indicele ℜ∈t prin indicele Zn∈ , stiind ca nTtn = unde T reprezinta intervalul de timp intre doua momente de timp, iar integrarea se inlocuieste printr-o insumare. De exemplu:
• Valoarea medie liniara
∑−=∞→ +
=2
N
2
Ni
0N
x )i,(X1N
1lim ηm
S-a notat )i,(X 0η pentru )iT,(X 0η sau, inca, )t,(X i0η . Indicele η este un element arbritar al spatiului esantioanelor.
• Momentul de ordinul n
∑−=+
∞→=
2/
2/0
)( ),(1
1lim
N
Ni
nnX iX
NN
m ηη
• Functia de autocorelatie
∑−=∞→
++
=2
N
2
Ni
00N
,xx )mi,(X)i,(X1N
1lim)m(R 0 ηηη
•
Functia de corelatie mutuala
∑−=∞→
++
=2
N
2
Ni
00N
,xy )mi,(Y)i,(X1N
1lim)m(R 0 ηηη
12
• Functia de corelatie circulara
∑−=
++
≅2
N
2
Ni
00xy )mi,(Y)i,(X1N
1)m(r ηη
Observatii: ♦ In cazul seriilor aleatoare digitale (semnale digitale sau
semnale discrete in timp cu amplitudine discreta), variabila aleatoare )i,(X 0η (respectiv )i,(Y 0η ) ia valori in alfabetul finit a,...,a,...,a,a nk21 (si, respectiv, b,...,b,...,b,b mj21 ).
Autocorelatia ca medie temporala devine:
∑−=
+∞→ +
=2
N
2
Nk
hkkN
,xx aa1N
1lim)h(R 0η
Corelatia mutuala temporala a doua semnale digitale este:
∑−=
+∞→ +
=2
N
2
Nk
hkkN
,xy ba1N
1lim)h(R 0η
♦ Corelatiile temporale de ordinul n depind de realizarea particulara aleasa prin parametrul η si de n variabile
1n21 ,...,, −τττ reprezentand diferentele dintre momentele de timp considerate :
n,...,1i,tt i1ii =−= +τ
10. Stationaritate
Definitie: Un semnal aleator este stationar daca proprietatile sale statistice sunt invariante in raport cu
13
schimbarea originii timpului sau, echivalent, la orice translatie de timp.
Doua semnale sunt simultan stationare daca fiecare este stationar si daca proprietatile lor statistice simultane sunt invariante la orice translatie de timp.
Stationaritatea poate fi in sens strict sau in sens larg. Stationaritate in sens strict
Definitie(stationaritate in sens strict sau tare): Un semnal este stationar tare sau in sens strict daca functia sa de repartitie (legea temporala) de orice ordin este invarianta la orice translatie de timp τ .
)t,...,t;x,...,x(F)t,...,t;x,...,x(F n1n1nn1n1n ττ ++=
Rezulta ca densitatile de probabilitate de orice ordin n sunt invariante la orice translatie de timp. Daca semnalul este o secventa digitala aleatoare )n,(X η cu valori in alfabetul a,...,a,...,a,a Nk21 , atunci stationaritatea in sens strict presupune: - )aX(PP ini == este independenta de n - )aX,...,aX(P)a,...,a(P Nn11N1 === depinde numai de diferentele de timp.
Stationaritate in sens larg Definitie(stationaritate in sens larg sau slaba): Un semnal este stationar in sens larg sau slab daca functiile sale de repartitie de ordinul 1 si 2 sunt invariante la orice translatie de timp τ .
)x(F)t,x(F)t,x(F 111 =+= τ
122122121221212 tt),;x,x(F)tt,tt;x,x(F)t,t;x,x(F −==++= ττ
Ca urmare densitatile de probabilitate de ordinul 1 si 2 sunt invariante la orice translatie de timp si deci:
)]t,(X[Emx η= - nu depinde de timp
14
)]t,(X[Em 2)2(x η= - nu depinde de timp
)]t,(X)t,(X[E)(Rxx τηητ += - depinde de diferenta de timp )]t,(Y)t,(X[E)(Rxy τηητ += - depinde de diferenta de timp
In cazul unui semnal digital, stationaritatea in sens larg se defineste prin:
- )aX(PP ini == este independenta de n - )kn(P)aX,aX(P)k,n(P ijjkinij −==== depinde
numai de n-k.
Stationaritatea in sens larg se mai numeste stationaritate pana la ordinul al doilea. Spre deosebire de aceasta, stationaritatea simpla de ordinul al doilea se refera doar la invarianta in timp a proprietatilor statistice de ordinul al doilea, ceea ce nu implica si stationaritatea de ordinul intai. De exemplu, in cazul unei secvente digitale aleatoare, probabilitatea
∑ ∑= =
−======N
1j
N
1jijjkinini )kn(P)aX,aX(P)aX(PP
nu depinde de alegerea lui kX dar poate depinde de n desi )kn(Pij − depinde numai de (n-k).
In concluzie: stationaritatea in sens larg este verificata prin relatiile:
• cazul semnalelor discrete in timp - ]X[E n independenta de n
- ∞<]|X[|E 2n
- )nn(R)n,n(R 12xx21xx −= • cazul semnalelor continue in timp
15
- )]t,(X[E η independenta de t
- ∞<]|)t,(X[|E 2η - )tt(R)t,t(R 12xx21xx −= - continuitatea in origine a functiei de autocorelatie
care asigura continuitatea realizarilor particulare in medie patratica.
15
11. Ergodicitate Stationaritatea este o proprietate a unui semnal aleator care DW I GHWHUPLQDW GHFk GL
PXO LPH WXWXUR HDOL]ULOR
particulare. Din punct de vedere practic, interesant este cazul in care o singura realizare particulara poate fi luata drept model pentru întregul proces aleator.
8 DVHPHQH D UHSUH]LQW VHPQDOHO DOHDWRDU VWD LRQDU DO FUR PHGL VWDWLVWL !#" VXQ $ HJDO " !&% PHGLLO " WHPSRUDO "FRUHVSXQ]WRDU '(' IHFWXDW ' S '*) VLQJXU + UHDOL]DU ' SDUWLFXODUD , G 'care se dispune simplu. Aceste semnale se numesc ergodice. 'HILQL L - HUJRGLFLWDW - WDUH 8. VHPQD / VWD LRQD0 V 1QXPHúW 2 ergodic tare sau in sens strict daca mediile temporale SDQ 3 O 3 RUGLQX 465 DO 2 XQH 7 UHDOL]U 8 SDUWLFXODU 9: UELWUDU 9 VXQ ; HJDOH
cu probabilitate 1, cu mediLO 9 VWDWLVWLF 9 G 9<: FHODú 8 RUGLQ = SHQWU >orice n.
'HILQL L ? HUJRGLFLWDW ? VODED 8@ VHPQD A VWD LRQD B V CQXPHúW C ergodic slab sau in sens larg daca mediile statistice de ordinul întâi si al doilea sunt egale, cu probabilitatea 1, cu mediile temporale ale unH D UHDOL]U E SDUWLFXODU F DUELWUDU F G F DFHODú E RUGLQ
Egalitatea, cu probabilitatea 1, a unei medii statistice cu o PHGL G WHPSRUDOD H G G H[HPSOX H L I FD]X J RUGLQXOX K vQWkL H vQVHDPQ
convergenta in probabilitate: [ ]
1)()(lim
),()(
),()(
=<−
=
=
∞→εη
ηη
η
η
η
tmmP
tXm
tXEtm
XXT
X
X
ceea ce implica anularea variantei variabilei aleatoare )(ηηXm .
Deoarece demonstrarea ergodicitatii este, in general, anevoioasa, adesea in practica este suficienta considerarea ergodicitatii in raport cu media liniara (de ordinul întâi), care poate fi numita erodicitate practica. 'HILQL L L HUJRGLFLWDW L SUDFWLF M V MON L P UDSRU Q F N PHGL Mliniara) R 8 S VHPQD T DOHDWR U VWD LRQDU V V QXPHúW V SUDFWL WXV UJRGL Wdaca varianta mediei temporale este nula:
16
[ ] 0)(var 2 ==
ησηη XmXm
Interpretarea fenomenului de ergodicitate practica (sau in raport cu media liniara) este imediata. Deoarece )(ηηXm este o
variabila aleatoare obtinuta printr-un proces la limita, conditia din definitia anterioara poate fi rescrisa sub forma:
0),(1
varlim2/
2/
=
∫
−∞→
T
TTdttX
Tη
sau, daca se introduce o noua variabila aleatoare:
= ∫
−
2/
2/
),(1
),(T
TX dttX
Ttm ηηη
XXT
XT
mtm
tm
=
=
∞→
∞→
),(lim
sau 0),(varlim
η
η
η
η
Considerând un úL Y G Z PRPHQW Z ∞→nT , fiecare dintre variabilele aleatoare XnX mTm media are ),(ηη , varianta tinzând
la zero pentru ∞=n (fig. 1) Fig.1. Reprezentarea fenomenului de ergodicitate practica. Punctele indica valori ale variabilelor aleatoare ),( nX Tm ηη
oscilând in jurul mediei Xm , varianta tinzând la zero pentru ∞→n .
8[ FULWHUL \^] Z HUJRGLFLWDW Z XWL _ HVW Z FRQ LQX ` L [ WHRUHP a XUPWRDUH
T 0 T1 T2 ∞→nT
Figure 0
),( nX Tm ηη
Xm
17
Teorema (criteriul de ergodicitate practica): Fie un semnal stationar in sens larg )t,(X η continuu in timp. Daca:
0)(11
lim =
−∫
−∞→ττ
τdC
TT XX
T
TT,
atunci semnalul )t,(X η este practic ergodic.
Demonstratie:
'L b FRQGL L c G d c QXODU d c YDULDQWH e PHGLH egf HPSRUDO d OLQLDUH
rezulta:
[ ] [ ] ( )
22/
2/
2/
2/2
2222
)(),(),(1
lim
)()(
X
T
T
T
TT
XXXXm
mdvduuXvXT
mmEmmEX
−=
−=−=
∫ ∫− −∞→
ηη
ηησ ηηη
cu schimbarea de variabile
ττ +=⇒=− uvuv ,
vv = ,
se trece de la planul )u,v( la planul ),v( τ . Domeniul de integrare in planul )u,v( din fig.2a se transforma in domeniul de intregrare din fig2b, limitele obtinandu-se din:
2
Tv
2
Tu +=⇒= τ ,
2
Tv
2
Tu −=⇒−= τ .
Cu aceasta, integrala dubla din ultima expresie a lui 2η
σXm
se transforma in integrala simpla, deoarece elementul de VXSUDID c)dvdu( din planul )u,v( se transforma in elementul ττ d|)|T( −
din planul ),v( τ : ττ d|)|T(dvdu −→
18
Fig.2 transformarea domeniului de integrare prin substitutia
τ=− uv
Intr-adevar, aria paralelogramului din fig.2b se obtine prin scaderea suprefetei hasurate in fig.3b din suprafata hasurata din fig.3a.
Fig.3. Calculul elementului de suprafata in planul ),v( τ
Rezulta deci: ∫ ∫ ∫− − −
−=−T
T
T
T
T
Td|)|T(d||d
2
T2 τττττ
0
2
T
2
T
u
v
2
T−
2
T−
v
2 0
2
T
2
T
T
-T
2
T−
a) b)
2
T
v
2
T−
2 T -T
||v τ=
2 T -T
a) b)
19
in loc de ∫ ∫− −
2
T
2
T
2
T
2
Tdvdu
Teorema este demonstrata deoarece expresia lui 2η
σxm devine
∫−∞→
=−=T
TXX
Tm dC
TTx0)()
||1(
1lim2 τττσ
η
Un alt criteriu practic de recunoastere a ergodicitatii unui semnal aleator este dat de urmatorul corolar al teoremei precedente. Corolar (alt criteriu de ergodicitate practica): Daca IXQF L hde autocovarianta a unui semnal aleator )t,(X η VWD LRQD i WLQG jFWU j ]HUR
0)(lim =τ∞→τ XXC ,
atunci semnalul )t,(X η este practic ergodic. 'HPRQVWUD LH
Pentru orice 0>ε se poate alege un 0' >τ astfel incat: ',|)(| τ>τε<τXXC .
Rezulta, atunci, pentru 'T τ> :
ε=ττ−ε≤τττ− ∫∫−−
2)||
1(|)()||
1(1
| dTT
dCTT
T
T
T
TXX .
Deci: ∫−∞→
=τττ−T
TXX
TdC
TT0)()
||1(
1lim
si din teorema anterioara rezulta ca semnalul )t,(X η este practic ergodic. • Prin urmare, pentru a verifica ergodicitatea unui semnal aleator
in raport cu valoarea sa medie liniara, trebuie calculata IXQF L hsa de autocovarianta )(τXXC , deci o valoare medie de ordinul al doilea.
In general, pentru verificarea ergodicitatii unei valori medii de ordinul k HVW j QHFHVDi V h V j GLVSXQ G jkml DORDU j PHGL j G j RUGLQX n2k.
20
Demonstrarea ergodicitatii unui proces aleator este dificila si, ca DWDUH o V p p IHFWXHD] QXPD q qsr FD]XU q VSHFLDOH o DOWPLQWHU qproprietatea de ergodicitate este doar presupusa. • Ergodicitatea implica întotdeauna proprietatea de stationaritate
F tvu FRQGL L p QHFHVDUD o GDw LQVXILFLHnta. Ierarhizarea claselor VHPQDOHOR w VWD LRQDU x V y HUJRGLF x HVW x UHSUH]HQWDW z L ILJ
2EVHUYD LH Doua semnale aleatoare sunt simultan ergodice daca ambele
VXQ | HUJRGLF V ~ GDF PRPHQWHO OR PXWXDO FRUHOD L PXWXDO V ~FRYDULDQ D VWDWLVWLF VXQ Hgale cu cele temporale.
Fig.4. Ierarhizarea semnalelor aleatoare dupa proprietatile de stationaritate si ergodicitate.
semnale aleatoare
semnale stationare
in sens larg
semnale stationare
in sens strict
semnale ergodice in sens
larg(slab) semnale ergodice in
sens strict(tare)
21
Exemplu: Fie un semnal aleator sinusoidal cu amplitudinea, frecventa si faza aleatoare:
)(t)(sin[)(A)t,(X ηϕηωηη += , unde )(si)(),(A ηϕηωη sunt variabile aleatoare independente;
)(si)(A ηωη au DFHHDú IXQF L G UHSDUWL L V D DORULO 0A ≥ si, respectiv, 0≥ω .
In schimb, )(ηϕ DU < UHSDUWL L XQLIRUPD π
ϕ2
1)(f = , in
intervalul ]2,0[ π . 5HDOL]ULO SDUWLFXODU WUDLHFWRULile) semnalului aleator dat sunt semnale sinusoidale uzuale (fig.5).
Fig.5. Realizari particulare sinusoidale ale unui semnal aleator cu amplitudinea, frecventa si faza aleatoare.
a) $FHV VHPQD HVW VWD LRQD GHRDUHF DU UHSDUWL LLOH respectiv densitatile de probabilitate, invariante la WUDQVOD LLO G WLPS
)tsin(A),...,tsin(Af
)tsin(A),...,tsin(Af
n1n
n1n
ϕωϕωϕωτωϕωτω
++==++++
Daca se noteaza:
0 2 4 6 8 10 12
t
0
-4
-2
4
2
)tsin(A 111 ϕω + )tsin(A iii ϕω +
22
,ατϕψ += regintk,k2ˆ =+= πψψ ,
atunci ramane de demonstrat egalitatea: ),,A(f)ˆ,,A(f ϕωψω = , unde s-au definit evenimentele simultane
.)(ˆ,)(,A)(A ϕηψωηωη ≤≤≤ Dar ϕω ,,A sunt variabile aleatoare independente, de unde rezulta si independenta v.a. ψω ˆ,,A . Egalitatea anterioara se reduce atunci la:
)(f)(f)A(f)ˆ(f)(f)A(f ϕωψω = sau la: )(f)ˆ(f ϕψ =
Dar ψ se obtine din ϕ prin translatia cu ατ si reducere modulo π2 . Deoarece repartitia lui ϕ este uniforma, aceasta nu se
modifica prin translatie. Prin urmare, ultima egalitate este demonstrata. b) Media statistica liniara este constanta, semnalul fiind
stationar; pentru t−=τ , rezulta: ),0()()( )1()1()1(
XXX mtmtm =τ+=
∫π
ϕ =ϕϕπ
=ϕ=ϕ=2
0
)1()1()1()1( 0sin2
1sinsin)0( dAmAmAmm AXX
c) Functia de autocovarianta, egala cu functia de autocorelatie deoarece valoarea medie este nula, se calculeaza dupa cum urmeaza:
)]2cos([)](cos[2
1
)]sin()sin([),(),(
22
2
ϕ+ω+ω−−ω=
=ϕ+ωϕ+ω==
stAEstAE
stAEstRstC XXXX
Notand densitatea de probabilitate a lui ω prin )(f ω , rezulta:
∫∞
ω−ωω=−ω=−ω0
222 )(cos)()]([cos)(cos[ dstfAstEAstAE
Similar, se deduce:
0]]2[sin)[sin(]]2[cos)[cos(
)]2[cos(][)2cos([
22
22
=ϕω+ω−ϕω+ω=
=ϕ+ω+ω=ϕ+ω+ω
EstEAEstEA
stEAEstAE
S-a tinut cont ca 0]2[sinE]2[cosE == ϕϕ Datorita faptului ca ϕ este v.a. uniform repartizata pe intervalul
]2,0[ π .
23
Rezulta, prin urmare:
∫π
ω−ωω=−=2
0
2 ,)(cos)(2
1)(),( dstfAstCstC XXXX
ceea ce confirma stationaritatea semnalului. In cazul densitatii de probabilitate particulare de forma (GLVWULEX &DXFK\
)(1
12)(
2ω
ω+π=ω uf ,
unde )(u ω HVW IXQF L WUHDSW XQLWDWHV RE LQH
∫∞
−=ωω+ω
π===
0
||22
2
2
1
1
cos1)0,()0,()( t
XXXXXX eAdt
AtRtCtC
)XQF L G XWRFRUHODWL VW UHSUH]HQWDW L ILJ V HVW WLSL #SHQWU m URFH DOHDWR VWD LRQDU
FLJ ¡ )XQF L ¢ £6¤ DXWRFRUHODWL ¤ DXWRFRYDULDQWD¥¢ VHPQDOXOX ¦)t,(X η sinusoidal cu amplitudine, frecventa si faza aleatoare.
0 t
)()( tCtR XXXX =
2
2
1A
24
12. Analiza spectrala a semnalelor aleatoare stationare in sens larg
• Densitatea spectrala de putere
[ ] [ ]
[ ]
[ ]
putere de spectrala densitatea este)(1
)(
unde )(2
1)(
1
2
1
)(2
1)(
1
:este normata medie Puterea
)(2
1)(
:este normata medie Energia aleator. proces asemenea de este si
)(2
1)(
:este ) 1R (pe normata Energia aleator. proces tot este care
)exp()()exp()()(
:Fourier ata transformadmite )(
restin ,0)(
2/,)()(
:jos mai ca definita ,procesului a procesului a aleator
. trunchiatrealizare .particular realiz. proces
)()(),(
2
2
22
22
22
2/
2/
lim
limlim
ω=ω
ωωπ
=ωωπ
=
=ωωπ
==
ωωπ
==
ωωπ
=
Ω=
ω−=ω−=ω
=
≤=
↓↓↓
⇒⇒η
η
∞→
∞+
∞−
∞
∞−
η
∞
∞−
η
∞→
∞
∞−
η
∞→
∞
∞−
η∞
∞−
η
∞
∞−
η∞
∞−
ηη
−
η∞
∞−
ηη
η
η
ηη
ηη
∫∫
∫∫
∫∫
∫⇒∫
∫∫
TT
XX
XXT
TT
TT
TTT
TParseval
TT
T
TT
T
T
T
T
XT
q
dqdXT
dXT
dttXT
P
dXdttXE
dXdttXE
dttjtXdttjtXX
tX
tX
TttXtX
tXtXtX
• Teorema Wiener – Hincin Teorema: pentru un semnal aleator stationar in sens larg, densitatea spectrala de putere qXX(ω) este transformata Fourier a functiei de autocorelatie RXX(τ) .
25
∫∫
∫∫
∫∫
∫∫
−−∞→
−
ηη
−∞→
ηη∞
∞−
∞
∞−∞→
∞
∞−
η∞
∞−
η
∞→
ηη
∞→
η
∞→
←→
−ω−=
=−ω−=
=−ω−
=ω−ω=
=ω⋅ω=ω=ω
τωω=τ
τ=ω
2/
2/211221
2/
2/
2112
2/
2/21
2/
2/
211221
222111
*2
1-
1-
))(exp(),(1
))(exp()()(1
))(exp()()(1
)exp()()exp()(1
)()]([1
)(1
)(
)()()(F)(
)(F)(
lim
lim
lim
lim
limlim
F
F
T
TXX
T
TT
T
TTT
T
TT
TTT
TTT
TTT
TT
XX
XXXXXXXX
XXXX
dtdtttjttRT
dtdtttjtXtXT
dtdtttjtXtXT
dttjtXdttjtXT
XXT
XT
q
RqqR
Rq
[ ]
)(F)exp()(
1)exp()(lim)(1
lim)(
, variabilade schimbareaCu
)(1
lim)(
rezulta ))(exp()()( noteaza se Daca
)(),( larg, sensin stationar este semnalul Daca
12
2/
2/
2/
2/1212
121212
1221
τ=τωτ−τ=
=τ
τ−ωτ−τ=ττ−τϕ=ω
τ=−
−ϕ=ω
−ω−−=−ϕ−=
∫
∫∫
∫ ∫
∞
∞−
−∞→−∞→
− −∞→
XXXX
T
TXX
T
T
TTXX
T
T
T
TTXX
XX
XXXX
RdjR
dT
jRdTT
q
tt
dtdtttT
q
ttjttRtt
ttRttR
Densitatea spectrala de putere de interactiune (mutuala).
Fie doua semnale aleatoare:
)( )(
)( )(
),(),(
ωω
↓↓
↓↓ηη
ηη
ηη
TT
TT
YX
tYtX
tYtX
26
)(F)]([)(1
lim)(
)(F)()]([1
lim)(
*
*
τ=ω⋅ω=ω
τ=ω⋅ω=ω
ηη
∞→
ηη
∞→
YXTTT
YX
XYTTT
XY
RYXT
q
RYXT
q
• Proprietatile densitatii spectrale de putere
semnalului a medie puterea este )(2
1 4.
pentru reala este)( 3.
para functie o este :)()( 2.
definita pozitiv functie o este:,0)(1
lim)( 1. 2
∫∞
∞−
∞→
ωωπ
=
ω∀=ωω−=ω
ω∀>ω=ω
dqP
q
XT
q
XX
XX
XXXX
TT
XX
<ω≥ω
=ω
ω⋅ω=ω
ωωπ
=
>ωω
∫∞
0,0
0,1)(
)()(2)(
)(2
1
0pentru putere de spectrala densitatea este )(
0
U
Uqp
dpP
p
XXXX
XX
XX
• Proprietatile densitatii spectrale de putere de interactiune si ale functiilor de intercorelatie
)()(
)]([)(
)()(*
τ−=τω−=ω
ω−=ω
YXXY
XYXY
YXXY
RR
qXX(ω) 1
ω
pXX(ω) 2
ω
27
mX (2) σX
2
(mX)2
τ
RXX(τ)
mX (2)
σX2
(mX)2
RXX(τ)
τ
• Proprietatile functiei de autocorelatie
( )
( ) )()0(.3
)(2
1)(
),(,(),()(
)0(.2
),(),()(
)exp()(2
1)(
,(),()()(),(
lim
lim
lim
lim.1
2)2(2
0
)2(2
0
)2(
221
211221
τ−=−=σ
=ωωπ
=τ
=η=η⋅η=τ
==
=η⋅η=τ
ωωτωπ
=τ
η⋅η=τ=−=
∞→τ
∞
∞−→τ
→τ
∞→τ
∞
∞−
∫
∫
XXXXXXX
XXXX
XXX
XXX
XXX
XXXX
XXXXXX
RRmm
PdqR
mtXEtXtXER
PmR
mtXEtXER
djqR
tXtXERttRttR
[ ]
τ∀τ≥⇒≥τ−⇒
≥τ+ηη−η⇒
≥τ+ηη−τ+η+η
≥τ+η−η
τ∀τ≥
),()0(
0)()0(
0),(),(2),(2
0),(),(2),(),(
0),(),(
0in maxima este tieautocorela de fctia:)()0(.4
2
22
2
XXXX
XXXX
XXXX
RR
RR
tXtXtX
tXtXtXtX
tXtX
RR
28
)cos()()(F)(
linii despectru un )()(2)(
)(
)exp()()(
/2perioada aceeasi de
periodic semnalun este periodic semnal unui a tieautocorela de functia.6
)cos()(2
1)exp()(
2
1)(
para este tieautocorela de fctia)()(.5
0
2
01
0
2
0
2
0
00
00
tnnCqR
nnCq
nCP
tjnnCtX
T
dqdjqR
RR
nXXXX
nXX
n
Parseval
n
XXXXXX
XXXX
ω⋅ω=ω=τ⇒
ω−ωδ⋅ωπ=ω⇒
ω
ωω=
ωπ=
τωτωπ
=τωτωπ
=τ
τ−=τ
∑
∑
∑=
∑
∫∫
∞
−∞=
−
∞
−∞=
∞
−∞=
∞
−∞=
∞
∞−
∞
∞−
• Banda de frecvente a semnalelor aleatoare
a) Semnale aleatoare trece-jos, al caror spectru se intinde intre 0 si
frecventa maxima fmax care si determina largimea de banda B a acestor semnale: B = fmax.
Exemple: semnale in banda de baza: o Sunet:
- de calitate telefonica, avand fmax= 3,4 kHz - de calitate radio, avand fmax=7 kHz - de inalta fidelitate (Hi-Fi), avand fmax=20 kHz
o Imagine: - alb – negru, avand fmax= 5,5 MHz - color, avand fmax= 7,5 MHz
o Date: B = 0,7 fT , unde fT este frecventa de tact b) Semnale aleatoare trece banda
care ocupa o banda de frecvente B in jurul unei frecvente centrale fc
Exemple: semnale modulate in amplitudine, semnale esantionate
ω/2π
qXX(ω)
-B B
qXX(ω)
ω/2π - fc fc
B B
29
qXX(ω)
ω /2π Bech
RXX(τ)
τ τc
c) Semnale aleatoare cu banda de frecvente echivalenta
)0(
)(
21
)()0(2
XX
XX
ech
XXXXech
q
dqB
dqqB
ωω
π
ωωπ
∫⋅=
∫=⋅
∞
∞−
∞
∞−
• Timp de corelatie τc
echXX
XXc
XXXX
XX
XX
c
XXXXc
Bdq
q
qR
R
dR
dRR
πωωτ
ωτ
τττ
τττ
21
)(
)0(
atunci
))((F)(Daca
)0(
)(
)()0(
1-
=∫
=
=
∫=
∫=⋅
∞
∞−
∞
∞−
∞
∞−
• Functia de coerenta a doua semnale aleatoare X(η, t) si Y(η,t) poate preciza gradul de dependenta intre procese:
)()(
)()(
22
ωωω
ωρYYXX
XYXY qq
q
⋅=
002
002
frecventa la coerentesunt semnalele 1)( pentru
frecventa la incoerentesunt semnalele 0)( pentru
ωωρ
ωωρ
=
=
XY
XY
30
13. Exemple de func §§ G ¨ DXWRFRUHOD LH
[ ]
( )22
2
00
0
2)(
|)|exp()()c
2/
2/sin)(
rest pentru ,0
pentru ,1)()b
)()(2
)(
cos)()a
ω+αα=ω
τα−=τ
ωτωτ⋅=ω
<ττ−
=τ
ω+ωδ+ω−ωδ=ω
τω=τ
Aq
AR
Tq
TTR
Aq
AR
XX
XX
XX
XX
XX
XX
τπ⋅τ⋅π
=τ
⋅+≤π
ω≤−∀=ω
ωπ=τ=ττω
πω=τ
πω=ω≤ω∀=ω
→ττδ=τ
∞→ω∀=ω
cXX
ccXX
cXX
echXX
cXX
echXX
fAB
R
Bf
BfAq
AR
BAq
NR
BN
q
2cos2
Bsinc
2)(
222)(f)
sinc)(
2)(e)
0 )(2
)(
real 2
)(d)
000
0
00
0
0
BB
RXX(τ)
τ T0/2 A
ω
qXX(ω)
-2πf0 2πf0
A2δ(ω-ω0)/2
RXX(τ)
τ -T T qXX(ω)
ω
-4π/T -2π/T 2π/T 4π/T
RXX(τ)
τ
qXX(ω)
ω
qXX(ω) N0/2 ω RXX(τ) δ(τ) N0/2 τ qXX(ω) A ω RXX(τ) τ
τ0
B
qXX(ω) A ω RXX(τ) τ
τ0
2πfc -2πfc cosωcτ
31
τ Corelator
X(η,t) Y(η,t)
RSS(t0 -τ)
14. Aplica ©©6ª¬« IXQF L « G FRUHOD LH
[ ] [ ]
)()()()()()(
),(),(),(),(
),(),()(
:unde de 0)()(
:ortogonale sisunt ,0),( daca si decorelatesunt deci statistic,
teindependensunt diferite, surse de produse fiind ),,( si ),(
eperturbati utilsemnalt receptionasemnal
),(),(),(
aleator semnalun Fie
iperturbati de acoperite slabe, semnalelor Detectia)a
τ+τ=τ+τ+τ+τ=τ+η+τ+η⋅η+η
=τ+η⋅η=τ=τ=τ
=ηηη
⇓⇓⇓η+η=η
NNSSNNNSSNSS
XX
NSSN
RRRRRR
tNtStNtSE
tXtXER
RR
tNE
tNtS
tNtStX
)()(lim τ=τ∞→τ
SSXX RR
deplasare de vitezelorMasurarea)b Exemplu: masurarea vitezei v a unui mediu mobil M fata de doua traductoare fixe T1, T2, situate la o distanta cunoscuta l unul de altul.
RSS(τ)
τ
RNN(τ)
τ
RXX(τ)
τ
Corelator RXX(τ)→RSS(τ)
Decorelator
S(η,t) X(η,t)
τ ®
),(),(),(
),(),(),(
20
1
tNttStY
tNtStX
η+−η=ηη+η=η
l
v
T1 T2
M
32
Functionare: se regleaza τ pana cand RSS(t0 -τ) este maxim. Atunci t0 - τ = 0 sau t0 = τ = l/v ⇒ v = l/τ. Se pot masura astfel viteze de deplasare ale laminatelor, vehicolelor, etc.
( )
( ) ( )[ ]
( ) ( ) ( ) ( )[ ][ ] [ ]
origine.in continua este tieautocorela de sa functia daca deci
0)()0(lim0)(2)0(2lim
,,2,,lim
0,,lim
: daca patratice, mediei sensul
in continuu, este , larg sensin stationar aleator Semnalul
aleator semnal unui tiicontinuita eaDeterminar)c
00
22
0
2
0
=τ−⇒=τ−⇒
η⋅τ+η−η+τ+η⇒
=η−τ+η
η
→τ→τ
→τ
→τ
XXXXXXXX RRRR
tXtXtXtX
tXtX
tX
Obs.: structura generala a unui corelator, pentru semnale analogice ergodice, este data in fig. de mai jos:
unde RYX(η,τ) = dttYtXT
T
T),(),(
1 2/
2/η∫ τ+η
−
Pentru semnale digitale
RYX(η, l) = ∑ η+η−
=
1
0),(),(
1 M
kkYlkX
M
τ Multiplicator X(η,t) Y(η,t)
Integrator RYX(τ) = RYX(η,τ)
Multiplicator X(η,k) Y(η,k)
RYX(η,l)
z-1
1/M ....
valori l
+
dupa M-1 tacte
33
H(ω), h(t) x(t) ↓ X(ω)
y(t) ↓ Y(ω)
15. Prelucrarea liniara a semnalelor aleatoare (filtrare) • Notiuni fundamentale
Se considera ca semnalele aleatoare x(t) = Xη(t) = Xη(t) trec prin sisteme liniare, invariante in timp si cauzale (SLITC), la care functia pondere respecta relatia: h(t) = 0, t<0
)()()( ω⋅ω=ω XHY
[ ] )()()(
)()()(
thxdthx
dhtxty
∫ ∗=ττ−τ=
τττ∫ −=
∞
∞−
∞
∞−
[ ]
[ ] [ ] )()(F);()(F)()()()(
)()()()(
)()()()(
)()(),(
)()()()()()(),(
)0()(
)()()()()()()(
)()()()()(
)(lim)(
)()(lim
)(lim)(
1-*
2121221121
21212211
222211112121
*2
22
22
τ=ωω=τ
ωω⋅ω=ω
τ−∗τ∗τ=τ
τττττ+−τ−∫ ∫=−
τττττ−τ−∫ ∫=
=
∫ ∫ τττ−⋅τττ−=⋅=
⋅=∫ ττ⋅=
=∫ τττ−=ττ∫ τ−=
∫ τττ−=
ω⋅ωω=ω⋅ω=
=ω
ω=ω⋅ω
=ω
=ω
∞
∞−
∞
∞−
∞
∞−
∞
∞−
∞
∞−
∞
∞−
∞
∞−
∞
∞−
∞
∞−
∞
∞−
∞→∞→∞→
YYYYYYYYXXYY
XXYY
XXYY
XX
YY
XX
X
XXXX
T
T
T
T
T
TYY
RqqRHHqq
hhRR
ddhhttRttR
ddhhttR
dhtxdhtxEtytyEttR
Hmdhm
dhtmdhtxEdhtxEtyE
qHHqH
T
XH
T
HX
T
Yq
F
ωω⋅∫ ωπ
==
ωωτω⋅∫ ωπ
=ω=τ
∞
∞−
∞
∞−
−
dHqRtyE
djHqqR
XXYY
XXYYYY
22
21
)()(2
1)0()(
)exp()()(2
1)()(
34
)()()()(
)()()()()()()()()(
)()()( )()()(
)()()()()()(
*
*
*
ω=ωω⋅ω
τ∗τ−∗τ=τ⇒ω⋅ω=ω⋅ω=ω
τ−∗τ=τ⇒ω⋅ω=ω
τ∗τ=τ⇒ω⋅ω=ω
YYXX
XXYYXYYXYY
XXYXXXYX
XYXYXXXY
qHHq
hhRRHqHqq
hRRHqq
hRRHqq
• Trecerea zgomotului alb prin sisteme liniare
Pentru zgomot alb:
intrare. de semnalului al corelare de graduldecat mare mai
corelare de gradun cu iesire de semnalun produceliniar sistem orice :Obs.
0)(
4
)exp()(4
)0()(
)(
:este tieautocorela de ulcoeficient
0)0(
)exp()(4
)exp()(21
)(
)(2
)(
:iesire la de semnalulPentru
0)0(
)()(
:este tieautocorela de ulcoeficient
0
)(2
)(
,2
)(
20
20
20
20
0
0
≠∫ ωω
π
∫ ωωτωπ=τ=τρ
=⋅=
∫ ωωτωπ∫ =ωωτω
π=τ
ω⋅=ω
=τ=τρ
=
τδ=τ
ℜ∈ω∀=ω
∞
∞−
∞
∞−
∞
∞−
∞
∞−
dAN
djAN
R
R
mHm
djAN
djqR
AN
q
R
R
m
NR
Nq
YY
YYYY
XY
YYYY
YY
XX
XXXX
X
XX
XX
qXX(ω) N0/2 ω RXX(τ) δ(τ) N0/2 τ
Pentru zg. alb
35
• Determinarea lui h(t) pentru SLITC, prin metoda de autocorelatie
Pentru zgomot alb la intrare:
sus mai de montajulcu obtine se )( unde
)(2
)(
)(2
)(2
)()(
)(2
)()()()()(
),(2
)(
0
00
0
0
τ
τ⋅=τ⇒
τ=−τδ∫=τ
τ=−τ∫=τ∗τ=τ
ℜ∈ω∀τδ=τ
∞
∞−
∞
∞−
XY
XY
XY
XXXXXY
XX
R
RN
h
hN
duuN
uhR
hN
duuRuhhRR
NR
Y(t)
h(t) Corela tor
X(t) = N(t) (zg. alb)
RXY(τ)
1 Detectia semnalelor
Detectia semnalelor presupune determinarea prezentei sau
absentei unui semnal cu semnificatie (exemple: ecoul in radar sau in sonar, la transmisii de date prezenta sau absenta unor simboluri dintr-un alfabet finit si cunoscut ).
1. Modelul sistemelor de detectie a semnalelor Obs.: • la receptie se verifica toate ipotezele relative la simbolurile Si si
daca ipoteza Hi este adevarata se ia decizia Di ca semnalul receptionat r(t) corespunde simbolului Si.
• ipotezele pot fi simple (Si ⇔ si(t) ca punct in spatiul semnalelor) sau compuse (Si ⇔ si(t) ca domeniu in spatiul semnalelor)
• observatiile pot fi discrete (esantioane ale r(t)) sau continue (pentru intregul semnal r(t)).
2. Detectie binara (i = 0,1) cu observatii discrete (o singura
observatie pe simbol)
Modulator Canal Receptor Decizii
Sursa simbol
simboluri purtatoare perturbatie ipoteze Hi decizii
Si Di
n(t) s(t)
r(t)
perturbare
verificare ipoteze
spatiul simbolurilor
Si
spatiul deciziilor
spatiul observatiilor
r(t) = si(t) + n(t)
Di spatiul semnalelor emise
si(t)
modulare
s0(t) s1(t)
0 1 1 0
1 1 1 0
s(t)
r(t)
T
Si Di
t t
observatii
d. eronata
2 In detectia binara avem doua simboluri (S0 si S1) si doua ipoteze (H0 si H1):
H0: a fost transmis 0 (S0) H1: a fost transmis 1 (S1)
Se urmareste gasirea unui criteriu de stabilire a ipotezei corecte, pe baza unei singure observatii asupra R. Se presupun cunoscute densitatile de probabilitate ale R in cele doua ipoteze:
1,0cu )|( Dac ).|( úL )|( 1|0| 10=irHPHrfHrf iHRHR
reprezinta probabilitatea ipotezei Hi la receptia r:
1)|()|(
:concis sau,)|()|(dac alege se
)|()|(dac alege se
0
1
0
1
011
100
H
H
rHP
rHP
rHPrHPH
rHPrHPH
<>
>>
• Criteriul de decizie MAP (maximum a posteriori probability). Criteriul dedecizie duce la partitia spatiului observatiilor in doua regiuni R0 si R1 si se alege H0 daca r este continut in R0 si H1 daca r este continut in R1. Cu regula Bayes se poate scrie:
3
0 K 1 r
)|( 0| 0Hrf HR )|( 1| 1
Hrf HR
P(D0| H1) P(D1| H0)
)(
)(
)|(
)|()(
:cu testuluipragul si
)( tateplauzibili de raportul noteaz se daca
)(
:sau )(
)(
)|(
)|(
:sau 1)()|(
)()|(
:rescrie se sus mai
de criteriul atunci úL )(
)()|()|(
1
0
0|
1|
1
0
1
01
00|
1|
1
000|
11|
|
0
1
0
1
0
1
1
HP
HPK
Hrf
Hrfr
K
r
Kr
HP
HP
Hrf
Hrf
HPHrf
HPHrf
rf
HPHrfrHP
HR
HR
H
H
H
HHR
HR
H
HHR
HR
R
iiHRi
==Λ
Λ
Λ
=
><
><
><
Din cauza zgomotului se pot lua decizii eronate. Pot fi urmatoarele situatii:
a) se decide D0 cand H0 este adevarat b) se decide D1 cand H1 este adevarat c) se decide D0 cand H1 este adevarat d) se decide D1 cand H0 este adevarat
primele doua decizii sunt corecte iar ultimele doua sunt eronate. Eroarea de tip c) se numeste eroare de pierdere (miss) si are
accept H0 accept H1
4 probabilitatea PM = P(D0| H1). Eroarea de tip d) se numeste alarma falsa (false alarm) si are probabilitatea PF = P(D1| H0). Ca masura a performantei sistemului se alege probabilit atea medie de eroare :
)|()()|()( 101010 HDPHPHDPHPPe +=
• Criteriul de decizie Bayes Acest criteriutine cont de “costurile” deciziilor in procesul de detectie binara. In acest proces apar perechi (Di, Hj). Fiecarei perechi i se poate asocia un cost Cij. Criteriul de decizie Bayes minimizeza costul mediu. Costul mediu se defineste cu relatia:
)|()(),(
1,0
1,0
1,0
1,0jijij
j
ijiij
j
iHDPHPCHDPCC ∑ ∑
==
∑ ∑
==
==
[ ] drHrfCCHP
HrfCCHPHPCHPCC
RRRR
CCCC
drHrfHPCdrHrfHPC
drHrfHPCdrHrfHPC
HPHDPCHPHDPC
HPHDPCHPHDPCC
HR
R HR
R HRR HR
R HRR HR
)|())((
)]|())(([)()(
:atunci si si ),( ca faptul de uz face se si
si
:corecta cea
decât mult mai cost incorect decizia c rezonabil prezum UH face se
)|()()|()(
)|()()|()(
)()|()()|(
)()|()()|(
0|00100
1|11011111010
0101
11010010
1|1111|101
0|0100|000
1111111001
0011000000
0
0 1
1 10 1
1 00 0
−
∫ −−++=
φ=∩∞−∞=∪>>
∫∫ ++
∫ +∫ +==++
++=
Cea mai mica valoare a costului mediu se obtine cand integrandul ecuatiei de mai sus este negativ pentru toate valorile lui r ∈ R0. Se poate accepta ipoteza H0 daca:
ia
5
KCCHP
CCHP
H
H
Hrf
Hrfr
HrfCCHPHrfCCHP
HR
HR
HRHR
=−−=Λ
−<−
<>
))((
))((
)|(
)|()(
:concissau
)|())(()|())((
11011
00100
0
1
0|
1|
0|001001|11011
0
1
01
Se vede ca pentru C10 - C00 = C01 - C11, criteriul Bayes devine criteriul MAP. Se poate arata ca daca: C00 = C11= 0 si C10 = C01 =1, atunci criteriul Bayes minimizeaza probabilitatea deciziilor eronate.
6
3. Detectia binara (i = 0, 1) cu observatii multiple pe simbol (daca r > 0 ⇒ 1, daca r < 0 ⇒ 0)
Daca receptorul observa N esantioane ale r(t) in intervalul (0, T), notate r1, r2, ..., rN, se defineste vectorul
[ ]
)/()/,...,,(
)/()/,...,,(
:ateprobabilit de edensitatil si ca ,...,,
1|121
0|021
21
1
0
HrfHrrrf
HrfHrrrf
rrrr
HRN
HRN
TN
=
=
=
Se urmareste gasirea unor decizii corecte, pe baza mai multor observatii asupra R . Se presupun cunoscute densitatile de probabilitate ale R in cele doua ipoteze:
).|( úL )|( 1|0| 10HrfHrf
HRHR
Criteriile de decizie deduse pentru o singura observatie se pot rescrie pentru N observatii, dupa cum urmeaza:
T
momentele observatiilor
0 1 1 0
0 1 1 0 dispare decizia eronata
s0(t) s1(t)
s(t)
r(t)
Si Di
t t t
T
1 2............N
D0
D1
r1
r2
rN
7
αΛ
Λ
Λ
Λ
Λ
≤=
−−⋅==
==
==
><°
FHR
HR
HR
HR
HR
HR
HR
HR
H
H
PKHrf
Hrfr
CC
CC
HP
HPK
Hrf
Hrfr
KHrf
Hrfr
HP
HPK
Hrf
Hrfr
Kr
conditiadin alege se )|(
)|()(
:Pearson-Neymanpentru
)(
)(
)|(
)|()(
:Bayespentru
1)|(
)|()(
:maxima tateplauzibilipentru
)(
)(
)|(
)|()(
:MAPpentru unde
)(
0|
1|
1101
0010
1
0
0|
1|
0|
1|
1
0
0|
1|
1
0
0
1
0
1
0
1
0
1
Daca se noteaza cu
∏=
∏=
=±
=±N
iiHRHR
N
iiHRHR
i
iHRiHR
HrfHrf
HrfHrf
HHr
HrfHrf
i
i
ii
11|1|
10|0|
10
0|0|
)|( )|(
)|( )|(
:avem te,independen statistic
sunt leobservatii daca si ,ipotezelein iobservatie ale
ateprobabilit de edensitatil )|( si )|(
11
00
00
Exemplu: detectia a doua semnale de forma cunoscuta
Tttsats
Tttsats
≤≤=≤≤=
0)()(
0)()(
11
00
8
⇐⇐
=+=11
00)()()(
Ha
Haatntsatr
Se presupune ca zgomotul este gaussian, de valoare medie nula si de varian σ2. Densitata de probabilitate pentru un esantion de semnal receptionat este:
[ ]
[ ]=∑ −−−=
∑ −−−−==
⇐
−∑−=
⇐
−∑−=
⇐
−−∏=
⇐
−−∏=
⇐
−−=
⇐
−−=
=²
=²
=²
=²
=²
=²
N
iiiii
N
iiiii
HR
HR
ii
N
i
NHR
ii
N
i
NHR
ii
N
i
NHR
ii
N
i
NHR
iiiHR
iiiHR
sarsarr
sarsarHrf
Hrfr
HsarHrf
HsarHrf
HsarHrf
HsarHrf
HsarHrf
HsarHrf
i
i
1
20
212
1
20
212
0|
1|
12
11
221|
02
01
220|
12
12121|
02
02120|
12
1221|
02
0220|
)()(2
1)(ln
)()(2
1exp
)|(
)|()(
:este tateplauzibili de raportul
)(2
1exp)
2
1()|(
)(2
1exp)
2
1()|(
:sau
)(2
1exp)
2
1()|(
)(2
1exp)
2
1()|(
:estet receptiona torulpentru vec ateprobabilit de densitatea
)(2
1exp
2
1)|(
)(2
1exp
2
1)|(
0
1
1
0
1
0
1
0
σΛ
σΛ
σπσ
σπσ
σπσ
σπσ
σπσ
σπσ
9
( ) ( )
drHrfHPdrHrfHP
HDPHDPP
H
HrN
H
Hr
N
ssaa
s
H
HrN
s
H
Hr
N
ssaa
saa
H
Hsr
KH
Hr
saasraa
R HRR HR
e
N
ii
i
N
ii
i
N
ii
N
iii
N
i
N
iiii
)|()()|()(
),(),(
:este eroare de ateaProbabilit
0:1pentru si 01
,1,1pentru
21 daca si
21
,1,0pentru
2
01lnln)(ln
: scrie poate se maxime tatiiplauzibili Criteriul
22
1
1 00 10|01|1
0110
0
1
0
1
1
10
0
1
0
1
1
10
1
210
0
1
1
0
1
1 1
210102
∫+∫
=+=
=∑
==−=
=∑
===
∑+
∑
==
∑ ∑++−−=
<³>´
<³>´
=µ
<³>´
<³>´
=µ
=µ<³>´
=µ
<³>´
=µ =µ
Λ
σ
Observatie: Desi problema de detectie pe care ne-am propus sa o solutionam este formulata pentru un spatiu multidimensional, decizia se ia dupa o singura coordonata, care este, pentru cazul
general: ∑=µN
iiisr
1, iar pentru cazurile particulare mentionate
∑==µN
iiR r
Nm
1
1
Aceasta unica coordonata dupa care se poate lua decizia se numeste “Statistica suficienta” .
10
4. Detectie binara cu observatii multiple in ipoteza compusa In ipoteza compusa, simbolului Si ii corespunde in spatiul semnalului nu un punct si(t) ci un domeniu Σi . Exemplu: Semnal de amplitudine variabila
)|(
)()|(
)|(
)|((
:este tateplauzibili de Raportul
)()|(
),()|()|()|(
)|()|(
domeniulin cuprins este ),( semnalul ce in timp
),( domeniulin valoriia careparametru un este unde
)(),()(
)()(),()(
0|
|
0|
1|
|
||11|1|
|1|
11
11
11
00
00
1
11
1
Hrf
dfrf
Hrf
Hrfr)
dfrf
drfrfsrfHrf
rfHrf
PsP
ts
tntstrH
tntntstrH
HR
R
HR
HR
R
RRHRHR
RHR
Mm
θθθΛ
θθθ
θθΠθΣ
θ
ΠθΣ
ΣθθθΠθ
θθ
ΘΠ θ
ΘΠ θ
Π θθ
θ
∫==
∫=
=∫=∈=∈=
=
∈=∈
=+=⇒
=+=⇒
Pentru cazul particular al unui semnal de amplitudine variabila, cu amplitudinile uniform distribuite:
θM
θm
θM t tn tn+1
s(t,θ)
11
−
∫
−−−
=
=
∑−
∫
−∑−
−
=
∏
−
=
∏
−−
=
−=
=¶
=¶
=¶
=¶
2
2
2
2
21
2
2
2
1
12
2
20|
12
2
2|
2
)(exp
2
)(exp
1
)(
:1 pt.iar
2exp
2
)(exp
1
)(
2
)(exp
2
1)|(
2
)(exp
2
1)|(
1)(
0
σ
θσθ
θθΛ
σ
θσ
θ
θθ
Λ
σπσ
σθ
πσθ
θθθ
θ
θ
θ
θ
θ
Θ
r
dr
r
Nr
dr
r
rHrf
rrf
f
M
m
M
m
mM
N
ii
i
N
i
mM
N
i
iN
HR
N
i
iN
R
mM
12
exp2
:este Bayes testulatunci 1, este testuluipragul dacaiar
2exp
2)(
:devine raportul atunci ; 2
1exp
2
1)(
:noteaza se daca
0
1
2
22
2
22
2
H
Hr
Fr
Fn
K
rF
rF
nr
rxduuxF
mM
mM
mM
mM
x
<·>¸
∞¹−º
−−
−⋅
−
=
−−
−⋅
−
=
−=∫
−=
σθ
σθ
σθθπσ
σθ
σθ
σθθπσΛ
σθ
π
12
5. Detectia secventiala Daca este necesar sa reducem timpul de decizie, se lucreaza cu un numar m de observatii variabil, cautandu-se reducerea acestuia.
:avem decizia ia se daca
:astfel procedeaza se , eadeterminarPentru
)(sau )( cand pana d. m. a. s. )( calculeaza
se decizie o nici ia senu nou din daca );( testeazase si calculeaza se b)
obsevare doua a la la trecese si decizie ia senu )(B daca
)( daca
)( daca
:cu praguri douacu compara
se care ),( calculeaza se ,,1 observatie primapentru a)
:este testarede Algoritmul
)|(
)|()(
:este tateplauzibili de raportul ),...,(torulPentru vec
1
0113
2
21
01
11
11
0|
1|
1
0
1
D
BA
DBrDArr
r
rAr
DBr
DAr
BAA,B
rrrm
Hrf
Hrfr
rrr
m
m
mHR
mHRm
mm
m
m
•
⇒≤⇒≥
⇒<<•
⇒≤•
⇒≥•
>==
=
=
ΛΛΛ
Λ
Λ
Λ
Λ
Λ
Λ
)|()|(sau)|(
)|()( 0|1|
0|
1|
010
1 HrAfHrfAHrf
Hrfr mHRmHR
mHR
mHRm
mmm
m ≥≥=Λ
13
• daca se ia decizia D0 avem:
) emis a sursa
cand deciziei (prob. tinteipierderea de eronate, deciziei ateaprobabilit
) emis a sursa
cand deciziei (prob. falsa alarma de eronate, deciziei ateaprobabilit
detectie de ateaprobabilit
:ca reamintim sus mai de celein
1
:unde de
)1(sau )|()|(
: corespunde le carora leobservatii cuprinde daca
:unde de
sau )|()|(
: corespunde le carora leobservatii cuprinde daca
)|(|(sau)|(
)|()(
1
0
0
1
0|1|
00
0|1|
11
0|1|0|
1|
0 0 01
1 1 01
010
1
S
DP
S
DP
P
P
PB
PBPdRHrfBdRHrf
DrR
P
PA
APPdRHrfAdRHrf
DrR
HrBfHrfBHrf
Hrfr
M
F
D
F
M
FMR R mmHRmmHR
m
F
D
FDR R mmHRmmHR
m
mHRmHRmHR
mHRm
mm
mm
mm
m
m
→
→→
−≥
−≤∫ ∫≤
≤
≥∫ ∫≥
≤≤=Λ
1
Estimarea parametrilor semnalului 1. Introducere
Prin estimare se determina valoarea estimata θ a unui parametru θ (purtator de informatie) al semnalului afectat de perturbatie. Schema bloc care modeleaza procesul de estimare a unui parametru si graful prelucrarii semnalelor sunt date mai jos.
Exemple de aplicatii:
• in receptia semnalelor: estimarea intarzierilor, a amplitudinilor de semnal, a deviatiil or de frecventa;
• in sisteme de comunicatii: estimarea functiilor de transfer, a functii lor pondere, a rapoartelor semnal / zgomot in canale de comunicatii;
• in sisteme de masura si comanda la distanta: estimarea marimii comandate (acceleratie, viteza, pozitie, temperatura, debit, etc)
• in prelucrari de semnale: estimarea unor parametri statistici ai semnalului (medii, variante)
Obs.: in aceste aplicatii se estimeaza parametri continui sau discreti, constanti sau variabili i n timp; estimarea parametrilor discreti face legatura cu domeniul detectiei semnalelor (deciziei statistice) iar estimarea parametrilor variabili i n timp face legatura cu estimarea formei semnalelor. Estimarea se poate face prin observare discreta sau prin observare continua.
n(t)
perturbare
aplicare criterii
spatiul parametrului
θ
spatiul parametrului
estimat spatiul observatii lor
r(t) = s(t,θ) + n(t)
spatiul semnalului emis
s(t,θ)
modulare
mesaj purtatoare perturbatie criterii de estimare
parametru estimat
Modulator Canal Receptor Estimare
Sursa mesaje
s(t,θ)
r(t,θ)
m(θ)
θ
2
2. Observarea discreta a unui parametru aleator Semnalul receptionat este:
cost. de functie o defineste
se eroarea evalua aPentru ).(ˆ de data este estimarii Eroarea
. lui a )(ˆ estimata valoarea
determina se );( si )|( ,)|( ateprobabilit de edensitatil
folosesc Se . lin vectoru econstituit,,...., observatii fac se 0
intervalulIn .informatia continand scalar,aleator parametru un este unde
)(),()(
||
1
r
r
frfrf
rrrNTt
tntstr
RR
N
G
G
GG
G
»»
θθε
θθ
θθθ
θθ
θ
ΘΘΘ
−=
≤≤
+=
2.1 Functii de cost C(εθ¼ )
• patratul erorii
θθ
θ
θθ
θθ
εε
εε
ε
εε
=•
≥≤
=
•=
)(
:erorii modulul
2/1
2/0)(
:uniforma
)( 2
C
E
EC
C
Valoarea medie a functiei de cost se numeste risc.
( ) ( )
r
dRrfCdCER R
G
G½
valoriia carein domeniul
),(,
⇒
∫ ∫ ⋅==∞¾
∞¾−¿∆
θεθε ∆ Θθθ
Valoarea estimata a parametrului se obtine minimizand riscul. Se pune riscul sub o forma in care se poate face minimizarea acestuia functie de observatiile efectuate:
C(εθ)
C(εθ)
C(εθ)
1
εθ εθ εθ
-E/2 +E/2
3
( ) ( )
( )
( ) θθε
θεθ
θεθε
Θ∆ θ
∆ Θθ
∆ Θθθ
drfCdRrf
dRrfrfCd
dRrfCdCER
RR
RR
R
)/()(
)()/(
),(
/
/
,
GG
GG
G
ÀÀ
ÀÀ
À
∫ ∫ ⋅⋅=
=∫ ∫ ⋅=
=∫ ∫ ⋅==
∞Á
∞Á−Â
∞Á
∞Á−Â
∞Á
∞Á−Â
Minimizarea riscului se face minimizand in raport cu θ integrala definita:
∫ ⋅−=∫ ⋅=∞Á
∞Á−Â∞Á
∞Á−Âθθθθθθεθ ΘΘθ drfCdrfCrI RR )/()ˆ()/()(),ˆ( //
GGG ÀÃ
1)/( deoarece )/(ˆ
sau 0)/(2)/(ˆ2),ˆ(ˆ
)/()ˆ(),ˆ(:erorii patratulpentru
0),ˆ(ˆ
//p
//
/2
=∫∫=
=∫−∫=∂∂
⋅∫ −=•
=∂∂
∞Ä
∞Ä−Å∞Ä
∞Ä−Å
∞Ä
∞Ä−Å∞Ä
∞Ä−Å
∞Ä
∞Ä−Å
θθθθθθ
θθθθθθθθ
θθθθθ
θθ
ΘΘ
ΘΘ
Θ
drfdrf
drfdrfrI
drfrI
rI
RR
RR
R
GG
GGG
GG
G
ÆÆ
ÆÆ
Æ
• pentru functia de cost uniforma:
)|()(
)()|( in vedere are se daca
0|)|(ln|)(ln
|)|(ln
:urmare ca la;exponentia
forma o generalin are )|( deoarece )|(lnpentru
maximul caute se sa prefera Se .maxima ),(pentru minima este
)|(1),(1)|(1),ˆ(
||
ˆ|ˆ
ˆ|
||
|
2/ˆ
2/ˆ|
θθ
θ
θθ
θθ
θθ
θθθ
θθθθθ
ΘΘ
Θ
θθΘθθΘ
θθΘ
ΘΘ
Θ
θ
θΘ
rff
rfrf
rff
rf
rfrf
rI
rEfrIdrfrI
RRR
R
R
RR
u
R
E
EuR
MAPMAP
MAP
G
GG
G
G
GG
G
GGGG
ÆÆÆ
Æ
Æ
ÆÆ
ÆÆ
=⋅
=∂∂+
∂∂
=∂∂
−≈∫ −=−=
=Ç=Ç
=Ç
+È
−Å
unde θMAP este estimatul maximum a posteriori.
θ
θ - E/2 θ θ + E/2
C(εθ)
^ ^ ^
1
4
• Pentru functia de cost modulul erorii:
minima. eroare de estimatul numeste se ˆ
)/()/(
ˆ iestimatulu calcululpentru Rezulta
0)/()ˆ(ˆ
)/()ˆ(ˆ
:respectiv,0),ˆ(ˆ
:ei aminimizarepentru si )/(ˆ),ˆ(
M
/
ˆ
/ˆ
M
/
ˆ
/ˆ
/
θ
θθθθ
θ
θθθθθ
θθθθθ
θθ
θθθθθ
Θ
θ
Θθ
Θ
θ
Θθ
Θ
drfdrf
drfdrf
rI
drfrI
RR
RMRM
RM
M
M
M
M
GG
GG
G
GG
∫=∫
=∫ −∂∂−∫ −
∂∂
=∂∂
∫ −=
∞É−Ê
∞É−Ê
∞É+Ë
∞É−Ê
∞Ì+Í
∞Ì+Í
Obs.: O situare a celor trei estimati, pentru densitati de probabil itate conditionate, de forma simetrica si nesimetrica, este data in figurile de mai jos.
MpMAP θθθ ˆˆˆ =Î=Î
θ
)|(| θΘ rf R ÏÐ
θ
MAPθ Mp θθ ˆˆ
)|(| θΘ rf R ÑÐ
1
Canal Estimator
s(t)
n(t)
r(t) d(t) ^
d(t)
do(t)
εo(t) = - do(t) + d(t)
ho(t)
h(t)
^
^
d(t) - +
+ -
ε(t) = - d(t) + d(t)
n (t)
s(t)
Estimarea formei semnalului Ipotezele de lucru:
• estimarea este liniara; • semnalul receptionat si zgomotul sunt stationare in sens larg; • criteriul de optim: minimul erorii medii patratice.
1. Fil trar ea optimala a semnalelor continue. Ecuatia Wiener – Hopf
Ce se urmareste: estimarea formei lui s(t) se face prin prelucrarea liniara a semnalului receptionat r(t) = s(t) + n(t), astfel incat sa se obtina un semnal cat mai apropiat de semnalul dorit d(t) (filt rare optimala in sens Wiener – Kolmogorov).
Se urmareste determinarea functiei
pondere a unui fil tru liniar ho(t), a carui iesire, daca la intrare se aplica r(t), aproximeaza
cu eroare medie patratica minima, semnalul dorit d(t). In schema de mai sus h(t) corespunde unui filtru neoptimal, care furnizeaza un semnal care aproximeaza semnalul dorit cu eroare medie patratica mai mare ca cea
minima. Ar trebui: [ ] [ ]22 )(min)( tto εε =
[ ] ( )[ ]
[ ] ( )[ ])()()()(ˆ
)(ˆ)()(
)()()()(ˆ
)(ˆ)()(
22
22
trdtrhtd
tdtdt
trdtrhtd
tdtdt
oo
oo
0L
L
=∫ −=
−=
=∫ −=
−=
∞Ò
∞Ò−Ó
∞Ò
∞Ò−Ó
τττ
ε
τττ
ε
[ ] [ ]22 )(min)( tto εε =
2
[ ] ( ) ( ) ( )[ ] [ ]( )( )[ ]
( )( )[ ] ( ) [ ] ( ) ( ) [ ]
[ ]
te.independen )( si )( semnalepentru
)()(
)(
)()(
)(
)(
)()(
)()()(
:Fourier ata transformAplicand ).( lui eadeterminar permite aceasta
Hopf; - Wienerecuatia este care )()()(
: variabiladintroducan sau, )()()(
:sau )()()()(
)()(ˆ deoarece si ,)()(ˆ)()(
:unde de 0)(ˆ)()(
:deci ,0),( si 0)()(
:relatiile locau deci ortogonalesunt )( si )( optimalfiltru Pentru
)()(2)(2)(2
2ˆˆˆ2
:devine termen Ultimul.ˆˆ undeˆˆˆ2
)(ˆˆˆˆ)( 22222
tnts
q
q
q
qH
qHq
th
dchc
utdutchutc
durtrhutc
dtrhduturtdurtd
rtdtdtr
ututcurt
trt
ttrtr(t)r(t)t
trtrtrddddd
dddddd
tddddddt
nnss
ss
nnss
dr
rr
dron
rrondr
on
rrondr
rrondr
ondr
onoo
oo
ro
o
ooo
oo
ooo
ooo
o
ωωω
ωωω
ωωω
ωωω
ττθτθ
θτττ
τττ
τττ
ε
εε
εεε
δ
δεε
ε
+=
+==
⇒=
−=
−=−−=−
−=−
−=∀=
=−=⋅
∀==⋅
⋅===
=−−=−−
−=−−−
−+=−−−=−=
∫
∫
∫
∫
∞
∞−
∞
∞−
∞
∞−
∞
∞−
L'L'L'
LLL 00
Se obtine astfel functia de transfer a unui filt ru nerealizabil (nu s-a impus ca h(t) = 0 pentru t < 0) care se poate aproxima insa cu filt re realizabile. Exemplu: Fie d(t) = s(t + α) unde s(t) este mesajul transmis. Daca:
• α = 0, avem o filtrare simpla (estimarea se face pt. toate valorile trecute ale timpului)
• α < 0, avem o filtrare cu intarziere (netezire): estimarea se face cu intarziere dar se utili zeaza mai multe date, deci eroarea este mai mica.
• α > 0, avem o filtrare cu predictie (anticipare): estimarea se face in avans dar se utili zeaza mai putine date, deci eroarea este mai mare.
d εÔ o
do r
3 In domeniul frecventa, vom avea respectiv, urmatoarele functii de transfer ale unor filtre optimale nerealizabile:
)exp()()(
)()(
)exp()()(
)()(
)()(
)()(
ωαωω
ωω
ωαωω
ωω
ωωωω
jqq
qH
jqq
qH
qH
nnss
sson
nnss
sson
nnss
sson
++
=
−+
=
+=
Exemplu: Filtru optimal nerealizabil, continuu in timp. Sunt valabile:
)exp()(
11
,2a
1A
cu)exp(2
)exp()()(
)()(
)(,1
)(
000
22
022
αττ
ωαω
ωαωω
ωω
ωω
ω
−−=
+=+
=
−+
=−+
=
=+
=
BAh
q
q
aB
q
q
q
jB
ABj
qH
qqa
on
s
s
ss
nnss
sson
nns
ss
α
hon
τ intarziere
α
hon
τ predictie
4 Filtru optimal realizabil
Daca se fac schimbarile de variabile t – u →τ, τ → t, avem:
≥<
=
=∫ −=
<≥
=
=∫ −=
+=∫ −=
∞Õ−Ö−Ö
∞Õ+×
−Ö+×∞Õ
∞Õ−Ö
00
0),(
)()()(
00
0),(
)()()(
)()()()()(
0
0
τττ
ττ
τττ
ττ
ττττ
dr
rrondr
dr
rrondr
drdrrrondr
c
dttcthc
c
dttcthc
ccdttcthc
Filtrul optimal realizabil (cauzal) poate fi obtinut numai din
)(τdrc+Ø . Functia de transfer se obtine prin transformarea Fourier inversa a acestuia:
)()exp()()()( ωτωττωω drdrrro qdjcqH +∞
∞−
++ =−=⋅ ∫
)(
)()(
ωωω
rr
dro q
qH
+
=
1.1. Filtre optimale pentru zgomot alb (FOW)
)()(
:1 deoarecefrecventa, domeniulIn
zgomot. sidorit semnalul dintre covariatia
este pondere functia alb,zgomot pentru optimal filtrul la :Obs
)()()()()()()(
:12
considera se daca );(2
)()(
)()(
00
00
ωω
τττδττ
δττ
dzow
zz
dzowowrrowdr
zzrr
qH
q
chdttthdttcthc
Nt
Ncc
tztr
+
∞∞
==
==−=−=
===
=
∫∫
τ
+cdr(τ) - cdr(τ)
5 1.2. Filtre optimale Wiener pentru un semnal oarecare
)(
)()(
)()()(
)(
1)(
:erealizabil partile numaiiau se daca
)()(
1)()(
)()()()(
1
1
sW
sHsH
sHsWsH
sqsW
sqsqsWsW
sqsWsWsq
owo
orow
rr
rrrr
rrzz
−
−
+
−+
=
=
=
=−⋅
−⋅=
1.3. Filtrarea optimala Wiener prin extragerea zgomotului Ce se urmareste: estimarea formei lui s(t) se face prin estimarea lui n(t) si extragerea acestuia din r(t). Schema de extragere se da mai jos, unde:
n1(t) = zgomotul captat din semnal n(t) = zgomotul filtrat h1(t) = functia pondere a legaturii dintre cele doua componente captate
s(t) si n2(t) ale semnalului. Deoarece h1(t) este necunoscut, h(t) = h1(t) poate fi determinat numai indirect printr-un procedeu de optimizare.
)()(
)(
)(
)()(
11
1
11
11 sH
sq
sq
sq
sqsH
nn
rn
nn
nn ≅==
FOW
FA FIA FO
r(t)
w(t) W(ω)
w-1(t) W-1(ω)
ho(t) Ho(ω)
d(t) ^ z(t)
r(t)
FA: filtrul de albire FIA: filtrul invers de albire FO: filtrul optimal pentru r(t) FOW: filtrul optimal pentru zgomot alb
modelul semnalului
s(t)
z(t)
how(t)
+ _
w(t)
h1(t)
s(t)
n(t)
s(t) + n(t)
n1(t)
n(t) ^
^
h(t) = h1(t)
6 O metoda de calcul rapid a lui H(s) este cea de mai jos in care se face apel la un corelator a lui r(t) cu zgomotul alb z(t):
)()()()(
)(
)(
)(
)(
)(
)(
)(
)(
)(
)(
)()(
11
1
11
1
11
1
11
11
sHsHsWsq
sq
sq
sq
sq
sq
sq
sq
sq
sq
sq
sqsH
owzz
nz
nn
zn
zz
rz
nn
zn
nn
rn
nn
nn
==≈
≈===
unde How(s) = W-1(s)H(s) este dat de corelator.
2. Fil trul optimal Kalman – Bucy
a) Cazul ideal: )()(ˆ tstd = Este o varianta de filt ru optimal Wiener in care se relizeaza FOW printr-un sistem dinamic iar intrarea filt rului de albire este diferenta dintre semnalul receptionat si estimatul semnalului dorit. Aici sistemele
dinamice sunt generatoare de semnale aleatoare, fiind excitate de zgomot alb. Problema este de a determina functia de transfer a sistemului de asa natura incat la iesire lui sa se obtina un semnal a carui densitate spectrala de putere este cea a semnalului dorit:
)()()()( sqsHsHsq ssoozz =−
- ∑ r(t)
K FIA FO
w-1(t) W-1(ω)
ho(t) Ho(ω)
d(t) ^ z(t)
r(t)
sistem dinamic
Ho(s)
n(t)
h(t) = h1(t)
s(t)
z(t)
how(t)
+ _
w(t)
h1(t)
s(t)
n(t)
s(t) + n(t)
n1(t)
^ corelator
^ n(t)
w-1(t) h(t)
7 Obs.: daca n(t) = z(t), K = const. Exemplu: Se doreste:
sK
KsH
ssK
K
sK
KsHsH
KNsq
s
Ksq
o
oo
zz
ss
+=
+−=
−=−
==
−=
α
ααα
α
1)( arealizabil partea numai ia se realizabilfiltru Pentru
1
1
1
)()(
:2
1)( Deoarece
;)(
0
022
0
0
220
)()(
)()()(
:toarecorespunza iesire de si stare de ecuatii
......
)()(
)(
:toarecorespunza transfer de functie
)(...)()(...)()(
:constanti icoeficientcu liniara ladiferentia ecuatie
:de descris superior,ordin de dinamic sistemun necesar fi va
mare maiordin de Butteworth eaproximati ocu descrie sedorit )( Daca
01
1
01
1
0)1(
10)1(
1)(
tt
ttdt
td
asas
bsb
sU
sYsH
tubtubtyatyaty
sq
nn
n
nn
nn
nn
n
ss
Cxy
BuAxx
=
+=
•+++
++==
•++=+++
•
−−
−−
−−
−−
0...10...
0...00
1...00
...............
...............
0...10
0...01
0
2
1
0
1
2
1
==
−−
−−
= −
−−
−
CBA
b
b
b
a
a
a
a
n
nn
n
(o singura iesire)
Modelul sistemului dinamic generator de semnal aleator este dat alaturat ( u(t) = z(t) si x(t) = d(t))
- B ∫ dt C
A
u x y
8
Exemplu: fie schema din figura de mai jos, in care variabila de stare este tensiunea la bornele condensatorului, vc(t).
Se cere: 1. modelul matematic, respectiv
ecuatia de stare a circuitului 2. structura sistemului dinamic
generator al semnalului s(t) = vc(t) 3. s (t) pentru v(t) = 0 si vc(0) =V= v.a.
4. structura sistemului dinamic generator al semnalului s(t) = vc(t) in cazul (3).
5. sa se arate ca in cazul (3) s(t) este un proces aleator nestationar 6. functia de transfer a sistemului dinamic generator pentru vc(0) = V= 0
si v(t) = z(t), adica zgomot alb 7. sa se arate ca s(t) obtinut in conditiile de la (6) este un proces aleator
stationar; care este relatia dintre D.S.P. a lui v(t) = z(t) si varianta σy2
Solutie:
1;1
;1
)()(
)(1
)(1)(
)()()(
)()()(.1
==−=
=
+−=
===+
CBARCRC
tsty
tvRC
txRCdt
tdx
tstvtx
tvtvtv
C
CR
)(111
)0()(1
)(.2 sVsRCs
xsXRC
sX +
+−=
4.
R
C
vc(0) = V
v(t)
1/RC -
∫ dt + - -
- -1 +
1/RC
+
Σ - - -
(B)
(A)
v(t)
x(0) = V
y(t) = x(t) = s(t) dx/dt
−=
===
tRC
V
txtyts
1exp
)()()(.3- ∫ dt +
1/RC
x(t)
x(0) = V
9 5. daca v(t) = 0 si vc(0) =V= v.a. cu densitate de probabilitate fV(V), atunci
la momentul t = t1:
−= 11
1exp)(),( t
RCVftyf Vy deci rezulta ca y(t)
este un proces aleator nestationar deoarece densitatea de probabilitate variaza cu timpul.
6. RCkks
ksH /1:unde)( =
+=
kN
kNkNsqssqsRR
sk
kNsqsq
y(t) qk
Nkq
sk
NksqsHsHsq
Nsq
y
y
yys
yys
y
yyyy
yy
yyvvyy
vv
/22/
:prin ezecaracteriz se sagenerator dinamic sistemul excita care alb
zgomotul ca trebuie variantaaiba sagenerat semnalul capentru Deci
4/04/)()()()0(
4/)( :este care)( lui a arealizabil partea ia se Daca
stationar.aleator
proces este patratica, rationala fractie o este )( deoarece :Obs.
2/)(
2/)()()()(
2/)(
.7
20
2
000
2
0
220
2
220
2
0
limlim
σ
σ
σ
ωω
ω
=
=−=⋅−⋅=∞−=+
=
+=
−=−=
=
+
→
+
∞→
+
10 b) Cazul general ( )()(ˆ tsts ≠ Sistemul dinamic (sursa) care genereaza semnalul aleator este:
)()()( tttttt
ttdt
td
rns)n()Cx()y(
)Bu()Ax()x(
=+=+=
+=
x( =)t0 Se noteaza:
[ ][ ] 0
:albe) zgomotesunt )( si)(( covariantepentru relatii eurmatoarel Avem
][
][
εεcxx
nu
)(n)n(
)u)u(
x
T00
0
=−−
==
=
tt
ttE
(ttE
0)()])
0))
≥∀−=−=−−
≥∀−=−=−−
t,22/Wt22tt
t,22/W2(t22tt
Pc(n)][n((n)[n(
Qc](u)][u((u)[u(
nnT
uuT
τ
si urmatoarele necorelari:
00)(
00
00
≥∀≡=−−
≥∀≡−−
≥∀≡−−
tttttt
ttt
ttt
nuT
T0
T0
c)](u))][u((n)[n(
)](n)][n(x[
)](u)][u(x[
Se urmareste gasirea unui observator de stare optimal de forma:
)()()()(ˆ)()(ˆ
tttttdt
tdmyKxF
x ++=
00)(ˆ xx =t cu cerintele de optimalitate:
Topt tttttt
tt
)](ˆ)()][(ˆ)([)()(
:minimala este estimare de erorii a matriciala covarianta.2
0)(ˆ)(
:asistematic eroare fara estimare.1
xxxxcc
xx
ÙÚÙÙÚÙ −−=≤
≡−
Se propune solutia:
11
[ ]
0
1TÛÚÛ
xx
xCnyPCcuBxAx
=
−−++= −
)(ˆ
)(ˆ)()()()()(ˆ)(ˆ
0t
ttttttdt
td
sau, pentru E[n(t)] = 0 = E[u(t) si sistem invariant in timp:
[ ]
0xx
xCyKxAx
=
−+=
)(ˆ
)(ˆ)()(ˆ)(ˆ
0t
tttdt
td
unde filtrului castigul numeste se 1TÛÚÛ PCcK −= in regim permanent iar ÜÚÜc se determina din ecuatia Riccati1 pentru regimul permanent:
0==−++ −
dt
d ÜÚÜÜÚÜ1TÜÚÜTTÜÚÜÜÚÜ cCcPCcBQBAcAc
Schema fluxului de semnal la filtrul optimal Kalman-Bucy se da mai jos:
Pentru un sistem stochastic de ordinul 1:
Ptn
Qtu
tntxty
tButAxdt
tdx
;0:)(
;0:)(
)()()(
)()()(
+=
+=
unde matricile A, B, P, Q au cate un singur element.
1 Pentru justificarea ecuatiei Riccati vezi NOTA
E[n]= 0
u
+
x +
n
B ∫Ýdt C K=cεÞ εÞ CTP-1 ∫
Ýdt
A A
C
y x ^
Modelul semnalului aleator (sursa)
ξß
_ +
B
E[u]= 0
0
Filtrul Kalman-Bucy (estimatorul)
s
12
;
:fiind pozitiva solutia Riccati, ecuatia este02
222
22
QPBPAAPc
QBP
cAc
opt ++=
=+−
εε
εεεε
)()(ˆ)(ˆ
:esteKalman Filtrul2
22
2 tyP
QBAAtx
P
QBA
dt
txd
++++=
Exemplu: prin canalul cu zgomot aditiv n(t), avand 2/0Ncnn = (zgomot alb) se transmite un semnal ),()( txts = avand:
22
2)(
ωω
+=
a
aqss si sistemul dinamic generator al ),()( txts = are functia
de transfer: ω
ωja
H+
= 1)( sau
sasH
+= 1
)( rezulta:
2)( unde de)()()()(2
aqHqqq vvvvssxx === ωωωωω iar modelul de
sistem dinamic este de forma:
[ ] [ ] [ ];1;1;:rezulta deci
)()()(
);()()(
==−=+=
+−=
CBaA
tntxty
tutaxdt
tdx
la care se aduga: [ ] [ ]2/;2 0NPaQ == , vom avea ecuatia Riccati de forma:
;2)2/(2/
:fiind pozitiva solutia ,022/
2
20
20
0
2
aNaaNc
aN
cac
++−=
=+−−
εε
εεεε
)(4
)(ˆ4)(ˆ
:forma de esteKalman Filtrul
0
2
0
2 tyN
aaatx
N
aa
dt
txd
++−++−=
Castigul fil trului in regim permanent are expresia:
2/4
00
2
N
c
N
aaaK εε=++−=
Obs.: In regim tranzitoriu, cεε ⇒ cεε (t) si ecuatia Riccati devine:
13
,)(
22/
)()(2
0
2
dt
tdca
N
tctac εεεε
εε =+−− ecuatie care se poate modela
computational, iesirea modelului actualizand permanent castigul filtrului.
E[n]= 0
u
+
x +
n
B ∫àdt C K=cεá εá CTP-1 ∫
àdt
A A
C
y x ^
Modelul semnalului aleator (sursa)
ξâ
_ +
B
E[u]= 0
0
Filtrul Kalman-Bucy (estimatorul)
s
Modelul dinamic al castigului filtrului