47
Señales aleatorias, estacionarias y Ergódicas 1 Bibliografía Básica: Epig 3.3 •Statistical and Adaptive Signal Processing - Spectral Estimation, Signal Modeling, Adaptive Filtering and Array Processing, 2005 Dimitris G. Manolakis Sumario •Introducción •Procesos Aleatorios •Procesos estacionarios •Procesos ergodicos •Densidad Espectral Tel e comunicaciones mática Departamento ISPJAE Procesamiento Digital de Señales

Conf 2 Procesos Aleatorios

Embed Size (px)

Citation preview

Page 1: Conf 2 Procesos Aleatorios

Señales aleatorias, estacionarias y Ergódicas

1

Bibliografía Básica:Epig 3.3•Statistical and Adaptive Signal Processing - Spectral Estimation, Signal Modeling, Adaptive Filtering and Array Processing, 2005 Dimitris G. Manolakis

Sumario•Introducción •Procesos Aleatorios•Procesos estacionarios •Procesos ergodicos •Densidad Espectral

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 2: Conf 2 Procesos Aleatorios

Introducción

2

Se definieron una serie de conceptos

Probabilidad p(1)

Variable aleatoria x(ζ )=x

Función de Probabilidad Pr{x(ζ) ≤ x}

Función de distribución de probabilidad

Función densidad de probabilidad

Media

Varianza

Desviación típica

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 3: Conf 2 Procesos Aleatorios

Introducción

3

Matriz de correlación

Matriz de covarianza

Page 4: Conf 2 Procesos Aleatorios

Proceso estocástico discreto

4

Considere un experimento con un número finito o infinito de resultados en un

espacio

S = {ζ1, ζ2, … },

cada ocurrencia con una probabilidad

Pr{ζk}, k = 1, 2, …

si se le asigna a cada elemento ζk de S

una secuencia de ocurrencia determinada

x(n, ζk), −∞<n<∞.

El espacio S, la probabilidad Pr{ζk}, y la secuencia x(n,ζk), −∞<n<∞, constituye

un conjunto de experimentos estocástico.

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 5: Conf 2 Procesos Aleatorios

Proceso estocástico discretos

5

Formalmente

x(n,ζ ), −∞<n<∞,

es una secuencia aleatoria

si para n fijo, n=n0, x(n0,ζ) es una variable aleatoria.

El conjunto de todas las secuencias {x(n,ζ )} es un proceso, y cada

secuencia individual x(n,ζk), correspondiente a un valor especifico

de ζ=ζk, es una realización del proceso.

Page 6: Conf 2 Procesos Aleatorios

Proceso estocástico discretos

6

Existen cuatro posibles interpretaciones de x(n,ζ), dependiente del

valor de n y ζ:

• x(n,ζ) si n fijo y ζ variable es una variable aleatoria

• x(n,ζ) si ζ fijo y n variable son muestras de una secuencia

• x(n,ζ) si ambos n y ζ son fijos es un número .

• x(n,ζ) si ambos n y ζ son variables es un proceso estocástico .

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 7: Conf 2 Procesos Aleatorios

7

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 8: Conf 2 Procesos Aleatorios

8

x(n,ζ)

n

x(no,ζ) Variable aleatoria

x(n,ζ1)Realización

x(n,ζ2)

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 9: Conf 2 Procesos Aleatorios

Cada vez que se realiza el experimento, cada variable aleatoria de la

secuencia generará un valor y se obtiene una señal denominada

realización del proceso estocástico.

Cada vez que se realice el experimento se obtiene una realización del

proceso estocástico.

A pesar de ser todas las realizaciones diferentes

Las realizaciones tendrán en común el proceso estocástico

Este modelo representa la realidad donde múltiples señales recibidas

con la misma información tienen forma diferente. 9

Conclusión

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 10: Conf 2 Procesos Aleatorios

Si todas las muestras tienen una variación

independiente una de cualquier otra, estamos en

presencia del ruido blanco

10

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 11: Conf 2 Procesos Aleatorios

Señales Aleatorias

Estimación

Teoría de los procesos

Estocásticos

Análisis Filtrado

Modelación Filtros adaptativos

Arreglos de procesado

11

Consideraciones para las señales aleatorias

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 12: Conf 2 Procesos Aleatorios

Describir un proceso estocástico implica calcular Función

Densidad de Probabilidad de cada variable aleatoria

x(n,ζ)

Imposible, se recurre a los momentos

Los momentos son de dos tipos:

1. Momentos de cada Variable aleatoria

2. Momentos que relacionan las diferentes variables

aleatorias de cada secuencia.12

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 13: Conf 2 Procesos Aleatorios

Momentos de cada variable aleatoria

Media:

Valor cuadrático medio:

Varianza:Momentos que relacionan diferentes variables aleatorias de un

proceso:

Autocorrelación:

Autocovarianza

Momentos que relacionan diferentes procesos

Crosscorrelación:

Crosscovarianza 13

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 14: Conf 2 Procesos Aleatorios

Proceso estocástico discretos

14

Para n=n0, se tiene x(n0,ζ) es una variable aleatoria de función de

distribución de probabilidad Fx{x;n0}

Entonces se tendrá x(n1,ζ) y x(n2,ζ) para dos variables aleatorias n1 y

n2 con función de distribución conjunta

Fx{x1,x2;n1,n2}

Caracterizada cada variable por su función de distribución de

probabilidad

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 15: Conf 2 Procesos Aleatorios

Proceso estocástico discretos

15

Un proceso de infinitas variables aleatorias estará, en sentido

estadístico, perfectamente descrito por la función de distribución de

orden k-esimo

Fx{x1, ...,xk;n1,...,nk} =Pr{x(n1)≤x1,..., x(nk) ≤xk }

Se conoce para valores de k ≥1 para todo instante n1 y n2,... nk

y la función de densidad de probabilidades

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 16: Conf 2 Procesos Aleatorios

16

Obvio que se requiere para la descripción probabilística una

cantidad de información difícil de obtener en la práctica.

Por eso se recurre a los promedios de primer y segundo orden, a los

momentos.

Para simplificar la nomenclatura se suele representar, el proceso

aleatorio x(n,ζ) como x(n) que además se considera complejo para

generalizar

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 17: Conf 2 Procesos Aleatorios

17

Descripción estadística de segundo orden

Valor medio

Varianza

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 18: Conf 2 Procesos Aleatorios

18

Para la estadística de x(n) en dos instantes diferentes n1 y n2 se

utiliza la función de autocorrelación o autocovarianza

La función de autocorrelación de las variables aleatorias x(n1) y x(n2)

Nos da la medida de la dependencia de los valores del proceso en

dos instantes diferentes

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 19: Conf 2 Procesos Aleatorios

19

La función de autocovarianza de las variables aleatorias x(n1) y x(n2)

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 20: Conf 2 Procesos Aleatorios

20

Para la estadística de dos procesos está la función de

crosscorrelación de las variables aleatorias x(n1) e y(n2)

Y la crosscovarianza

crosscorrelación normalizada

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 21: Conf 2 Procesos Aleatorios

21

En dependencia del comportamiento estadístico los procesos se

clasifican en:

•Procesos independientes

•Procesos incorrelacionados

•Procesos ortogonales

•Periódicos en sentido amplio (WSP)

•Estacionario en sentido amplio

•Estadísticamente independiente

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 22: Conf 2 Procesos Aleatorios

Covarianza

Covarianza mide grado de relación entre dos procesos

Cómo varía uno respecto al otro

En forma aproximada se estima según Matlab

M

(x-µx)(y-µy)n=1

n=M

xy= =

xyn=1

n=M

-µxµyM

22

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 23: Conf 2 Procesos Aleatorios

Si x e y son procesos aleatorios independientes se cumple:f(x,y)=f(x)f(y)

El grado de independencia lo da la matriz de covarianza. Si E{x,y}=E{y,x} 0Son independientes.

Dos procesos aleatorios x e y se consideran independientes, si los valores fuera de la diagonal son 0.

C={ }x~

2E

{ }y~2E

{ }x y~ ~E

{ }y x~ ~E

23

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 24: Conf 2 Procesos Aleatorios

Matriz covarianza de dos variables aleatorias independientes% variables aleatorias dependientesx=[randn(5000,1)];y=[randn(5000,1)];C=cov([x,y])

1.0080 0.0036C= 0.0036 0.9966

24

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 25: Conf 2 Procesos Aleatorios

Ejemplo de matriz de covarianza de dos variables aleatorias no independientes% variables aleatorias dependientesd=randn(5000,1);x=[randn(5000,1);d];y=[randn(5000,1);d];C=cov([x,y])

1.0116 0.5116C= 0.5116 1.0268

25

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 26: Conf 2 Procesos Aleatorios

Cada variable aleatoria de la secuencia tiene función

densidad de probabilidad diferente

FDP de x(n1) FDPdex(n2).

Procesos estocástico

26

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 27: Conf 2 Procesos Aleatorios

Proceso Estacionario

27

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 28: Conf 2 Procesos Aleatorios

28

x(n,ζ)

n

x(n1,ζ)x(no,ζ)

l

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 29: Conf 2 Procesos Aleatorios

Procesos estacionarios

29

Un proceso estocástico es estacionario si la estadística para x(n) es

igual a la estadística para x(n+k) para todo k

Un proceso estocástico es estacionario de orden N si

fx(x1,...,xN;n1,...nN)=fx(x1,...,xN;n1+k,...nN+k)

Si se cumple para N=1,2,3... Es estrictamente estacionario SSS

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 30: Conf 2 Procesos Aleatorios

Sus propiedades estadísticas no varían al trasladar el origen de tiempo

Proceso estocástico Estacionario en sentido estricto

Si la media y la autocorrelación no varían al trasladar el origen del tiempoMedia:

E{x(n)}=µx(n)= µx=cteAutocorrelación:

rxx(n1,n2)=E{x(n1)x(n2)}= rxx(l)=E{x(n)x(n+l)}; l=n2-n1

Proceso estocástico Estacionario en sentido amplio

30

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 31: Conf 2 Procesos Aleatorios

Proceso Estacionario y Ergódico

31

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 32: Conf 2 Procesos Aleatorios

Para un proceso se cuenta con un conjunto reducido de

realizaciones,

¿como se puede caracterizar el proceso ?

Debe cumplir determinadas propiedades, para que de una

realización se obtengan los parámetros estadísticos.

Debe ser ergódico

Procesos estacionarios y ergódicos

32

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 33: Conf 2 Procesos Aleatorios

Un proceso estocástico es ergódico si sus momentos (los promedios

de cada variable aleatoria de la secuencia) coinciden con los

promedios temporales de cualquiera de sus realizaciones

Procesos estacionarios y ergódicos

33

Definición

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 34: Conf 2 Procesos Aleatorios

34

x(n,ζ)

n

x(no,ζ) Variable aleatoria

x(n,ζ1)Realización

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 35: Conf 2 Procesos Aleatorios

Para un proceso estocástico es importante conocer las

Funciones densidad y sus momentos

Se estima a partir de una realización del proceso.

Para una realización, sólo se tiene un resultado, un valor de

cada variable aleatoria

Los momentos de cada variable aleatoria

Se estiman a partir de una realización

Procesos estacionarios y ergódicos

35

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 36: Conf 2 Procesos Aleatorios

Para obtener los parámetros del proceso con una realización

se deben tener todos los valores y se realizarían según

Procesos estacionarios y ergódicos

36

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 37: Conf 2 Procesos Aleatorios

37

Parámetros a Obtener

Valor medio {x(n)}

Valor Medio Cuadrático {|x(n)|2}

Varianza {|x(n)-{x(n)}|2}

Autocorrelación {x(n)x(n-l)*}

Autocovarianza {[x(n)-{x(n)}] [x(n-l)-{x(n)}]*}

Crosscorrelación {x(n)y(n-l)*}

Crosscovarianza {[x(n)-{x(n)}] [y(n-l)-{y(n)}]*}

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 38: Conf 2 Procesos Aleatorios

Obvio que no se pueden obtener todas las muestras de una

realización, entonces se utiliza

Procesos estacionarios y ergódicos

38

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 39: Conf 2 Procesos Aleatorios

Densidad espectral de potencia

39

La densidad espectral de potencia de un proceso

estocástico es x(n) es la transformada de Fourier de la

función de autocorrelación rx(l) y se puede definir como

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 40: Conf 2 Procesos Aleatorios

Densidad espectral de potencia cruzada

40

La densidad espectral de potencia de dos proceso estocástico x(n) e y(n) se obtiene a través de la crosscorrelación rxy(l)

Y la función de crosscorrelación rxy(l) es

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 41: Conf 2 Procesos Aleatorios

Densidad espectral de potencia cruzada

41

Propiedad importante

1. Es una función compleja y periódica de ω de periodo

2π y cumple que

Rxy(W)=R*xy(W)

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 42: Conf 2 Procesos Aleatorios

Función Densidad espectral de potencia compleja

42

Si las secuencias rx(l) y rxy(l) son sumables absolutamente se puede definir su transformada Z

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 43: Conf 2 Procesos Aleatorios

Densidad espectral de potencia

43

Ejemplo Obtenga el espectro de potencia y el espectro de potencia complejo de la función

rx(l)=a|l| -1<a<1Respuesta

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 44: Conf 2 Procesos Aleatorios

Densidad espectral de potencia

44

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 45: Conf 2 Procesos Aleatorios

Densidad espectral de potencia

45

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 46: Conf 2 Procesos Aleatorios

Densidad espectral de potencia

46

Tele comunicacionesmática

DepartamentoISPJAE

Procesamiento Digitalde Señales

Page 47: Conf 2 Procesos Aleatorios

Próxima actividad Sistemas Lineales con estímulo

aleatorio

47