Clase 3. Procesos estocasticos en Teorıa de la senal.

1 Introduccion

Como ya se comento en la clase anterior, el ruido es una senal inherente a cualquiertransmision de telecomunicacion.

El ruido es una senal que aparece por multiples causas, todas ellas incontro-lables. En realidad, podrıamos imaginarnos cada realizacion del ruido {εt}t∈R,en cada instante t como la agregacion de los valores de muchas variables inde-pendientes:

εt = X1t + X2t + · · ·+ Xkt,

por el Teorema Central del lımite, para distintas realizaciones del ruido tendremosque εt es una distribucion normal. De ahı que el ruido se diga gaussiano, por otraparte, es deseable que fijado el instante t, tengamos que E[εt] = 0 y V ar[εt] = σ2,puesto que esto significa que en media la distorsion es nula y los efectos distor-sionantes se mueven en una banda fija. Finalmente, hay una tercera propiedaddeseable y es que en distintos instantes de tiempo, los ruidos se comporten demodo independiente, es decir, si fijamos dos instantes de tiempo E[εtεt′ ] = 0. Conello garantizamos que si hay una distorsion puntual esta no se lleva arrastrandoen el transcurso del tiempo, afectando, por tanto, a la calidad de la transmision.

En definitiva, lo que hemos planteado en el parrafo anterior es, de nuevo, ladefinicion de ruido blanco gaussiano. Por su importancia en la transmision desenales es fundamental conocer tecnicas que permitan detectarlo y este sera elobjetivo central de la clase de hoy.

2 Conceptos teoricos

Recuerda que cuando en un proceso estocastico fijamos t, entonces disponemosde una variable aleatoria. Si obtenemos n variables aleatorias en otros tantosinstantes de tiempo, sus propiedades estadısticas (media, varianza, covarianza,etc) se obtendran a partir de su densidad conjunta.

Un proceso aleatorio se dice estacionario en el tiempo cuando sus propiedadesestadısticas no cambian en el tiempo. Existen distintos grados de estacionariedad,a menudo difıciles de comprobar en la practica.

Proceso estacionario de orden 1: su funcion de densidad no cambia al de-splazar el origen de tiempos. Es decir, si f(x, t) es la funcion de densidad de lavariable aleatoria Xt, entonces

f(x; t) = f(x; t +4), ∀4 > 0.

1

Consecuencia:Un proceso estocastico que sea estacionario de orden 1 cumpleque para cualquier instante de tiempo t en el que paremos el proceso se tiene queE[Xt] = µ y V ar[Xt] = σ2, donde µ y σ2 son constantes (no dependen de t).

Proceso estacionario de orden 2: la funcion de densidad conjunta de cualquierpar de variables Xt1 y Xt2 cumple para cualquier valor real 4 > 0:

f(x1, x2, t1, t2) = f(x1, x2, t1 +4, t2 +4).

Consecuencia: Fijados dos instantes de tiempo cualesquiera se tiene que lafuncion de autocorrelacion solo depende de la distancia entre los dos instantes detiempo.

RXX(t1, t2) = E[Xt1Xt2 ] = (τ = t2 − t1) = RXX(τ)

Proceso estacionario en sentido amplio: Es la acepcion de estacionariedadmas utilizada en la practica. Aunque no es tan restrictiva como la estacionariedadde orden 2, mantiene alguna de sus propiedades. Diremos que un proceso esestacionario en sentido amplio cuando:

E[Xt] = µ, E[XtXt+τ ] = RXX(τ), ∀t, ∀τ ≥ 0.

Proceso estacionario en sentido estricto:cuando es estacionario para cualquierorden k.

Ejercicio: Demuestra que siguiente proceso aleatorio es estacionario en sen-tido amplio, suponiendo que A y ω0 son constantes y Θ se distribuye uniforme-mente en (0, 2π):

X(t) = A cos(ω0t + Θ)

Procesos estacionarios conjuntamente:Dados dos procesos aleatorios X(t) eY (t), decimos que son estacionarios conjuntamente en sentido amplio si cada unode ellos tiene media constante y ademas

RXY (t1, t2) = RXY (t, t + τ) = RXY (τ)

.En lo sucesivo, asumiremos que trabajamos con procesos estacionarios en

sentido amplio.A continuacion se presentan realizaciones de diversos procesos, se trata de que

para cada realizacion detectes si el proceso es estacionario en sentido amplio y en

2

caso de que no lo sea, transformes el proceso de modo adecuado para conseguiral estacionariedad.

Nota: si un proceso no es estacionario en media, conviene aplicarla transformacion diferencia; si no es estacionario en varianza, con-viene aplicar la transformacion logarıtmica. Otras transformacionesmatematicas tambien pueden ser de utilidad (transformaciones deBox-Cox).

Ejercicio: en el fichero datos.txt tienes, en cada columna, una realizacion de unproceso estocastico diferente. En este ejercicio debes realizar la correspondienterepresentacion grafica y las transformaciones que estimes necesarias para quela realizacion transformada se corresponda a un proceso estacionario en sentidoamplio.

Realizacion 1 (prices): serie de precios recogida en dıas consecutivos.Realizacion 2 (eur libra): serio de cambios de moneda del euro a la libra en

dıas laborables consecutivos.Realizacion 3 (robos): serie mensual de robos denunciados en Boston desde

enero de 1967.Realizacion 4 (cotiza): valores trimestrales desde el primer trimestre de 1955

que representan el porcentaje de ahorro de las familias americanas.Realizacion 5 (natali): tasa de natalidad anual de Espana desde 1900.

3 Promedios temporales y ergodicidad

Hasta el momento hemos parado un proceso en un instante de tiempo t, porlo que las propiedades que estudiamos requieren que dispongamos de distintasrealizaciones para poder comprobar con tecnicas estadısticas que se cumplen laspropiedades senaladas. Sin embargo, muchas veces solo disponemos de una real-izacion y nos planteamos...¿en que casos y como se comprueban las propiedadesanteriores que afectan a todo el proceso en su conjunto con una unica realizacion?.

Consideramos una realizacion del proceso, x(t), definimos:

Promedio temporal: A[x(t)] = limT→∞

12T

∫ T

−Tx(t)dt

Funcion de autocorrelacion temporal: <XX(τ) = A[x(t)x(t+τ)] = limT→∞

12T

∫ T

−Tx(t)x(t+τ)dt

3

Observa que la expresiones anteriores se pueden calcular para cada realizaciony los valores que toman irıan cambiando. Ası pues, son variables aleatorias.

Supongamos que disponemos de un proceso estacionario en sentido amplio,entonces:

E[A[x(t)] = µ E[<XX(τ))] = RXX(τ)

Procesos ergodicos: Un proceso estocastico es ergodico cuando A[x(t)] y<XX(τ) son constantes para cualquier realizacion x(t) del proceso. En conse-cuencia:

A[x(t)] = µ, <XX(τ) = RXX(τ). (1)

La ergodicidad es una propiedad muy difıcil de comprobar en la practica.Primero, requerimos de un proceso estacionario en sentido amplio y, despues,hay que asumir que una realizacion del proceso es un representante adecuado delproceso global, es decir, cualquier otra realizacion generarıa resultados del tipopromedio temporal iguales. No obstante, como en la estacionariedad, existengrados de ergodicidad que son muy asumibles en la practica.

Proceso ergodico respecto a la media y a la autocorrelacion: dado un procesoestacionario en sentido amplio se satisface (1).

Theorem 3.1. Sea {X(t)} un proceso estacionario en sentido amplio. Sea

CXX(τ) = limT→∞

14T 2

∫ T

−T

∫ T

−T(x(t)− µ)(x(t + τ)− µ)dtdτ,

entonces el proceso es ergodico respecto a la media si

a) CXX(0) < ∞ y CXX(τ)→0 cuando τ →∞.

b)∫∞−∞ |CXX(τ)| < ∞.

y tambien es ergodico respecto a la correlacion si en las dos condiciones anterioresreemplazamos el proceso X(t) por W (t) = X(t)X(t + λ), para cualquier λ > 0.

4 La funcion de autocorrelacion

Esta funcion ya la hemos presentado en la seccion anterior y en el caso de procesosestacionarios en sentido amplio es igual a RXX(τ) = E[XtXt+τ ]. Las propiedadesde la funcion de autocorrelacion son:

1. |RXX(τ)| ≤ RXX(0)

4

2. RXX(τ) = RXX(−τ)

3. RXX(0) = E[X2(t)]

4. Si el proceso es ergodico sin componentes periodico limτ→∞RXX(τ) = µ2.

5. Si X(t) tiene un componente periodico, tambien lo tendra RXX(τ) con elmismo periodo.

6. La funcion de autocorrelacion no tiene una forma arbitraria

La funcion de autocorrelacion da mucha informacion sobre la serie en estu-dio. En general, trataremos de trabajar con series estacionarias en media y, sies el caso, en terminos en desviaciones, es decir, con media igual a cero. Enconsecuencia, por la propiedad 4 tendremos que la funcion de autocorrelaciondebe converger a cero. Asimismo, tiene que ir decreciendo y el valor en el cero,cuando la media es nula, es la varianza del proceso estacionario. Para las seriesdel ejercicio anterior, calculamos la funcion de autocorrelacion muestral.

Ejercicio 2:Estudia la funcion de autocorrelacion muestral para las series del ejercicio

anterior. Comprueba que si las has transformado para obtener estacionariedad,la funcion transformada satisface las propiedades teoricas de la funcion de auto-correlacion.

Ejercicio 3:Describe la funcion de autocorrelacion de la serie AirPassengers, que ya se

encuentra incluida en el paquete.Ejercicio 4:Sea Xt es un proceso estacionario en sentido amplio con funcion de autocor-

relacion RXX(τ) = e−a|τ |, donde a > 0 es una constante. Si la labor de Xt es lade modular una onda cos(ω0t + Θ), donde ω0 es una constante y Θ es una v.a.aleatoria independiente de Xt y con distribucion uniforme en (−π, π), ¿cual esla funcion de autocorrelacion de Yt = Xtcos(ω0t + Θ).

Nota:

cos(ω0t + Θ) cos(ω0t + ω0τ + Θ) = cos(ω0τ) + cos(2ω0t + ω0τ + 2Θ)

Ejercicio 5:Calcula la funcion de autocorrelacion de un ruido blanco.Ejercicio 6:Contrasta el ruido blanco para las series anteriores.Ejercicio 7:

5

Considera el proceso estocastico:

Xt = 2 cos(2πt) + εt, −1 < t < 1

donde εt es un proceso de ruido blanco con funcion de autocorrelacion Rε(τ) =0.01δ(τ).

a) Implementa un programa en R que genere realizaciones de este proceso.b) Para una de estas realizaciones obten con R la funcion de autocorrelacion.c) Obten en R la correspondiente funcion espectral de densidad de potencia.d) ¿Tiene algun grado de estacionariedad el proceso anterior?e) Comprueba que el ruido generado es, efectivamente, blanco.

6