Señales y Sistemas II · 2018-02-07 · UNIVERSIDAD CATOLICA ANDRÉS BELLO Facultad de Ingeniería...

UNIVERSIDAD CATOLICA ANDRÉS BELLO

Facultad de IngenieríaEscuela de Telecomunicaciones

© 2004 by R.Banchs SEÑALES Y SISTEMAS II: SEÑALES ESTOCÁSTICAS

1

Señales y Sistemas IIMódulo III: Señales Estocásticas




2Contenido de este módulo

1.- Probabilidades y variables aleatorias

2.- Procesos estocásticos y promedios

3.- Estacionaridad y ergodicidad

4.- La densidad espectral de potencia




4Axioma #1

Sea S el espacio muestral de un experimento, entonces su

probabilidad es igual a uno: P(S) = 1

Consideremos como ejemplo el lanzamiento de un dado:

12

4

53 6

S: el espacio muestral representael conjunto de todos los posiblesresultados {1, 2, 3, 4, 5, 6}




5Axioma #2

Si A es un evento contenido en el espacio muestral S, es decir

A S, entonces: P(A) ≥ 0

Así por ejemplo, sea A el evento definido por la ocurrencia de

un número par al lanzar un dado:

P(A) = 3/6 = 1/21

24

53 6

∩

A




6Axioma #3

Si A y B son dos eventos disjuntos (es decir A B = Ø ), que

están contenidos en el espacio muestral S, entonces:

P(A B) = P(A) + P(B)

Así por ejemplo, si B es el evento definido por la ocurrencia de

un impar al lanzar un dado:

P(A B) = 1/2 + 1/2 = 1 = P(S) 1

24

53 6

∩

A

∩

B

∩




7Propiedades

Partiendo de los tres axiomas enunciados se pueden demostrar

las siguientes propiedades:

P(A) = 1 – P(A)

P(A) ≤ 1

P(Ø) = 0

∩

∩

∩

P(B A) + P(B A) = P(B)

P(A B) = P(A) + P(B) – P(A B)

P(A B) ≤ P(A) + P(B)

∩

∩




8Probabilidad conjunta

Se denomina la probabilidad conjunta de dos eventos A y B

a la probabilidad del evento intersección: P(A B)

• La probabilidad conjunta de dos eventos disjuntos es cero:

Si A B = Ø, entonces P(A B) = 0,

• La probabilidad conjunta de un evento y un subconjunto de

dicho evento es igual a la probabilidad del subconjunto:

Si A S, entonces P(A S) = P(A)

∩

∩ ∩

∩∩




9Probabilidad condicional

Se denomina la probabilidad condicional de A dado B, P(A|B),

a la probabilidad de ocurrencia de el evento A teniendo como

condición el hecho de que el evento B ocurrió.

P(A|B) se calcula como el cociente de la probabilidad conjunta

de A y B entre la probabilidad de B:

P(A|B) = , con P(B) ≠ 0P(A B)

P(B)∩




10Probabilidad condicional

Algunas propiedades de la probabilidad condicional:

• Si A es un subconjunto de B, entonces P(A|B) = P(A) / P(B)

• Si B es un subconjunto de A, entonces P(A|B) = 1

• Si A y B son eventos disjuntos, entonces P(A|B) = 0

• Teorema de Bayes: sean dos eventos A y B tales que P(A) ≠ 0

y P(B) ≠ 0, se cumple que: P(A|B) P(B) = P(B|A) P(A)




11Ejercicio III.1

• LANZAMIENTO DE UN DADO

Considera los siguientes eventos:

S = {1, 2, 3, 4, 5, 6} (todos los posibles resultados)

A = {2, 4, 6} (ocurrencia de un número par)

B = {1, 3, 6} (ocurrencia de un número impar)

C = {4, 5, 6} (ocurrencia de un número mayor que tres)

Calcula las siguientes probabilidades:

P(A|B), P(A C), P(A C), P({2}|A), P(B S)∩ ∩ ∩




12Ejercicio III.1

• RESPUESTA

P(A|B) = P(Ø) / P(B) = 0

P(A C) = P({4,6}) = 2/6 = 1/3

P(A C) = P({2,4,5,6}) = 4/6 = 2/3

P({2}|A) = P({2} A) / P(A) = 1/6 / (1/2) = 2/6 = 1/3

P(B S) = P(B) = 3/6 = 1/2

12

4

53 6

B

C∩

∩

∩

∩

A

S




13Independencia

Se dice que dos eventos A y B son independientes si se cumple

que cualquier condición sobre la ocurrencia de B no tiene efecto

sobre la probabilidad de A y viceversa.

Si A y B son independientes, se cumple que: P(A|B) = P(A), lo

cual a su vez implica que: P(A B) = P(A) P(B)∩




14Variable aleatoria

Se define como variable aleatoria a una función que mapea

el espacio muestral de un experimento en el conjunto de los

números reales:

xa = X(a) a

S: Espacio Muestral

xa Sx: Rango de observaciones




15Variable aleatoria discreta

Cuando el rango de observaciones Sx = {x1 , x2 , ....} es discreto

nos referiremos a X como una variable aleatoria discreta.

pmf: función de masa probabilística P(X = xi ) = P(xi )

pdf: función de densidad probabilística fx(x) = P(xi ) δ(x- xi )

cdf: función de distribución cumulativa Fx(x) = P(xi ) u(x- xi )Σi

Σi




16Ejemplo: lanzamiento de un dado

Sx = {xi = i: i = 1, 2, 3, 4, 5, 6}; pmf: P(xi ) = 1/6;

pdf: fx(x) = 1/6 δ(x- i); cdf: Fx(x) = 1/6 u(x- i)Σ6

Σ6

i=1 i=1

0 2 4 60

0.05

0.1

0.15

0.2

0.25

0 2 4 60

0.5

1

1.5

Densidad probabilística (pdf) Distribución cumulativa (cdf)




17Variable aleatoria continua

Cuando el rango de observaciones Sx es continuo nos referiremos

a X como una variable aleatoria continua.

cdf: función de distribución cumulativa Fx(x) = P(X ≤ x)

pdf: función de densidad probabilística fx(x) = Fx(x)

Observación: para X continua P(X = xi ) = 0

ddx




18Ejemplo: variable aleatoria gaussiana

pdf: fx(x) = exp(– x2/2)

cdf: Fx(x) = exp(– u2/2) dux

∫− ∞

12π

12π

-5 0 50

0.1

0.2

0.3

0.4

0.5

-5 0 50

0.5

1

1.5

Densidad probabilística (pdf) Distribución cumulativa (cdf)




20Procesos estocásticos

Una secuencia aleatoria puede ser representada mediante un

proceso estocástico, el cual consiste en una familia indexada

de variables aleatorias: X[n] = { Xn }

Para cada valor de n, X[n] representa una variable aleatoria

con función de distribución cumulativa FX (xn ,n) = P (Xn ≤ xn)

y función de densidad probabilística fX (xn ,n) = FX (xn ,n) ddxn




21Dimensiones de ensamble y tiempo

X1 [n]

X2 [n]

X3 [n]

Xm [n]

... ...

... ...

...

...

...

...

...

...

...

...

realizacionestiempo

ensamble Espacio Muestralde la variable aleatoria X[k]




22Promedios en el ensamble

... ...

...

...

...

...

...

...

...

...

X1 [n]

X2 [n]

X3 [n]

Xm [n]

... ... ensamble Espacio Muestral

de la variable aleatoria X[k]




23Valor medio ó valor esperado

El valor esperado de un proceso estocástico Xn se define como:

E{Xn} = x fX (x ,n) dx = µx [n]∫Propiedades:

• E{Xn+ Ym} = E{Xn} + E{Ym}

• E{k Xn} = k E{Xn}

• Si Xn y Ym son independientes: E{XnYm} = E{Xn} E{Ym}

∞

− ∞




24Valor cuadrático medio y varianza

El valor cuadrático medio de un proceso estocástico Xn se

define como:

E{ |Xn|2} = |x|2 fX (x ,n) dx = msvx [n]∫Y su varianza se define como:

Var{Xn} = E{ |Xn – E{Xn}|2} = σx2[n]

∞

− ∞




25Ejercicio III.2

• VARIANZA Y VALOR ESPERADO

Demuestra que la varianza y el valor esperado satisfacen

la siguiente relación:

Var{Xn} = E{ |Xn|2} – |E{Xn}|2




26Ejercicio III.2

• RESPUESTA

De la definición de varianza es Var{Xn} = E{ |Xn – E{Xn}|2}

y desarrollando el factor cuadrático:

Var{Xn} = E{ |Xn|2 + |E{Xn}|2 – Xn* E{Xn} – Xn E{Xn}*}

Aplicando las propiedades de linealidad del valor esperado:

Var{Xn} = E{ |Xn|2 } + |E{Xn}|2 – E{Xn*} E{Xn} – E{Xn } E{Xn}*

Var{Xn} = E{ |Xn|2 } + |E{Xn}|2 – 2 |E{Xn}|2

de donde finalmente:

Var{Xn} = E{ |Xn|2 } – |E{Xn}|2




27Autocorrelación y autocovarianza

• La secuencia de autocorrelación de un proceso estocástico Xn

se define como: φxx [n,m] = E{Xn Xm*}

• La secuencia de autocovarianza se define como:

γxx [n,m] = E{(Xn– E{Xn}) (Xm– E{Xm})*}, y también puede

escribirse como: γxx [n,m] = φxx [n,m] – E{Xn} E{Xm}*

• φxx [n,m] y γxx [n,m] miden el grado de dependencia entre los

valores de un proceso estocástico para los distintos valores de

tiempo n y m.




28Crosscorrelación y crosscovarianza

• La secuencia de crosscorrelación para dos procesos estocásticos

Xn y Ym se define como: φxy [n,m] = E{Xn Ym*}

• La secuencia de crosscovarianza se define como:

γxy [n,m] = E{(Xn– E{Xn}) (Ym– E{Ym})*}, y también puede

escribirse como: γxy [n,m] = φxy [n,m] – E{Xn} E{Ym}*

• φxy [n,m] y γxy [n,m] miden el grado de dependencia entre los

valores de dos procesos estocásticos para los distintos valores

de tiempo n y m.




29Promedios en el tiempo

tiempo

X1 [n]

X2 [n]

X3 [n]

Xm [n]

... ...

... ...

...

...

...

...

...

...

...

...




30Valor medio y autocorrelación

• El valor promedio temporal de una realización de un proceso

estocástico Xn se define como:

<Xn> = lim Xn

• La secuencia de autocorrelación temporal de una realización

de un proceso estocástico Xn se define como:

<Xn+m Xn*> = lim Xn+m Xn*

Σn - L=

L1

2L+1 L ∞

Σn - L=

L1

2L+1 L ∞




32Estacionaridad

Estacionaridad en sentido estricto: se dice que un proceso es

estacionario en sentido estricto cuando todas sus propiedades

estadísticas son independientes del tiempo.

Estacionaridad en sentido amplio: se dice que un proceso es

estacionario en sentido amplio cuando sus promedios de

primer orden son independientes del tiempo y sus promedios

de segundo orden dependen sólo de la diferencia en tiempo.




33Estacionaridad en sentido amplio

Son los procesos estacionarios en sentido amplio los que

realmente nos interesan.

Para un proceso de este tipo siempre se cumple que:

• E{Xn} = x fX (x ,n) dx = µx [n] = µx

• Var{Xn} = E{ |Xn – E{Xn}|2} = σx2[n] = σx

2

• φxx [n+m,n] = E{Xn+m Xn*} = φxx [m]

∞

∫− ∞




34Propiedades de procesos estacionarios

Dados dos procesos estacionarios Xn y Yk ; se cumple que:

1.- γxx [m] = φxx [m] – | µx |2; γxy [m] = φxy [m] – µx µy2

2.- φxx [0] = E{ |Xn |2}; γxx [0] = σx2

3.- φxx [-m] = φxx [m]; φxy [-m] = φxy [m]

4.- γxx [-m] = γxx [m]; γxy [-m] = γxy [m];

5.- |φxy [m]|2 ≤ φxx [0] φyy [0]; |γxy [m]|2 ≤ γxx [0] γyy [0]

6.- |φxx [m]| ≤ φxx [0]; |γxx [m]| ≤ γxx [0]

7.- Si Xn=Yn-k , entonces: γxx [m] = γyy [m] y φxx [m] = φyy [m]

* *

**




35Ergodicidad

Se dice que un proceso es ergódico cuando cumple las dos

condiciones siguientes:

1.- Sus promedios en tiempo <Xn> y <Xn+m Xn*> son

independientes de la realización.

2.- Sus promedios en tiempo <Xn> y <Xn+m Xn*> coinciden

con sus promedios en el ensamble µx y φxx [m].

Todo proceso ergódico es siempre también estacionario en

sentido amplio. Lo contrario no es necesariamente cierto.




36Importancia de la ergodicidad

La ergodicidad es una propiedad deseable y sumamente

importante en el procesamiento de señales. Gracias a esta

propiedad podemos calcular los promedios en el ensamble

mediante el cálculo de los promedios en el tiempo !!!

E{Xn} = µx = <Xn> E{Xn+m Xn*} = φxx [m] = <Xn+m Xn*>

Sin embargo, como vimos en la sección anterior, el cálculo

de <Xn> y <Xn+m Xn*> implica el cómputo de sendos límites

que en la práctica no es factible calcular.




37Estimadores de promedios

En la práctica, los valores de µx , σx2 y φxx [m] se aproximan

mediante el uso de estimadores*:

µx = <x[n]>N = x[n]

σx2 = < |x[n]–µx|2>N = | x[n] – µx |2

φxx [m] = <x[n+m] x[n]*>N = x[n+m] x[n]*

* Existen muchos tipos de estimadores, aquí se presentan los más comúnmente usados

Σn 0=

N-11N

^

Σn 0=

N-11N

^ ^ ^

Σn 0=

N-11N

^




38Ejercicio III.3

• SECUENCIA ALEATORIA GAUSSIANA

Considera el proceso aleatorio discreto descrito por la

siguiente función de densidad probabilística:

fX (xn ,n) = exp(– (x – µx )2 / 2σx2 )1

π σ 2

Se trata de un proceso Gaussiano estacionario con valor

esperado µx y varianza σx2.

En este ejercicio vamos a ilustrar los conceptos vistos en

esta sección mediante el uso de este proceso estocástico.

2 x




39Ejercicio III.3

• RESPUESTA

Para este ejercicio consideremos µx = 3 y σx2 = 2

Generando una realización de este proceso tenemos:

Xk [n]

0 10 20 30 40 50 60 70 80 90 100-5

0

5

10




40Ejercicio III.3

• RESPUESTA (continuación)

Ahora estimemos* el valor de µx para distintos valores de N

µx = <x[n]>N = x[n]Σn 0=

N-11N

^

0 500 1000 1500 20001.5

2

2.5

3

3.5

4

Número de muestras N

Val

or e

sper

ado

estim

ado

<x[n]>2000 = 3.0059

* Estamos asumiendo que el proceso es ergódico




41Ejercicio III.3

0 500 1000 1500 20000

0.5

1

1.5

2

2.5

3


Ahora estimemos* el valor de σx2 para distintos valores de N

σx2 = < |x[n]–µx|2>N

^

Número de muestras N

Var

ianz

a es

timad

a

< |x[n]–µx|2>2000 = 2.0390

^

^





42Ejercicio III.3

-50 -40 -30 -20 -10 0 10 20 30 40 500

5

10

15φxx [m]^

φxx [0] = 10.93822^


Ahora estimemos* la secuencia de autocorrelación φxx [m]

para N = 2000





43Ejercicio III.3

-50 -40 -30 -20 -10 0 10 20 30 40 50-1

0

1

2

3γxx [m]^

γxx [0] = 2.0596^


Ahora estimemos* la secuencia de autocovarianza γxx [m]

para N = 2000





44Nota importante

Desde este momento en adelante, a menos que

se diga lo contrario, todo proceso estocástico

que se considere, se asumirá ergódico y por lo

tanto estacionario en sentido amplio.




46Densidad espectral de potencia

Por lo general la DTFT de una señal aleatoria no existe, sin

embargo, por lo general, las DTFT de sus secuencias de auto-

correlación y autocovarianza si existen.

Así, se pueden definir los siguientes pares transformados:

Donde Φxx(e jω) se conoce con el nombre de densidad espectral

de potencia, ó simplemente, espectro de potencia.

φxx [m] Φxx(e jω)

γxx [m] Γxx(e jω)




47Propiedades

Se puede demostrar que:

• Φxx(e jω) = Γxx(e jω) + 2π |µx |2 δ (ω – 2πk)

• Si µx = 0, entonces: Φxx(e jω) = Γxx(e jω)

• Φxx(e jω) es siempre real, es decir, Φxx(e jω) = Φxx(e jω)

• Si φxx [m] = φxx [-m], i.e. el proceso estocástico es real,

entonces Φxx(e jω) tiene simetría par y es no negativa.

Σk - ∞=

∞

*




48Relación con el valor cuadrático medio

De la ecuación de síntesis de la DTFT, se obtiene que:

De donde se obtiene, haciendo m = 0, que:

φxx [m] = Φxx(e jω) e jωm dωπ

∫−π

12π

msvx = E{ |x[n]|2} = φxx [0] = Φxx(e jω) dωπ

∫−π

12π




49Relación con la varianza

De igual forma:

De donde se obtiene, haciendo m = 0, que:

γxx [m] = Γxx(e jω) e jωm dωπ

∫−π

12π

σx2 = E{ |x[n]–µx|2} = γxx [0] = Γxx(e jω) dω

π

∫−π

12π




50Densidad espectral de potencia cruzada

También se pueden definir los siguientes pares transformados

para las secuencias de crosscorrelación y crosscovarianza de

dos procesos estocásticos Xn y Yk :

Donde Φxy (e jω) se conoce con el nombre de densidad espectral

de potencia cruzada.

φxy [m] Φxy(e jω)

γxy [m] Γxy(e jω)




51Propiedades

Se puede demostrar que:

• Φxy(e jω) = Γxy(e jω) + 2π µx µy* δ (ω – 2πk)

• Si µx = 0 y µy = 0, entonces: Φxy(e jω) = Γxy(e jω)

• Φxy(e jω) es por lo general una función compleja, y se

cumple que Φxy(e jω) = Φyx(e jω)

Σk - ∞=

∞

*




52Secuencias estacionarias y sistemas LIT

Consideremos un sistema LIT cuya entrada es estacionaria

en sentido amplio

Se puede demostrar que entonces su salida también es esta-

cionaria en sentido amplio.

SISTEMALIT

y[n]x[n]




53Ejercicio III.4

• CROSSCORRELACIÓN ENTRADA/SALIDA

Considera un sistema LIT cuya entrada x[n] es una

secuencia aleatoria estacionaria:

a.- Calcula la crosscorrelación entre la entrada x[n] y la

salida y[n].

b.- ¿Qué ocurre si la entrada x[n] es ruido blanco?




54Ejercicio III.4

• RESPUESTA

Usando la definición de φxy [m] y la respuesta impulsiva h[k]

φxy [m] = E{ x[n] y[n+m] } = E{ x[n] h[k] x[n+m-k] }

φxy [m] = h[k] E{ x[n] x[n+m-k] } = h[k] φxx [m-k]

de donde se observa que:

φxy [m] = h[m] φxx [m]

Σk - ∞=

∞

Σk - ∞=

∞

Σk - ∞=

∞

*




55Ejercicio III.4


Si x[n] es ruido blanco con µx = 0 y σx2 = a, se puede demostrar

que: φxx [m] = a δ[m]

Y del resultado anterior, φxy [m] = h[m] φxx [m], se tiene que:

φxy [m] = a h[m]

De forma que la secuencia de crosscorrelación φxy [m] entre la

entrada x[n] y la salida y[n] de un sistema LIT, cuando la x[n]

es ruido blanco, es proporcional a la respuesta impulsiva h[n].

*




56

Fin del Módulo IIISeñales Estocásticas

Señales y Sistemas II · 2018-02-07 · UNIVERSIDAD CATOLICA ANDRÉS BELLO Facultad de Ingeniería...

Documents

Transcript of Señales y Sistemas II · 2018-02-07 · UNIVERSIDAD CATOLICA ANDRÉS BELLO Facultad de Ingeniería...