ESTIMACIÓN - ESTIMACIÓN PUNTUAL

Estimación Puntual. Propiedades de los Estimadores.

ESTIMACIÓNESTIMACIÓN PUNTUAL

Ma Eugenia Cruces, Salvador J. Molina y Ma DoloresSarrión

UNIVERSIDAD DE MÁLAGADepartamento de Estadística y Econometría

Parcialmente financiado a través del PIE13-024 (UMA).

6 de julio de 2014

Cruces, Molina, Sarrión Estimación.


ESTIMACIÓN PUNTUAL

1 Estimación Puntual. Propiedades de los Estimadores.IntroducciónPropiedades de los estimadores

InsesgadezEficiencia relativaEficienciaError Cuadrático Medio (ECM)Suficiencia

Propiedades de tipo asintóticoInsesgadez asintóticaConsistenciaConsistencia en media cuadráticaNormalidad asintótica



ESTIMACIÓN PUNTUAL






ESTIMACIÓN PUNTUAL






ESTIMACIÓN PUNTUAL






ESTIMACIÓN PUNTUAL






ESTIMACIÓN PUNTUAL






ESTIMACIÓN PUNTUAL






ESTIMACIÓN PUNTUAL






ESTIMACIÓN PUNTUAL






ESTIMACIÓN PUNTUAL






ESTIMACIÓN PUNTUAL






ESTIMACIÓN PUNTUAL





Estimación Puntual. Propiedades de los Estimadores.IntroducciónPropiedades de los estimadoresPropiedades de tipo asintótico

ESTIMACIÓN PUNTUAL






CONTEXTO

Una v.a. X con densidad f (x , θ), que identificamos con lapoblación

θ parámetro desconocido

X1, ...,Xn una m.a.s. de la población (X )

ProblemaExtraer información sobre θ a partir de la muestra



CONTEXTO







CONTEXTO







CONTEXTO







CONTEXTO







CONCEPTOS BÁSICOS

Un Estimador de un parámetro poblacionaldesconocido es:

Una variable aleatoria que resume lainformación contenida en la muestra.

Estimador ≡ Estadístico

En cada muestra observada el estimadortoma un valor numérico.

El valor numérico del estimador en unamuestra observada es una estimacióndel parámetro desconocido.



CONCEPTOS BÁSICOS








CONCEPTOS BÁSICOS








CONCEPTOS BÁSICOS








CONCEPTOS BÁSICOS








CONCEPTOS BÁSICOS

Para estimar un parámetro se pueden utilizardistintos estimadores.

¿Cuál es el mejor?¿Qué criterio seguimos para elegir a uno endetrimento de los demás?

No existe un criterio único que permitadecidir cuál es el mejor en todas lascircunstancias.

La elección se basa en el análisis de ciertaspropiedades que consideramos deseablespara los "buenos estimadores" .



CONCEPTOS BÁSICOS


¿Cuál es el mejor?

¿Qué criterio seguimos para elegir a uno endetrimento de los demás?





CONCEPTOS BÁSICOS







CONCEPTOS BÁSICOS







CONCEPTOS BÁSICOS







ESTIMACIÓN PUNTUAL






PROPIEDADES

Entre las propiedades que se considerandeseables destacamos:

INSESGADEZ

EFICIENCIA

CONSISTENCIA EN MEDIA CUADRÁTICA



PROPIEDADES


INSESGADEZ

EFICIENCIA




PROPIEDADES


INSESGADEZ

EFICIENCIA




PROPIEDADES


INSESGADEZ

EFICIENCIA




ESTIMACIÓN PUNTUAL






INSESGADEZ

Insesgadez

Un estimador θ es insesgado para estimar elparámetro θ si

E[θ]

= θ, θ ∈ Ω.

Fijado el problema de estimación,Ω = Valores admisibles para el parámetro.

E[θ]− θ



INSESGADEZ

Insesgadez


E[θ]

= θ, θ ∈ Ω.


E[θ]− θ



INSESGADEZ

Insesgadez


E[θ]

= θ, θ ∈ Ω.


E[θ]− θ



INSESGADEZ

Insesgadez


E[θ]

= θ, θ ∈ Ω.


E[θ]− θ



INSESGADEZ

Insesgadez


E[θ]

= θ, θ ∈ Ω.


E[θ]− θ ≡ Sesgo

(θ).



Estimación puntual:Propiedades

θ1 es insesgado para θ y θ2 es sesgado para θ




La media muestral es un estimadorinsesgado de la media poblacional

X ←→ Media muestralµ←→ Media poblacionalE[X]

= µ

La proporción muestral es un estimadorinsesgado de la proporción poblacional

P ←→ Proporción muestralp ←→ Proporción poblacionalE[P]

= p






= µ



= p






= µ



= p




La varianza muestral es un estimadorsesgado de la varianza poblacional

S2 ←→ Varianza muestralσ2 ←→ Varianza poblacional

E[S2]

=n − 1

nσ2 6= σ2

La cuasivarianza muestral es un estimadorinsesgado de la varianza poblacional

S2 ←→ Cuasivarianza muestralσ2 ←→ Varianza poblacionalE[S2]

= σ2




La varianza muestral es un estimadorsesgado de la varianza poblacional

S2 ←→ Varianza muestralσ2 ←→ Varianza poblacional

E[S2]

=n − 1

nσ2 6= σ2

La cuasivarianza muestral es un estimadorinsesgado de la varianza poblacional

S2 ←→ Cuasivarianza muestralσ2 ←→ Varianza poblacionalE[S2]

= σ2



ESTIMACIÓN PUNTUAL







Entre varios estimadores insesgados es preferible el quetiene menor varianza.

Pero, no siempre hay uno!!!

Eficiencia relativa

θ1 y θ2 dos estimadores insesgados para θ, θ ∈ Ω.θ1 es más eficiente que θ2 si, para todo θ ∈ Ω,

Var(θ1

)≤ Var

(θ2

),

siendoVar

(θ1

)< Var

(θ2

),

para algún θ0 ∈ Ω.




Entre varios estimadores insesgados es preferible el quetiene menor varianza. Pero, no siempre hay uno!!!

Eficiencia relativa


Var(θ1

)≤ Var

(θ2

),

siendoVar

(θ1

)< Var

(θ2

),






Eficiencia relativa

θ1 y θ2 dos estimadores insesgados para θ, θ ∈ Ω.θ1 es más eficiente que θ2 si,

para todo θ ∈ Ω,

Var(θ1

)≤ Var

(θ2

),

siendoVar

(θ1

)< Var

(θ2

),






Eficiencia relativa


Var(θ1

)≤ Var

(θ2

),

siendoVar

(θ1

)< Var

(θ2

),






Eficiencia relativa


Var(θ1

)≤ Var

(θ2

),

siendoVar

(θ1

)< Var

(θ2

),




E [θ1] = E [θ2] = θ, pero Var(θ1) < Var(θ2), luego θ1 esmejor que θ2




Eficiencia relativa

θ1 y θ2 dos estimadores insesgados para θ, θ ∈ Ω.

Eficiencia relativa de θ1 frente a θ2 =Var

(θ2

)Var

(θ1

)



ESTIMACIÓN PUNTUAL






Estimación puntual: Propiedades

θ estimador insesgado para el parámetro θ, θ ∈ Ω.

Eficiencia

θ es eficiente para θ si, para cualquier otro θi insesgadopara θ,

Var(θ)≤ Var

(θi

), para todo θ ∈ Ω.

El estimador eficiente es el óptimo, con elcriterio de mínima varianza, en la clase de losestimadores insesgados





Eficiencia


Var(θ)≤ Var

(θi







Eficiencia


Var(θ)≤ Var

(θi





Acotación de Frechet-Cramer-Rao

Si θ = θ(X1, ...,Xn) es un estimador insesgado para elparámetro θ, entonces, bajo ciertas condiciones de regularidad,

Var(θ)≥ 1

nE

[(∂ ln f (X ; θ)

∂θ

)2] ,

siendo f (x ; θ) la función de densidad de la variable aleatoria X .

Si la varianza de un estimador insesgado es igual a la cota,entonces el estimador es eficiente.



Acotación de Frechet-Cramer-Rao

Si θ = θ(X1, ...,Xn) es un estimador insesgado para elparámetro θ, entonces, bajo ciertas condiciones de regularidad,

Var(θ)≥ 1

nE

[(∂ ln f (X ; θ)

∂θ

)2] ,

siendo f (x ; θ) la función de densidad de la variable aleatoria X .

Si la varianza de un estimador insesgado es igual a la cota,entonces el estimador es eficiente.



ESTIMACIÓN PUNTUAL







En general, el criterio de óptimo análogo al de mínima varianzapara los insesgados es el de

MÍNIMO ECMPero, ¿cómo se define el ECM?

Definición

Para un estimador, θ, de un párámetro θ se define su errorcuadrático medio, ECM(θ), como

ECM(θ) = E[(θ − θ

)2]





MÍNIMO ECM

Pero, ¿cómo se define el ECM?

Definición



)2]






Definición



)2]






Definición



)2]





)2]

Cuantifica la dispersión de la distribución del estimador conrespecto al parámetro que se pretende estimar.

El estimador será tanto mejor cuanto menor sea esa dispersiónEso significa que las diferencias entre el parámetro y lasestimaciones que el estimador proporciona (los valores delestimador) son “pequeñas" .

El estimador ÓPTIMO con este criterio es el de menor ECM.





)2]








)2]








)2]







El error cuadrático medio de un estimador y su varianza estánrelacionados:

Si θ es un estimador del parámetro θ, entonces

ECM(θ)

= Var(θ)

+(

E[θ]− θ)2.

Si el estimador es insesgado, su error cuadrático medio ysu varianza son iguales.Si un estimador insesgado tiene menor varianza que unosesgado, con el criterio del ECM es preferible el insesgado.El estimador eficiente es, para la clase de estimadoresinsesgados, ÓPTIMO con el criterio basado en el ECM.






ECM(θ)

= Var(θ)

+(

E[θ]− θ)2.







ECM(θ)

= Var(θ)

+(

E[θ]− θ)2.

Si el estimador es insesgado, su error cuadrático medio ysu varianza son iguales.

Si un estimador insesgado tiene menor varianza que unosesgado, con el criterio del ECM es preferible el insesgado.El estimador eficiente es, para la clase de estimadoresinsesgados, ÓPTIMO con el criterio basado en el ECM.






ECM(θ)

= Var(θ)

+(

E[θ]− θ)2.

Si el estimador es insesgado, su error cuadrático medio ysu varianza son iguales.Si un estimador insesgado tiene menor varianza que unosesgado, con el criterio del ECM es preferible el insesgado.

El estimador eficiente es, para la clase de estimadoresinsesgados, ÓPTIMO con el criterio basado en el ECM.






ECM(θ)

= Var(θ)

+(

E[θ]− θ)2.




ESTIMACIÓN PUNTUAL







SUFICIENCIA

Definición

Un estimador θ = θ(X1, ...,Xn) es suficiente para un parámetroθ si, y sólo si, la distribución de la muestra condicionada por elestimador no depende del parámetro.

EJEMPLO

Ejemplo

Si (X1, ...,Xn) es una m.a.s. de X ∼ B(p), el total muestral(T = X1 + · · ·+ Xn) es suficiente para p.




SUFICIENCIA

Definición


EJEMPLO

Ejemplo





SUFICIENCIA

Definición


EJEMPLO

Ejemplo





SUFICIENCIA

Definición


EJEMPLO

Ejemplo





Caracterización de la suficiencia (Neyman)

Teorema

θ = θ(X1, ...,Xn) es suficiente para un parámetro θ si, y sólo si,la función de densidad de la muestra, f (x1, ...xn; θ) se puedefactorizar del siguiente modo

f (x1, ...xn; θ) = g(θ(x1, ..., xn), θ) · h(x1, ..., xn),

donde h es independiente de θ.

EJEMPLO

Ejemplo

Si (X1, ...,Xn) es una m.a.s. de X ∼ N(µ,1), la media muestrales un estimador suficiente de la media poblacional.





Teorema




EJEMPLO

Ejemplo






Teorema




EJEMPLO

Ejemplo






Teorema




EJEMPLO

Ejemplo




ESTIMACIÓN PUNTUAL






Estimación puntual: Propiedades asintóticas

Entre las propiedades de tipo asintótico (muestras detamaño grande) destacamos:

Insesgadez asintótica

Consistencia en media cuadrática















ESTIMACIÓN PUNTUAL







θn = θ(X1,X2, · · · ,Xn) estimador.

Al hacer variar el tamaño de la muestra, elestimador puede verse como:

Una sucesión de estimadores ≡θn

Insesgadez asintóticaEl estimador θn es asintóticamente insesgado para θ si

Al aumentar el tamaño de muestra el sesgo tiende acero.

E[S2]

=n − 1

nσ2−→

n→∞σ2









E[S2]

=n − 1

nσ2−→

n→∞σ2









E[S2]

=n − 1

nσ2−→

n→∞σ2









E[S2]

=n − 1

nσ2−→

n→∞σ2









E[S2]

=n − 1

nσ2−→

n→∞σ2



ESTIMACIÓN PUNTUAL







CONSISTENCIA

El estimador θn es consistente para θ si converge enprobabilidad a θ. Es decir,

límn→∞

P(|θn − θ| < ε) = 1,para todoε > 0.

La consistencia del estimador garantiza que tomando unamuestra suficientemente grande con la estimación no nosdesviamos mucho del parámetro que se pretendeestimar.

La media muestral es un estimador consistente de lamedia poblacional




CONSISTENCIA


límn→∞







CONSISTENCIA


límn→∞







CONSISTENCIA


límn→∞






ESTIMACIÓN PUNTUAL








El estimador θn es consistente en media cuadrática para θsi

Es asintóticamente insesgado.Su varianza tiende a cero al aumentar el tamaño demuestra.

La consistencia en media cuadrática del estimadorgarantiza la consistencia.







Es asintóticamente insesgado.

Su varianza tiende a cero al aumentar el tamaño demuestra.





























ESTIMACIÓN PUNTUAL







NORMALIDAD ASINTÓTICA

El estimador θn es asintóticamente normal para θ si convergeen distribución a la distribución normal.

Es decir,Si Φ es la función de distribución de la distribución N(0,1)y Fn es la función de distribución de

θn − E [θn]√Var(θn)

,

entonceslím

n→∞Fn(x) = Φ(x),para todo x .





El estimador θn es asintóticamente normal para θ si convergeen distribución a la distribución normal. Es decir,

Si Φ es la función de distribución de la distribución N(0,1)y Fn es la función de distribución de


,

entonceslím









,

entonceslím









,

entonces

límn→∞

Fn(x) = Φ(x),para todo x .








,

entonceslím



Documents

ESTIMACIÓN - ESTIMACIÓN PUNTUAL