Curso de Teoria Assintótica - USP · teoria assintótica, pois aproximam de forma precisa as funções densidade e de distribuição. Em muitas aplicações estatísticas, as expansões

Curso deTeoria

Assintótica

GaussCordeiro

Roteiro

Objetivos

ExpansãoPonto deSela atravésda Expansãode Laplace

ExpansãoPonto deSela atravésda ExpansãodeEdgeworth

Expansõesde Daniels

SoluçãoNumérica

Aplicaçõesna inferência

Curso de Teoria Assintótica

Gauss Cordeiro

UFRPE e UFPE

27 de dezembro de 2007

Curso deTeoria

Assintótica

GaussCordeiro

Roteiro

Objetivos




SoluçãoNumérica


1 Objetivos

2 Expansão Ponto de Sela através da Expansão de Laplace

3 Expansão Ponto de Sela através da Expansão de Edgeworth

4 Expansões de Daniels

5 Solução Numérica

6 Aplicações na inferência estatística

7 Referências

Curso deTeoria

Assintótica

GaussCordeiro

Roteiro

Objetivos




SoluçãoNumérica


As expansões ponto de sela são muito importantes nateoria assintótica, pois aproximam de forma precisa asfunções densidade e de distribuição.

Em muitas aplicações estatísticas, as expansões têm suaimportância no que se refere, por exemplo, ao cálculo dosp-valores, à construção de testes e intervalos de confiançapara os parâmetros desconhecidos.

Em muitos casos, a expansão ponto de sela é utilizada paradeterminar limites uniformes com erros relativos sobre todoo intervalo de variação da distribuição.

Curso deTeoria

Assintótica

GaussCordeiro

Roteiro

Objetivos




SoluçãoNumérica


A expansão de Laplace é dada por

∫

f (y)dy ≈ exp{h(y)}[

− 2π

h′′(y)

]1/2

. (1)

Seja KY (λ) a função geradora de cumulantes.Aproximando a integral de exp{KY (λ)} com relação àvariável λ, e por (1), tem-se

f (y) ≈∫

exp

{

KY (λ) +(λ − λ)2

2

∂2KY (λ)

∂λ2

∣

∣

λ

}

dλ

= exp{KY (λ)}[

− 2π∂2KY (λ)

∂λ2 |λ

]1/2

. (2)

Curso deTeoria

Assintótica

GaussCordeiro

Roteiro

Objetivos




SoluçãoNumérica


Obtém-se a função densidade após mudança de variável a partirda função característica

fY (y) =1

2πi

∫ T+i∞

T−i∞exp{KY (λ) − λy}dλ. (3)

Expandindo KY (λ) − λy referente ao expoente da equação (3),obtém-se a aproximação (4). E associando esta aproximaçãocom a equação (2), obtém-se a equação (5).

KY (λ) − λy ≈ KY (λ) − λy +(λ − λ)2

2K

′′

Y (λ). (4)

fY (y) ≈[

1

2πK′′

Y (λ)

]1/2

exp{KY (λ) − λy}. (5)

Curso deTeoria

Assintótica

GaussCordeiro

Roteiro

Objetivos




SoluçãoNumérica


A f.g.m. da média amostral (Y ) é dada por φY (λ) = φY (λ/n)n

e a f.g.c. é, então, KY (λ) = n KY (λ/n). Assim, uma diretaaplicação de (5) produz a equação (6) em que o lado direitodesta equação é a aproximação ponto de sela da funçãodensidade (ou de probabilidade) de Y .

fY (y) ≈[

n

2πK′′

Y (λ)

]1/2

exp{n[KY (λ) − λy ]}. (6)

A qualidade da expansão ponto de sela pode ser freqüentementeobtida pela multiplicação da aproximação da densidade por umaconstante de forma que sua integração resulte em 1.

Curso deTeoria

Assintótica

GaussCordeiro

Roteiro

Objetivos




SoluçãoNumérica


A expansão de Edgeworth de uma distribuição é obtidaexpandindo a f.g.c. através da série de Taylor em torno dezero e invertendo-a em seguida.Sejam fSn

(s; λ) e KSn(t; λ) as funções densidade e geratriz

de cumulantes de Sn. Definindo a família exponencial (7),obtém-se a equação (8) para Sn.

f (y ; λ) = exp[λy − K (λ)]f (y). (7)

fSn(s; λ) = exp[sλ − nK (λ)]fSn

(s), (8)

sendo fSn(s) = fSn

(s; 0).

Curso deTeoria

Assintótica

GaussCordeiro

Roteiro

Objetivos




SoluçãoNumérica


As funções densidade de Sn e S∗n estão relacionadas por

fSn(s; λ) = fS∗

n(y ; λ)

1√

nK′′(λ)

, (9)

em que y = [s − nK′

(λ)]/√

nK′′(λ).

A função fS∗

n(y ; λ) é aproximada pela expansão de Edgeworth

fS∗

n(y) = φ(y)

[

1 +ρ3

6√

nH3(y) +

ρ4

24nH4(y) +

ρ23

72nH6(y)

]

+O(n−32

(10)

Curso deTeoria

Assintótica

GaussCordeiro

Roteiro

Objetivos




SoluçãoNumérica


Aproximando fS∗

n(y) na origem (y = 0), obtém-se uma

expansão em potências de n−1.

Interpretando λ como a EMV de λ relativa a uma únicaobservação, tem-se

fSn(s; λ) = fS∗

n(0; λ){nK

′′

(λ)}−1/2,

sendo

fS∗

n(0; λ) =

1√2π

[1 + M(λ) + O(n−2)], (11)

em que M(λ) é um termo de ordem n−1 dado por

M(λ) =3ρ4(λ) − 5ρ3(λ)2

24n, (12)

sendo ρ3(λ) e ρ4(λ) os cumulantes padronizados que medem aassimetria e a curtose da distribuição de Y .

Curso deTeoria

Assintótica

GaussCordeiro

Roteiro

Objetivos




SoluçãoNumérica


Fazendo λ = λ em (8), explicitando fSn(s) e usando (9) e (11)

vem

fSn(s) =

exp[nK (λ) − sλ]√

2nπK′′(λ)

[1 + M(λ) + O(n−2)]. (13)

O termo principal da equação (13) é chamado expansão ponto

de sela para a função densidade da soma estocástica Sn

proveniente de Y .

Curso deTeoria

Assintótica

GaussCordeiro

Roteiro

Objetivos




SoluçãoNumérica


O interesse maior da expansão ponto de sela consiste em obteraproximações precisas para probabilidades de uma amostra iid

de n observações.

Lugannani e Rice (1980) definiram uma equação bastanteprecisa para aproximar probabilidades

P(Sn ≤ s) = Φ(r) +

(

1

r− 1

ν

)

φ(r), (14)

em que r = sinal(λ){2nλK′

(λ) − λs}1/2 e ν = λ{nK′′

(λ)}1/2.

Curso deTeoria

Assintótica

GaussCordeiro

Roteiro

Objetivos




SoluçãoNumérica


A aproximação (14) é boa em quase todo intervalo de variaçãode s, exceto próximo ao ponto s = E (Sn) ou r = 0, onde deveser substituída pelo seu limite, quando r → 0, dado por

P(Sn ≤ s) =1

2− ρ3

6√

2πn,

em que ρ3 é o terceito cumulante padronizado avaliado em λ.

Curso deTeoria

Assintótica

GaussCordeiro

Roteiro

Objetivos




SoluçãoNumérica


A expansão para P(Sn ≥ s) até O(n−1/2) quando s > nE (Y ),ou seja, quando λ > 0, válida para distribuições discretas, tem aforma (Daniels, 1987)

P(Sn ≥ s) = exp{(r2 + ν2)/2}{λ/(1 − e−λ)}×[

(1 − Φ(ν))

{

1 − ρ3ν3

6√

n− ν√

nK ′′

(λ−1 − (eλ − 1)−1)

}

+φ(ν)

{

ρ3(ν2−1)6√

n+ 1√

n K ′′

(λ−1 − (eλ − 1)−1)

}]

,

com todas as quantidades já definidas anteriormente.

Curso deTeoria

Assintótica

GaussCordeiro

Roteiro

Objetivos




SoluçãoNumérica


No caso de s < nE (Y ), ou seja, λ < 0, pode-se obterP(Sn ≥ s) até O(n−1/2) como

P(Sn ≥ s) = H(−ν) + exp(nK − λs + ν2/2)×

[

{H(ν) − Φ(ν)}(

1 − ρ3ν3

6√

n

)

+ φ(ν) ρ3(ν2−1)6√

n

]

em que H(w) = 0, 1/2 e 1 quando w < 0, w = 0 e w > 0,respectivamente.

Curso deTeoria

Assintótica

GaussCordeiro

Roteiro

Objetivos




SoluçãoNumérica


Em muitas aplicações a equação de ponto de sela (K ′Y (λ) = y)

não pode ser resolvida analiticamente, mesmo quando a soluçãode λ existe.

Usa-se o método de Newton-Raphson para calcular oponto de sela numericamente, tendo este, em geral, bomdesempenho desde que a função KY (λ) − λy que éminimizada seja convexa.

Há ainda o método da secante. Esse método geralmentesó produz a resposta correta em uma iteração se K ′

Y (λ) élinear, como é o caso do método Newton-Raphson. Adiferença com relação ao método Newton-Raphsonconsiste em não existir no método secante a possibilidadede divergência.

Curso deTeoria

Assintótica

GaussCordeiro

Roteiro

Objetivos




SoluçãoNumérica


Ilustra-se com exemplos a obtenção da expansão ponto de selapara a distribuição de Poisson com média γ, para a distribuiçãoexponencial com média unitária, para a distribuição normalinversa e mais um caso relacionado ao processo autorregressivode ordem 1.

A expansão ponto de sela pode, também, ser usada emdistribuições discretas. Sejam Y1, . . . ,Yn variáveis aleatórias iid

seguindo uma distribuição de Poisson com média γ. A f.g.c. deYi é dada por KY (λ) = γ {exp(λ) − 1} tendo como ponto desela λ = log(y/γ).

Curso deTeoria

Assintótica

GaussCordeiro

Roteiro

Objetivos




SoluçãoNumérica


A equação (6) pode ser usada diretamente, mas agora a médiasó pode assumir valores tais que y = r/n para r inteiro.Substituindo na equação, obtém-se

fY (y) ≈[

1

2πny

]1/2

exp

{

n

[

γ

(

y

γ− 1

)

−(

logy

γ

)

y

]}

.

fY (y) =

[

1

2πn

]1/2

e−γn γny

yny+1/2.

Essa quantidade exata da distribuição de Y é obtida pelaaproximação de Stirling.

Curso deTeoria

Assintótica

GaussCordeiro

Roteiro

Objetivos




SoluçãoNumérica


Tabela: Calculando P(Sn ≥ s) com as aproximações ponto de selapara a distribuição de Poisson (γ = 1, n = 1, 5 e 10).

n s Exato L-R (1980) Daniels (1987)1 1,0 0,6321 0,6330 0,6330

3,0 0,0803 0,0804 0,07907,0 0,0000832 0,0000834 0,00008259,0 0,00000113 0,00000113 0,00000115

5 1,0 0,99326 0,99319 0,993563,0 0,8753 0,8752 0,87655,0 0,5595 0,5595 0,559515,0 0,000226 0,000226 0,000225

10 1,0 0,9999546 0,9999536 0,99995675,0 0,9707 0,9710 0,971010,0 0,5421 0,5421 0,524120,0 0,00345 0,00345 0,00344

Curso deTeoria

Assintótica

GaussCordeiro

Roteiro

Objetivos




SoluçãoNumérica


(Cordeiro, 1999) Sejam Y1, . . . ,Yn variáveis aleatórias iid

com distribuição exponencial de média um. Assim, afunção densidade exata de Sn é dada por

πSn(s) = sn−1e−s/(n − 1)!.

Tem-se, φ(λ) = (1− λ)−1 e K (λ) = − log(1− λ). A EMVλ é λ = 1 − n/s, K (λ) = log(s/n) e K (2)(λ) = s2/n2.Ainda, M(λ) = −1/12n. Portanto, a expansão ponto desela (13) implica

fSn(s) =

sn−1e−s

√2πe−nnn−1/2

[

1 − 1

12n+ O(n−2)

]

.

Curso deTeoria

Assintótica

GaussCordeiro

Roteiro

Objetivos




SoluçãoNumérica


Considerando a distribuição exponencial, compara-se na tabelaseguinte o valor exato de P(Sn ≥ s) e os valores aproximadosobtidos pelas equações de Daniels (1987) e de Lugannani e Rice(1980) para n = 1, 5 e 10 e diversos valores de s.

Tabela: Comparando P(Sn ≥ s) com as aproximações de Daniels e asde Lugannani e Rice para a distribuição exponencial.

Aprox. Daniels(1987) Aprox.

n s Exato até O(n−1/2) até O(n−1) LR (1980)1 0,5 0,6065 0,6176 0,6077 0,6043

1,0 0,3679 0,3670 0,3670 0,36703,0 0,0498 0,0482 0,0510 0,05007,0 0,00091 0,00095 0,00091 0,00093

5 1,0 0,99634 0,99638 0,99635 0,996333,0 0,8153 0,8172 0,8156 0,81527,0 0,4405 0,4405 0,4405 0,440510,0 0,0293 0,0291 0,0293 0,029320,0 0,0000169 0,0000171 0,0000169 0,0000170

10 5,0 0,9682 0,9683 0,9682 0,968210,0 0,4579 0,4579 0,4579 0,457915,0 0,0699 0,0695 0,0699 0,069920,0 0,00500 0,00499 0,00500 0,00500

Curso deTeoria

Assintótica

GaussCordeiro

Roteiro

Objetivos




SoluçãoNumérica


Na tabela a seguir compara-se a probabilidade exataP(Sn ≥ s) com as aproximações de Daniels (1987) atéordens O(n−1/2) e O(n−1) e, também, com a expansão deLugannani e Rice (1980) para a distribuição normal inversa.

f (y ; µ) =µ

(2π)12 y3/2

exp{−(y − µ)2/(2y)},

e

KY (t) = µ{1 − (1 − t)12 }.

Curso deTeoria

Assintótica

GaussCordeiro

Roteiro

Objetivos




SoluçãoNumérica


Tabela: Comparando P(Sn ≥ s) com as aproximações de Daniels e asde Lugannani e Rice para a distribuição normal inversa com µ = 1(n = 3, 5 e 10).

Aprox. Daniels(1987) Aprox.

n s Exato até O(n−1/2) até O(n−1) Lugannani e Rice (1980)3 1,0 0,9645 0,9651 0,9644 0,9638

2,0 0,6782 0,6824 0,6753 0,67243,0 0,3927 0,3848 0,3848 0,38485,0 0,1156 0,1006 0,1176 0,117810,0 0,0055 0,00493 0,00573 0,0050520,0 0,0000174 0,0000169 0,0000176 0,0000155

5 1,0 0,999946 0,999947 0,999946 0,9999463,0 0,8334 0,8358 0,8330 0,83155,0 0,4147 0,4108 0,4108 0,410810,0 0,0378 0,0312 0,0344 0,032820,0 0,000148 0,000144 0,000150 0,00014125,0 0,0000099 0,0000097 0,00001 0,0000094

10 5,0 0,9825 0,9827 0,9826 0,982410,0 0,4384 0,4369 0,4369 0,436915,0 0,0721 0,0697 0,0723 0,071520,0 0,00789 0,00766 0,00794 0,0079925,0 0,00073 0,00071 0,000732 0,00071730,0 0,0000621 0,000061 0,0000623 0,0000608

Curso deTeoria

Assintótica

GaussCordeiro

Roteiro

Objetivos




SoluçãoNumérica


Consideremos o processo autoregressivo Y0, Y1, . . . dadopor Yk = λYk−1 + ǫk , em que |λ| < 1, ǫk são iid comǫk ∼ N(0, σ2) e Y0 tem distribuição estacionária, isto é,Y0 ∼ N(0, σ2/(1 − σ2)). O interesse está voltado para adistribuição de Y definida por

Y =√

nλ − λ√1 − λ2

=√

nU

V,

em que λ é o estimador de mínimos quadrados de λbaseado em Y0, . . . ,Yn,U =

∑ni=1

Yi−1(Yi − λYi−1)/√

1 − λ2 e V =∑n

i=1Y 2

i−1.

Curso deTeoria

Assintótica

GaussCordeiro

Roteiro

Objetivos




SoluçãoNumérica


Na tabela abaixo comparamos a probabilidade exataP(

√n|λ − λ|/

√1 − λ2 > w) com duas aproximações de

Edgeworth e as aproximações ponto de sela de primeira esegunda ordens para n = 10.

Tabela: Comparação entre as aproximações de Edgeworth e as deponto de sela no processo autorregressivo de ordem 1.

Aprox. Edgeworth Aprox. Ponto de Selaλ w Exato 1 2 1 20.4 1,0 0,3009 0,3173 0,3003 0,2984 0,3052

2,0 0,0498 0,0556 0,0557 0,0480 0,05003,0 0,0059 0,0067 0,0122 0,0056 0,0056

0.8 1,0 0,3444 0,3173 0,3433 0,3130 0,34742,0 0,1302 0,1053 0,1957 0,1102 0,13103,0 0,0507 0,0149 0,0994 0,0440 0,0505

Curso deTeoria

Assintótica

GaussCordeiro

Roteiro

Objetivos




SoluçãoNumérica


Daniels, H. E. (1954). Saddlepoint Approximations in Statistics. TheAnn. Math. Statistics, 25, 631–650.

Daniels, H. E. (1987). Tail Probability Approximations. InternationalStatistical Review, 55, 1, 37–48.

Cordeiro, G.M. (1999). Introdução à teoria assintótica. 22o ColóquioBrasileiro de Matemática, IMPA, 70–77.

Cordeiro, G.M. (1992). Introdução à teoria da verossimilhança. Capítulo3, Seção 3.8, 90–95.

Goutis, C. e Casella, G. (1999) Explaining the Saddlepoint

Approximation. The American Satistician, 53, n. 3,216–224.

Curso deTeoria

Assintótica

GaussCordeiro

Roteiro

Objetivos




SoluçãoNumérica


Referências

Hinkley, D. V., Reid, N. e Snell, E. J. (1990). Statistical Theory and

Modelling. In honour of Sir David Cox, FRS. Chapmanand Hall.

Jensen, J. L. (1988). Uniform Saddlepoint Approximations. Adv. Appl.Prob., 20, 622–634.

Kolassa, J. E. (1997). Series Approximation Methods in Statistics.Lecture Notes in Statistics, 88, second edition, Springer,58–81.

Lugannani, R. e Rice, S. (1980). Saddle Point Approximation for The

Distribution of The Sum of Independent Random

Variables. Adv. Appl. Prob., 12, 475–490.

Documents

Curso de Teoria Assintótica - USP · teoria assintótica, pois aproximam de forma precisa as funções densidade e de distribuição. Em muitas aplicações estatísticas, as expansões