Regressão Linear Aula 09 Prof. Christopher Freire Souza Centro de Tecnologia Universidade Federal...

Regressão LinearAula 09

Prof. Christopher Freire SouzaCentro de TecnologiaUniversidade Federal de Alagoaswww.ctec.ufal.br/professor/cfs

Objetivos

•Desenvolver habilidades para avaliar a linearidade da relação entre variáveis

•Desenvolver habilidades para sugerir equação para previsão de valor de uma variável a partir de outra(s) de mais fácil mensuração

2

Christopher Souza: Regressão Linear

Relevância do conteúdo• Regressão é aplicada para estimar como se

relacionam variáveis tendo em vista a observação de sua variação conjunta

• É de especial interesse realizar previsões de valores de variáveis de difícil mensuração quando outras relacionadas e de mais fácil mensuração são conhecidas

Christopher Souza: Regressão Linear

3

Conteúdo

•Correlação linear•Regressão linear simples•Avaliação da regressão linear simples•Regressão linear múltipla•Avaliação da regressão linear múltipla

Christopher Souza: Regressão Linear

4

Correlação linear• Mede o grau de

variação conjunta de duas variáveis

• Diagramas de dispersão

• Não necessariamente causa e efeito

• Possibilidade de linearidade por trechos (segmentação)

Christopher Souza: Regressão Linear

5

Correlação linear• Correlações

espúrias

Christopher Souza: Regressão Linear

6

Correlação linear (Teste de hipótese)• H0: =0

• H1: ≠0

• Estatística de teste

• Rejeita-se a hipótese nula se:

• Intervalo de confiança

Christopher Souza: Regressão Linear

7

• H0: =

• H1: ≠

• Estatística de teste

• Rejeita-se a hipótese nula se:

Regressão linear simples• Equação de regressão

• Método dos mínimos quadrados▫ Considerando para cada

ponto a relação

▫ O método consiste em estimar valores dos parâmetros que resultem em

▫ Para isso, estima-se a e b via

▫ Resultando em:

Christopher Souza: Regressão Linear

8

Regressão linear simples(funções linearizáveis)

Christopher Souza: Regressão Linear

9

Regressão linear simples (Hipóteses básicas)• Aleatoriedade, independência e homogeneidade de séries• Lineariedade entre variáveis• Aleatoriedade, independência, normalidade e

homoscedasticidade (VAR(ei)=cte) dos resíduos

Christopher Souza: Regressão Linear

10

Regressão linear simples (Avaliação)• Erro Padrão

Christopher Souza: Regressão Linear

11

Regressão linear simples (Avaliação)• Erro Padrão

▫ Regressão aceitável: 0<se<sy

• Coeficiente de determinação▫ SQDR/SQRM

• Intervalos de confiança para coeficientes

• para

Christopher Souza: Regressão Linear

12

SQ QM F p

DR 1 SQDR QMDR/QMRR

RR n-2 SQRR/ (n-2)

RM n-1 SQRM/(n-1)

n

i ii yy1

2ˆ

n

i ii mediay1

2

n

i ii mediay1

2ˆ

Christopher Souza: Regressão Linear

13

Regressão linear simples (Avaliação)• H0: =0

• H1: ≠0

• Estatística de teste

• Rejeita-se a hipótese nula se:

• Avaliação de b pode ser realizada via intervalo de confiança

Regressão linear simples (Avaliação)

Christopher Souza: Regressão Linear

14

• Intervalo de confiança para a linha de regressão num ponto xj

• Intervalo de confiança para um valor previsto num ponto xj

• Linearidade entre variável dependente (Y) e variáveis independentes (Xi)

• Equação de regressão

• Abordagem matricial

• Estimação de parâmetros (i)

• Somatório dos quadrados

SQRM SQDR SQRR

Regressão linear múltipla

Christopher Souza: Regressão Linear

15

Procedimentos• Separar conjunto de dados para validar (¼) equação

“calibrada” (¾)• Montar matriz de correlações para avaliar linearidade em

relação à variável dependente e colinearidade entre variáveis independentes

• Identificar um máximo de variáveis explicativas não-colineares e que apresentem correlação linear à variável dependente de forma a ter 3 ou 4 vezes o número de observações em relação ao número de variáveis explicativas

• Escolher entre fazer ▫ Regressão de todas as equações possíveis

Fazer regressão com todas as variáveis escolhidas▫ Regressão passo-a-passo (step-wise)

Incorporação de variáveis uma-a-uma em função da correlação e teste F parcial

Christopher Souza: Regressão Linear

16

Regressão linear múltipla (Avaliação)

• Multicolinearidade▫ 2 ou mais preditores são

altamente correlacionados (|r|>0,85)

▫ Grandes mudanças nos coeficientes da regressão quando um preditor é adicionado

▫ Coeficiente de determinação apresenta melhoria insignificante, embora insignificância da regressão seja rejeitada

• Erro Padrão

Christopher Souza: Regressão Linear

17

• Coeficiente de determinação▫ SQDR/SQRM

Regressão linear simples (Avaliação)• Erro Padrão

▫ Regressão aceitável: 0<se<sy

Christopher Souza: Regressão Linear

18

SQ QM F p

DR p QMDR/QMRR

RR n-p-1

RM n-1

Christopher Souza: Regressão Linear

19

Regressão linear múltipla(Avaliação)• H0: ==…=p=0

• H1: i≠0

• Estatística de teste (F)• Rejeita-se a hipótese nula

se:

• Coeficiente de determinação ajustado

• Estatística de teste:

• Rejeita-se a hipótese nula se:

• Coeficiente de determinação parcial

Christopher Souza: Regressão Linear

20

Regressão linear múltipla(Avaliação de partes)• SQDRXk=SQDRX-SQDRX-Xk

▫ Xk: efeito da inclusão da variável Xk

▫ X: regressão considerando todas as variáveis inclusive Xk

▫ X-Xk: regressão com todas antes de incluir Xk

• H0: Xnão melhora significativamente o modelo

• H1: Xmelhora significativamente o modelo

Regressão linear múltipla (Avaliação)

Christopher Souza: Regressão Linear

21

• Teste do valor de parâmetros

• H0: =

• H1: 1≠

• Estatística de teste

▫ onde▫ sendo o i-ésimo

elemento da diagonal de • Rejeita-se a hipótese nula

se:

• Intervalo de confiança para os coeficientes de regressão

Regressão linear múltipla (Avaliação)

Christopher Souza: Regressão Linear

22

• Intervalo de confiança para a linha de regressão num ponto Xj

• Intervalo de confiança para um valor previsto num ponto Xj