CURS 3 20 OCTOMBRIE 2014Regresia liniar simpl II

CE VEI NVA N ACEST CURS:Cum s utilizm dou distribuii de probabilitate celebre pentru a testa semnificaia relaiei dintre dou variabile.Ce nelegem prin analiz rezidualCum se utilizeaz ecuaia de regresie pentru a realiza estimri i predicii.Cum s construim i cum s interpretm coeficientul de corelaie.

CONSIDERAII GENERALE:n cursul precedent am discutat despre coeficientul de determinare, r2Am artat cum poate fi utilizat pentru a msura intensitatea relaiei de regresieAceast msur nu ne ajut s stabilim dac aceast relaie este statistic semnificativ sau nuPentru a testa semnificaia statistic va trebui s lum n calcul dimensiunea eantionului utilizat.

CE NSEAMN S TESTM SEMNIFICAIA STATISTIC?Valorile coeficienilor b0 i b1 se obin pe baz de eantionAcestea aproximeaz valorile parametrilor reali ai modelului de regresieNu ne putem atepta ca valorile b0 i b1 s ia exact valoarea pe care ar lua-o parametrii 0 i 1 ai ntregii populaiiChiar dac obinem pentru b1 o valoare diferit de zero, cum putem fi siguri c valoarea real a lui 1 este i ea nenul?

DE CE ESTE IMPORTANT CA 1 S NU FIE NUL?Dac 1 este nul, atunci x dispare din ecuaia de regresieDac x dispare din ecuaia de regresie, nseamn c variaia lui y nu mai depinde de variaia lui x: M(y) = 0 + 10 Deci, ntre cele dou variabile nu exist n realitate o relaie!

EXEMPLU:Pentru cazul lanului de restaurante APP am gsit c ecuaia estimat a regresiei este = 60 + 5xAvem, deci, un estimator al lui 1 n valoarea dat de coeficientul lui x, adic 5Valoarea 5 depinde de eantionul cu care am lucrat; dac schimbm eantionul, se poate ntmpla s gsim alt valoareDe unde tim c valoarea real a lui 1 nu este, de fapt, zero?Ce semnificaie practic ar avea un astfel de rezultat?

DE CE DIMENSIUNEA EANTIONULUI CONTEAZ?Rezultatele sunt cu att mai precise cu ct datele pe baza crora le obinem sunt mai complete.

TESTUL F

n cursul anterior am introdus mrimile SPE i SPR, definite astfel:SPE = (yi i)2SPR = (i - )2Pe baza lor vom calcula alte dou mrimi: MPE i MPR, care au sens de mrimi medii ale ptratelor erorilor pe baza crora se determin

MPE I MPR FORMULE DE CALCUL

MPE = SPE / (n-1- numrul de variabile independente din modelul de regresie)

MPR = SPR / (numrul de variabile independente din modelul de regresie)

EXEMPLU CONCRETn cursul anterior am determinat SPE = 1530 i SPR = 14200

Modelul pe care l-am construit are o singur variabil independent

Dimensiunea n a eantionului este 10, deci n-1- numrul de variabile independente din modelul de regresie = n 2 = 8

NLOCUIM I OBINEM:

MPE = 1530 / 8 = 191,25

MPR = 14200 / 1 = 14200

CE FACEM CU ACESTE VALORI?Aa cum am precizat mai devreme, ne preocup ideea c 1 ar putea lua valoarea zero i prin urmare nu ar exista o relaie ntre x i y

Pentru a verifica validitatea supoziiei c 1 este nenul, efectum o verificare de ipoteze statistice.

FIXAREA IPOTEZELOR

H0: 1 = 0H1: 1 0

CARE ESTE PROCEDURA?

Este o procedur care se desfoar n patru pai.

PASUL ICalculm raportul dintre MPR i MPE i l notm cu F:F = MPR / MPE

n cazul exemplului nostru, obinem F = MPR / MPE = 14200 / 191,25 = 74,25

PASUL IIDin tabelul distribuiei F (Fischer) cu 1 grad de libertate la numrtor i n 2 grade de libertate la numitor, determinm valoarea lui F pentru pragul de semnificaie pe care ni-l fixmPentru exemplul nostru, s presupunem c am fixat o valoare = 0,01.Din tabelele distribuiei F cu un grad de libertate la numrtor i 8 grade de libertate la numitor, obinem valoarea F = 11,26

PAUL IIIComparm valoarea lui F pentru acest cu valoarea raportului obinut anterior.

n cazul nostru, F = 11,26 iar F calculat este 74,25

PASUL IV - DECIZIA ASUPRA IPOTEZELOR VERIFICATE: Dac MPR / MPE < F , atunci acceptm ipoteza H0

Dac MPR / MPE > F , atunci respingem ipoteza H0

n cazul exemplului nostru, am obinut F = 11,26 iar F calculat este 74,25

Deci, MPR / MPE > F , i deci respingem ipoteza H0

INTERPRETAREDin testarea efectuat anterior am obinut c ipoteza H0 trebuie respinsAceasta nseamn c nu este adevrat presupunerea c 1 ar putea s fie zeroPrin urmare, modificrile variabilei y depind de modificrile variabilei xn acest rezultat avem o ncredere de (1-) = (1-0,01)*100% = 99%Deci, nivelul anual al vnzrilor restaurantelor APP depinde de numrul studenilor din campusurile din apropiere.

OBSERVAIEDin faptul c am respins ipoteza Ho nu putem deduce dect faptul c ntre x i y exist ntr-adevr o relaie semnificativ statisticNu putem deduce faptul c modelul liniar ales este corect. Se poate ntmpla ca aproximarea liniar s fie corect doar pentru faptul c ea se potrivete n intervalul de valori x pe care le-am observat, iar n realitate relaia s fie una curbilinie!

TESTUL TEste o alternativ la utilizarea testului F

Pentru acest model, testul t i testul F conduc la acelai rezultat

Se poate aplica i n cazul modelului de regresie cu mai multe variabile independente

UTILIZRI PROPRII TESTELOR T I F Atunci cnd modelul de regresie include dou sau mai multe variabile, testul F se aplic pentru a stabili semnificaia relaiei dintre variabila independent i mulimea variabilelor dependente luate n ansambluTestul t se poate utiliza, ntr-o astfel de situaie, pentru a stabili dac pentru variabilele independente luate separat, fiecare n parte, relaia cu variabila dependent este semnificativ.

PENTRU MODELUL DE REGRESIE LINIAR IPOTEZELE TESTULUI T SUNT ACELEAI:

H0: 1 = 0H1: 1 0

CUM PROCEDM?Admitem c b0 i b1 sunt, ambele, variabile aleatoare ale cror valori depind de eantionul pe baza cruia s-au calculat aceste mrimi

Ca variabile aleatoare, au o distribuie de selecie ataat, de form normal, pentru care exist o medie i o dispersie.

FORMULELE DE CALCUL:Media: M(b1) = 1Dispersia: b12 = 2 1 / (xi2 - n2) unde 2 este dispersia ntregii populaiiUn estimator al dispersiei b12 este sb12 = MPE 1 / (xi2 - n2)Pentru exemplul nostru, sb12 = 191,25 1 / (2528 - 10142) = 0,3367Valoarea abaterii standard este sb1 = 0,3367 = 0,5803

CE FACEM MAI DEPARTE:Determinm valoarea lui t/2, pe baza valorilor distribuiei t cu n 2 grade de libertate, unde reprezint pragul de semnificaie la care lucrm

Calculm raportul b1 / sb1

sb12 = MPE 1 / (xi2 - n2)

n cazul nostru, dac = 0,01, din tabele deducem valoarea lui t pentru n 2 = 8 grade de libertate ca fiind t0,005 = 3,355

n cazul exemplului nostru este b1 / sb1 = 5 / 0,5803 = 8,6162

sb1 = 0,3367 = 0,5803

DECIZIA CU PRIVIRE LA REZULTATUL TESTULUIDac - t/2 b1 / sb1 t/2 vom accepta ipoteza H0Dac b1 / sb1 nu se afl n acest interval, atunci respingem ipoteza H0

Notm tb1 = b1 / sb1

n cazul nostru, b1 / sb1 = 8,6162 i t0,005 = 3,355Deci, b1 / sb1 > t/2 aadar vom respinge ipoteza H0nseamn c, la un prag de semnificaie egal cu 0,01 valoarea lui 1 nu este zero

INTERPRETARE REZULTATETestul F

Cu 99% ncredere putem spune c ntre vnzrile restaurantului i numrul studenilor din campusul universitar exist o relaie semnificativTestul t

Cu 99% ncredere putem spune c numrul studenilor din campusul universitar influeneaz n mod semnificativ vnzrile restaurantului

***************************