84
Regresija

Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Embed Size (px)

Citation preview

Page 1: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Regresija

U velikom broju eksperimenata uoqava se veza izme�u dve ilivixe promenljivih.

PrimerMo�e se uoqiti veza izme�u stepena erozije i koliqinepadavina.

PrimerMo�e se uoqiti veza izme�u xirine reke i maksimalnoggodixnjeg proticaja.

PrimerMo�e se uoqiti veza izme�u broja ro�ene dece po �eni, nivoaobrazovanja i vrste zaposlenja.

Page 2: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Regresija

U velikom broju eksperimenata uoqava se veza izme�u dve ilivixe promenljivih.

PrimerMo�e se uoqiti veza izme�u stepena erozije i koliqinepadavina.

PrimerMo�e se uoqiti veza izme�u xirine reke i maksimalnoggodixnjeg proticaja.

PrimerMo�e se uoqiti veza izme�u broja ro�ene dece po �eni, nivoaobrazovanja i vrste zaposlenja.

Page 3: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Regresija

U velikom broju eksperimenata uoqava se veza izme�u dve ilivixe promenljivih.

PrimerMo�e se uoqiti veza izme�u stepena erozije i koliqinepadavina.

PrimerMo�e se uoqiti veza izme�u xirine reke i maksimalnoggodixnjeg proticaja.

PrimerMo�e se uoqiti veza izme�u broja ro�ene dece po �eni, nivoaobrazovanja i vrste zaposlenja.

Page 4: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Regresija

U velikom broju eksperimenata uoqava se veza izme�u dve ilivixe promenljivih.

PrimerMo�e se uoqiti veza izme�u stepena erozije i koliqinepadavina.

PrimerMo�e se uoqiti veza izme�u xirine reke i maksimalnoggodixnjeg proticaja.

PrimerMo�e se uoqiti veza izme�u broja ro�ene dece po �eni, nivoaobrazovanja i vrste zaposlenja.

Page 5: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Regresija

U velikom broju eksperimenata uoqava se veza izme�u dve ilivixe promenljivih.

PrimerMo�e se uoqiti veza izme�u stepena erozije i koliqinepadavina.

PrimerMo�e se uoqiti veza izme�u xirine reke i maksimalnoggodixnjeg proticaja.

PrimerMo�e se uoqiti veza izme�u broja ro�ene dece po �eni, nivoaobrazovanja i vrste zaposlenja.

Page 6: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Ako posmatramo obele�ja X1, X2, . . . , Xp i Y , tada tra�imofunkciju ϕ(x1, x2, . . . , xp) za koju �e biti

Y ≈ ϕ(X1,X2, . . . ,Xp).

Funkcija ϕ se bira tako da srednjekvadratno odstupanje uoznaci

E(Y − ϕ(X1,X2, . . . ,Xp))2

bude najmanje.

RegresijaFunkcija ϕ se zove regresija Y po X1, X2, . . . , Xp.

Page 7: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Ako posmatramo obele�ja X1, X2, . . . , Xp i Y , tada tra�imofunkciju ϕ(x1, x2, . . . , xp) za koju �e biti

Y ≈ ϕ(X1,X2, . . . ,Xp).

Funkcija ϕ se bira tako da srednjekvadratno odstupanje uoznaci

E(Y − ϕ(X1,X2, . . . ,Xp))2

bude najmanje.

RegresijaFunkcija ϕ se zove regresija Y po X1, X2, . . . , Xp.

Page 8: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Ako posmatramo obele�ja X1, X2, . . . , Xp i Y , tada tra�imofunkciju ϕ(x1, x2, . . . , xp) za koju �e biti

Y ≈ ϕ(X1,X2, . . . ,Xp).

Funkcija ϕ se bira tako da srednjekvadratno odstupanje uoznaci

E(Y − ϕ(X1,X2, . . . ,Xp))2

bude najmanje.

RegresijaFunkcija ϕ se zove regresija Y po X1, X2, . . . , Xp.

Page 9: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Najjednostavnija regresija je jednostruka regresija, kadase posmatraju dve promenljive Y i X .

Tra�i se funkcija ϕ takva da je Y ≈ ϕ(X ).

Iz populacije se izdvaja realizovani uzorak((x1, y1), (x2, y2), . . . , (xn, yn)) i predstavlja se u Dekartovojravni.

Na osnovu dobijenog dijagrama, koji se zove dijagramrasturanja, bira se familija funkcija sa kojom �e seraditi.

Na kraju se odre�uju vrednosti parametara regresije.

Page 10: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Najjednostavnija regresija je jednostruka regresija, kadase posmatraju dve promenljive Y i X .

Tra�i se funkcija ϕ takva da je Y ≈ ϕ(X ).

Iz populacije se izdvaja realizovani uzorak((x1, y1), (x2, y2), . . . , (xn, yn)) i predstavlja se u Dekartovojravni.

Na osnovu dobijenog dijagrama, koji se zove dijagramrasturanja, bira se familija funkcija sa kojom �e seraditi.

Na kraju se odre�uju vrednosti parametara regresije.

Page 11: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Najjednostavnija regresija je jednostruka regresija, kadase posmatraju dve promenljive Y i X .

Tra�i se funkcija ϕ takva da je Y ≈ ϕ(X ).

Iz populacije se izdvaja realizovani uzorak((x1, y1), (x2, y2), . . . , (xn, yn)) i predstavlja se u Dekartovojravni.

Na osnovu dobijenog dijagrama, koji se zove dijagramrasturanja, bira se familija funkcija sa kojom �e seraditi.

Na kraju se odre�uju vrednosti parametara regresije.

Page 12: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Najjednostavnija regresija je jednostruka regresija, kadase posmatraju dve promenljive Y i X .

Tra�i se funkcija ϕ takva da je Y ≈ ϕ(X ).

Iz populacije se izdvaja realizovani uzorak((x1, y1), (x2, y2), . . . , (xn, yn)) i predstavlja se u Dekartovojravni.

Na osnovu dobijenog dijagrama, koji se zove dijagramrasturanja, bira se familija funkcija sa kojom �e seraditi.

Na kraju se odre�uju vrednosti parametara regresije.

Page 13: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Najjednostavnija regresija je jednostruka regresija, kadase posmatraju dve promenljive Y i X .

Tra�i se funkcija ϕ takva da je Y ≈ ϕ(X ).

Iz populacije se izdvaja realizovani uzorak((x1, y1), (x2, y2), . . . , (xn, yn)) i predstavlja se u Dekartovojravni.

Na osnovu dobijenog dijagrama, koji se zove dijagramrasturanja, bira se familija funkcija sa kojom �e seraditi.

Na kraju se odre�uju vrednosti parametara regresije.

Page 14: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija
Page 15: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Jednostruka linearna regresijaAko je zavisnost ϕ izme�u promenljivih Y i X linearna, tj.oblika Y = aX + b, tada ka�emo da je ϕ jednostruka linearnaregresija.

Jednostruka linearna regresija mo�e biti:

prve vrste,

druge vrste.

Jednostruka linearna regresija prve vrsteObele�je Y zavisi od sluqajne promenljive X .

Jednostruka linearna regresija druge vrsteObele�je Y zavisi od nesluqajne (kontrolisane) promenljivex.

Page 16: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Jednostruka linearna regresijaAko je zavisnost ϕ izme�u promenljivih Y i X linearna, tj.oblika Y = aX + b, tada ka�emo da je ϕ jednostruka linearnaregresija.

Jednostruka linearna regresija mo�e biti:

prve vrste,

druge vrste.

Jednostruka linearna regresija prve vrsteObele�je Y zavisi od sluqajne promenljive X .

Jednostruka linearna regresija druge vrsteObele�je Y zavisi od nesluqajne (kontrolisane) promenljivex.

Page 17: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Jednostruka linearna regresijaAko je zavisnost ϕ izme�u promenljivih Y i X linearna, tj.oblika Y = aX + b, tada ka�emo da je ϕ jednostruka linearnaregresija.

Jednostruka linearna regresija mo�e biti:

prve vrste,

druge vrste.

Jednostruka linearna regresija prve vrsteObele�je Y zavisi od sluqajne promenljive X .

Jednostruka linearna regresija druge vrsteObele�je Y zavisi od nesluqajne (kontrolisane) promenljivex.

Page 18: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Jednostruka linearna regresijaAko je zavisnost ϕ izme�u promenljivih Y i X linearna, tj.oblika Y = aX + b, tada ka�emo da je ϕ jednostruka linearnaregresija.

Jednostruka linearna regresija mo�e biti:

prve vrste,

druge vrste.

Jednostruka linearna regresija prve vrsteObele�je Y zavisi od sluqajne promenljive X .

Jednostruka linearna regresija druge vrsteObele�je Y zavisi od nesluqajne (kontrolisane) promenljivex.

Page 19: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Jednostruka linearna regresijaAko je zavisnost ϕ izme�u promenljivih Y i X linearna, tj.oblika Y = aX + b, tada ka�emo da je ϕ jednostruka linearnaregresija.

Jednostruka linearna regresija mo�e biti:

prve vrste,

druge vrste.

Jednostruka linearna regresija prve vrsteObele�je Y zavisi od sluqajne promenljive X .

Jednostruka linearna regresija druge vrsteObele�je Y zavisi od nesluqajne (kontrolisane) promenljivex.

Page 20: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Jednostruka linearna regresijaAko je zavisnost ϕ izme�u promenljivih Y i X linearna, tj.oblika Y = aX + b, tada ka�emo da je ϕ jednostruka linearnaregresija.

Jednostruka linearna regresija mo�e biti:

prve vrste,

druge vrste.

Jednostruka linearna regresija prve vrsteObele�je Y zavisi od sluqajne promenljive X .

Jednostruka linearna regresija druge vrsteObele�je Y zavisi od nesluqajne (kontrolisane) promenljivex.

Page 21: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Jednostruka linearna regresija prve vrsteZavisnost je oblika Y = aX + b.

a i b su nepoznati parametri koji se odre�uju iz uslovada je srednje-kvadratno odstupanje E(Y − aX − b)2 najmanje.

Ocene parametara su:

a =

∑XiYi − 1

n∑

Xi∑

Yi∑X 2

i −1n (∑

Xi)2 ,

b = Y n − aX n .

Procena vrednosti

Vrednost Yi dobijena kao Yi = aXi + b je procena vrednosti Yina osnovu vrednosti Xi .

Page 22: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Jednostruka linearna regresija prve vrsteZavisnost je oblika Y = aX + b.a i b su nepoznati parametri koji se odre�uju iz uslovada je srednje-kvadratno odstupanje E(Y − aX − b)2 najmanje.

Ocene parametara su:

a =

∑XiYi − 1

n∑

Xi∑

Yi∑X 2

i −1n (∑

Xi)2 ,

b = Y n − aX n .

Procena vrednosti

Vrednost Yi dobijena kao Yi = aXi + b je procena vrednosti Yina osnovu vrednosti Xi .

Page 23: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Jednostruka linearna regresija prve vrsteZavisnost je oblika Y = aX + b.a i b su nepoznati parametri koji se odre�uju iz uslovada je srednje-kvadratno odstupanje E(Y − aX − b)2 najmanje.

Ocene parametara su:

a =

∑XiYi − 1

n∑

Xi∑

Yi∑X 2

i −1n (∑

Xi)2 ,

b = Y n − aX n .

Procena vrednosti

Vrednost Yi dobijena kao Yi = aXi + b je procena vrednosti Yina osnovu vrednosti Xi .

Page 24: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Jednostruka linearna regresija prve vrsteZavisnost je oblika Y = aX + b.a i b su nepoznati parametri koji se odre�uju iz uslovada je srednje-kvadratno odstupanje E(Y − aX − b)2 najmanje.

Ocene parametara su:

a =

∑XiYi − 1

n∑

Xi∑

Yi∑X 2

i −1n (∑

Xi)2 ,

b = Y n − aX n .

Procena vrednosti

Vrednost Yi dobijena kao Yi = aXi + b je procena vrednosti Yina osnovu vrednosti Xi .

Page 25: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Grexka ocenjivanjaGrexka ocenjivanja se definixe kao

S2Y−Y

=1n

n∑i=1

(Yi − Yi

)2.

Grexka ocenjivanja sadr�i informaciju o tome kolikoizabrana funkcija dobro aproksimira zavisnost obele�ja Ypo X .

Grexka ocenjivanja (mali uzorak)Ako je uzorak mali, tada se grexka ocenjivanja definixe kao

S2Y−Y

=1

n − 1

n∑i=1

(Yi − Yi

)2.

Page 26: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Grexka ocenjivanjaGrexka ocenjivanja se definixe kao

S2Y−Y

=1n

n∑i=1

(Yi − Yi

)2.

Grexka ocenjivanja sadr�i informaciju o tome kolikoizabrana funkcija dobro aproksimira zavisnost obele�ja Ypo X .

Grexka ocenjivanja (mali uzorak)Ako je uzorak mali, tada se grexka ocenjivanja definixe kao

S2Y−Y

=1

n − 1

n∑i=1

(Yi − Yi

)2.

Page 27: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Grexka ocenjivanjaGrexka ocenjivanja se definixe kao

S2Y−Y

=1n

n∑i=1

(Yi − Yi

)2.

Grexka ocenjivanja sadr�i informaciju o tome kolikoizabrana funkcija dobro aproksimira zavisnost obele�ja Ypo X .

Grexka ocenjivanja (mali uzorak)Ako je uzorak mali, tada se grexka ocenjivanja definixe kao

S2Y−Y

=1

n − 1

n∑i=1

(Yi − Yi

)2.

Page 28: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

PrimerNa osnovu merenja pretprole�nog minimalnogsrednjemeseqnog nivoa podzemnih voda (X ), i srednjeggodixnjeg nivoa (Y ) u godinama 1952-1958. dobijeno je

X 19,51 19,02 19,04 15,80 17,52 15,96 16,31Y 17,57 17,66 18,74 14,48 15,44 13,92 15,22

Odrediti pravu linearne regresije Y po X i na osnovu njeprognozirati Y za izmerenu vrednost x = 16,99 u 1959.godini. Izraqunati grexku ocenjivanja.

Page 29: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Dijagram rasturanja je

Page 30: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Koeficijenti prave linearne regresije su:

a =2005,18− 1

7 · 123,16 · 113,032182,25− 1

7 · (123,16)2= 1,076,

b =113,03

7− 1,076 · 123,16

7= −2,784.

Tra�ena prava linearne regresije Y = 1,076 · X − 2,784.Procenjujemo da je 1959. godine srednji godixnji nivo bioy(16,99) = 1,076 · 16,99− 2,784 = 15,50.Grexka ocenjivanja je s2

Y−Y= 2,3795

6 = 0,3966 i kako je onamala u odnosu na vrednosti obele�ja Y , to zakljuqujemo dasmo dobro aproksimirali zavisnost obele�ja Y po X . �

Page 31: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Koeficijenti prave linearne regresije su:

a =2005,18− 1

7 · 123,16 · 113,032182,25− 1

7 · (123,16)2= 1,076,

b =113,03

7− 1,076 · 123,16

7= −2,784.

Tra�ena prava linearne regresije Y = 1,076 · X − 2,784.

Procenjujemo da je 1959. godine srednji godixnji nivo bioy(16,99) = 1,076 · 16,99− 2,784 = 15,50.Grexka ocenjivanja je s2

Y−Y= 2,3795

6 = 0,3966 i kako je onamala u odnosu na vrednosti obele�ja Y , to zakljuqujemo dasmo dobro aproksimirali zavisnost obele�ja Y po X . �

Page 32: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Koeficijenti prave linearne regresije su:

a =2005,18− 1

7 · 123,16 · 113,032182,25− 1

7 · (123,16)2= 1,076,

b =113,03

7− 1,076 · 123,16

7= −2,784.

Tra�ena prava linearne regresije Y = 1,076 · X − 2,784.Procenjujemo da je 1959. godine srednji godixnji nivo bioy(16,99) = 1,076 · 16,99− 2,784 = 15,50.

Grexka ocenjivanja je s2Y−Y

= 2,37956 = 0,3966 i kako je ona

mala u odnosu na vrednosti obele�ja Y , to zakljuqujemo dasmo dobro aproksimirali zavisnost obele�ja Y po X . �

Page 33: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Koeficijenti prave linearne regresije su:

a =2005,18− 1

7 · 123,16 · 113,032182,25− 1

7 · (123,16)2= 1,076,

b =113,03

7− 1,076 · 123,16

7= −2,784.

Tra�ena prava linearne regresije Y = 1,076 · X − 2,784.Procenjujemo da je 1959. godine srednji godixnji nivo bioy(16,99) = 1,076 · 16,99− 2,784 = 15,50.Grexka ocenjivanja je s2

Y−Y= 2,3795

6 = 0,3966 i kako je onamala u odnosu na vrednosti obele�ja Y , to zakljuqujemo dasmo dobro aproksimirali zavisnost obele�ja Y po X . �

Page 34: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Grafik prave linearne regresije je

Page 35: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Mo�e se posmatrati i linearna regresija X po Y .

Ona je oblika X = cY + d , gde su c i d nepoznatiparametri koji se odre�uju iz uslova da srednjekvadratnoodstupanje E(X − cY − d)2 bude najmanje.

Ocene parametara c i d su:

c =

∑XiYi − 1

n∑

Xi∑

Yi∑Y 2

i −1n (∑

Yi)2 ,

d = X n − cY n.

Page 36: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Mo�e se posmatrati i linearna regresija X po Y .

Ona je oblika X = cY + d , gde su c i d nepoznatiparametri koji se odre�uju iz uslova da srednjekvadratnoodstupanje E(X − cY − d)2 bude najmanje.

Ocene parametara c i d su:

c =

∑XiYi − 1

n∑

Xi∑

Yi∑Y 2

i −1n (∑

Yi)2 ,

d = X n − cY n.

Page 37: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Mo�e se posmatrati i linearna regresija X po Y .

Ona je oblika X = cY + d , gde su c i d nepoznatiparametri koji se odre�uju iz uslova da srednjekvadratnoodstupanje E(X − cY − d)2 bude najmanje.

Ocene parametara c i d su:

c =

∑XiYi − 1

n∑

Xi∑

Yi∑Y 2

i −1n (∑

Yi)2 ,

d = X n − cY n.

Page 38: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Grexka ocenjivanjaGrexka ocenjivanja se definixe kao

S2X−X

=1n

n∑i=1

(Xi − Xi

)2.

Grexka ocenjivanja (mali uzorak)Ako je uzorak mali, tada se grexka ocenjivanja definixe kao

S2X−X

=1

n − 1

n∑i=1

(Xi − Xi

)2.

Page 39: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Grexka ocenjivanjaGrexka ocenjivanja se definixe kao

S2X−X

=1n

n∑i=1

(Xi − Xi

)2.

Grexka ocenjivanja (mali uzorak)Ako je uzorak mali, tada se grexka ocenjivanja definixe kao

S2X−X

=1

n − 1

n∑i=1

(Xi − Xi

)2.

Page 40: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Jednostruka linearna regresija druge vrsteZavisnost je oblika Y = ax + b + ε, gde je ε sluqajnapromenljiva, koja se najqex�e identifikuje kao grexkamerenja. Pretpostavlja se da je E(ε) = 0 i D(ε) = σ2.

a i b su nepoznati parametri koji se odre�uju iz uslovada je srednje-kvadratno odstupanje E(Y − ax − b)2 najmanje.

Ocene parametara su:

a =

∑xiYi − 1

n∑

xi∑

Yi∑x2

i −1n (∑

xi)2 ,

b = Y n − axn .

Page 41: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Jednostruka linearna regresija druge vrsteZavisnost je oblika Y = ax + b + ε, gde je ε sluqajnapromenljiva, koja se najqex�e identifikuje kao grexkamerenja. Pretpostavlja se da je E(ε) = 0 i D(ε) = σ2.

a i b su nepoznati parametri koji se odre�uju iz uslovada je srednje-kvadratno odstupanje E(Y − ax − b)2 najmanje.

Ocene parametara su:

a =

∑xiYi − 1

n∑

xi∑

Yi∑x2

i −1n (∑

xi)2 ,

b = Y n − axn .

Page 42: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Jednostruka linearna regresija druge vrsteZavisnost je oblika Y = ax + b + ε, gde je ε sluqajnapromenljiva, koja se najqex�e identifikuje kao grexkamerenja. Pretpostavlja se da je E(ε) = 0 i D(ε) = σ2.

a i b su nepoznati parametri koji se odre�uju iz uslovada je srednje-kvadratno odstupanje E(Y − ax − b)2 najmanje.

Ocene parametara su:

a =

∑xiYi − 1

n∑

xi∑

Yi∑x2

i −1n (∑

xi)2 ,

b = Y n − axn .

Page 43: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Nelinearni modeli zavisnosti

Nelinearni modeli zavisnostiNelinearni modeli zavisnosti su modeli koji se jednostavnimtransformacijama mogu da svedu na linearne modele.

Posmatra�emo:

model linearan po parametrima,

stepeni model,

eksponencijalni model.

Nelinearni modeli mogu biti prve i druge vrste.

Page 44: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Nelinearni modeli zavisnosti

Nelinearni modeli zavisnostiNelinearni modeli zavisnosti su modeli koji se jednostavnimtransformacijama mogu da svedu na linearne modele.

Posmatra�emo:

model linearan po parametrima,

stepeni model,

eksponencijalni model.

Nelinearni modeli mogu biti prve i druge vrste.

Page 45: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Nelinearni modeli zavisnosti

Nelinearni modeli zavisnostiNelinearni modeli zavisnosti su modeli koji se jednostavnimtransformacijama mogu da svedu na linearne modele.

Posmatra�emo:

model linearan po parametrima,

stepeni model,

eksponencijalni model.

Nelinearni modeli mogu biti prve i druge vrste.

Page 46: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Nelinearni modeli zavisnosti

Nelinearni modeli zavisnostiNelinearni modeli zavisnosti su modeli koji se jednostavnimtransformacijama mogu da svedu na linearne modele.

Posmatra�emo:

model linearan po parametrima,

stepeni model,

eksponencijalni model.

Nelinearni modeli mogu biti prve i druge vrste.

Page 47: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Model linearan po parametrima

Model linearan po parametrima prve vrste je oblika

Y = ag(X ) + b,

gde je g unapred poznata funkcija od sluqajne promenljiveX , a a i b su nepoznati parametri.

Model se smenom Z = g(X ) svodi na linearan model prvevrste Y = aZ + b.Nepoznati parametri a i b se ocenjuju na osnovu uzorka((Z1,Y1), (Z2,Y2), . . . , (Zn,Yn)) koji je dobijentransformacijom Zi = g(Xi), i = 1,2, . . . ,n, poqetnog uzorka((X1,Y1), (X2,Y2), . . . , (Xn,Yn)).

Page 48: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Model linearan po parametrimaModel linearan po parametrima prve vrste je oblika

Y = ag(X ) + b,

gde je g unapred poznata funkcija od sluqajne promenljiveX , a a i b su nepoznati parametri.

Model se smenom Z = g(X ) svodi na linearan model prvevrste Y = aZ + b.Nepoznati parametri a i b se ocenjuju na osnovu uzorka((Z1,Y1), (Z2,Y2), . . . , (Zn,Yn)) koji je dobijentransformacijom Zi = g(Xi), i = 1,2, . . . ,n, poqetnog uzorka((X1,Y1), (X2,Y2), . . . , (Xn,Yn)).

Page 49: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Model linearan po parametrimaModel linearan po parametrima prve vrste je oblika

Y = ag(X ) + b,

gde je g unapred poznata funkcija od sluqajne promenljiveX , a a i b su nepoznati parametri.

Model se smenom Z = g(X ) svodi na linearan model prvevrste Y = aZ + b.

Nepoznati parametri a i b se ocenjuju na osnovu uzorka((Z1,Y1), (Z2,Y2), . . . , (Zn,Yn)) koji je dobijentransformacijom Zi = g(Xi), i = 1,2, . . . ,n, poqetnog uzorka((X1,Y1), (X2,Y2), . . . , (Xn,Yn)).

Page 50: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Model linearan po parametrimaModel linearan po parametrima prve vrste je oblika

Y = ag(X ) + b,

gde je g unapred poznata funkcija od sluqajne promenljiveX , a a i b su nepoznati parametri.

Model se smenom Z = g(X ) svodi na linearan model prvevrste Y = aZ + b.Nepoznati parametri a i b se ocenjuju na osnovu uzorka((Z1,Y1), (Z2,Y2), . . . , (Zn,Yn)) koji je dobijentransformacijom Zi = g(Xi), i = 1,2, . . . ,n, poqetnog uzorka((X1,Y1), (X2,Y2), . . . , (Xn,Yn)).

Page 51: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Ocene parametara a i b regresionog modela Y = aZ + b su:

a =

∑ZiYi − 1

n∑

Zi ·∑

Yi∑Z 2

i −1n (∑

Zi)2 ,

b = Y n − a · Z n .

U tom sluqaju, poqetni regresioni model je oblika

Y = ag(X ) + b.

Page 52: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Ocene parametara a i b regresionog modela Y = aZ + b su:

a =

∑ZiYi − 1

n∑

Zi ·∑

Yi∑Z 2

i −1n (∑

Zi)2 ,

b = Y n − a · Z n .

U tom sluqaju, poqetni regresioni model je oblika

Y = ag(X ) + b.

Page 53: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

PrimerOdrediti regresionu krivu Y = a log X + b veze izme�u xirinereke Y i maksimalnog godixnjeg proticaja X (u m3/sec), naosnovu uzorka od 10 reka:

maks. proticaj 5,7 17 22 31 50 61 85 120 12 19xirina reke 63 260 92 230 720 890 2500 1150 93 210

Page 54: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Dijagram rasturanja je

Page 55: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Realizovane vrednosti ocena a i b su redom:

a =25857,48− 1

10 · 33,781 · 6208122,108− 1

10 · (33,781)2= 611,360,

b =6208

10− 611,360 · 33,781

10= −1407,754.

Regresiona prava izme�u obele�ja Y i Z je oblikaY = 611,360 · Z − 1407,754.Regresiona kriva kojom se opisuje veza izme�u xirinereke i maksimalnog godixnjeg proticaja jeY = 611,360 · log X − 1407,754. �

Page 56: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Realizovane vrednosti ocena a i b su redom:

a =25857,48− 1

10 · 33,781 · 6208122,108− 1

10 · (33,781)2= 611,360,

b =6208

10− 611,360 · 33,781

10= −1407,754.

Regresiona prava izme�u obele�ja Y i Z je oblikaY = 611,360 · Z − 1407,754.

Regresiona kriva kojom se opisuje veza izme�u xirinereke i maksimalnog godixnjeg proticaja jeY = 611,360 · log X − 1407,754. �

Page 57: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Realizovane vrednosti ocena a i b su redom:

a =25857,48− 1

10 · 33,781 · 6208122,108− 1

10 · (33,781)2= 611,360,

b =6208

10− 611,360 · 33,781

10= −1407,754.

Regresiona prava izme�u obele�ja Y i Z je oblikaY = 611,360 · Z − 1407,754.Regresiona kriva kojom se opisuje veza izme�u xirinereke i maksimalnog godixnjeg proticaja jeY = 611,360 · log X − 1407,754. �

Page 58: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Grafik regresione krive je

Page 59: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Stepeni model

Stepeni model prve vrste je oblika

Y = bX a,

gde su a i b su nepoznati parametri.

Model se smenama Z = ln X , W = ln Y i c = ln b svodi nalinearan model prve vrste W = aZ + c.Nepoznati parametri a i c se ocenjuju na osnovu uzorka((Z1,W1), (Z2,W2), . . . , (Zn,Wn)) koji je dobijentransformacijama Zi = ln Xi i Wi = ln Yi , i = 1,2, . . . ,n,poqetnog uzorka ((X1,Y1), (X2,Y2), . . . , (Xn,Yn)).

Page 60: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Stepeni modelStepeni model prve vrste je oblika

Y = bX a,

gde su a i b su nepoznati parametri.

Model se smenama Z = ln X , W = ln Y i c = ln b svodi nalinearan model prve vrste W = aZ + c.Nepoznati parametri a i c se ocenjuju na osnovu uzorka((Z1,W1), (Z2,W2), . . . , (Zn,Wn)) koji je dobijentransformacijama Zi = ln Xi i Wi = ln Yi , i = 1,2, . . . ,n,poqetnog uzorka ((X1,Y1), (X2,Y2), . . . , (Xn,Yn)).

Page 61: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Stepeni modelStepeni model prve vrste je oblika

Y = bX a,

gde su a i b su nepoznati parametri.

Model se smenama Z = ln X , W = ln Y i c = ln b svodi nalinearan model prve vrste W = aZ + c.

Nepoznati parametri a i c se ocenjuju na osnovu uzorka((Z1,W1), (Z2,W2), . . . , (Zn,Wn)) koji je dobijentransformacijama Zi = ln Xi i Wi = ln Yi , i = 1,2, . . . ,n,poqetnog uzorka ((X1,Y1), (X2,Y2), . . . , (Xn,Yn)).

Page 62: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Stepeni modelStepeni model prve vrste je oblika

Y = bX a,

gde su a i b su nepoznati parametri.

Model se smenama Z = ln X , W = ln Y i c = ln b svodi nalinearan model prve vrste W = aZ + c.Nepoznati parametri a i c se ocenjuju na osnovu uzorka((Z1,W1), (Z2,W2), . . . , (Zn,Wn)) koji je dobijentransformacijama Zi = ln Xi i Wi = ln Yi , i = 1,2, . . . ,n,poqetnog uzorka ((X1,Y1), (X2,Y2), . . . , (Xn,Yn)).

Page 63: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Ocene parametara a i c regresionog modela W = aZ + c su:

a =

∑ZiWi − 1

n∑

Zi∑

Wi∑Z 2

i −1n (∑

Zi)2 ,

c = W n − aZ n.

Parametar b ocenjujemo kao b = ec.

U tom sluqaju, poqetni regresioni model je oblikaY = bX a.

Page 64: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Ocene parametara a i c regresionog modela W = aZ + c su:

a =

∑ZiWi − 1

n∑

Zi∑

Wi∑Z 2

i −1n (∑

Zi)2 ,

c = W n − aZ n.

Parametar b ocenjujemo kao b = ec.

U tom sluqaju, poqetni regresioni model je oblikaY = bX a.

Page 65: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Ocene parametara a i c regresionog modela W = aZ + c su:

a =

∑ZiWi − 1

n∑

Zi∑

Wi∑Z 2

i −1n (∑

Zi)2 ,

c = W n − aZ n.

Parametar b ocenjujemo kao b = ec.

U tom sluqaju, poqetni regresioni model je oblikaY = bX a.

Page 66: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

PrimerNa obali zaliva se ispituje vla�nost mulja (u gramima vodena 100 grama suve materije). Iz jedne buxotine je dobijeno

dubina (x) 1,5 3 4,5 6 7,5 9 10,5vla�nost (y) 84 50 32 28 24 23 20

Odrediti regresionu krivu Y = bxa + ε.

Page 67: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Dijagram rasturanja je

Page 68: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Realizovane vrednosti ocena nepoznatih parametara su

a =37,614− 1

7 · 11,363 · 24,450

21,259− 17 (11,363)2 = −0,738,

c =24,450

7+ 0,738 · 11,363

7= 4,691,

b = e4,691 = 108,962.

Regresiona prava izme�u obele�ja W i Z je oblikaW = −0.738 · Z + 4.691.Regresiona kriva kojom se opisuje veza izme�u dubine ivla�nosti mulja je Y = 108,962 · x−0,738 + ε. �

Page 69: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Realizovane vrednosti ocena nepoznatih parametara su

a =37,614− 1

7 · 11,363 · 24,450

21,259− 17 (11,363)2 = −0,738,

c =24,450

7+ 0,738 · 11,363

7= 4,691,

b = e4,691 = 108,962.

Regresiona prava izme�u obele�ja W i Z je oblikaW = −0.738 · Z + 4.691.

Regresiona kriva kojom se opisuje veza izme�u dubine ivla�nosti mulja je Y = 108,962 · x−0,738 + ε. �

Page 70: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Realizovane vrednosti ocena nepoznatih parametara su

a =37,614− 1

7 · 11,363 · 24,450

21,259− 17 (11,363)2 = −0,738,

c =24,450

7+ 0,738 · 11,363

7= 4,691,

b = e4,691 = 108,962.

Regresiona prava izme�u obele�ja W i Z je oblikaW = −0.738 · Z + 4.691.Regresiona kriva kojom se opisuje veza izme�u dubine ivla�nosti mulja je Y = 108,962 · x−0,738 + ε. �

Page 71: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Grafik regresione krive je

Page 72: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Eksponencijalni model

Eksponencijalni model prve vrste je oblika

Y = beaX ,

gde su a i b nepoznati parametri.

Model se smenama W = ln Y i c = ln b svodi na linearanmodel prve vrste W = aX + c.Nepoznati parametri a i c se ocenjuju na osnovu uzorka((X1,W1), (X2,W2), . . . , (Xn,Wn)) koji je dobijentransformacijom Wi = ln Yi , i = 1,2, . . . ,n, poqetnog uzorka((X1,Y1), (X2,Y2), . . . , (Xn,Yn)).

Page 73: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Eksponencijalni modelEksponencijalni model prve vrste je oblika

Y = beaX ,

gde su a i b nepoznati parametri.

Model se smenama W = ln Y i c = ln b svodi na linearanmodel prve vrste W = aX + c.Nepoznati parametri a i c se ocenjuju na osnovu uzorka((X1,W1), (X2,W2), . . . , (Xn,Wn)) koji je dobijentransformacijom Wi = ln Yi , i = 1,2, . . . ,n, poqetnog uzorka((X1,Y1), (X2,Y2), . . . , (Xn,Yn)).

Page 74: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Eksponencijalni modelEksponencijalni model prve vrste je oblika

Y = beaX ,

gde su a i b nepoznati parametri.

Model se smenama W = ln Y i c = ln b svodi na linearanmodel prve vrste W = aX + c.

Nepoznati parametri a i c se ocenjuju na osnovu uzorka((X1,W1), (X2,W2), . . . , (Xn,Wn)) koji je dobijentransformacijom Wi = ln Yi , i = 1,2, . . . ,n, poqetnog uzorka((X1,Y1), (X2,Y2), . . . , (Xn,Yn)).

Page 75: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Eksponencijalni modelEksponencijalni model prve vrste je oblika

Y = beaX ,

gde su a i b nepoznati parametri.

Model se smenama W = ln Y i c = ln b svodi na linearanmodel prve vrste W = aX + c.Nepoznati parametri a i c se ocenjuju na osnovu uzorka((X1,W1), (X2,W2), . . . , (Xn,Wn)) koji je dobijentransformacijom Wi = ln Yi , i = 1,2, . . . ,n, poqetnog uzorka((X1,Y1), (X2,Y2), . . . , (Xn,Yn)).

Page 76: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Ocene parametara a i c regresionog modela W = aX + c su:

a =

∑XiWi − 1

n∑

Xi∑

Wi∑X 2

i −1n (∑

Xi)2 ,

c = W n − aX n.

Parametar b ocenjujemo kao b = ec.

U tom sluqaju, poqetni regresioni model je oblikaY = beaX .

Page 77: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Ocene parametara a i c regresionog modela W = aX + c su:

a =

∑XiWi − 1

n∑

Xi∑

Wi∑X 2

i −1n (∑

Xi)2 ,

c = W n − aX n.

Parametar b ocenjujemo kao b = ec.

U tom sluqaju, poqetni regresioni model je oblikaY = beaX .

Page 78: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Ocene parametara a i c regresionog modela W = aX + c su:

a =

∑XiWi − 1

n∑

Xi∑

Wi∑X 2

i −1n (∑

Xi)2 ,

c = W n − aX n.

Parametar b ocenjujemo kao b = ec.

U tom sluqaju, poqetni regresioni model je oblikaY = beaX .

Page 79: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

PrimerNa obali zaliva se ispituje vla�nost mulja (u gramima vodena 100 grama suve materije). Iz jedne buxotine je dobijeno

dubina (x) 1,5 3 4,5 6 7,5 9 10,5vla�nost (y) 84 50 32 28 24 23 20

Odrediti regresionu krivu Y = beax + ε.

Page 80: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Dijagram rasturanja je

Page 81: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Realizovane vrednosti ocena nepoznatih parametara su

a =137,48− 1

7 · 42 · 24,45

315− 17 (42)2 = −0,146,

c =24,45

7+ 0,146 · 42

7= 4,369,

b = e4,369 = 78,965,

Regresiona prava izme�u obele�ja W i X je oblikaW = −0,146x + 4,369 + ε.

Regresiona kriva kojom se opisuje veza izme�u dubine ivla�nosti mulja je Y = 78,965 · e−0,146x + ε. �

Page 82: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Realizovane vrednosti ocena nepoznatih parametara su

a =137,48− 1

7 · 42 · 24,45

315− 17 (42)2 = −0,146,

c =24,45

7+ 0,146 · 42

7= 4,369,

b = e4,369 = 78,965,

Regresiona prava izme�u obele�ja W i X je oblikaW = −0,146x + 4,369 + ε.

Regresiona kriva kojom se opisuje veza izme�u dubine ivla�nosti mulja je Y = 78,965 · e−0,146x + ε. �

Page 83: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Realizovane vrednosti ocena nepoznatih parametara su

a =137,48− 1

7 · 42 · 24,45

315− 17 (42)2 = −0,146,

c =24,45

7+ 0,146 · 42

7= 4,369,

b = e4,369 = 78,965,

Regresiona prava izme�u obele�ja W i X je oblikaW = −0,146x + 4,369 + ε.

Regresiona kriva kojom se opisuje veza izme�u dubine ivla�nosti mulja je Y = 78,965 · e−0,146x + ε. �

Page 84: Regresija - Prirodno - matematički fakultet u Nišu ·  · 2009-05-12Akojezavisnost’izme upromen ivihY iX linearna,tj. oblikaY = aX +b,tadakaˇemodaje’jednostrukalinearna regresija

Grafik regresione krive je