ekonometrija - seminarski, diplomski, maturski radovi, ppt i skripte na

7/23/2019 ekonometrija - seminarski, diplomski, maturski radovi, ppt i skripte na www.ponude.biz

1/86

SADR@AJ

1. UVODNA RAZMATRANJA ...........................................................................................................3

1.1. Predmet ekonometrije .............................................................................................................................................................. ...3

1.2. Modeli ...........................................................................................................................................................................................4

1.3. Ekonometrijski postupak ............................................................................................................................................................5

1.4. Literatura .....................................................................................................................................................................................8

2. LINEARNI REGRESIONI MODELI ............................................................................................. 10

2.1. Uvod ........................................................................................................................................................................................ .....10

2.2. Linearni regresioni model sa dve promenljive ........................................................................................................................13

2.2.1. Ocenjivanje parametara metodom najmanjih kvadrata .......................................................................................................15

2.2.2. Koeficijenat korelacije i determinacije ................................................................................................................................212.2.4. Analiza varijacija .................................................................................................................................................................27

2.2.5. Svo|enje nekih nelinearnih na linearni model ......................................................................................................................28

2.2.6. Predvi|anja ............................................................................................................................................................................30

2.3. Linearni regresioni model sa vi{e promenljivih ......................................................................................................................31

2.3.1. Ocenjivanje parametara metodom najmanjih kvadrata .......................................................................................................32

2.3.2. Korelaciona matrica .............................................................................................................................................................33

2.3.3. Statisti~ki testovi .................................................................................................................................................................34

2.3.4. Predvi|anje ............................................................................................................................................................................36

2.4. Ve`be .................................................................................................................................................................................... ........36

2.5. Literatura ...................................................................................................................................................................................37

3. ANALIZA VREMENSKIH SERIJA .............................................................................................. 39

3.1. Uvod ............................................................................................................................................................................................39

3.2. Trend vremenske serije ..............................................................................................................................................................41

3.2.1. Metod pokretnih sredina .....................................................................................................................................................41

3.2.2. Analiti~ke metode odre|ivanja trenda ..................................................................................................................................47

3.3. Metoda eksponencijalnog izravnjavanja .................................................................................................................................50

3.4. Metoda Holt-Wintersa ..............................................................................................................................................................51

3.5. Primeri ....................................................................................................................................................................................... .52

4. SPECIJALNI PROBLEMI LINEARNIH REGRESIONIH MODELA ............................................57

4.1. Uvod ............................................................................................................................................................................................57

4.2. Multikolinearnost ......................................................................................................................................................................58

4.3. La`ne (ve{ta~ke) promenljive ...................................................................................................................................................61

4.4. Heteroskedasti~nost i uop{tena metoda najmanjih kvadrata ............................................................................................. ..64

4.5. Uop{tena metoda najmanjih kvadrata ....................................................................................................................................68

1


2/86

4.6. Autokorelacija ............................................................................................................................................................................69

4.6.1. Durbin-Watson-ov test prisustva autokorelacije ..................................................................................................................74

5. METOD SIMULTANIH JEDNA^INA ...........................................................................................76

5.1. Identifikacija ..............................................................................................................................................................................79

5.2. Ocenjivanje parametara indirektnom metodom najmanjih kvadrata .................................................................................84

5.3. Ocenjivanje parametara dvostepenom metodom najmanjih kvadrata ................................................................................85

2


3/86

1. UVODNA RAZMATRANJA

1.1. Predmet ekonometrije

U studiji bilo koje nau~ne discipline celishodno je, na po~etku, definisati njen okvir ipredmet istra ivanja. Mada je sasvim izvesno da je svaka definicija nedovoljno

obuhvatna, sigurno je da je najvernija ona koja obuhvata najva`nije karakteristike. Utom smislu, ekonometrija se moè definisati kao dru{tvena nauka koja, povezuju}isaznanja dobijena ekonomskom statistikom, ima za cilj kvantitativnu analizuekonomskih pojava (JOHNSTON, 1984). Statisti~ki sadràj ekonometrijskih metoda jeono {to razlikuje ekonometriju od matemati~ke ekonomije koja, koriste}ideterministi~ke metode, ima isto za cilj kvantitativnu analizu ekonomskih pojava.Drugim re~ima, ekonometrija, koriste}i statisti~ke metode, ima za cilj proveru iocenu hipoteza izraènih putem ekonomskih modela, koji su izgra|eni na premisamaekonomske teorije, a na bazi statisti~kih podataka dobijenih ekonomskom statistikom.

Osim provere validnosti ekonomskog modela u odnosu na realno utvr|ene ~injenice o

ekonomskoj pojavi koja se opisuje datim modelom, ekonometrija, kao drugi va`ni cilj,ima utvr|ivanje kvanititativnih ocena parametara, koji se pojavljuju u formulacijiekonomskog modela. Na taj na~in se kvantitativno ocenjuje, veli~ina veze izme|upojedinih promenljivih, koje ulaze u formulaciju ekonomskog modela. Ovaj drugi cilj jeod izuzetne va`nosti za prakti~nu primenu ekonometrije. Na primer, mogao bi sepretpostaviti slede}i ekonomski model:

Y a b X =

koji povezuje:

Y - prihod od prodaje nekog proizvoda, i

X - cenu proizvoda.

Parametri a i b su pozitivne numeri~ke vrednosti. Za preduze}e koje proizvodi iprodaje dati proizvod, osim ~injenice da postoji linearna zavisnost izme|u prihoda odprodaje i veli~ine cene proizvoda, od bitne je va`nosti i ocena vrednosti parametara ai b.

Razvoj i kori{}enje ekonometrijskih metoda u istraìvanju ekonomskih pojava po~injene{to pre Prvog svetskog rata. U periodu izme|u dva svetska rata on je naro~ito

intezivan i 1932. god. se osniva Me|unarodno ekonometrijsko udruènje, koje po~injesa izdavanjem svog ~asopisa "Econometrica". Termin "ekonometrija" je uveo 1926.god. norve{ki ekonomista i statisti~ar Ragnar Frish. Termin je modeliran prema izrazu"biometrika", koji ozna~ava podru~je biolo{kih istraìvanja, koje koristi statisti~kemetode. Sli~no ovome, iskovani su i termini "sociometrija", "tehnometrija","psihometrija", itd., koji ozna~avaju ekstenzivno kori{}enje statisti~kih metoda uodgovaraju}im naukama.

Istorijski, predmet ekonometrijskih istraìvanja je bio:

analiza privrednih ciklusa,

istraìvanje trì{ta, i problemi dono{enja ekonomskih odluka na makro i mikro planu.

3


4/86

Savremena ekonometrijska istraìvanja su pre svega usmerena na problemedono{enje ekonomskih odluka uop{te kao i na problem istraìvanja trì{ta.

1.2. Modeli

Ekonometrija i njen postupak su, svakako, ~vrsto utemeljeni na nau~nom postupku.Naime, funkcija nauke je da ustanovi op{te zakone koji opisuju pona{anje empirijskih

pojava - objekata ili doga|aja - koji su u sferi razmatranja date nauke, ~ime objedinjujei povezuje na{e znanje o pojedina~nim objektima ili doga|ajima i da omogu}ipouzdano predvi|anje budu}ih objekata i doga|aja (BRAITHWAITE, 1968). Nau~nimetod se sastoji, prvo, u formulisanju teorije ili "aksiomatizovanog deduktivnogsistema", (POPPER, 1968). Zatim, po formulisanju teorije i njenih logi~kih implikacija,proverava se mo} teorije da objasni empirijski posmatrane pojave i da predvidibudu}e doga|aje. Nau~na metoda je, zna~i, struktura koja se zasniva na aksiomima ilogi~kom rezonovanju, na na~in, sli~an deduktivnoj metodi ~iste matematike ilogike.

[iroko kori{}eni nau~ni metod analize pojednih pojava je kori{}enje modela. R.L.

Ackoff daje slede}u klasifikaciju modela (ACKOFF, 1962):

1. Ikoni~kimodel je predstava "u malom" (ili "u velikom") realnog objekta i to takoda "li~i" na ono {to predstavlja. Primer ove klase modela je model konstrukcijeaviona, brane hidrocentrale, itd.

2.Analognimodel koristi jednu veli~inu da bi predstavio neku drugu veli~inu. Za tedve veli~ine kaèmo da su analogne. Tako na primer, logaritmar je analogni model,gde se duìna koristi za predstavljanje brojnih vrednosti.

3. Simboli~ki ili matemati~ki model predstavlja osobine nekog objekta putem

abstraktne relacije koja se defini{e putem simbola. Na primer, snaga, izraènasimbolom P, koja se generi{e na otporniku, koji se prestavlja simbolom R, je povezanasa strujom, koja se predstavlja simbolom I, putem relacije:

P R I = 2

gde su kori{}eni i simboli "=", "" i "2 " za odgovaraju}e operacije.Drugim re~ima, kori{}enje simboli~kih ili matemati~kih modela je uvo|enjematemati~kog rezonovanja u analizu pojedinih pojava, pa i ekonomskih. Matemati~kimodel je idealizovana predstava ekonomskih pojava, gde su me|usobne veze

ekonomskih promenljivih date uz pomo} matemati~kog simbolizma i proces dedukcijese zamenjuje matemati~kim operacijama.

Pojam ekonomskog modela, koji spada u klasu matemati~kih modela, je mogu}eshvatiti pore|enjem sa ikoni~kim modelom aviona. Isto kao i ikoni~ki model aviona iekonomski model je slika "u malom" ekonomske pojave koju predstavlja. Termin slika"u malom" ozna~ava, da se iz mno{tva promenljivih i parametara koje sukarakteristi~ne za datu pojavu, u model ugra|uju samo one koje su bitne za opis datepojave.

Ovo vaì i za ikoni~ki model aviona i ekonomski model. Naime, ikoni~ki model, na

primer, od mno{tva elemenata koji ~ine konstrukciju pravog aviona ima ugra|enesamo one bitne: krila, trup itd. Me|utim, nasuprot ikoni~kog modela aviona koji jesastavljen od elemenata koji imaju svoju materijalnu realazijaciju, ekonomski model zasvoje strukturne elemente ima abstraktne veli~ine izraène simbolima koji opisuju4


5/86

ekonomske promenljive kao {to su cene, tra`nja, dobit i sli~no. Umesto fizi~kih vezakoje spajaju elemente ikoni~kog modela, promenljive ekonomskog modela supovezane uz pomo} matemati~kih relacija.

Proces formulacije matemati~kog modela prolazi kroz slede}e faze:

a) definisanje nivoa abstrakcije, ili drugim re~ima, nivoa detalja sa kojim se opisuje

data pojava, specifikacijom skupa pretpostavki;b) u skladu sa rezultatima faze a) definisanje promenljivih i parametaramatemati~kog modela, koje su bitne za èljeni opis;

c) definisanje ralacije izme|u promenljivih uz pomo} matemati~kog simbolizma;

d) re{avanje matemati~kih relacija definisanih u fazi c) putem odgovaraju}ihmatemati~kih postupaka; i

e) interpretacija dobijenih rezultata u fazi d) proverom njihove verodostojnosti.

Jasno je, da se u u gornjem postupku pojedine faze mogu ponoviti u skladu sakvalitetom dobijenih rezultat.

Na osnovu navedenog procesa formulacija matemati~kog modela moè se zaklju~iti,da bilo kakav model po definiciji, mora da ostavi po strani ~itav niz detalja koji ~inesastavni deo pojave koja se analizira. Zna~i, bilo kako sloèn ekonomski model nije ustanju, da do detalja objasni svu sloènost ekonomske pojave, ali pretpostavljaju}i dasu u model ugra|ene bitne promenljive za dati nivo abstrakcije i da su na baziekonomske teorije formulisane adekvatne relacije koje povezuju promenljive, tadaovakav model moè da objasni bitne karakteristike analizirane ekonomske pojave.

Saznajna vrednost ekonomskih modela je bazirana na ~injenici da je retko potrebnoznati sve o nekoj pojavi, ve} jedino veli~ine koje su bitne za dati nivo abstrakcije uanalizi date pojave. Me|utim, stalno je prisutna opasnost, da model propusti daobuhvati jednu ili vi{e promenljivih, koje su bitne za opis date pojave. Zadatakekonometrijskih istraìvanja je da, su~eljavaju}i statisti~ke podatke o datoj pojavi saekonomskim modelom kojim se èli opisati data pojava, pruè ocenu njegovevrednosti.

1.3. Ekonometrijski postupak

Klasa ekonomskih modela koji }e se razmatrati u ovom tekstu se izraàva putemrelacije

),( XfY = (1.1)

gde:

Y - ozna~ava takozvanu zavisnu (mernu, posmatranu, koja se obja{njava)promenljivu;

X - ozna~ava takozvanu nezavisnu (kontrolisanu, odre|uju}u, koja obja{njava)

promenljivu; i- parametri modela.

5


6/86

Za ilustraciju ekonomskih modela ove klase daju se nekoliko razli~itih modela funkcijeukupne tr`i{ne tra`nje kojima se utvr|uje zavisnost tra`nje Y nekog dobra od -sopstvene cene - X, /2/:

1. Linearna zavisnost ,10 XY = 0, 10 >

2. Eksponencijalna zavisnostX

eY 10

= 0, 10 >

3. Paraboli~na zavisnost: 212

0 += XXY 0, 10 >

Druga klasa ekonomskih modela koje razmatra ekonometrija, ~ine takozvanistrukturni modeli koji su oblika:

6
http://www.faceyubook.com/http://www.faceyubook.com/http://www.faceyubook.com/


7/86

0),,( =ii XYf (1.2)

gde:

Y - ozna~ava takozvane endogene promenljive, promenljive koje se odre|uju na bazimodela (1.2);

X - ozna~ava takozvane egzogene promenljive ili promenljive koje se smatraju datimu modelu (1.2); i

i - su parametri modela.

Kao ilustracija ove klase modela navodi se jednosektorski model nacionalnog dohotka:

XYY

YY

+=

+=

12

2101,

gde su:

Y1 - potro{nja i Y2 - dohodak endogene promenljive, a

X - investiciona potro{nja je egzogena promenljiva.

Ekonometrijski postupak }e se ilustrovati na primeru modela klase (1.1). Sli~no va`i iza modele klase (1.2). Naime, ekonometrijski postupak uklju~uju}i i fazu formiranjaekonomskih modela se odvija u slede}e ~etiri faze:

F1. Na bazi eksperimentalnih podataka i ekonomske teorije pretpostavlja se da se

vektor promenljivih od interesa Y mo`e matemati~ki modelovati kao),( XfY =

7
http://www.jugoslovenke.com/http://www.ponude.biz/seminarskihttp://www.faceyubook.com/


8/86

gde je ),( Xf linearni ili nelinearni model u odnosu na vektor parametara}...,{ 21 k= , aXozna~ava matricu vrednosti nezavisnih promenljivih.

F2. Zamenom eksperimentalno ustanovljenih vrednosti za zavisnu promenljivu Yj, j

=1,2,...,N, i nezavisne promenljive Xij, i = 1,2,...,k; j = 1,2,...,N, u matemati~ki model

razvijen u fazi F1, dobija se sistem jedna~ina:

jijj XfY += ),(

Veli~ina j je slu~ajna promenljiva koja opisuje odstupanja izme|u vrednosti zavisne

promenljive i vrednosti dobijenih matemati~kim modelom razvijenim u fazi F1, i kojase sastoje od:

a) neadekvatnosti matemati~kog modela u opisu date pojave,

b) slu~ajnih elemenata svojstvenih svim dru{tvenim pojavama, koji nastaju pre svegazbog prisustva subjektivnog faktora, i

c) gre{aka u odre|ivanju eksperimentalnih vrednosti promenljivih.

F3. Da bi se iz sistema jedna~ina dobijenih u fazi F2 odredio vektor parametara bpotrebno je da je k < N tj. da je broj parametara manji od broja razli~itiheksperimentalnih vrednosti za zavisnu promenljivu. Tako|e je potrebno uvesti i odre|ene pretpostavke o karakteru slu~ajne promenljive j i to na osnovu eksperimentalih

podataka. Ove pretpostavke defini{u metod re{avanja sistema jedna~ina iz faze F2.Naj~e{}e se pretpostavlja da je matemati~ko o~ekivanje j jednako nuli, da je varijansa konstantna,a kovarijansa jednaka nuli. Isto tako, ponekad se uvodepretpostavke o tipu raspodele verovatno}a slu~ajne promenljivej.

F4. Na osnovu rezultata faze F3 odgovaraju}om metodom se odre|uju statisti~keocene parametra . Metod najmanjih kvadrata, metod maksimalneverodostojnosti, metod minimuma maksimalnih devijacija, itd. neke od metoda koje senaj~e{}e primenjuju.

Nakon odre|ivanja statisti~kih ocena parametara usvojenom metodom, izvodi sestatisti~ki test zna~ajnosti dobijenih re{enja, odre|ivanje intervala poverenja zausvojeni nivo zna~ajnosti, kao i testiranje hipoteze da li pojedini parametar ima nultuvrednost u modelu (1.1). Tek nakon uspe{nog zavr{etka svih statisti~kih testovamo`e se smatrati da matemati~ki model (1.1), sa usvojenim nivoom zna~ajnosti,

uspe{no obja{njava datu ekonomsku pojavu.

1.4. Literatura

ACKOFF, R. L.

(1962) Scientific Method: Optimizing Applied Research Decisions, John Wiley & Sons,New York

GALE, D.

(1960) The Theory of Linear Economic Models, McGraw Hill, New York

8


9/86


10/86

2. LINEARNI REGRESIONI MODELI

2.1. Uvod

Osnovni problem u kvantitativnom opisivanju ekonomskih pojava je, kao {to je

istaknuto u delu 1., izbor promenljivih koje su bitne za èljeni opis i njihovopovezivanje u obliku matemati~ke relacije. U op{tem slu~aju, relacije koje povezuju jednu promenljivu Y koja se naziva zavisna (ili merena, posmatrana, ona koja seobja{njava) promenljiva, sa u principu ve}im brojem nezavisnih (ili kontrolisanih,obja{njavaju}ih) promenljivih Xi , i = 1,2,...,k, putem relacije:

Y f Xi i= ( ), (2.1)

gde su i parametri modela, se nazivaju regresioni modeli.

Najjednostavniji slu~aj, koji }e se prvo razmatrati, je relacija koja povezuje jednuzavisnu i jednu nezavisnu promenljivu. Broj parametara u relacijama ovakvog tipa jeobi~no dva i ovde }e se ozna~avati sa i . Da bi se mogla definisati ovakvarelacija potreban je:

a) skup {Xj,Yj )= 1,2,...,N parova koji ~ine observacije vrednosti promenljivih, i to N

parova ukupno;

b) matemati~ki oblik relacije koja vezuje zavisnu i nezavisnu promenljivu iparametre i :

Y = f (X, , ) (2.2)

gde veza moè biti linearna ili nelinearna bilo po promenljivama bilo poparametrima; i

c) statisti~ka ocena parametara i koji se pojavljuju u relaciji (2.2).

Zadatak ekonometrije je da statisti~kim metodama odredi ocenu parametara i urelaciji (2.2), odnosno u op{tem slu~aju parametara i iz relacije (2.1). Isto tako,

zadatak ekonometrije je da izvr{i testiranje relacije (2.1) ili (2.2) sa ocenjenimvrednostima parametara u odnosu na realne podatke i na taj na~in doprinese blièmrazumevanju posmatrane ekonomske pojave.

Kad god se èli oceniti jedna promenljiva Y u funkciji druge promenljive X, fakti~ki seodre|uje statisti~ka veli~ina E(Y| X), koja ozna~ava uslovno matemati~ko o~ekivanjeza promenljivu Y, a za datu vrednost promenljive X tj.:

dyxyfyXYE )()(

= (2.3)

gde f y x( ) ozna~ava raspodelu uslovnih verovatno}a za y pri datoj vrednosti x, za

slu~aj kontinualne raspodele, i:

10


11/86

E Y X y f y x j j ij

N

( ) ( )==

1

(2.4),

za slu~aj diskretne raspodele.

Uslovno matemati~ko o~ekivanje (2.3) ili (2.4) je funkcija slu~ajne promenljive X i tafunkcija se naziva regresija (ili regresiona kriva).

Na taj na~in, zavisna promenljiva Y se moè izraziti kao:

Y E Y X = +( ) (2.5)

gde ozna~ava slu~ajnu promenljivu koja obuhvata odstupanja koja nastaju zbog:

a) neta~nosti u specifikaciji izraza za E Y X ( ) ;

b) gre{aka u odre|ivanju observacija promenljivih Y i X; i

c) slu~ajnih elemenata svojstvenih svim pojavama sa prisutnim subjektivnimfaktorom.

Da bi se regresija (2.5) mogla prakti~no koristiti za odre|ivanje ocene promenljive Y, aza datu vrednost promenljive X, potrebno je uvesti neke pretpostavke o prirodislu~ajne promenljive . Ove pretpostavke su klju~ne u odre|ivanju ocena parametararegresije, kako sa stanovi{ta metode koja se koristi za ocenjivanje parametara, tako isa stanovi{ta njihove ta~nosti. Po{to se slu~ajna promenljiva ne moè direktnomeriti pretpostavljaju se ili oblik raspodele po kojoj se pona{a ili samo neki odkarakteristi~nih parametara populacije, kao {to su srednja vrednost, varijansa,kovarijansa i sli~no. Ta~nost u~injenih pretpostavki o karakteru slu~ajne promenljive se proverava na osnovu slaganja vrednosti Y dobijenih regresijom, sa vrednostimaobservacija za promenljivu Y.

Regresioni modeli kod kojih se uslovno matemati~ko o~ekivanje (2.3 i 2.4) moèizraziti kao linearna funkcija promenljivih Xi i parametara tj.:

E Y X X ( ) = + (2.6)

za slu~aj jedne nezavisne promenljive, odnosno:

E Y X X X X X X k k k( , , ... ) ...1 2 1 1 2 2= + + + (2.7)

za slu~aj k promenljivih, ili:

++= XY (2.8)

odnosno:

Y b X b X b X E j j j kj kj j= + + + +1 1 2 2 ... (2.9)

se nazivaju linearni regresioni modeli.

Pored svoje analiti~ke jednostavnosti, linearni regresioni modeli su pogodni zaopisivanje ekonomskih pojava i iz slede}ih razloga: (TINBERGEN, 1940)

11


12/86

1) Dobro je poznata matemat~ka istina da se skoro svaka funkcija moèaproksimirati linearnom u dovoljno malom intervalu. Ova propozicija ne vaì jedinoza izuzetne funkcije koje obi~no i nisu od prakti~nog interesa.

2) Nije redak slu~aj da linearna zavisnost i stvarno postoji u pona{anju nekih pojava.

3) Tako|e, sasvim je prirodno po~eti studiju neke pojave ~ine}i najjednostavniju

pretpostavku koja je saglasna sa op{tom teorijom.4) Osim navedenog u prilog opravdanosti linearnih modela govori i ~injenica da jezajedni~ka reakcija velikog broja pojedinaca linearnija od reakcija jednog pojedinca.

Isto tako, kao {to }e se pokazati kasnije, izvesna klasa nelinearnih modela se moètransformisati u linearni regresioni model.

Od svih metoda koje mogu koristiti za ocenu parametara linearnih regresionih modelatipa (2.8) ili (2.9), metoda najmanjih kvadrata se naj~e{}e koristi i ovde }e se inajvi{e razmatrati.

Pretpostavke o karakteru

Metod najmanjih kvadrata se bazira na slede}em skupu pretpostavki o karakteruslu~ajnih odstupanja :

1) Matemati~ko o~ekivanje ili srednja vrednost odstupanja Ei je jednaka nuli, tj.:

E i N i( ) , , ,... = =0 1 2

2) Varijansa odstupanja i je konstantna, tj homoskedasti~na:

V S i N i( ) , , ,... = =2 1 2

Ako V( ) nije konstantna, tad imamo heteroskedasti~nost.

3) Kovarijansa odstupanja i i j je jednaka nuli, tj. gre{ke nisu korelisane (ili

autokorelisane):

E i j( ) = 0

4) Odstupanje Einije korelisano sa promenljivom X

jtj.:

kjNiE ji ,...,2,1;,...,2,1,0)X( ===

Ova pretpostavka tvrdi da promenljiva X nije slu~ajna promenljiva. Metod najamanjihkvadrata se sastoji u minimizaciji sume kvadrata:

= =

==N

i

N

i

iii YYeQ1 1

22)( (2.10)

gdei

Y ozna~ava ocenjenu vrednost promenljive Yi, koja se dobija na osnovu

regresionog modela:

bXaY += (2.11)

12


13/86

za slu~aj jedne nezavisne promenljive, ili:

Y b X b X b X i N i k k= + + + =1 1 2 2 1 2... , ,..., (2.12)

za slu~aj vi{e nezavisnih promenljivih.

Veli~ine a,b odnosno b1,b2,...bk ozna~avaju ocene parametara , odnosno 1,

2 , ... , k , respektivno dobijene metodom najmanjih kvadrata, tj. minimizacijomsume kvadrata (2.10).

Veli~ina:

iii YYe= (2.13)

ozna~ava ocenu slu~ajnih odstupanja i, ili drugim re~ima razliku izme|u stvarne

vrednosti promenljive Yi i vrednosti ocenjene regresijom iY , i ponekad se naziva

rezidualom.

Vrednost metode najmanjih kvadrata u ocenjivanju parametara linearnih regresionihmodela leì u ~injenici da dobijene ocene imaju osobine nepristrasnosti, minimalnevarijanse i konzistentnosti. Tako|e, uz dodatnu pretpostavku da su slu~ajnaodstupanja data normalnom raspodelom, ocene dobijene metodom najmanjihkvadrata se poklapaju sa ocenama dobijenim metodom maksimalne verodostojnosti,odnosno poseduju i ostale "lepe" osobine ovih ocena.

U daljem tekstu }e se razmotriti detaljnije, kori{}enje metode najmanjih kvadrataprvo za slu~aj linearnog regresionog modela sa jednom nezavisnom promenljivom, azatim i za slu~aj sa vi{e nezavisnih promenljivih.

2.2. Linearni regresioni model sa dve promenljive

Najjednostavniji slu~aj linearnih regresionih modela je model sa dve promenljive, tj. jednom zavisnom i jednom nezavisnom promenljivom. U tom slu~aju uslovnoo~ekivanje E X Y ( ) ima oblik:

E X Y X ( ) = + (2.14)

odnosno zavisna promenljiva se izraàva relacijom:

Y X= + + (2.15)

Odre|ivanje regresije Y na X se svodi na nalaènje ocena a i b, parametara i , kao ireziduala ej koji predstavljaju ocenu odgovaraju}ih vrednosti slu~ajnih odstupanja ju datom uzorku koji ~ine parovi observacija {Xj, Yj}, j = 1,2,...,N gde sa N kao i dosad

ozna~avamo ukupni broj observacija uzorka na osnovu kojeg ocenjujemo regresionimodel.

Pre nego {to se pre|e na primenu linearnog regresionog modela sa dve promenljivepreporu~ljivo je konstruisati dijagram zavisnosti (raspr{enosti). Dijagram zavisnosti se

konstrui{e u pravouglom koordinatnom sistemu, ucrtavanjem svih parova podataka(Xi,Yi), i = 1,2,...,N, pri ~emu se na apcisu nanose vrednosti za nezavisnu promenljivuX, a na ordinatu jedinice zavisne promenljive Y.

13


14/86

Iz dijagrama zavisnosti se mo`e se sagledati:

Da li izme|u zavisne i nezavisne promenljive postoji veza;

Ako veza postoji, da li je pravolinijska ili krivolinijska;

Ako veza postoji i pravolinijka da li direktna ili inverzna.

Na slici ? dati su primeri razli~itih oblika veza izme|u promenljivih.

Y

Primer: Dati su podaci o poslovanju jednog preduze}a koji se odnose na ostvareniprofit i izdatke za reklamu u prethodnih 10 godina.

Godina 1984 1985 1986 1987 1988 1989 1990 1991 1992

1993

Profit 325 444 268 605 569 190 946 75 100 661

Izdacizareklamu

51 47 44 50 56 45 71 38 52 61

Nacrtati dijagram zavisnosti profita u odnosu na izdatke za reklamu i na osnovu njegautvrditi eventualno postojanje, oblik i ja~inu veze izme|u promenljivih.

Re{enje:

X - Izdaci za reklamu (nezavisna promenljiva);

Y - Profit (zavisna promenljiva);

14


15/86

2.2.1. Ocenjivanje parametara metodom najmanjih kvadrata

U ovom slu~aju, suma kvadrata (2.10) ima oblik:

Q Y a bX i i

i

N

= =

( ) 2

1 (2.16)

Minimizacija sume kvadrata (2.16) se vr{i u pogledu na parametre a i b i toizjedna~avanjem odgovaraju}ih parcijalnih izvoda sa nulom, tj.:

Q

a Na b X Y

Q

ba X X X Y

i i

i

N

i

N

i i

i

N

i i

i

N

= + =

= + + =

==

==

2 0

2 0

11

11

( )

( )

(2.17)

odnosno:

Y Na b X

X Y a X b X

i i

i

N

i

N

i i i i

i

N

i

N

i

N

= +

= +

==

===

11

2

111

(2.18)

Sistem jedna~ina (2.18) se naziva normalne jedna~ine i njegovim re{avanjem sedolazi do ocena a i b. Tako se za a dobija:

2

11

2

111

=

==

===

N

i

i

N

i

i

N

i

i

N

i

i

N

i

ii

XXN

YXYXN

a (2.19)

Ako defini{emo:

N

X

X

N

i i== 1 , YY

N

ii

N

= =1 (2.20)

15


16/86

tad na osnovu prve od normalnih jedna~ina (2.18) sledi:

Y a X b= + (2.21)

odnosno, regresiona prava prolazi kroz ta~ku ( , )X Y odre|enu srednjim vrednostimaobservacija X i Y respektivno.

Jedna~ina (2.21) tako|e sluì za odre|ivanje ocene a tj.:

a Y bX = (2.22)

Ocenjena regresiona prava je:

bXaY += (2.23)

Uvode}i smenu promenljivih:

YYyYYyXXx === ;; (2.24)

i oduzimanjem (2.22) od (2.23) dobijamo:

bxy = (2.25)

pa se do ocene b moè do}i minimizacijom sume kvadrata:

Q y bxj ii

N

= =

( )21

(2.26)

tj.

b

x y

x

i i

i

N

i

i

N= =

=

1

2

1

(2.27)

U slede}em }e se pokazati da su izvedene ocene za a i b metodom najmanjihkvadrata najbolje nepristrasne ocene odgovaraju}ih parametara i linearnogregresionog modela (2.14).

Dokaz da je b nepristrasna ocena :

Prvo pokaìmo da je b nepristrasna linearna ocena parametra . Naime, iz relacije(2.27) sledi:

=

=

=

=

=

= ==N

i

i

N

i

i

N

i

i

N

i

ii

N

i

i

N

i

ii

x

xY

x

Yx

x

yx

b

1

2

1

1

2

1

1

2

1

odnosno:

16


17/86

=

=N

i

iiYwb1

(2.28)

jer je

=

=N

i

ix1

0 (2.29)

na osnovu definicije (2.24) i (2.20), a gde wi ozna~ava

wx

xi

i

i

i

N=

=

21

(2.30)

Relacija (2.28) pokazuje da je b linearna kombinacija observacija Yi . Na osnovu

izlo`enog sledi:

==

++==N

i

iii

N

i

ii XwYwb11

)(

ili:

b wi ii

N

= +=

1

(2.31)

jer je, na osnovu (2.29), (2.30) i (2.24):

;1;011

== ==N

i

ii

N

i

i xww

prema tome, matemati~ko o~ekivanje dobijene ocene b je:

+=

=

N

i

iiwEbE1

)(

odnosno, kako je po pretpostavci o karakteru slu~ajnih odstupanja E( i ) = 0 sledi:

E(b) = (2.32)

Na osnovu relacije (2.32) se zaklju~uje da je b nepristrasna ocena parametra , ilidrugim re~ima da je raspodela za b centrirana na vrednosti , te se zbog toga b zovei centrirana ocena.

Na sli~an na~in se dokazuje da je i:

E(a) = (2.33)

tj. da je a nepristrasna linearna ocena za .

Dokaz da je b najbolja ocena

17


18/86

Da su ocene a i b parametara i respektivno, dobijene metodom najmanjihkvadrata i najbolje nepristrasne ocene, u smislu da od svih mogu}ih nepristrasnihocena imaju minimalnu varijansu, pokaza}e se na primeru parametra b. Naime,varijansa b je:

))(()( 2= bEbV

Na osnovu (2.31) sledi:

V b E wi ii

N

( ) (( ) )== 2

1

odnosno, na osnovu pretpostavki:

22)()( == ii EV

i,

E i ji j( ) , = 0

sledi:

=

=N

i

iwbV

1

22)(

Kako je,

w

x

i

i

i

N

i

N2

2

1

1

1=

=

=

to se za varijansu ocene b dobija:

V b

xii

N( ) =

=

2

2

1

(2.34)

Da bi pokazali da je varijansa V(b) i minimalna varijansa, posmatra}e se proizvoljnaocena b' koja je isto nepristrasna odnosno linearna ocena u smislu da se mo`e izrazitikao:

b c Yi ii

N

'==

1

gde su ci konstante koje se mogu izraziti kao:

ci= wi + di (2.35)

s tim {to je wi konstanta koja se sra~unava na osnovu (2.30) a di je proizvoljna

konstanta.

Sli~no dosada{njem izvo|enju se pokazuje da je:

18


19/86

)()'(1 1

= =

+=N

i

N

i

iii XccEbE

Prema tome, da bi b' bilo nepristrasna ocena parametra b, tj. da je:

E b( ' ) =

mora da je:

= =

==N

i

N

i

iii Xcc1 1

1i0

{to je jedino mogu}e, na osnovu (2.35) i definiciji za wi (2.30), ukoliko va`i:

= = =

===N

i

N

i

N

i

iiiiixdXdd

1 1 1

0i0

Varijansa ove proizvoljne ocene b' je:

V b E c ci i ii

N

i

N

( ' ) (( ) )= === 2 2 2

11

Na osnovu (2.35) i ~injenice da je:

w di ii

N

==

01

sledi:

V b V b d ii

N

( ') ( )= +=2 2

1

Kako je suma kvadrata

dii

N2

1=

sigurno nenegativna, sledi da je uvek:

V b V b( ') ( )

odnosno da je ocena b sa najmanjom varijansom od svih mogu}ih linearnihnepristrasnih ocena.

Sli~no, kao i u slu~aju varijanse ocene b dobija se i varijansa ocene a:

V a

X

N x

i

i

N

ii

N( ) = =

=

2

1

2

1

2 (2.36)

Tako|e, jednostavnim algebarskim transformacijama za kovarijansu ocena a i b dobijase:

19


20/86

E a bX

xii

N(( )( )) =

=

2

1

2

(2.37)

I za varijansu ocene a (2.36) se pokazuje da je minimalna u odnosu na sve ostalemogu}e lnearne nepristrasne ocene za parametar a.

Kako u izrazima za varijanse ocena a i b, kao i odgovaraju}em izrazu za kovarijansu,figuri{e izraz za varijansu ~lana koji opisuje slu~ajna odstupanja tj.:

2)( =iV

potrebno je izvr{iti njegovu ocenu. S obzirom da slu~ajna odstupanja ne podle`udirektnom merenju odnosno nije mogu}e konstruisati skup observacija { }i ,ocenjivanje V( i) odnosno

2 se mo`e izvr{iti kao:

2

1

2

2

= =N

eN

i

i

e (2.38)

gde je:

iiiii yyYYe ==

a e2 ozna~ava ocenu varijanse

2 .

Ocena (2.18) za 2 se dobija na osnovu ~injenice da veli~ine ei nisu linearno

nezavisne kao {to su to veli~ine i . Naime, veli~ine ei su povezane sa 2 normalnejedna~ine tako da imaju samo (N-2) stepena slobode. Drugim re~ima, uz pomo} (N-2)vrednosti ei i 2 normalne jedna~ine mogu}e je sra~unati preostale dve vrednosti

za ei , od ukupno N.

Primer 2.2.1. Za ilustraciju primene linearne regresije sa jednom zavisnom i jednomnezavisnom promenljivom razmotrimo slu~aj nekog proizvoda Y u zavisnosti oddohotka X sa parovima observacija Yi , Xi datim u slede}oj tabeli sa N = 12:

Y 23

6

25

4

26

7

28

1

29

0

31

1

32

5

33

5

35

5

37

5

40

1

43

1

X 257

275

293

309

319

337

350

364

385

405

437

469

Na osnovu dobijenih podataka sledi:

Y X X X Y i i i i ii

N

i

N

i

N

i

N

= = = =====

3861 4200 1516510 139449521111

; ; ;

odnosno:

X Y= =350 321 75; ,20


21/86

Pa se za ocene parametara dobija:

b = 0,9277 iz (2.19) a Y bX = = 3 0,

pa je ocenjena regresiona prava:

Y = -3,0 + 0,9277X

2.2.2. Koeficijenat korelacije i determinacije

Iz dosada{nje diskusije se moglo zaklju~iti da je regresiona analiza mo}no sredstvo zastudiju zavisnosti jedne promenljive od druge (ili vi{e drugih). Me|utim, u slu~ajevimakad se ne moè utvrditi striktna zavisnost jedne promenljive od druge a ipak postojinekakva veza izme|u njih, u smislu da im se vrednosti promenljivih povezuju na nekina~in, odnosno kako se to kaè da su vrednosti korelisane, kao stepen korelacijeodnosno povezanosti promenljivih koristi se takozvani koeficijenat korelacije. Prematome, regresiona analiza daje matemati~ku funkciju koja opisuje zavisnost dvejupromenljivih a korelaciona analiza daje jedan broj, koeficijenat korelacije, koji svojom

veli~inom odre|uju meru te zavisnosti. O~igledno je dakle, da regresiona analizapruà vi{e informacija o pona{anju promenljivih i da se na osnovu njenih rezultatamoè zaklju~ivati i o koeficijentu korelacije dok obrnuto ne vaì. U slede}em }e sedati veza izme|u koeficijenta korelacije i parametra regresije.

Pojam korelacije dveju promenljivih ilustrujmo na slede}em grafiku.

21


22/86


23/86


24/86


25/86


26/86


27/86

Kako ovaj interval uklju~uje i vrednost 0 sa poverenjem od 95% se moè zaklju~iti dase prava vrednost parametra a ne razlikuje zna~ajno od nule.

Isto tako 95% interval poverenja za parametar b je:

= 0 928 2 228 0 010, , ,

Navedeni testovi su se odnosili na nezavisno testiranje parametara. Me|utim, mogu}eje izvr{iti zajedni~ki test oba parametra uvo|enjem kvadratne forme:

Q N a NX a b X bii

N

= + + =

1

222 2 2

1

( ( ) ( )( ) ( ) )

koja ima 2 raspodelu sa 2 stepena slobode. Na osnovu ~injenice da (2.54) ima 2 raspodelu su (N-2) stepena slobode sledi:

F

Q

e

= 22

2

ima Fisher-ovu F raspodelu sa 2 i (N-2) stepena slobode. U izgrazu (2.58) potire senepoznata varijansa

2 te ostaju nepoznati samo parametri i . Na sli~an na~inkao i u dosada{njim testovima, koriste}i tabelu F-raspodele za dati nivo zna~ajnosti se moè proveriti va`nost hipoteze = 0 = 0 zamenom ovih vrednosti u

(2.58) i ukoliko dobijena vrednost F je ve}a od tabli~ne vrednosti F hipoteza se

odbacuje. S obzirom da se zajedni~ki testiraju dva parametra za interval poverenja seustvari dobija elipsa.

Test ocenjene vrednosti 2 se izvodi koriste}i 2 raspodelu i za granice poverenja za

varijansu slu~ajnih odstupanja 2 dobijamo:

( ) ( )N Ne e

2 12

2

2

22

12

2

(2.59)

2.2.4. Analiza varijacija

Dalja provera pouzdanosti regresionog modela se moè izvr{iti analizom varijacija ana osnovu rezultata izraènog jedna~inom (2.50). Naime, pokazuje se da veli~ina:

F

b x

e

N

i

i

N

i

i

N=

=

=

( )

( )

2 2

1

2

1 2

(2.60)

ima Fisher - ovu raspodelu sa (1, N-2) stepeni slobode. Uz pomo} izraza (2.60) semoè testirati va`nost hipoteze da ne postoji linearna veza izme|u promenljivih Y i X tj.

da je =0. Ta~nije, sra~unavaju}i izraz (2.60) stavljaju}i =0 dobija se vrednost Fkoju za dati nivo zna~ajnosti poredimo sa tabli~nom vrednosti F i hipotezu

odbacujemo u slu~aju F > F .

27


28/86


29/86


30/86

Uvode}i smene:

Y P N

L

M N

V

=

=

=

=

ln ln

ln

ln ln

ln

dobijamo, uz pretpostavku da V ima svoju raspodelu, klasi~ni model oblika:

Y = + X +

Prednost logaritamske transformacije je {to ta~no predefini{e parametre uparametre, odnosno promenljive u promenljive i {to ~lan gre{ke daje u vidu zbira ane proizvoda.

2.2.6. Predvi|anja

Jedna od osnovnih namena regresionih modela je predvi|anje tj. odre|ivanje vrednostizavisne promenljive Y0 na osnovu date vrednosti promenljive X0 . U slu~aju da se

data vrednost nezavisne promenljive X0 nalazi u intervalu izme|u prve X1 i zadnje XNobservacije tad imamo slu~aj interpolacije. U slu~aju da je data vrednost X0 van

navedenog intervala imamo slu~aj ekstrapolacije. Moè se pokazati da se kao najboljanepristrasna linearna ocena za Y0 dobija

00 XbaY += (2.64)

gde su a i b ocene regresionih parametara dobijene metodom najmanjih kvadrata.

Za varijansu V(Y0) se dobija:

))(())(()(2

00

2

000 XbXaEYYEYV +==

odnosno, zamenom odgovaraju}ih izraza:

+=

=

N

i

ix

XX

NYV

1

2

2

02

0

)(1)( (2.65)

Tako|e se moè pokazati da se nivo zna~ajnosti dobija interval poverenja za

ocenjenu vrednost 0Y tj.:

=

+

N

i

ix

XX

NtY

1

2

2

0

2

0

)(1 (2.66)

Razmatraju}i izraz (2.65) za varijansu ocenjene vrednosti Y0 se moè zaklju~iti da

ona poti~e od doprinosa varijanse V(a) i varijanse V(b). Isto tako se moè zaklju~iti da{to je ta~ka X0 , u kojoj se vr{i predvi|anje, dalja od srednje vrednosti X to }e i

varijansa biti ve}a. Prema tome, moè se u principu zaklju~iti, da se interpolacija

30


31/86

moè ta~nije izvr{iti od ekstrapolacije. Osim ovog, da kaèmo matemati~kogograni~enja na ta~nost ekstrapolacije, treba uvek imati na umu da se regresijaocenjuje na osnovu datog skupa observacija Yi i Xi i da za vrednosti X0 jako udaljene

od pomenutog skupa observacija, ocenjena regresija ne mora uop{te da vaì.

Ne{to druga~iji problem predvi|anja je slu~aj kad se èli oceniti da li par (Y 0 ,X0)

pripada linearnom regresionom modelu ocenjenom na osnovu parova observacija{Yi ,Xi }. U ovom slu~aju se za varijansu dobija:

WYYE 2200 ))(( = (2.67)

gde W ozna~ava:

=

++=

N

i

ix

XX

NW

1

2

2

0)(1

1

Za interval poverenja sa nivoom zna~ajnosti h imamo:

WtY e2

2

0 (2.68)

2.3. Linearni regresioni model sa vi{e promenljivih

U ovom delu }e se dati generalizacija rezultata dobijenih za slu~aj linearne regresijesa dve promenljive u delu 2.2., a za slu~aj vi{e nezavisnih promenljivih.

Regresioni model koji izraàva vezu izme|u zavisne promenljive Y i k nezavisnihpromenljivih X1 ,X2,...,Xk ima op{ti oblik:

Y X X X i i i k ki i= + + + + 1 1 2 2 ... (2.69)

gde je: i = 1,2,...,N a N ozna~ava ukupni broj observacija.

Da bi se zadràlo prisustvo konstantnog ~lana standardna pretpostavka u regresionimmodelima oblika (2.69) je da je:

X1i = 1 ; i = 1,2,...,N

Linearni regresioni modeli za vi{e promenljivih se javljaju uvek kad ve}i brojpromenljivih uti~e na pona{anje neke pojave koja se opisuje kao zavisna promenljiva.Za ilustraciju, neka Y predstavlja veli~inu prodaje nekog proizvoda a promenljive X2 i

X3 ozna~avaju tro{kove ekonomske propagande i cenu proizvoda, respektivno.

Sistem jedna~ina (2.69) se moè pogodno prikazati u matri~nom obliku kao:

Y = X + (2.70)

gde su u skladu sa usvojenom notacijom imamo:

31


32/86

kolonavektor},...,{

kolonaektorv},...,{

k)(nredamatrica

...1

...............

...1

...1

=X

kolonavektor},...,{

21

21

32

23222

13121

21

N

N

kNNN

k

k

N

XXX

XXX

XXX

YYYY

=

=

=

2.3.1. Ocenjivanje parametara metodom najmanjih kvadrata

Pretpostavke koje omogu}avaju ocenu nepoznatih parametara metodom najmanjihkvadrata su identi~ne ve} navedenim pretpostavkama u slu~aju regresije dvepromenljive. Ovde }e se ponovo formulisati koriste}i matri~nu notaciju:

1) E( ) = 0

2) E IT

N( ) =2

gde T ozna~ava transponovani vektor vrstu vektora kolone , a IN ozna~ava

kvadratnu jedini~nu matricu reda N.

Prime}uje se da pretpostavka 2) obuhvata i konstantnost varijanse, s obzirom da jevarijansa data ~lanovima na glavnoj dijagonali matrice

2IN a koji su svi jednaki 2 , i

~injenicu da je kovarijansa slu~ajnih odstupanja identi~ki jednaka nuli. Naime, svielementi gornje matrice koji se nalaze van glavne dijagonale su identi~ki jednaki nuli.

3) E (xi T) = 0, gde je: xi ={Xi1 Xi2 ... XiN), i=1,2,...,k, ~ime se izra`ava ~injenicada je svaka od nezavisnih promenljivih Xij , i = 1,2,...,k; j = 1,2,...,N nezavisna od

slu~ajnih odstupanja .

4) Matrica X ima rang k < N, {to zna~i da ne postoji linearna veza izme|u bilo koje odnezavisnih promenljivih i da je broj observacija N ve}i od broja k parametara koji seocenjuju.

Ako slede}i dosada{nju praksu sa Y ozna~imo ocenjene vrednosti vektora Y, sa bocenjenu vrednost vektora i sa e ocenjenu vrednost vektora , tada va`i:

Y = Xb + e (2.71)

Ocenjeni vektor b se dobija metodom najmanjih kvadrata minimizacijom kvadratneforme:

eeT = (Y - Xb) (Y - Xb) T (2.72)

Diferenciranjem (2.72) po vektoru parametara b, vode}i ra~una o matri~noj ivektorskoj prirodi svih veli~ina, dobija se:

( )eeb

X Y X Xb

T

T T= + + =2 2 0 (2.73)

odnosno za ocenu b dobijamo:

32


33/86


34/86


35/86

Dakle, bi ima raspodelu:

b N ai i ii: ( , ) 2

Veli~ina:

kN

ea

b

t N

i

iii

ii

= =1

2

(2.81)

gde aii kao i dosad ozna~ava i-ti elemenat na glavnoj dijagonali matrice (XTX)-1 , sledi

t - raspodelu.

Hipoteza da je neki regresioni parametar ijednak nuli tj. da nezavisna promenljiva

Xi ne uti~e na zavisnu promenljivu Y, se mo`e testirati sra~unavanjem izraza (2.81)

za i = 0 sa daljim zaklju~ivanjem identi~nim onom iznetom u delu 2.2.4.

I ostali statisti~ki testovi diskutovani u delu 2.2.4. se generi{u na analogan na~in iprimenjuju u slu~aju linearne regresije sa vi{e promenljivih.

S obzirom na definiciju koeficijenta determinacije, "obja{njena" suma kvadrata semo`e izraziti kao:

bX y y yr T T= 2

a "neobja{njena" suma kvadrata kao:( )21 ryyee TT =

Tada veli~ina

F

r

k

r

N k

=

2

2

1

1

sledi F - raspodelu sa (k-1,N-k) stepeni slobode i koristi se analogno u delu 2.2.5.

Izvor varijacija Suma kvadrata Broj step.slobode

Srednjavrednost

X2,X3,...,Xk bXTy k-1 bXTy / (k-1)

eTe N-k eTe / (N-k)

Total yTy N-1

35


36/86

2.3.4. Predvi|anje

Pretpostavimo da `elimo da odredimo o~ekivanu vrednost za promenljivu Y asociranusa skupom vrednosti Xo koji nije u skupu observacija koji defini{e regresioni model tj.:

Xo = {1 X20 X30 ... Xk0 }

Najbolji nepristrasni prediktor za odgovaraju}u vrednost Y je:

BXY 00 =

Varijansa ove predikcije je:

0

1

00 )()( XXXXYV

TT

e

=

Sli~no kao u delu 2.2.7. interval poverenja za dati nivo zna~ajnosti za predikciju Yje:

000 )(2

XXXXtY TT

e

Analogno delu 2.2.7. ukoliko se `eli proveriti da li par vrednosti (Yo ,Xo) pripada

datom regresionom modelu, sra~unava se ocena Y i sra~unava veli~ina:

2

1

0

1

0

00

))(1(

XXXX

YYt

TT

e

+

=

i ako sra~unata vrednost za t prevazilazi neku unapred odre|enu vrednost za dati nivozna~ajnosti, tad se zaklju~uje da par vrednosti (Yo ,Xo) pripada nekoj drugoj

strukturi.

2.4. Ve`be

1) Pokazati da u regresiji dve promenljive, regresija Y na X je razli~ita od regresijeX na Y, u op{tem slu~aju. Objasniti zbog ~ega nastaje razlika i putem koje regresijeje ocenjivanje bolje.

2) U slede}oj tabeli je data zavisnost tra`nje nekog proizvoda od cene:Q 12 10 13 11,

512 13 12 12 13 13,

514 13,

514,5

P 0,54

0,51

0,49

0,49

0,48

0,48

0,48

0,47

0,44

0,43

0,42

0,41

0,40

Oceniti parametre regresije:

Q = P

diskutovati zna~enje koeficijenata i ; testirati i objasniti ekonomsko zna~enjehipoteze =0.36


37/86

3) Pokazati da ako se za korelacioni koeficijenat N parova (Xi,Yi) dobije vrednost r

tada se ova ista vrednost dobija i za korelacioni koeficijenat N parova (aXi + b, cYi+ d) , gde su a, b, c i d konstante.

4) Dat je uzorak od 20 observacija koji daje slede}e vrednosti:

Y X X X Y Y

X X Y Y

ii

ii i

i i

= = =

= =

= = =

= =

1

20

1

20

1

20

2

1

202

1

20

21 9 186 2 106 4

86 9 215 4

, ; , ; ( )( ) , ;

( ) , ; ( ) ,

Oceniti parametre i u linearnoj regresiji:

Y = + X +

kao i odgovaraju}e varijanse i intervale poverenja 95%. Tako|e oceniti predikcijusrednje vrednosti za Y0 kad je Xo = 10 i na}i njen 95% interval poverenja.

5) U ekonometrijskim studijama ~esto je mogu}e koristiti apriorna znanja ovrednostima nekih parametara regresije. Posmatrajmo linearni model:

Y = 1 + 2 X2 + 3 X3 +

Oceniti parametre b gornjeg modela uz pretpostavku da va`e slede}i uslovi:

a) 1 = 0

b) 2 = 1

c) 1 = 2

6) Dat je uzorak od 89 observacija koji daje slede}e vrednosti:

Y X X

Y Y X X X X

Y Y X X Y Y X X

X X X X

i i i

i i

i

= = =

= = =

= =

=

= = =

= =

=

5 8 2 9 3 9

113 6 50 5 967 1

36 8 39 1

66 2

2 3

2

1

89

2 2

1

892

3 3

1

892

2 2

1

89

3 3

1

89

2 2 3 3

1

89

, ; , ; ,

( ) , ; ( ) , ; ( ) ,

( )( ) , ; ( )( ) ,

( )( ) ,

Oceniti parametre linearnog regresionog modela koji povezuje gornje promenljive.Formirati tabelu analize varijacija i razmotriti smanjenje ukupne sume kvadrataregresijom prvo samo na X2 a potom i zajedno na X2 i X3 .

2.5. Literatura

TINBERGEN, J. (1940) Economic Journal, March.

JOHNSTON, J. (1972), Econometric methods, McGraw Hill, New York.

37


38/86


39/86


40/86

Yt

(a)

Yt

(b)

Yt

(c)

Yt

(d)

Yt

(e)

Yt

(f)

Yt

(g)

Sl.3.1. Karakteristi~ni oblici vremenskih serijaOblik sa Sl.3.1.a. opisuje konstantan proces u vremenu; oblik sa Sl.3.1.b. opisujelinearni rast u vremenu; oblik sa Sl.3.1.c. opisuje periodi~nu pojavu; oblik sa Sl.3.1.d.opisuje impulsnu promenu; oblik sa Sl.3.1.e. opisuje step promenu; oblik sa Sl.3.1.f.opisuje porast sa saturacijom i onaj sa Sl.3.1.g. opadanje u vremenu.

S obzirom na navedene karakterisi~ne oblike vremenskih serija uobi~ajeno jepretpostaviti u analizi bilo koje vremenske serije da se podatak yt sastoji od jedne ilivi{e slede}ih komponenata:

40


41/86

1) KomponentaYt koja opisuje dugoro~ni rast ili opadanje serije i koja se

obi~no naziva trend.

2) Komponenta St koja opisuje sezonske fluktuacije serije koje se superponiraju

na trend i koja predstavlja periodi~ne promene kra}e periode.

3) Komponenta Ct koja opisuje cikli~ne flutkuacije koje predstavljaju periodi~nefluktuacije duè periode.

4) Komponenta t koja opisuje slu~ajne fluktuacije koje poti~e od statisti~keprirode pojave.

Uobi~ajeno je da se za opis vremenskih serija koriste aditivni i

multiplikativni model, predstavljeni jedna~inama (3.1) i (3.2), respektivno:

y Y S Ct t t t t= + + + (3.1)

y Y S Ct t t t t= (3.2)U slede}em }e se razmotriti neke od postoje}ih metoda za odre|ivanje pojedinihkomponenti vremenske serije.

3.2. Trend vremenske serije

Prvi korak u analizi vremenske serije tj. tabele parova (t, yt ), je crtanje grafikaona ytu funkciji vremena t pomo}u koga se mogu lak{e shvatiti globalne karakteristike

pojave koja se ispituje. Na primer, kakav je karakter pojedinih od ~etiri navedenekomponente kao i njihovo relativno u~e{}e u opisu date vremenske serije, i sli~no.Isto tako, na osnovu grafi~kog prikaza vremenske serije mogu}e i odabratiodgovaraju}i matemati~ki izraz koji defini{e pona{anje vremenske serije.

U ve}ini slu~ajeva trend vremenske serije predstavlja komponentu od najve}eginteresa s obzirom da opisuje osnovno pona{anje date pojave u duèm vremenskomperiodu ili ta~nije u ~itavom periodu za koji je vremenska serija poznata. Zbog togase ponekad u literaturi trend naziva i sekularni trend.

U slu~ajevima kada je relativni udeo ostali tri komponente mali u odnosu na trend

vremenske serije, njega je mogu}e odrediti grafi~ki provla~e}i vizuelno najboljuglatku krivu koja prolazi kroz ta~ke vremenske serije. Jasno je da je ovakav postupakograni~ene ta~nosti i podloàn subjektivnim gre{kama.

3.2.1. Metod pokretnih sredina

Jedan od najjednostavnijih metoda odre|ivanja trenda vremenske serije, u slu~aju dasu vrednostiYt date za ekvidistantne vrednosti promenljive t, tj. vrednosti kod kojih jeintervala izme|u pojedinih vremenskih ta~aka konstantan, je metod pokretnih sredina.Su{tina ove metode je nalaènje sre|e vrednosti za odre|eni broj ta~aka vremenskeserije i uzimaju}i da tako sra~unata srednja vrednost predstavlja vremensku seriju u

tom intervalu, s tim {to se postavlja na sredinu intervala u kome je srednja vrednostiodre|ivanja.

41


42/86


43/86


44/86

Tabela 4.1.

t Yt r=3 r=5 r=7 r=9

191

8

857.5

1919

804.5 843.2

1920

867.7 809.5 823.4

1921

756.2 818.3 843.4 858.3

1922 830.9 848.3 869.2 876.5 890.5

1923

957.9 907.4 892.7 907.5 905.5

1924

933.4 958.8 945.7 925.4 926.4

1925

985.1 979.9 978.1 959.1 942.8

1926

1021.1

999.7 984.9 985.5 956.9

1927

993.0 1002.1

1001.4

947.7 943.9

1928

992.1 1000.3

980.9 943.4 897.7

192

9

1015.

9

963.4 919.5 880.1 856.4

1930

882.3 870.9 829.3 814.5 812.9

1931

714.4 712.9 743.3 757.4 766.7

1932

541.9 606.1 658.7 702.2 733.5

1933 561.9 565.7 603.4 656.3 703.8

44


45/86

1934

593.2 587.0 599.4 633.7 565.0

1935

605.8 631.1 635.9 615.3 630.4

193

6

694.4 674.9 640.7 631.1 628.7

1937

724.4 668.2 652.5 650.7 658.9

1938

585.7 654.1 671.2 682.1 688.0

1939

652.1 645.7 649.9 713.2 712.7

1940 699.2 721.5 714.8 730.6 738.2

1941

843.3 778.7 760.9 746.4 750.6

1942

823.6 817.7 797.4 777.9 758.4

1943

816.2 824.9 818.8 798.3 788.5

1944

834.8 819.0 815.1 820.7 807.3

1945

806.1 812.0 821.6 821.9 806.3

1946

795.0 819.0 822.6 802.9 799.1

194

7

855.8 824.1 793.8 793.1 794.1

1948

821.5 789.3 782.2 785.1 784.6

1949

690.6 753.4 779.0 774.3 773.7

1950

748.1 739.2 753.9 766.0

1951 778.8 752.5 736.9

45


46/86

1952

730.5 748.6

1953

736.6

46


47/86

3.2.2. Analiti~ke metode odre|ivanja trenda

Trend vremenske serije se moè odrediti pretpostavljaju}i da se moè izraziti pomo}uodre|ene matemati~ke funkcije. U slu~aju da je to za datu vremensku seriju mogu}e,odnosno da se trend moè dovoljno dobro opisati nekom matemati~kom funkcijom,tada se zadatak analize, interpretacije i ekstrapolacije vremenske serije moè lak{e i

ta~nije obaviti. Za matemati~ku funkciju koja opisuje trend neke dru{tveno-ekonomske pojave se nekad pretpostavlja da defini{e "zakon" pona{anja pojave. Me|utim, u ve}ini slu~ajeva za trend vremenske serije, bilo da je utvr|en metodompokretnih sredina ili predstavljen nekom matemati~kom funkcijom, te{ko je zaklju~itida defini{e neki "zakon" pojave, ve} u najboljem, empirijski ustanovljenu uniformnostpona{anja pojave.

U prakti~nom pristupu odre|ivanju trenda analiti~kom metodom, potrebno je izabratitip matemati~ke funkcije koja najbolje opisuje datu vremensku seriju. Ovo je sigurno inajteì deo posla, po{to ne postoji objektivni zakon koga treba slediti u izboru tipafunkcije. Me|utim, ispituju}i vrednosti zavisne yt i nezavisne promenljive t u prostim

slu~ajevima vaì slede}e:

a) Ako niz vrednosti promenljive t ~ini aritmeti~ku progresiju a odgovaraju}e

vrednosti yt formiraju geometrijsku progresiju, tad je relacija koja povezuje yt i t,

eksponencijalnog tipa, tj.:

y abt t=

b) Ako niz vrednosti promenljive t ~ini geometrijsku progresiju a i odgovaraju}i

niz yt isto tako, tad je relacija parboli~kog ili hiperboli~kog tipa, tj.:

y attb=

c) Ako niz vrednosti promenljive t ~ini aritmeti~ku progresiju a prve diference

odgovaraju}ih vrednosti yt su konstantne, tad je relacija linearna tj.:

y a bt = +

Termin "prve diference" se odnosi na razlike izme|u uzastopnih vrednostiyt iozna~ava se sa yt . Razlike izme|u uzastopnih prvih diferenci se nazivaju "druge

diference" i ozna~avaju se sa 2yt . Analogno se defini{u i vi{e diference.

d) Ako niz vrednosti promenljive t ~ini aritmeti~ku progresiju a n-te diference

odgovaraju}ih yt vrednosti su konstantne, relacija je polinomijalna, tj.:

y a a t a t a tt nn= + + + +0 1 2

2 ...

Jasno je da podaci t i yt relane vremenske serije retko zadovoljavaju sasvimta~no bilo koji od navedenih testova a) do d).

U op{tem slu~aju trend vremenske serije se opisuje matemati~kom funkcijom oblika:f(t; a0 ,a1 ,...,an ) odnosno pretpostavlja se da se vremenska serija opisujejedna~inom:

47


48/86


49/86

Na osnovu rezultata dobijenih za sumu kvadrata odstupanja mo`e se zaklju~iti daeksponencijalni trend najbolje opisuje datu vremensku seriju.

U Tabeli 2.3. su data predvi|anja bazirana na ekstrapolaciji odgovaraju}ih trendova izTabele 2.2.

Tabela 2.3.

Godine Stvarni

podaci

Teorijskipodacilinearnitrend

Teorijskipodaci

kvadratnitrend

Teorijskipodaci

eksponencijalni ternd

1957 392 358 329 406

1958 443 443 432 457

1959 480 529 531 514

1960 552 614 626 579

1961 693 700 717 651

1962 784 785 805 733

1963 873 871 889 824

1964 1072 956 968 928

1965 1129 1042 1044 1044

1966 1141 1127 1116 1174

1967 1083 1213 1185 1322

Tabela 2.3.

Godine Linearni trend

Kvadratni

trend

Eksponencijalni trend

1968 1.299 1.248 1.488

1969 1.384 1.309 1.674

1970 1.470 1.365 1.884

1971 1.555 1.419 2.121

49


50/86

1972 1.641 1.468 2.386

1973 1.727 1.513 2.685

1974 1.813 1.544 3.022

1975 1.898 1.591 3.400

1976 1.984 1.624 3.827

1977 2.069 1.654 4.306

3.3. Metoda eksponencijalnog izravnjavanja

U metodi pokretnih sredina se gube ta~ke koje se nalaze na krajevima vremeskeserije. Ukoliko je interval usrednjavanja ve}i onda se gubi i vi{e ta~aka. Tako|e, ne

postoji egzaktan na~in odre|ivanja vrednosti vremenske serije u budu}im vremenskimperiodima t. Metoda eksponencijalnog izravnavanja omogu}ava eksplicitnosra~unavanje budu}ih vrednosti vremenske serije.

Polaze}i od skupa vrednosti vremenske serije yt , t = 1,2, ..., N sra~unavaju seeksponencijalno izravnate vrednosti Et , t = 1,2, ... ,N, na osnovu slede}eg algoritma:

( )

( )

( )

( )

E y

E wy w E

E wy w E

E wy w E

E wy w E

1 1

2 2 1

3 3 2

1

1

1

1

=

= +

= +

= +

= +

t t t 1

N N N 1

gde je w teìna koja se naziva konstanta eksponencijalnog izravnavanja i koja uzimavrednosti u intervalu izme|u 0 i 1. Odgovaraju}im izborom vrednosti ove teìne, moèse vi{e ili manje isticati uticaj pro{lih vrednosti vremenske serije u odnosu na teku}uvrednost. Naime, ukoliko w uzima vrednost koja je blià nuli, tad je uticaj pro{lih

vrednosti ve}i, odnosno stepen izravnjavanja serije je ve}i i obrnuto ukoliko jevrednost blià jedinici, tad je uticaj pro{lih vrednosti manji, odnosno stepenizravnavanja je manji.Prognozirana vrednost vremenske serije u nekom budu}em trenutku t se izra~unavakao:

( ) NNt 1 EwwyF += , t = N+1, N+2, . . .

Kao {to se vidi, metoda eksponencijalnog izravnavanja daje istu vrednost za svebudu}e vremenske periode, te se moè koristiti u slu~aju stacioniranih vremenskihserija, tj. serija koje nemaju komponente trenda i sezonskih ili cikli~nih fluktuacija,

ve} su prisutne jedino slu~ajne fluktuacije.

50


51/86


52/86

Budu}e vrednosti vremenske serije se izra~unavaju kao:

( )

( )

( )

F E T S

F E T S

F E kT S

N 1 N N n 1 P

N 2 N N n 2 P

N k N N n k P

+ +

+ +

+ +

= +

= +

= +

2

3.5. Primeri

1) Slede}a tabela predstavlja vremensku seriju veli~ine prodaje vina (u hiljadamalitara) preduze}a za promet alkoholnim pi}ima, po kvartalima po~ev od 1988. godinepa zaklju~no sa 1990. godinom. U tabeli su prikazane i izra~unate vrednosti za Et , Tti St po Holt-Winters-ovoj metodi pretpostavljaju}i slede}e vrednosti za te`ine w, v i u:

w = 0,7 ; v = 0,5 ; u = 0,5

i p = 4, s obzirom da su podaci dati po kvartalima.

52


53/86


54/86

2) Podaci o izgra|enom poslovnom prostoru (u hiljadama m2 ), kvartalno, po~ev odzime 1987. godine pa zaklju~no do jeseni 1991. godine, dati su u slede}oj tabeli:

Godina Kvartal t yt

1987 I 1 367.4

II 2 581.1

III 3 561.5

IV 4 477.1

1988 I 5 292.3

II 6 511.3

III 7 459.8

IV 8 387.0

1989 I 9 297.0

II 10 523.2

III 11 434.6

IV 12 351.1

1990 I 13 218.7

II 14 291.1

III 15 341.4

IV 16 364.3

1991 I 17 245.3

II 18 300.4

III 19 235.5

IV 20 183.6

a. Izra~unati eksponencijalno izravnatu seriju koriste}i konstantu izravnavanja w =0,2.

b. Na osnovu rezultata iz a. odrediti prognozu za zimu 1992. godine.

c. Koriste}i Holt-Winters metod za seriju sa trendom i sezonskim fluktuacijama odrediprognozu za sve kvartale 1992. godine. Koristiti w = 0,2 , v = 0,5 i u = 0,7.

Rezultat:

a.

54


55/86


56/86


57/86


58/86


59/86

1) Ta~nost statisti~kih ocena parametara drasti~no opada, pa postaje neobi~no

sloèno razdvojiti veze uticaja razli~itih nezavisnih promenljivih.

2) Ponekad se izbacuju promenljive iz analize, jer recimo njihovi koeficijenti nisu

dovoljno razli~iti od nule, te se smatra da te promenljive nisu od uticaja, {to moè da

bude pogre{an zaklju~ak.

3) Ocenjivanje koeficijenata postaje vrlo osetljivo i npr. kada se na izvestan skup

podataka pridodaju neki dodatni, moè do}i do promene posmatranih koeficijenata.

Kada je promenljiva uvedena u jedna~inu i kada je kolinearna sa ostalim promenljivim

u jedna~ini, postavlja se pitanje {ta se uobi~ajeno de{ava? Odgovor bi bio, da

1) Standardna gre{ka koeficijenata raste i da

2) Koeficijent determinacije opada.

Pretpostavimo slede}e modele:

y Xi i i= + 1 1 1 , i = 1, 2, . . . , N

y X Xt i i i= + + ' ' 1 1 2 2 , i = 1, 2, . . . , N

Ocene

1i '

1imaju varijanse:

( )Vxi

1

2

2=

( )( )

Vx ri x x

'

1

2

2 211 2

=

Kada postoji korelacija izme|u dve nezavisne promenljive, rx x1 22

se razlikuje od nule

pa je tada:

( ) ( )V V ' 1 1>

U nekim slu~ajevima korelacija izme|u X1 i X2 moè biti tako bliska da

varijansa ocena postane ekstremno velika. U takvim slu~ajevima ocene nisu

pouzdane i mogu biti odba~ene, mada se pri tom mora biti izuzetno oprezan.

Kako izbe}i multikolinearnost? Svakako, korisno je upotrebiti neku od metoda koje

postoje za detekciju prisustva multikolinearnosti u datoj regresiji.

59


60/86

Najjednostavnija metoda je izra~unavanje koeficijenata korelacija rx x1 22

izme|u parova

nezavisnih promenljivih. Ukoliko se pretpostavi

da postoji visoki stepen korelacije Xi i Xj tad postoji i odgovaraju}i stepen

kolinearnosti u datom modelu.

Tako|e, u slu~aju da se sa visokim nivoom zna~ajnosti moè usvojiti hipoteza da dati

koefinijent bi nije jednak nuli, a istovremeno F test tvrdi da su svi parametri b2, b3, . . .

, bk jednaki nuli, moè se sumnjati da je prisutna multikolinearnost.

Dalje, ukoliko se dobije da je znak parametra suprotan od onog {to kaè teorija, opet

se moè posumnjati da je prisutna multikolinearnost.

Formanlniji test detekcije prisustva multikolinearnosti je izra~unavanje faktora

inflacije varijanse za svaki parametar bi . Naime, varijansa parametra bi se moè

izraziti sa:

( )V bRie

i

=

2

21

gde je R i2 vi{estruki koeficijent determinacije modela u kome se nezavisna

promenljiva Xi regresirana na preostale nezavisne promenljive.

Faktor:

V IRe

i

=

221

se naziva faktorom inflacije varijanse i ukoliko je ve}i od 10 odnosno R i2 ve}e od

0,9 tad je promenljiva Xi kolinearna sa ostalim i treba je

izostaviti.

Primer multikolinearnosti:

Y - veli~ina prodaje

X2 - cena artikla

X3 - veli~ina ekonomske propagande

Y X X= + + + 1 2 2 3 3

êsto se X3 odre|uje kao procenat prihoda od prodaje, a prihod (broj komada x cena) i

veli~ina ekonomske propagande su u zavisnosti:60


61/86

X K X3 2=

Za slede}e podatke imamo primer perfektno korelisanih nezavisnih promenljivih

i X2 X3 Y

1 2 6 23

2 8 9 83

3 6 8 63

4 10 10 103

X X3 25 05= + .

Me|urezultati:

X 2 65= . X 3 8 25= . Y = 68 x i22 35=

x i32 875= . x yi i2 350= x yi i3 175= x xi i2 3 17 5= .

( )b2 2

350 875 175 175

35 875 175

30625 30625

30625 30625

0

0=

=

=* . * .

* . .

. .

. .

0

0

0

61256125

0

5.17*35035*1753

=

=

=b

samim tim je i bi neodre|ena veli~ina.

4.3. La`ne (ve{ta~ke) promenljive

U dosada{njim razmatranjima glavne promenljive X, iz op{teg modela opisanog

linearnom jedna~inom Y = X + , su pretpostavljale promenljive koje su imale

svoje ekonomsko zna~enje, odnosno mogle su se kvantitativno iskazati. Linearni

model se mo`e pro{iriti i sa takozvanim la`nim (ve{ta~kim) promenljivim, ~ije

kori{}enje ima svrhu da predstavi uticaj raznih kvalitativnih efekata kao {to su:

1) Vremenski efekat - promene veza pona{anja od jednog do drugog vremenskog

perioda

2) Prostorni efekat - promene u ekonomskim funkcijama u razli~itim regionima

3) Kvalitativne promenljive- podaci o zanimanju, bra~nom stanju, polu, igraju va`nu

ulogu u odre|ivanju ekonomskog pona{anja

61


62/86

4) Grupisanje promenljivih - koje se naro~ito koristi za jednostavnije slu~ajeve,

kada mu je primena adekvatna.

La`ne promenljive uzimaju dve vrednosti, nulu ili jedan (te se zato zovu i binarne

promenljive). Pretpostavimo da je mogu}e razdvojiti podatke u vi{e kategorija. Tako|

e, moè se pretpostaviti da podaci unutar svake kategorije imaju istu vrednost

parametara, ali zapaànja u razli~itim kategorijama mogu imati razli~ite skupove

parametara. Tada istra iva~ moè dopustiti te razlike, upotrebljavaju}i la`ne

promenljive.

Razmotrimo model

Y X Xi i i i= + + + 0 1 1 2 2

Dalje pretpostavimo da istraìva~ ima dve kategorije podataka i veruje da }e

koeficijent X2 biti razli~it u te dve kategorije, a tako|e o~ekuje da }e svi ostaliparametri ostati isti. Npr. neka promenljive, prisutne u modelu, predstavljaju: Y i -

prinos po hektaru; X1i - ulaganja po hektaru i X2i - koli~ina |ubriva po hektaru, gde

postoje dve razli~ite vrste: M i N.

Potrebno je oceniti slede}u regresiju:

( ) Y X X DXi i i i i= + + + + 0 1 1 2 2 3 2

gde je:

Dako je M

ako je N=

1

0

,

,

Kada la`na promenljiva ima vrednost nula, |ubrivo koje se koristi je N i posmatra se

regresija:

Y X Xi i i i= + + + 0 1 1 2 2

Ako pak, la`na promenljiva ima vrednost jedan, koristi se |ubrivo M, pa je regresijakoja se posmatra:

( ) Y X Xi i i i= + + + + 0 1 1 2 3 2

La`na promenljiva D se moè koristiti i kao aditivna nezavisna promenljiva, pa tada

postoji promena konstantnog ~lana u dve kategorije

Y D X Xi i i i= + + + + 0 1 1 2 2

gde je

62


63/86

Dako je M

ako je N=

1

0

,

,

Ako se koristi |ubrivo M konstantni ~lan regresije je 0 + , dok pri kori{}enju |ubriva

N taj ~lan je 0.

Klasi~an primer iz ove oblasti je i primer funkcije potro{nje u dva vremenska perioda:

za vreme rata i mira:

C Y= + + 1 , - ratno vreme

C Y= + + 2 , - mirnodopsko vreme

Pri tome je 2 1> . Ako nije identi~no tada se ni{ta ne dobija upotrebom la`nih

promenljivih, tj. pristrasnost se mo`e izbe}i regresuju}i odvojeno, a da se ne izgubi

efikasnost. Sa druge strane, ako je zajedni~ko, korisno je koristiti sve podatke, da

bi se dobila {to efikasnija ocena tog parametra. To se obi~no posti`e kombinovanjem

jedna~ina u jednu jedinu vezu:

C D Y= + + + 1

gde je

D ako je mirnodopsk o vremeako je ratno vreme=

10

,,

Za razli~ite vrednosti la`ne promenljive, ponovo se dobijaju dve prvobitne jedna~ine:

C Y= + + 1 , - ratno vreme

C Y= + + + 1 , - mirnodopsko vreme

gde je 1 2+ =

Kod jedinstvene regresije, C je zavisna promenljiva a matrica podataka izgleda

0 1

0 1

1 0

1 0

1 0

0 1

0 1

1

2

3

4

5

6

Y

Y

Y

Y

Y

Y

Y n

63


64/86


65/86

P[Y/X]

X

X

X

X

Y

2

3

1

Kako je to nerealna pretpostavka, za stvarne poreme}aje se mo`e pretpostaviti da su

heteroskedasti~ni {to je ilustrovano na Sl. 4.2.

P[Y/X]

X

X

X

X

Y

2

3

1

Sl.4.2.

Pretpostavimo da je u linearnom modelu:

Y X= + +

varijansa oblika

( )V K X m =

gde m uzima vrednost 0 2 m , i K = const.

Kada je m = 0 tada je V K= = 2

{to je bio slu~aj koji je do sada razmatran. Neka je

WXi i

m=1

65


66/86


67/86

D

N

=

1 0 0

0 1 0

0 0 1

1

2

/

/

/

Zatim se sistem:

y xi i i= + i=1, 2, . . . , N

odnosno Y X= +

mno`i sa D kada se dobija:

( )D Y D X D= + (4.8)

Tada je:

( )[ ]E D D T =

1 0 0

0 1 0

0 0 1

D

N N

=

1 1

2 2

/

/

/

D Y

Y

Y

Y N N

=

1 1

2 2

/

/

/

DX

X X

X X

p

N N N pN N

=

1

1

1 11 1 1 1

1

/ / /

/ / /

67


68/86

Na ove transformisane podatke direktno se moè primeniti metoda obi~nih najmanjih

kvadrata kada se dobija ocena

( ){ } ( ) ( ) =

DX DX DX DYT T1 (4.9)

Ovo re{enje je isto kao i uop{tene metode najmanjih kvadrata, ali je dobijeno na

jednostavniji na~in. Ukratko, postupak za njegovo re{avanje se svodi na:

1) Transformisanje shodno jedna~ini (4.8)

2) Primenu metode obi~nih najmanjih kvadrata.

4.5. Uop{tena metoda najmanjih kvadrata

Jedna od osnovnih pretpostavki u re{avanju osnovne jedna~ine standardnog

linearnog modela:

Y X= +

metodom najmanjih kvadrata je bila:

( ) ( )V E IT e = =2

Me|utim, ova pretpostavka se moè zameniti slede}om koja je op{tija i time manje

ograni~ena:

( ) ( ) WEV T 2 == (4.9)

gde je 2 nepoznati faktor. a W poznata, pozitivno definitna matrica reda N.Ovakvom pretpostavkom se obuhvata heteroskedasti~nost, tj. slu~aj kad varijansa

nije konstantna, kao i mogu}nost korelacije gre{aka.

Pozitivna definitnost matrice W implicira da ne postoji savr{ena korelacija izme|u bilo

kog para gre{aka ( ) i j, , a tako|e da ne postoji savr{ena korelacija u celom skupu .

Problemu ocene parametara uz uslov (4.9')se moè pri}i na vi{e na~ina. Kako je W

simetri~na i pozitivna definitna matrica, tada mora da postoji nesingularna matrica P

reda N takva da je:

W PPT =1

Ako osnovnu jedna~inu linearnog modela pomno imo matricom P sa leve strane

dobijamo:

PY PX P= +

68


69/86

ili:

Y X1 1 1= + (4.10)

gde su:

Y P Y X P X i P1 1 1

= = =; ;

Na osnovu ovih definicija sledi da su gre{ke e homoskedasti~ne i sa nultom

kovarijansom, tj.:

( ) ( )( ) ( ) ( )E E P P PE P P WP P PP P IT T T T T T T 1 12 2 1 2= = = = =

te se prema tome na transformisanu jedna~inu (4.10) moè primeniti direktno metod

najmanjih kvadrata i dobiti ocena:

( ) 111

11 YXXXbTT =

ili izraèno preko originalnih promenljivih:

( ) YWXXWXb TT 111 = (4.11)

Ocena (4.11) za vektor parametara se ~esto naziva Aitken-ova ocena.

Lako se pokazuje da je varijansa ocena (4.11):

( ) ( )V b X W XT=

2 11

(4.12)

Isto tako, ocena varijanse slu~ajne gre{ke je:

( )e

Te W e

N k2

1

=

(4.13)

Na osnovu izraza (4.11), (4.12) i (4.13) moè se zaklju~iti da se na odgovaraju}e

veli~ine u uop{tenoj metodi najmanjih kvadrata, mogu formalno izvesti, kad se u

odgovaraju}im izrazima dobijenim standardnom metodom najmanjih kvadrata,

matrica X zameni matricom W-1X, vektor Y sa vektorom W-1Y i vektor e sa vektorom W-

1e.

4.6. Autokorelacija

U prethodnim razmatranjima, kod prou~avanja linearnih modela, jedna od

pretpostavki je bila da nulta - kovarijansa za ~lanove gre{ke implicira: ( )E IT , = 2 u

~emu ~lanovi sporedne dijagonale daju

( )E za sve t i sve st t s + = 0 0

69


70/86


71/86

Nadalje predpostavimo varijansu od :

( ) ( )

[ ] 32322121222222212

2

2

2

2

221

XXXXXXX

X

X

XEEV

N

t

t

tt

+++++

=

=

=

=

Kako su promenljive X fiksirane, dobi}e se:

( ) [

]

+

=

=++++++

+++++

=

+

=

sN

stt

N

s

s

t

t

N

t

XXXX

XXXXXX

XXXXXX

V

1

1

1

22

2

2

22

42

22

31

2

32

2

21

222

2

22

1

2

2

21

222

21

Kada su ~lanovi gre{ke serijski nezavisni ( = 0), tada ( )V zavisi samo od X i2 2 ,ali kada je gre{ka u serijskoj korelaciji, varijansa od zavisi i od ~lanova X Xt t s+

Ako istra iva~ zna vrednost parametara , tada se odgovaraju}om linearnom

transformacijom promenljivih, moè reducirati jedna~ina na formu u kojoj ocenjivanje

obi~nim najmanjim kvadratima obezbe|uje minimalnu varijansu ocenjivanja.

Primer: Kada je poznato, transformacija,

t t t* = 1

vaì i t* je serijski nekorelisano. Koriste}i jedna~inu (4.15) dobija se:

t t t t tv v* = + = 1 1

i vt je serijsko nezavisno i homoskedasti~no. Na taj na~in vt zadovoljava sve

pretpostavke za ocenjivanje obi~nim najmanjim kvadratima u cilju dobijanja najbolje

nepristrasne ocene.

Pretpostavimo osnovni model koji odgovara vremenskim periodima t i t-1:

y Xt t t= + (4.17)

y Xt t t = +1 1 1 (4.18)

Jedna~inu (4.18) treba pomnoìti sa , tj.:

y Xt t t = +1 1 1

i oduzeti od jedna~ine (4.17) kada se dobija:

71


72/86

( ) ( ) ( )111 ++= tttttt xXyy (4.19)

Defini{u}i promenljive y* i x* kao ( )y yt t 1 i ( )X xt t+ 1 , respektivno, kona~no se

dobija

y Xt t t* * *= + (4.20)

U jedna~ini (4.20) ~lan gre{ke je serijski nekorelisan i homoskedasti~an.

Od ranije se zna da je:

( ) ( )E i V v

1 1

2

20 1= =

pa odogovaraju}om transformacijom 1 , moè se dobiti 1* koje }e imati iste

statisti~ke osobine kao i ostali s* .

Kako je ( )12

konstantno moè se pisati:

( ) 12

11* =

odnosno

( ) ( )V v 12 2 21* = =

pa se analogno tome dobija:

( )

( )

y y

x x

12

1

12

1

1

1

*

*

=

=

Sada je problem sveden na T zapaànja i ocenjivanja obi~nim najmanjim kvadratima

vredi za nepristrasnu minimalnu varijansu ocenjivanje . Napomena: To je ta~no

metod uop{tenih najmanjih kvadrata. Pretpostavimo najop{tiji slu~aj:

Y X X Xt t t p pt t= + + + + + 0 1 1 2 2

gde je ~lan gre{ke generisan sa Markovljevim lancem prvog reda sa parametrom .

Sada se èli dobiti uop{tena najmanja ocena primenjuju}i obi~ne najmanje kvadrate

na:

Y X X Xt t t p pt t* * * * * * * * *= + + + + + 0 1 1 2 2

gde su:

72


73/86


74/86

* =

e

e

t t

t

1

1

2

Ocenjeno * nije ta~na vrednost za , a i ima statisti~ku raspodelu. Ono nije

konzistentno, ali pristrasno u malim uzorcima. Pristrasnost je negativna i reda je / T,

kada T predstavlja veli~inu uzorka.

Kada su nezavisne promenljive tako|e u serijskoj korelaciji, tada pristrasnost zavisi

tako|e od parametara koji generi{u njihovu serijsku korelaciju gde je:

X X wt t t= + 1

a pristrasnost je jednaka:

( )[ ] + / T

Varijansa od * je reda 1/T.

4.6.1. Durbin-Watson-ov test prisustva autokorelacije

Uvodi se statistika

( )d

e e

e

i ii

N

ii

N=

=

=

1

2

2

2

1

ei - ocenjena vrednost ~lana slu~ajne gre{ke.

Razvijanje gornjeg izraza sledi

11

2

1

2

2

1

1

2

Documents

ekonometrija - seminarski, diplomski, maturski radovi, ppt i skripte na