92
MÔ HÌNH HỒI QUY 2 BIẾN ThS Nguyễn Thị Kim Dung

Mô hình hổi qui đơn biến

Embed Size (px)

DESCRIPTION

Mô hình hổi qui đơn biến Slides ò Ms.kim Dung

Citation preview

Page 1: Mô hình hổi qui đơn biến

MÔ HÌNH

HỒI QUY 2 BIẾN

ThS Nguyễn Thị Kim Dung

Page 2: Mô hình hổi qui đơn biến

1. MÔ HÌNH HỒI QUY

1.1 MÔ HÌNH HỒI QUY TỔNG THỂ

Ví dụ 1:

Nghiên cứu mối quan hệ giữa mức chi tiêu Y và mức

thu nhập X của 60 hộ gia đình (USD/tuần), ta có biểu

đồ sau (bằng phần mềm Eview):

Giả sử ta có X là biến độc lập, Y là biến phụ thuộc.

Ta quan tâm sự ảnh hưởng của X đến Y ?

Page 3: Mô hình hổi qui đơn biến

E(Y/ Xi)

Nhận xét:

Khi thu nhập tăng

thì chi tiêu cũng

tăng.

E(Y/ Xi) là 1 số phụ

thuộc X, nằm trên

đường thẳng có hệ

số góc dương.

Vậy E(Y/ Xi) là một

hàm của Xi

1. MÔ HÌNH HỒI QUY

1.1 MÔ HÌNH HỒI QUY TỔNG THỂ

E( Y/ Xi )= f (Xi )

được gọi là hàm

hồi quy

Page 4: Mô hình hổi qui đơn biến

1. MÔ HÌNH HỒI QUY

1.1 MÔ HÌNH HỒI QUY TỔNG THỂ

Xét trường hợp đơn giản nhất: f(Xi) có dạng tuyến tính

Hàm hồi quy tổng thể PRF :

E( Y/ Xi )= 1 + 2 Xi

trong đó 1,2 là các hệ số hồi quy

Ý nghĩa các hệ số hồi quy:

E( Y/ Xi =0 )= 1 : 1 là hệ số tự do (hệ số chặn), cho

biết trung bình của Y khi X = 0

E( Y/ Xi = Xi +1)= 1 + 2 (Xi +1)

E( Y/ Xi = Xi +1)- E( Y/ Xi )= 2 : 2 là hệ số góc, cho

biết khi X tăng 1 đơn vị thì trung bình Y tăng 2 đơn vị

Page 5: Mô hình hổi qui đơn biến

1. MÔ HÌNH HỒI QUY

1.1 MÔ HÌNH HỒI QUY TỔNG THỂ

Nhận xét:

Trong thực tế

không chỉ có thu

nhập ảnh hưởng

đến tiêu dùng.

Vì vậy để phù

hợp thực tế ta cần

thêm vào yếu tố

ngẫu nhiên

Page 6: Mô hình hổi qui đơn biến

1. MÔ HÌNH HỒI QUY

1.1 MÔ HÌNH HỒI QUY TỔNG THỂ

Mô hình hồi quy tổng thể:

Yi= 1 + 2 Xi + Ui

với Ui là sai số ngẫu nhiên

Chú ý:

Yi = 1 + 2 Xi + Ui

Yếu tố tác động

chính, tạo nên

tính xu thế, ổn

định

Các yếu tố khác, có

tính ngẫu nhiên

(nhiễu) tạo nên

yếu tố ngẫu nhiên

Page 7: Mô hình hổi qui đơn biến

X

Y

1 2 i i iY X U

Xi

Yi

Ui

1 2( / ) ( ) i iE Y X X PRF

TÓM TẮT

Page 8: Mô hình hổi qui đơn biến

1. MÔ HÌNH HỒI QUY

1.2 MÔ HÌNH HỒI QUY MẪU

Trong thực tế ta không điều tra toàn bộ tổng thể mà

chỉ điều tra trên mẫu

• Hàm hồi quy mẫu SRF: 1 2ˆ ˆˆ i iY X

Trong đó: là ước lượng điểm của E(Y/Xi) ˆiY

1 là ước lượng điểm của 1, 2 2ˆ,

• Mô hình hồi quy mẫu

1 2ˆ ˆ i i iY X e

ei là ước lượng điểm của Ui và được gọi là phần dư

i i ie Y Y

Page 9: Mô hình hổi qui đơn biến

TÓM TẮT

X

Y

1 2ˆ ˆˆ ( ) i iY X SRF

Xi

Yi

Ui

ei

1 2( / ) ( ) i iE Y X X PRF

Page 10: Mô hình hổi qui đơn biến

Ví dụ: Ta chọn ra 1 mẫu về thu nhập và tiêu

dùng như sau:

Yi 70 65 90 95 110 115 120 140 155 150

Xi 80 100 120 140 160 180 200 220 240 260

Hàm hồi quy mẫu:

ˆ 24,4545 0,5091 i iY X

1. MÔ HÌNH HỒI QUY

1.2 MÔ HÌNH HỒI QUY MẪU

Page 11: Mô hình hổi qui đơn biến

2. PHƯƠNG PHÁP BÌNH PHƯƠNG

NHỎ NHẤT ( OLS )

• Giả sử ta có mẫu gồm n cặp quan sát của Y và X, cặp quan sát thứ i có giá trị tương ứng là (Yi , Xi ), i=1,…,n. Khi đó ta có hàm hồi quy mẫu là

• Ta cần tìm sao cho nó gần với giá trị thực Yi nhất, tức là phần dư càng nhỏ càng tốt

2.1. Nội dung phương pháp bình phương nhỏ nhất

ˆiY

1 2ˆ ˆˆ i iY X

i i ie Y Y

Page 12: Mô hình hổi qui đơn biến

2. PHƯƠNG PHÁP BÌNH PHƯƠNG

NHỎ NHẤT ( OLS )

X

Y

1 2ˆ ˆˆ i iY X

X2

Y3

e3

X3 X1

Y1

Y2

e1

e2

ˆ i i ie Y Y

Page 13: Mô hình hổi qui đơn biến

Tìm sao cho

• Đây là bài toán tìm cực trị cho hàm 2 biến, ta cần tìm sao cho

Nhận xét

ˆiY 2

1

min

n

i

i

e

22

1 2

1 1

ˆ ˆˆ min

n n

i i i i

i i

Y Y Y X

2

1 2 1 2

1

ˆ ˆ ˆ ˆ, min

n

i i

i

f Y X

1 2ˆ ˆ, min f1 2

ˆ ˆ,

Page 14: Mô hình hổi qui đơn biến

• là nghiệm của hệ phương trình sau

• với

Tìm điểm dừng

14

1 2ˆ ˆ,

1

2

'

ˆ

'

ˆ

0

0

f

f

1 2

1

1 2

1

ˆ ˆ2 1 0

ˆ ˆ2 0

n

i i

i

n

i i i

i

Y X

Y X X

2

1 2 1 2

1

ˆ ˆ ˆ ˆ,

n

i i

i

f Y X

Page 15: Mô hình hổi qui đơn biến

Tìm điểm dừng

15

1 2

1

1 2

1

ˆ ˆ 0 1

2ˆ ˆ 0

n

i i

i

n

i i i

i

Y X

Y X X

1 2

1 1

2

1 2

1 1 1

ˆ ˆ 0

ˆ ˆ 0

n n

i i

i i

n n n

i i i i

i i i

Y n X

Y X X X

Page 16: Mô hình hổi qui đơn biến

Tìm điểm dừng

16

Giải hệ phương trình này, ta thu được kết quả:

2 22

1 2

ˆ ˆ

XY X Y

X X

Y X

12

22

1

1 2

. .ˆ

ˆ ˆ

n

i i

i

n

i

i

X Y n X Y

X n X

Y X

Hoặc

1 2

1 1

2

1 2

1 1 1

ˆ ˆ

ˆ ˆ

n n

i i

i i

n n n

i i i i

i i i

n X Y

X X Y X

Page 17: Mô hình hổi qui đơn biến

Giải hệ phương trình

17

1 2

1

2

1 2

1

ˆ ˆ 0

ˆ ˆ 0

n

i i

i

n

i i i i

i

Y X

Y X X X

1 2

1 1

2

1 2

1 1 1

ˆ ˆ

ˆ ˆ

n n

i i

i i

n n n

i i i i

i i i

n X Y

X X Y X

Page 18: Mô hình hổi qui đơn biến

Giải hệ phương trình

18

1 2

1 1

2

1

1 1

2

1 1 1

1

ˆ ˆ (1')

ˆ ˆ (2 ')

n n n

i i i

i i

n n

i i

i i

n n n

i i i i

i i

i

i

X X X

n n n

n X Y

X X Y X

1 1 12

2

1 1 1

(2 ') (1')

ˆ *

n n n

i i i i

i i i

n n n

i i i

i i i

n X Y X Y

n X X X

Page 19: Mô hình hổi qui đơn biến

• Chia cả tử và mẫu (*) cho n

Giải hệ phương trình

19

1 1

21

2

2 1 1

21

n n

i ini i

i i

i

n n

i ini i

i

i

n X Y

X Yn

n X X

Xn

12

22

1

.

n

i i

i

n

i

i

X Y nX Y

X n X

Page 20: Mô hình hổi qui đơn biến

• Chia cả tử và mẫu (*) cho n2

Giải hệ phương trình

20

1 1 1

2

2

1 1 1

1 1 1

ˆ1 1 1

n n n

i i i i

i i i

n n n

i i i

i i i

X Y X Yn n n

X X Xn n n

2 22

.

XY X Y

X X

Chia 2 vế của pt (1) cho n ta có

1 2ˆ ˆ 0 Y X 1 2

ˆ ˆ Y X

Page 21: Mô hình hổi qui đơn biến

• Ta còn có thể biểu diễn công thức dưới dạng sau:

Chú ý

21

2

1

22

1

ˆ trong ño ù

n

i i

i

n

i

i

XY

XX

XY

XX

S X X Y YS

SS X X

Hướng dẫn chứng minh: dùng 2 công thức sau

1 1

1 1

n n

i i

i i

X X Y Yn n

Page 22: Mô hình hổi qui đơn biến

• Chứng minh:

Chú ý

22

1 1

1 1 1

1 1

n n

i i i i i i

i i

n n n

i i i i

i i i

n n

i i i i

i i

XYS X X Y Y X Y X Y Y X XY

X Y Y X X Y nXY

X Y YnX XnY nXY X Y nXY

Page 23: Mô hình hổi qui đơn biến

• Chứng minh:

Chú ý

23

2 2

2

1 1

22

1 1

22

1

22

1

2

2

2

n n

i i i

i i

n n

i i

i i

n

i

i

n

i

i

XXS X X X X X X

X X X nX

X XnX nX

X nX

Page 24: Mô hình hổi qui đơn biến

• Phương pháp bình phương nhỏ nhất cho ta các công thức tính như sau:

Tổng kết

24

1 2ˆ ˆ,

2 22

1 2

ˆ ˆ

XY X Y

X X

Y X

12

22

1

1 2

. .ˆ

ˆ ˆ

n

i i

i

n

i

i

X Y n X Y

X n X

Y X

1

22

1

ˆ trong ño ù

n

i i

i

n

i

i

XY

XX

XY

XX

S X X Y YS

SS X X

Page 25: Mô hình hổi qui đơn biến

• Quan sát mẫu số liệu về chi phí chào hàng và doanh số bán hàng của 12 doanh nghiệp:

• X: chi phí chào hàng (triệu đồng/năm)

• Y: doanh số bán hàng (triệu đồng/năm)

• Giả sử X,Y có mối quan hệ tuyến tính, hãy ước lượng hàm hồi quy của doanh số bán hàng phụ thuộc chi phí chào hàng ?

Ví dụ 1

25

Xi 100 106 60 160 70 170 140 120 116 120 140 150

Yi 1270 1490 1060 1626 1020 1800 1610 1280 1390 1440 1590 1380

Page 26: Mô hình hổi qui đơn biến

• B1 -Xóa dữ liệu: SHIFT/CLR/3(ALL)

• B2 -Vào chương trình: MODE/ MODE/ phím số 2 (REG)/ phím số 1 (LIN)

• B3 -Nhập dữ liệu: nhập theo từng cặp Xi ,Yi

nhập xong bấm M+ . Nhập xong nhớ bấm AC

• B4 -Gọi kết quả:

• SHIFT/1: cho ta kết quả của

• SHIFT/2: cho ta kết quả của ( tương ứng A,B )

HƯỚNG DẪN DÙNG MÁY TÍNH BỎ TÚI FX 570 MS

2

1 1 1 1

, , ,

n n n n

i i i i i

i i i i

X X Y X Y

1 2ˆ ˆ, , , X Y

Page 27: Mô hình hổi qui đơn biến

• B1 -Xóa dữ liệu: SHIFT/9(CLR)/3(ALL)

• B2 -Vào chương trình: MODE/3 (STAT)/ 2(A+BX)

• B3 -Nhập dữ liệu: nhập theo từng cột Xi ,Yi nhập xong bấm = . Nhập xong nhớ bấm AC

• B4 -Gọi kết quả:

• SHIFT/1/4: cho ta kết quả của

• SHIFT/1/5: cho ta kết quả của

• SHIFT/1/7: cho ta kết quả của

( tương ứng A,B )

HƯỚNG DẪN DÙNG MÁY TÍNH BỎ TÚI FX 570 ES

2

1 1 1 1

, , ,

n n n n

i i i i i

i i i i

X X Y X Y

,X Y

1 2ˆ ˆ,

Page 28: Mô hình hổi qui đơn biến

• Từ bảng số liệu, ta tính được:

• Thay vào công thức, ta có:

Giải

28

CM

12 122

1 1

12 12

1 1

1452 , 188192

16956 , 2128740

i i

i i

i i i

i i

X X

Y X Y

2

1

ˆ 6,16512

ˆ 667,02048

Page 29: Mô hình hổi qui đơn biến

• Vậy hàm hồi quy tuyến tính mẫu của doanh số bán hàng theo chi phí chào hàng là :

Giải

29

ˆ 667,02048 6,16512. i iY X

Ý nghĩa các hệ số hồi quy:

Khi không chào hàng thì doanhh số bán hàng

trung bình là 667,02048 triệu đồng/năm

Khi chi phí chào hàng tăng (hay giảm) 1 triệu

đồng/năm, thì doanh số bán hàng trung bình

tăng (hay giảm) 6,16512 triệu đồng/năm

Page 30: Mô hình hổi qui đơn biến

• Quan sát thu nhập (triệu đồng) và chi tiêu (triệu đồng) của 10 hộ gia đình, ta có mẫu số liệu:

• Viết hàm hồi quy tuyến tính mẫu chi tiêu theo thu nhập? Ý nghĩa các hệ số hồi quy?

Bài tập 1

30

Thu nhập X 8 9 10 11 12 15 15 16 17 20

Chi tiêu Y 7 8 9 8 10 12 11 13 12 15

Page 31: Mô hình hổi qui đơn biến

• Y(lượng cam được bán –tấn/tháng)

• X (giá cam – ngàn đ/kg)

• Viết hàm hồi quy tuyến tính mẫu lượng cam bán ra theo giá cam ?Ý nghĩa các hệ số hồi quy?

Bài tập 2

31

Lượng cam Y 14 13 12 10 8 9 8 7 6 6

Giá cam X 2 2 3 4 5 5 6 7 8 9

Page 32: Mô hình hổi qui đơn biến

• 3. Chứng minh công thức ?

• 4. Các hệ số có phải là duy nhất ?

• 5. Các hệ số là ngẫu nhiên hay xác định?

Bài tập

32

1 2ˆ ˆ,

1 2,

1 2ˆ ˆ,

Page 33: Mô hình hổi qui đơn biến

• 1. SRF luôn đi qua điểm trung bình

• 2.Giá trị trung bình ước lượng bằng giá trị TB thực tế

• 3. Giá trị trung bình phần dư bằng 0 hay

• 4. Các phần dư ei không tương quan với

• 5. Các phần dư ei không tương quan với

2.2. Các tính chất của hàm hồi quy mẫu (SRF) tìm được bằng phương pháp OLS

33

ˆ Y Y

1

0

n

i

i

e

1

ˆ 0

n

i i

i

Y e

1

0

n

i i

i

e X

ˆ :iY

,X Y

iX

Page 34: Mô hình hổi qui đơn biến

Để chứng minh các tính chất này, ta sử dụng hệ phương trình sau:

34

1 2

1

1 2

1

ˆ ˆ 0 1

2ˆ ˆ 0

n

i i

i

n

i i i

i

Y X

Y X X

1

2

'

ˆ

'

ˆ

0

0

f

f

Page 35: Mô hình hổi qui đơn biến

• Từ (1):

• Chia 2 vế của (1) cho n, ta có

Tính chất 1:

SRF luôn đi qua điểm trung bình

35

( , )X Y

1 2

1

ˆ ˆ 0

n

i i

i

Y X

1 2

1 2

ˆ ˆ 0

ˆ ˆ

Y X

Y X

Page 36: Mô hình hổi qui đơn biến

• Từ (1) :

Tính chất 2:

Giá trị trung bình ước lượng bằng giá trị TB thực tế

36

ˆ Y Y

1 2

1

ˆ ˆ 0

n

i i

i

Y X

1

ˆ 0

n

i i

i

Y Y

1 1

ˆ

ˆ

n n

i i

i i

Y Y

Y Y

Page 37: Mô hình hổi qui đơn biến

• Từ (1) :

Tính chất 3:

Giá trị trung bình các phần dư

37

1

ˆ 0

n

i i

i

Y Y

1

0

n

i

i

e

1

0

n

i

i

e

1 2

1

ˆ ˆ 0

n

i i

i

Y X

Page 38: Mô hình hổi qui đơn biến

• Từ (2) :

Tính chất 4:

Các phần dư ei không tương quan với

38

1

ˆ 0

n

i i i

i

Y Y X

1

0

n

i i

i

e X

1 2

1

ˆ ˆ 0

n

i i i

i

Y X X

1

0

n

i i

i

e X

iX

Page 39: Mô hình hổi qui đơn biến

• Ta có

Tính chất 5:

Các phần dư ei không tương quan với

39

ˆiY

1

ˆ 0

n

i i

i

Y e

1 2

1 1

1 2

1 1

ˆ ˆˆ

ˆ ˆ

n n

i i i i

i i

n n

i i i

i i

eY e X

e e X

=0 (tc 3) =0 (tc 4)

1

ˆ 0

n

i i

i

Y e

Page 40: Mô hình hổi qui đơn biến

3. ĐO LƯỜNG MỨC ĐỘ PHÙ HỢP CỦA ƯỚC

LƯỢNG THEO OLS

3.1. HỆ SỐ XÁC ĐỊNH

X

Y

Y

Xi

Yi

Y

iY Y

ˆ i i iY Y e

ˆ iY Y

Page 41: Mô hình hổi qui đơn biến

2 22

1 1 1 1

2

n n n n

i i i i i i i

i i i i

i

Y Y Y Y Y Y Y Y Y Y

e

1 1 1

00

mà 2 2 2

n n n

i i i i i i

i i i

i

Y Y Y Y Ye Y e

e

2 22

1 1 1

n n n

i i i i

i i i

Y Y Y Y Y Y

ˆ ˆ i iiiY Y YY YY

Page 42: Mô hình hổi qui đơn biến

X

Y

Y

Xi

Yi

Y

2

iTSS Y Y

2ˆ i iRSS Y Y

2

ˆ iESS Y Y

Page 43: Mô hình hổi qui đơn biến

TSS ESS RSS

2 22

1 1

TSS .

n n

i i

i i

Y Y Y n Y

= Total sum of square

= Residual sum of square

2

1

ˆRSS

n

i i

i

Y Y

Page 44: Mô hình hổi qui đơn biến

= Explained sum of square

1 2

2

1 2

Ta có:

ˆ ˆ= +ˆˆ

ˆ ˆ+

i i

i i

Y XY Y X X

Y X

22 22

2

1 1

ˆˆESS .

n n

i i

i i

Y Y X n X

TSS ESS RSS

Page 45: Mô hình hổi qui đơn biến

Sự biến động của Y= Sự biến động gây ra bởi X

+ Sự biến động bởi các nguyên nhân khác

1 ESS RSS

TSS TSS

100% sự biến động của Y= ….% sự biến động

gây ra bởi X + …. % sự biến động bởi các

nguyên nhân khác

TSS ESS RSS

Page 46: Mô hình hổi qui đơn biến

2 1 ESS RSS

RTSS TSS

R2 = Hệ số xác định, cho biết sự thay đổi của Y

là bao nhiêu % do X ( bao nhiêu % do các

nguyên nhân khác)

Hệ số xác định đo mức độ phù hợp của hàm

hồi quy

Đặt 20 1 R

Page 47: Mô hình hổi qui đơn biến

Ý nghĩa của hệ số xác định

2

2

1 : haøm hoài quy phuø hôïp hoaøn haûo, bieán X

giaûi thích ñöôïc 100% söï thay ñoåi cuûa bieán Y

0 1 : bieán X giaûi thích ñöôïc a.100%

thay ñoåi cu

R

R a a

2

ûa bieán Y

0 : X,Y khoâng coù quan heä tuyeán tínhR

Page 48: Mô hình hổi qui đơn biến

0

1

2

3

0 2 4 6 8

Y

X

0

2

4

6

8

0 5 10

2 ?R

0

1

2

3

4

5

6

0 2 4 6

0

1

2

3

4

0 2 4 6 8

Y

X

Page 49: Mô hình hổi qui đơn biến

• Hãy xác định mức độ chính xác của mô hình vừa tìm được?

• ( Hay biến X giải thích sự thay đổi của biến Y như thế nào?)

Ví dụ 1.1

(tiếp theo ví dụ 1)

Page 50: Mô hình hổi qui đơn biến

Giải

22

1

2 22

2

1

2

TSS .

ˆESS .

ESSR

TSS

n

i

i

n

i

i

Y n Y

X n X

Vậy chi phí chào hàng giải thích được 80,4% sự thay đổi

của doanh số bán hàng.

( Hay mô hình hồi quy mẫu vừa tìm được phù hợp 80,4% )

2

2 2

24549576 12. 1413 590748

6,16512 . 188192 12.121 475108,81

0,80425 80,425%

Page 51: Mô hình hổi qui đơn biến

Chú ý sự khác nhau về kí hiệu của 2 giáo trình

Page 52: Mô hình hổi qui đơn biến

3.2. HỆ SỐ TƯƠNG QUAN

2 r R và r trùng dấu

với 2

• Ý nghĩa của hệ số tương quan:

• Hệ số tương quan đo mức độ chặt chẽ trong quan

hệ tuyến tính giữa X và Y.

• -1 r 1.

• |r| càng gần 1 thì mối quan hệ càng chặt chẽ

Page 53: Mô hình hổi qui đơn biến

Tìm r : SHIFT/2, gọi kết quả r

Tìm R2 : lấy bình phương kết quả r vừa tìm

được

Ví dụ 1.2

Hãy nhận xét quan hệ tuyến tính giữa X và Y?

Giải:

2

2ˆ 0 nên 0,80425 0,896799 r R

Vậy X và Y có quan hệ tuyến tính thuận, chặt chẽ

SỬ DỤNG MÁY TÍNH BỎ TÚI ĐỂ TÍNH r VÀ R2

Page 54: Mô hình hổi qui đơn biến

4. BẢN CHẤT THỐNG KÊ CỦA MÔ HÌNH HỒI QUY ĐƠN

Ta có:

1

22

1

ˆ trong ño ù

n

i i

i

n

i

i

XY

XX

XY

XX

S X X Y YS

SS X X

1 1

2

0

n n

i i i

i i

XX XX

X X Y X X Y

S S

Page 55: Mô hình hổi qui đơn biến

1

2

n

i i

i

XX

X X Y

SĐặt

i

i

XX

X XC

S

2

1

i i

n

i

C Y

2 1 2

1

i i i

n

i

C X U

2 1 2

1 1 1

0 1

i i i i i

n n n

i i i

C C X CU

2 2

1

i i

n

i

CU

Page 56: Mô hình hổi qui đơn biến

• Ci chỉ phụ thuộc Xi, không bị ảnh hưởng bởi yếu tố ngẫu nhiên, vì vậy mỗi Ci là 1 hằng số

• phụ thuộc vào yếu tố ngẫu nhiên Ui ,

nên cũng là 1 yếu tố ngẫu nhiên

Nhận xét:

2

2

Page 57: Mô hình hổi qui đơn biến

4.1. GIẢ ĐỊNH CỦA CÁC YẾU TỐ NGẪU NHIÊN

• Với các giả thiết sau đây thì các ước lượng tìm được bằng PP OLS sẽ là các ước lượng tuyến tính, không chệch, có phương sai nhỏ nhất.

Định lý Gauss-Markov

Page 58: Mô hình hổi qui đơn biến

X1 X2 Xn X

Y

+Ui

-Ui

Page 59: Mô hình hổi qui đơn biến

Giả thiết A1: 0 iE U i

Giả thiết A2: 2Var iU i

Kết hợp A1 và A2 ta có giả thiết A3

Giả thiết A3: 2N 0, iU iiid

Giả thiết A4: E( Yi/ Xi )= 1 + 2 Xi

Page 60: Mô hình hổi qui đơn biến

4.2 ĐẶC TRƯNG THỐNG KÊ CỦA ƯỚC

LƯỢNG OLS

2 2 E

2 2

1

ˆTa có :

i i

n

i

CU

2 2 2

2 2

1 1

1

ˆ

0(A1)

i i i i

i i

n n

i i

n

i

E E CU E E CU

C E U

Page 61: Mô hình hổi qui đơn biến

2

2ˆVar

XXS

2 2

2

2

3

2

1

2

1 1

2

1

ˆVar Var

Va Ar Var

A

i i

i i i

XX

n

i

n n

ii i

n

ii

CU

CU C U

C

S

2 2

1

ˆTa có : i i

n

i

CU

Page 62: Mô hình hổi qui đơn biến

2 2

2ˆ ,

XX

NS

2 2

2

1

Vì :

ˆ

ˆ

maø laø bnn co ù phaân phoái chuaån (gt A3)

neân laø bieán ngaãu nhieân co ù phaân phoái chuaån

i i

i

n

i

CU

U

2 2 E

2

2ˆVar

XXS

Page 63: Mô hình hổi qui đơn biến

1 1ˆE

1 2 2

1ˆ ˆ ˆTa có : i iY X Y Xn

1 1 2 2

1ˆ ˆi i iE E E X EU E X

n

1 2 2

1 ˆi i iX U X

n

1 2 2

1 ˆ0i iE X X En

1 1

1n

n

Page 64: Mô hình hổi qui đơn biến

1 2 1 2ˆ ˆ ˆ ˆˆ ˆó : i i i iY X Y X Ta c

2

11

2ˆVar

n

i

i

XX

X

n S

1 2ˆ ˆˆVar Var i iY X 2

2ˆ= VariX 1,...,i n

2

1 2

1 1

ˆ ˆVar = Varn n

i

i i

X

2

2

1

1

ˆVar =n

i

i XX

n X dpcmS

Page 65: Mô hình hổi qui đơn biến

2

1 1

2ˆ ,

i

XX

XN

n SVậy

Page 66: Mô hình hổi qui đơn biến

5. ƯỚC LƯỢNG VÀ KIỂM ĐỊNH GIẢ THIẾT CÁC HỆ SỐ HỒI QUY

5.1. KHOẢNG TIN CẬY

ˆ ˆTa co: ,Var i i iN

ˆ2

ˆi i

i

T nSe

- t(n-2) /2 0 t(n-2)

/2

/2 /2

1 -

Page 67: Mô hình hổi qui đơn biến

- t(n-2) /2 0 t(n-2)

/2

/2 /2

1 -

( 2) ( 2)

/2 /2

ˆ1

ˆ

i i

i

n nP t t

Se

( 2) ( 2)

/2 /2

ˆ ˆ ˆ ˆ 1

i i i i i

n nP t Se t Se

Page 68: Mô hình hổi qui đơn biến

- t(n-2) /2 0 t(n-2)

/2

/2 /2

1 -

( 2)

/2

ˆ ˆ 1i i i

nt Se

vaäy :

vôùi do tin caäy

Page 69: Mô hình hổi qui đơn biến

VÍ DỤ 1.3

Với độ tin cậy 1- = 0,95, hãy tìm khoảng tin

cậy cho 2 , 1?

Hướng dẫn:

Để tìm khoảng tin cậy cho 2, ta cần tìm 3 dữ kiện:

( 2)

2 2

2

ˆ ˆ, , nt se

2 2

2 222

1

ˆ ˆvar

.

n

XXi

i

seS

X n X

2

2 2 1

ˆRSS

ˆ= = =2 2

n

i i

i

Y Y

n n

Page 70: Mô hình hổi qui đơn biến

GIẢI

( 2) ( 2)

2 2 2 2

2 2

ˆ ˆ ˆ ˆ. ; .

n nt se t se

Khoảng tin cậy cho 2

2

222

1

ˆvar

.

n

i

i

X n X2

11563,919

188192 12.121

0,925112

2 2ˆ ˆvar 0,96183 se

Khoảng tin cậy:

4,02216 ; 8,30808

Page 71: Mô hình hổi qui đơn biến

2

211 2

22

1

188192.11563,919ˆvar12 188192 12.121

.

14508,223

n

i

i

n

i

i

X

n X n X

1 1ˆ ˆvar 120,45 se

Vậy khoảng tin cậy cho 1 là:

( 2) ( 2)

1 1 1 1

2 2

ˆ ˆ ˆ ˆ. ; .

n nt se t se

398,65788 ; 935,38308

Page 72: Mô hình hổi qui đơn biến

5.2. KIỂM ĐỊNH GIẢ THUYẾT

*

0 2

ˆ

ˆ

i i

n

i

t tse

0

( 2) ( 2)

/2 /21

n nP t t t

: mức ý nghĩa

- t(n-2) /2 0 t(n-2)

/2

/2 /2

1 -

Page 73: Mô hình hổi qui đơn biến

73

Kiểm định hai

bên

Kiểm định bên

trái

Kiểm định bên

phải

- t/2(n-2) t/2

(n-2)

/2

1 -

/2

t(n-2)

1 -

- t(n-2)

1 -

*

0

*

1

:

:

i i

i i

H

H

*

0

*

1

:

:

i i

i i

H

H

*

0

*

1

:

:

i i

i i

H

H

*

0

ˆ

ˆ

i i

i

tse

Page 74: Mô hình hổi qui đơn biến

74

Kiểm định hai

bên

Kiểm định bên

trái

Kiểm định bên

phải

Bác bỏ Ho khi:

|t0|>t/2(n-2)

Bác bỏ Ho khi:

t0 < -t(n-2)

Bác bỏ Ho khi:

t0 > t(n-2)

*

0

*

1

:

:

i i

i i

H

H

*

0

*

1

:

:

i i

i i

H

H

*

0

*

1

:

:

i i

i i

H

H

*

0

ˆ

ˆ

i i

i

tse

Page 75: Mô hình hổi qui đơn biến

VÍ DỤ 1.4

Với mức ý nghĩa 5%, hãy kiểm định giả thiết 0 2

1 2

: 0

: 0

H

HGiải

Cách 1:

2 2

0 2

Ta thaáy:

0 khoâng naèm trong khoaûng öôùc löôïng cuûa

Vaäy baùc boû H heä soá thöïc söï coù yù nghóa

trong moâ hình hoài quy

Khoảng tin cậy cho 2 4,02216 ; 8,30808

Page 76: Mô hình hổi qui đơn biến

CÁCH 2:

*

2 20

2

ˆ 6,16512 06,4097

ˆ 0,96183

t

se

( 2) (10)

0.025

2

2.228

nt t

( 2)

0 0

2

Ta thaáy: baùc boû giaû thieát H

Vaäy chi phí chaøo haøng thaät söï

coù aûnh höôûng ñeán doanh soá baùn haøng

n

t t

0 2

1 2

: 0

: 0

H

H

Page 77: Mô hình hổi qui đơn biến

P-VALUE

77 t (n-2)

t0

P-value

P-value = P(| t(n-2) | |t0|)

Page 78: Mô hình hổi qui đơn biến

P-VALUE

78

P-value = P(|t(n-2) | |t0|)

- t/2 t/2

/2 /2

-t0 t0

P-value/2 P-value/2

Page 79: Mô hình hổi qui đơn biến

Quy luật dùng P-value:

P-value < Bác bỏ Ho

P-value Chấp nhận Ho

Page 80: Mô hình hổi qui đơn biến

5.3. KIỂM ĐỊNH SỰ PHÙ HỢP CỦA HÀM HỒI QUY

Kiểm định giả thiết

2

0 20

2

1 21

H : 0H : 0

H : 0H : 0

R

R

ESS 2

(1, 2)

nF F n

RSS

B1: Tính

2

2

2

1

Tra baûng tìm 1, 2 (phuï luïc 4)

R nF

R

F n

B2: Kết luận: Bác bỏ H0 nếu 1, 2F F n

Page 81: Mô hình hổi qui đơn biến

VÍ DỤ 1.5 Với độ tin cậy 95%, hãy kiểm định sự phù hợp của

mô hình hồi quy tìm được?

2

2

2 0,80425. 12 241,08

1 1 0,80425

R nF

R

0,051, 2 1,10 4,96 F n F

0

Ta thaáy: 1, -2 baùc boû giaû thieát H

Vaäy moâ hình hoài quy phuø hôïp vôùi moâ hình

toång theå

F F n

Page 82: Mô hình hổi qui đơn biến

6. DỰ BÁO

X

Y

ˆiY

X0

Y0

E(Y/Xi)

Y0

0Y

E(Y/X0)

Page 83: Mô hình hổi qui đơn biến

6. DỰ BÁO

6.1. Dự báo điểm cho E(Y/X0 )

Ta có: là ước lượng điểm của E(Y/X0).

Vậy khi X=X0 , dự báo giá trị E(Y/X0 ) là 0Y

0 1 2 0 Y X

6.2. Dự báo khoảng cho E(Y/X0 )

Với độ cậy 1- ,dự báo khoảng của E(Y/X0) là

( 2)

0 / 2 0ˆ ˆ.

nY t se Y

2

0 2

0

1ˆtrong do: var . XX

X XY

n S

Page 84: Mô hình hổi qui đơn biến

Với độ tin cậy 1- ,dự báo khoảng của Y0 là

( 2)

0 0 0

2

ˆ ˆ.

nY t se Y Y

6.3. Dự báo khoảng cho Y0

2

0 2

0 0

1ˆvar 1 . XX

X XY Y

n S

Page 85: Mô hình hổi qui đơn biến

VÍ DỤ 1.6

Dự báo doanh thu khi chi phí chào hàng là 140 triệu

đồng?

Giải:

TH 1:

Thay X0=140 vào hàm hồi quy, ta có

Vậy khi chi phí chào hàng là140 trđ/ năm thì doanh

thu trung bình là 1530,1373 triệu đồng/năm

0ˆ 1530,1373Y

Page 86: Mô hình hổi qui đơn biến

( 2) ( 2)

0 0 0 0

2 2

ˆ ˆ ˆ ˆ. ; .

n nY t se Y Y t se Y

1449,879 ; 1610,3956

Vậy khi chi phí chào hàng là 140 triệu đồng, thì

doanh thu trung bình trong khoảng

( 1449,879 ; 1610,3956 ) triệu đồng

TH 2:

0 0ˆ ˆvar 1297,6259 36,02257 se Y Y

Page 87: Mô hình hổi qui đơn biến

0 0 0 0ˆ ˆvar 12861,5449 113,4088 se Y Y Y Y

TH 3:

( 2) ( 2)

0 0 0 0 0 0

2 2

ˆ ˆ ˆ ˆ. ; .

n nY t se Y Y Y t se Y Y

1277,4625 ; 1782,8121

Vậy khi chi phí chào hàng là 140 triệu đồng, thì dự

báo doanh thu của một doanh nghiệp sẽ khoảng

(1277,4625 ; 1782,8121) triệu đồng

Page 88: Mô hình hổi qui đơn biến

NHẬN XÉT

Page 89: Mô hình hổi qui đơn biến

Hướng dẫn giải bài toán bằng Eview

Dependent Variable: Y

Method: Least Squares

Date: 12/23/10 Time: 00:17

Sample: 1 12

Included observations: 12

===========================================================

Variable Coefficient Std. Error t-Statistic Prob.

C 667.0205 120.4502 5.537729 0.0002

X 6.165120 0.961828 6.409793 0.0001

===========================================================

R-squared 0.804250 Mean dependent var 1413.000

Adjusted R-squared 0.784674 S.D. dependent var 231.7420

S.E. of regression 107.5357 Akaike info criterion 12.34453

Sum squared resid 115639.2 Schwarz criterion 12.42535

Log likelihood -72.06720 F-statistic 41.08545

Durbin-Watson stat 2.167958 Prob(F-statistic) 0.000077

Page 90: Mô hình hổi qui đơn biến

Dependent Variable: Y (biến phụ thuộc)

Method: Least Squares (phương pháp bình phương nhỏ nhất)

Date: 12/23/10 Time: 00:17 (ngày, giờ thực hiện hàm hồi quy)

Sample: 1 12 (độ lớn mẫu từ 1 đến 12)

Included observations: 12 (tổng số quan sát) ===============================================================================================================

(tên biến) (hệ số hồi quy) (sai số chuẩn) (t=i^/ sei^) (P-value)

Variable Coefficient Std. Error t-Statistic Prob.

C (hằng số) 667.0205 (1^) 120.4502 (se1^) 5.537729 0.0002

X (biến X) 6.165120 (2^) 0.961828(se2^) 6.409793 0.0001

===========================================================

R-squared (R2) 0.804250 Mean dependent var (Y tb)1413.000

Adjusted R-squared (R2) 0.784674 S.D. dependent var 231.7420

S.E. of regression (^) 107.5357 Akaike info criterion 12.34453

Sum squared resid (RSS) 115639.2 Schwarz criterion 12.42535

Log likelihood -72.06720 F-statistic (F) 41.08545

Durbin-Watson stat 2.167958 Prob(F-statistic) 0.000077

(P-value trong kiểm định sự phù hợp)

Page 91: Mô hình hổi qui đơn biến

7. TỈ LỆ VÀ ĐƠN VỊ ĐO

1 2 Y X U

Nếu đơn vị đo của Y và X thay đổi 1 2* ; * Y k Y X k X

1 2* * * * * Y X U

11 1 1 2 2

2

* ; * k

kk

Ví dụ: Hàm hồi quy tuyến tính của doanh số bán hàng

(triệu đồng/năm) theo chi phí chào hàng (trđồng/năm)

ˆ 667,02048 6,16512. i iY X

Nếu X, Y tính theo đơn vị ngàn đồng/tháng thì hàm hồi

quy thay đổi như thế nào ?

1 trđ/năm = 1000/12 ngàn đồng/tháng k1,k2=1000/12

Page 92: Mô hình hổi qui đơn biến

Ví dụ: Hàm hồi quy tuyến tính của lượng cam (tấn/tháng)

theo giá cam (ngànđồng/kg)

ˆ 15,245 1,345. i iY X

a. Nếu lượng cam tính theo đơn vị kg/tuần thì hàm hồi

quy thay đổi như thế nào ?

b. Nếu giá cam tính theo đơn vị triệuđồng/tấn thì hàm hồi

quy thay đổi như thế nào ?

c. Nếu lượng cam tính theo đơn vị tấn/năm và giá cam

tính theo đơn vị triệuđồng/tấn thì hàm hồi quy thay đổi

như thế nào ?

1 ngànđồng/kg=1 trđồng/tấn k2=1

1 tấn/tháng= 250 kg/tuần k1= 250

1 tấn/tháng=12 tấn/ năm k1=12

1 ngànđồng/kg=1 trđồng/tấn k2=1