, ותכנון שונות ניתוח לינארית רגרסיהסטטיסטיים ניסויים

2הרצאה : סמך בר רווח פשוטה רגרסיה

למקדמים השערות ובדיקת

תעשייתי לניהול המחלקה" ,' ב תשע א סמסטר

לחישוב חלופית b1נוסחא

2

1

2

2 1

cov( , )

n

i ii

n

ixx i

x

x yx y x y

n

x xS

n n

1 2

cov( , )

x

x yb

כאשר:

באקסל: 221( : )x nSTDEV x x

מהרצאה 1בדוגמה

3

i xi yi xi*yi1 30 73 21902 20 50 10003 60 128 76804 80 170 136005 40 87 34806 50 108 54007 60 135 81008 30 69 20709 70 148 1036010 60 132 7920סכומים 500 1100 61800

ממוצעים 50 110תקן סטיית 18.43909 36.95944שונות 340 1366

61800cov( , ) 50 110 680

10x y

1 2

cov( , ) 6802

340x

x yb

0 1 110 2 50 10b y b x

ˆ 10 2i iy x : הינה רגרסיה קו משוואת

4

לפרמטרים סמך רווחי - β0בניית β1ו

2~ , ~ 0,1x

x N Z N

כאשר:n – המדגם גודלp – לצורך הנאמדים הפרמטרים מספר

חישוב̂

. נמצא כעת הרגרסיה מקדמי עבור נקודתיים אמדים מצאנונמצאים בהם - β0רווחים :β1ו

2ˆ~ , ~ˆ n p

xx N t

22ˆ1

ix x

n

5

לפרמטרים סמך רווחי - β0בניית β1ו שלנו ואמדנו p=2במקרה (.b0, b1פרמטרים )2מאחר

2

210 0~ ,

n

ii

xx

xb N

nS

2

1 1~ ,xx

b NS

b1 :מתפלג

b0 :מתפלג

( , אמד במקומה נציב לכן ידועה (.MSEלא 2

6

לפרמטרים סמך רווחי - β0בניית β1ו

ולכן:

0

0 02~

ˆ nb

bt

רווח נבנהברמת סמך

:αמובהקות

1

1 12~

ˆ nb

bt

7

לפרמטרים סמך רווחי - β0בניית β1ו של תקן לסטיית הינו: b0אמד

0 0

2

1ˆ

n

ii

b bxx

xS MSE

nS

של תקן לסטיית הינו: b1אמד

:MSEכאשר ) הינו ) הטעויות ריבועי ממוצע

1 1ˆb b

xx

MSES

S

2

SSEMSE

n

8

המתאם מקדםשל תקן לסטיות אומדנים למצוא נוספת הינה b1 ו- b0דרך

. המתאם מקדם בעזרתρ. אוכלוסיה – של לרגרסיה המתאם מקדםR. לרגרסיה – מדגמי המתאם מקדם

תלוי הבלתי משתנה בין הקשר עצמת מציג המתאם מקדם: התלוי משתנה לבין

.R<0כאשר שלילי, הינו הקשר.R>0כאשר חיובי הינו הקשר

1

1 1

cov( , ) x

x y y

R

x yR b

9

המתאם מקדם : קיצוני R 0< b1=1מקרה

קו על בדיוק נופלות התצפיות כלהרגרסיה

: קיצוני R 0> b1-=1מקרהקו על בדיוק נופלות התצפיות כל

הרגרסיה

0=R ש כך על b1= 0מצביע

קשר שאין כך על אוהתלוי משתנה בין ליניארי

ת" לב

x

y

xx

xx

x

x

yx

xx

xx

x

y

x x x x x

0= b1

x

y

xx

xx x

ליניארי קשר אין

x

x

x xx

xx

xx

x

10

המתאם מקדם2R . המוסברת שונות פרופורציית מציג

את להסביר הרגרסיה מודל של היכולת את מציג זה מדד . " תלוי בלתי משתנה י ע התלוי משתנה של החיזוי

ש .2Rככל , טובה יותר הזו היכולת כך לאחד יותר קרוב

2

22

2 21 2

0 1

cov( , ) x

x y y

R

x yR b

11

אומדנים חישובמקדם בעזרת מקדמים של תקן לסטיות אומדנים חישוב

המתאם:

0 0 1

2 2ˆ ˆb b b xS x 1 1

2 2

2

1ˆ

2y

b bx

RS

n

כאשר:

2

2 1

2

2 1

n

ixx i

x

n

iyy i

x

x xS

n n

y yS

n n

12

לפרמטרים סמך רווחי - β0בניית β1ו , עבור סמך רווח כך הינו: b0אם

0

0 0

2,1 2,12 2

1ˆn nb

bP t t

, עבור סמך רווח דומה הינו: b1ובאופן

0 00 0 02,1 2,1

2 2

ˆ ˆ 1b bn n

P b t b t

1 11 1 12,1 2,1

2 2

ˆ ˆ 1b bn n

P b t b t

: מדגם וכל מדגמים הרבה נדגום אם סמך רווח של משמעות , בהסברות אזי סמך רווח תחום α-1נבנה ייפול באמת מקדם

זה.

13

את: β1עבור נחשב :כעתלמקדמים סמך רווחי ונמצא לדוגמה נחזור

2

212

1

50028400 3400

10

n

ini

xx ii

x

S xn

260

7.52 2 10 2

eSSEMSE

n n

ˆ 10 2i iy x 1ˆb

i xi yi ei e^21 30 73 70 3 92 20 50 50 0 03 60 128 130 -2 44 80 170 170 0 05 40 87 90 -3 96 50 108 110 -2 47 60 135 130 5 258 30 69 70 -1 19 70 148 150 -2 410 60 132 130 2 4

סכומים 500 1100 1100 0 60ממוצע 50 110שונות 340 1366

ˆiy

1

7.5ˆ 0.047

3400bxx

MSE

S

, מקדם בעזרת תקן לסטיית האומד את לחשב ניתן לחלופין אוהמתאם:

1

2 2

2

1 1 0.9956 1366ˆ 0.047

2 10 2 340y

bx

R

n

2

2 21

3402 0.99561366

x

y

R b

14

למקדמים סמך רווחי ונמצא לדוגמה נחזור

עבור סמך רווח של בנוסחא :β1נציב 8,0.975 1 8,0.9752 0.047 2 0.047 0.95P t t

11.89 2.11 0.95P

2.11 1.89 0.22 : סמך רווח אורך

8,0.975 2.306t

15

עבור סמך רווח נחשב כעתβ0:

למקדמים סמך רווחי ונמצא לדוגמה נחזורˆ 10 2i iy x

0

2

1 28400 7.5ˆ 2.5

10 3400

n

ii

bxx

xMSE

nS

עבור סמך רווח של בנוסחא נציבβ0: 8,0.975 0 8,0.97510 2.5 10 2.5 0.95P t t

04.235 15.765 0.95P 15.765 4.235 11.53 : סמך רווח אורך

i xi yi ei e^21 30 73 70 3 92 20 50 50 0 03 60 128 130 -2 44 80 170 170 0 05 40 87 90 -3 96 50 108 110 -2 47 60 135 130 5 258 30 69 70 -1 19 70 148 150 -2 410 60 132 130 2 4

סכומים 500 1100 1100 0 60ממוצע 50 110שונות 340 1366

ˆiy

בעזרת תקן לסטיית אומד חישוב: המתאם מקדם

0 1

2 2 2ˆ ˆ 0.47 340 50 2.5b b x x

16

מבחן – למקדמים השערות Tבדיקת

0 1

1 1

:

:

H

H

, " התלוי למשתנה ת הב משתנה בין הליניארי הקשר להערכת מעברציר עם חיתוך לגבי מסויימות השערות לבדוק גם מעוניינים Yאנחנו

מקדם( ) 0βמקדם) (.1βושיפוע. נורמלית מתפלגות השגיאות כי הנחה מתוך נבחנות השערות

מקדם :1βעבור הבאות השערות נבדוק

.βכאשר כלשהו – מספרי ערך זהמבחן באמצעות ההשערות את .tנבדוק

: המבחן סטטיסטי

1

1stat

b

bt

S

, אם האפס השערת את דוחים

, האפס השערת את דוחים לאאם

2,12

stat critn

t t t

2,12

stat critn

t t t

(:tבמבחן - ( - צדדי דו זנבי דו

17

מבחן – למקדמים השערות Tבדיקת

2,1stat crit nt t t

2,1stat crit nt t t

מבחן עבור דחייה (:tאיזור ( - עליון ימני זנבי חד

מבחן עבור דחייה (:tאיזור ( - תחתון שמאלי זנבי חד

:tבמבחן ) ( - מסוג השערות נבדוק עליון ימני זנבי חד

:tבמבחן ) ( - מסוג השערות נבדוק תחתון שמאלי זנבי חד

0 1

1 1

:

:

H

H

0 1

1 1

:

:

H

H

α α/2α/2

18

מבחן – למקדמים השערות Tבדיקת

0 0

1 0

:

:

H

H

מקדם :0βעבור הבאות השערות נבדוק

מבחן באמצעות ההשערות את .tנבדוק: המבחן סטטיסטי

0

0stat

b

bt

S

, אם האפס השערת את דוחים

, האפס השערת את דוחים לאאם

2,12

stat critn

t t t

2,12

stat critn

t t t

(:tבמבחן - ( - צדדי דו זנבי דו

19

באמצעות הבאות השערות נבדוק:Tמבחן

השערות ונבדוק לדוגמה נחזורˆ 10 2i iy x

i xi yi1 30 732 20 503 60 1284 80 1705 40 876 50 1087 60 1358 30 699 70 14810 60 132

סכומים 500 1100ממוצע 50 110שונות 340 1366

: סטטיסטי חישוב

0 1

1 1

: 0

: 0

H

H

1

1 0 242.58

0.47statb

bt

S

(:Tערך מטבלה ) קריטי8,0.975

2,12

2.306nt t

גדול: סטטיסטי שערך לראות ניתן מסקנה , האפס השערת את נדחה לכן קריטי מערך

- ל שווה אינו ששיפוע המובהקות 0ונאמר ברמת0.05

20

באמצעות הבאות השערות נבדוק:Tמבחן

השערות ונבדוק לדוגמה נחזורˆ 10 2i iy x

i xi yi1 30 732 20 503 60 1284 80 1705 40 876 50 1087 60 1358 30 699 70 14810 60 132

סכומים 500 1100ממוצע 50 110שונות 340 1366

: סטטיסטי חישוב

0 0

1 0

: 0

: 0

H

H

0

0 0 104

2.5statb

bt

S

(:Tערך מטבלה ) קריטי8,0.975

2,12

2.306nt t

סטטיסטי: שערך לראות ניתן כאן גם מסקנה , השערת את נדחה לכן קריטי מערך גדול

שמקדם ונאמר -0βהאפס ל שווה ברמת 0אינו0.05המובהקות

21

למקדמים השערות ובדיקת למקדמים סמך רווח בין קשר

0 1

1 1

: 0

: 0

H

H

) במבחן ) למשל הבאות ההשערות בדיקתT:

- - ל צדדי דו סמך רווח לבניית היא , β 1שקולה השערות בדיקת כאשרמובהקות הביטחון αברמת ברמת נבנה סמך .α-1ורווח

: ערך אזי האפס השערת את נדחה אם השקילות יהיה β 1=0פירוש לא. ולהיפך סמך לרווח שייך

ערך , β 1=0אם האפס השערת את נדחה לא אזי סמך לרווח שייךהמובהקות Tבמבחן .αברמת

- , ש לראות ניתן שלנו - 0בדוגמה ל סמך רווח בגבולות נמצא לכן, β 1לאמבחן ביצוע ללא לומר יכולים האפס, Tהיינו השערת את שנדחה

המובהקות .0.05ברמת