變異數分析 ( 一 )

15 - 15 - 11

銘傳應用統計系銘傳應用統計系

變異數分析變異數分析 (( 一一 ))

Analysis of Variance (Analysis of Variance ( 一一 ) )

15 - 15 - 22


變異數分析變異數分析

比較多個母體平均數比較多個母體平均數應用在實驗設計應用在實驗設計

如何分析如何分析

15 - 15 - 33


學習目標學習目標

1.1. 比較多母體的平均數比較多母體的平均數 (( 檢定檢定 ))

2.2. 解說變異數分析的原理解說變異數分析的原理3.3. 變異數分析變異數分析 analysis of variance (ANOVA)analysis of variance (ANOVA)

4.4. 單因子的實驗設計單因子的實驗設計完全隨機設計完全隨機設計 (completely randomized design)(completely randomized design) 隨機完全區集設計隨機完全區集設計 (randomized complete block d(randomized complete block d

esigns)esigns)

5. 5. 無母數方法無母數方法 Kruskal-Wallis rank testKruskal-Wallis rank test

15 - 15 - 44


例題例題

例一例一 :: 某一產品以三種不同組合方式某一產品以三種不同組合方式 (A, B, C)(A, B, C) 以以探討其組合完成時間探討其組合完成時間 (( 分鐘分鐘 )) 是否有差異是否有差異 . . 以以隨機選取員工分派不同組合方式以完成最後隨機選取員工分派不同組合方式以完成最後產品產品 ,, 得下列實驗結果得下列實驗結果 ::

AA 方式方式 : 15, 18, 19, 21, 23, 26: 15, 18, 19, 21, 23, 26

BB 方式方式 : 17, 18, 24, 20: 17, 18, 24, 20

CC 方式方式 : 13, 10, 16, 11, 9 : 13, 10, 16, 11, 9

是否有証據顯示該三種組合方式之完成最後是否有証據顯示該三種組合方式之完成最後產品之時間不同？產品之時間不同？

15 - 15 - 55


例題例題 (( 續續 ))

例二例二 :: 將商業區分為將商業區分為 44 大類大類後後 ,, 收集收集 3030 家家商店本月的業績，以了解不同分類的業商店本月的業績，以了解不同分類的業績是否有差異存在。績是否有差異存在。

例三例三 :: 隨機選取隨機選取 200200 位一至四年級的學生位一至四年級的學生 ,,記錄其個人學業總平均成績。比較四個記錄其個人學業總平均成績。比較四個年級學生的學業總平均是否有差異存在年級學生的學業總平均是否有差異存在。。

15 - 15 - 66


實驗設計與資料分析實驗設計與資料分析

實驗設計實驗設計 : : 由研究者設定條件後由研究者設定條件後 , , 執行實驗以執行實驗以觀察結果是否受該條件之影響觀察結果是否受該條件之影響設定條件稱為「處理」方式設定條件稱為「處理」方式 (treatments)(treatments) 同類型處理方式稱為一個「因子」同類型處理方式稱為一個「因子」 (factor)(factor) 每因子內之處理方式亦稱為「水準」每因子內之處理方式亦稱為「水準」 (levels)(levels)

資料分析資料分析 :: 利用利用變異數分析檢定不同處理對實變異數分析檢定不同處理對實驗結果產生的差異或效應驗結果產生的差異或效應

15 - 15 - 77


各種實驗設計各種實驗設計

CompletelyRandomized

Two-WayANOVA

Other

ExperimentalDesigns

One-WayANOVA

FactorialCompletely

Randomized

Two-WayANOVA

Other

ExperimentalDesigns

One-WayANOVA

Factorial

15 - 15 - 88


實驗設計專有名詞實驗設計專有名詞

1. 1. 實驗單位實驗單位 (experimental units/subjects)(experimental units/subjects)

2. 2. 處理處理 (treatments): (treatments): 實驗中所設定或選取之實驗中所設定或選取之條件條件

3. 3. 控制因子控制因子 (factors)(factors):: 由數種處理或水準組成由數種處理或水準組成4. 4. 處理效應處理效應 (effect): (effect): 每一種處理對實驗結果每一種處理對實驗結果

產生之影嚮產生之影嚮5. 5. 觀測結果觀測結果 (observations)(observations)

15 - 15 - 99


實驗設計三原則實驗設計三原則

1. 1. 隨機隨機 (randomization)(randomization) 取樣取樣不同實驗模型不同實驗模型 ,, 設計不同隨機方式取得樣本設計不同隨機方式取得樣本

2. 2. 複製複製 (replications)(replications) 樣本樣本在相同處理下在相同處理下 , , 重複實驗以取得的重複樣本重複實驗以取得的重複樣本

3. 3. 區集區集 (blocking)(blocking) 技巧技巧在不同處理下選取同質性高之實驗單位在不同處理下選取同質性高之實驗單位實驗中實驗中 ,, 僅處理方式不同外僅處理方式不同外 ,, 其它因素無法影其它因素無法影

嚮實驗結果嚮實驗結果

15 - 15 - 1010


完全隨機設計完全隨機設計 ((Completely RCompletely Randomized Design, CRD)andomized Design, CRD)

1. 1. 一個實驗中一個實驗中 ,, 在多個不同處理下取得觀在多個不同處理下取得觀測結果測結果 ,, 以比較多個處理效應是否異同以比較多個處理效應是否異同一種處理代表「一個母體」﹔實驗結果即一種處理代表「一個母體」﹔實驗結果即

為觀測值或樣本值為觀測值或樣本值2. 2. 以「以「完全隨機完全隨機」方式決定實驗單位的處」方式決定實驗單位的處

理方式理方式先決定各處理所需樣本數後先決定各處理所需樣本數後 , , 再以隨機數再以隨機數

字表字表 , , 決定每次實驗將使用之處理方式決定每次實驗將使用之處理方式

15 - 15 - 1111


CRDCRD 設計方式設計方式

1. 1. 和比較多個母體平均數之觀念及分析方法和比較多個母體平均數之觀念及分析方法皆相同皆相同一個母體等於一個處理方式一個母體等於一個處理方式不同母體皆具相同變異情形不同母體皆具相同變異情形 (homogeneous)(homogeneous) 每一母體下每一母體下 , , 重複實驗選取隨機樣本重複實驗選取隨機樣本

2. 2. 實驗結果之分析方式可稱為單因子實驗結果之分析方式可稱為單因子 (( 或或 onone-way)e-way)ANOVAANOVA

15 - 15 - 1212


因子 (訓練方式) 因子水準

(Treatments) 水準 1

水準2

水準 3

實驗單位

因變數 21 hrs. 17 hrs. 31 hrs.

27 hrs. 25 hrs. 28 hrs.

(反應) 29 hrs. 20 hrs. 22 hrs.

因子 (訓練方式) 因子水準

(Treatments) 水準 1

水準2

水準 3

實驗單位

因變數 21 hrs. 17 hrs. 31 hrs.

27 hrs. 25 hrs. 28 hrs.

(反應) 29 hrs. 20 hrs. 22 hrs.

例題例題 : : 完全隨機設計完全隨機設計

15 - 15 - 1313


完全隨機設計完全隨機設計單因子變異數分析單因子變異數分析

CRDCRDOne-Way ANOVAOne-Way ANOVA

15 - 15 - 1414


比較多個母體統計思考方式比較多個母體統計思考方式

1. 1. 比較多個母體之異同比較多個母體之異同2. 2. 比較多個平均數之異同比較多個平均數之異同3. 3. 評估多個評估多個平均數之間平均數之間之之變異情形變異情形4. 4. 若變異量趨近於零，則代表平均數可能若變異量趨近於零，則代表平均數可能

相同相同 ((Ho:Ho: 平均數全等平均數全等 ))

5. 5. 若變異量愈大，則代表至少一個平均數若變異量愈大，則代表至少一個平均數可能不相同可能不相同 ((Ha:Ha: 至少一個平均數不等至少一個平均數不等 ))

15 - 15 - 1515


CRDCRD 統計理論統計理論

1. 1. 模式模式 (model)(model) ﹕ ﹕ yyijij 代表代表觀測值必須是連續變數觀測值必須是連續變數任何觀測值任何觀測值 = (= ( 特定母體平均值特定母體平均值 + + 誤差值誤差值 ) )

yyijij = µ = µjj + + IjIj

(( 樣本數樣本數 ii=1, …,=1, …,nn jj ﹔ ﹔ 母體樣本數母體樣本數 jj=1, …, c)=1, …, c)

或者或者 yyijij = (µ + = (µ + jj)+ )+ ijij

模式中有模式中有 cc 個參數須要估計個參數須要估計

15 - 15 - 1616


CRDCRD 統計理論統計理論 (( 續一續一 ))

2. 2. 假設條件假設條件 (assumptions)﹕(assumptions)﹕ 各母體的變異數各母體的變異數 22 皆相等皆相等 (homogeneity)(homogeneity) 誤差項為常態機率分配誤差項為常態機率分配 ,, 期望值為期望值為 0 ﹔0 ﹔ 誤誤

差值之間獨立差值之間獨立 ijij ~ N(0, ~ N(0, 22) ) ，， ijij independent independent ijij

22 須要估計須要估計誤差項以上的假設條件誤差項以上的假設條件 , , 必須正式以統計必須正式以統計

量檢定量檢定 , , 或以殘差分析檢查其是否符合或以殘差分析檢查其是否符合

15 - 15 - 1717


CRDCRD 統計理論統計理論 (( 續二續二 ))

3. 3. 目的目的﹕檢定不同處理對實驗結果的差異或效應﹕檢定不同處理對實驗結果的差異或效應 HoHo ﹕ ﹕ µµ11 = µ = µ22 = … = µ = … = µcc v.s. Ha v.s. Ha ﹕ ﹕ 至至

少有一個少有一個 µ µ jj 不同不同

或者或者 HoHo ﹕ ﹕ 11 = = 22 = … = = … = cc = 0 v.s. Ha = 0 v.s. Ha ﹕ ﹕ 至至

少有一個少有一個 jj 不同不同 4. 4. 以變異數分析來檢定以變異數分析來檢定 Ho (Ho ( 用用 F-F- 表，又稱表，又稱 FF 檢定檢定 ))

15 - 15 - 1818


CRDCRD 統計理論統計理論 (( 續三續三 ) ) (No Treatment Effect)(No Treatment Effect)

The Null Hypothesis is True

0 1 2: cH 1 : Not all are the sameiH

1 2 3

15 - 15 - 1919


CRDCRD 統計理論統計理論 (( 續四續四 ) ) (Treatment Effect)(Treatment Effect)

The Null Hypothesis is

NOT True

0 1 2: cH

1 : Not all are the sameiH

1 2 3 1 2 3

15 - 15 - 2020


變異數分析變異數分析 (ANOVA)(ANOVA) 探探討討

1. 1. 變異量變異量 (sum of squares, (sum of squares, SSSS)) 和自由度和自由度 ((degredegre

es of freedomes of freedom, , dfdf)) 藉由樣本變異數藉由樣本變異數 ss22 = = ( y ( yijij - - yy ) )2 2 / (n-1) = / (n-1) =

SS / (n-1) SS / (n-1) 來了解來了解分子項分子項 SSSS 代表數據的變異程度代表數據的變異程度 , , 必為正值必為正值 (>(>

0), SS0), SS 愈大表示該組數據之間差異愈大愈大表示該組數據之間差異愈大分母項自由度為樣本數減分母項自由度為樣本數減 1, 1, dfdf = (n-1) = (n-1) ss22 =SS / df =SS / df 亦稱均方亦稱均方 (mean square, (mean square, MSMS)) 代表代表

平均變異平均變異 ,, 其意義和其意義和 SSSS 相似相似

15 - 15 - 2121


變異數分析變異數分析 (ANOVA)(ANOVA) 探討探討(( 續一續一 ) )

2. 2. 總變異量總變異量 (SSTotal)(SSTotal) 先由先由 aa 個母體皆相同個母體皆相同 (( 即是即是 Ho)Ho) 時來看時來看 , ,

所有樣本所有樣本 (N)(N) 觀測值的總變異量觀測值的總變異量 SSSS (n-1)(n-1) 為總變異量為總變異量 SSSS 的自用度的自用度 , df=(n-1), df=(n-1) 在單因子在單因子 ANOVAANOVA 中中 , , 總變異量由整體隨總變異量由整體隨

機樣本機樣本 (n)(n) 的抽樣變異所形成的抽樣變異所形成

15 - 15 - 2222


變異數分析變異數分析 (ANOVA)(ANOVA) 探討探討(( 續二續二 ))

3. 3. 總變異量的切割總變異量的切割總變異量公式總變異量公式

SSTotal = SSTotal = ( y ( yijij - - yy ) )22, df=(n-1), df=(n-1)

總變異量總變異量 = = 處理間變異量處理間變異量 + + 處理內變異處理內變異量量

總變異量總變異量 = = 母體平均數之間變異量母體平均數之間變異量 + + 誤誤差項變異量差項變異量上面式子也可以代數公式表示上面式子也可以代數公式表示

15 - 15 - 2323


變異數分析變異數分析 (ANOVA)(ANOVA) 探討探討(( 續三續三 ))

4. 4. 處理間變異量處理間變異量 (SSBetween) ﹕(SSBetween) ﹕ 母體平母體平均數之間變異量，其自由度均數之間變異量，其自由度 =(c-1) =(c-1) SSBetween = SSB = SSBetween = SSB = SS(Trt)SS(Trt) = SSModel = SSModel MS(Trt)MS(Trt) = [SS(Trt)] / (c-1)﹔ = [SS(Trt)] / (c-1)﹔ 均方均方 (mean of (mean of

squares)squares) [SS(Trt )]/ [SS(Trt )]/ 22 = [(c-1)MS(Trt)]/ = [(c-1)MS(Trt)]/ 22 為卡方分為卡方分

配配 (df=c-1)(df=c-1) 若母體平均數之間變異愈大，則至少有一若母體平均數之間變異愈大，則至少有一

個平均數不同個平均數不同

15 - 15 - 2424


變異數分析探討變異數分析探討 (( 續四續四 ) )

5. 5. 處理內變異量處理內變異量 (SSWithin, SSW, (SSWithin, SSW, SSESSE) ) ﹕﹕

評估屬於每個母體內或誤差項之變異量評估屬於每個母體內或誤差項之變異量 ((SS)SS) ，其自由度，其自由度 =(n-c)=(n-c) SSESSE = [SSE1+SSE2+…+SSEc] / (n-c) = [SSE1+SSE2+…+SSEc] / (n-c) MSEMSE = MSW = SSE / (n-c) = MSW = SSE / (n-c) MSEMSE 為母體或誤差項變異數為母體或誤差項變異數 ((22)) 之估計值之估計值 SSE / SSE / 22 為卡方分配為卡方分配 (df=n-c)(df=n-c)

15 - 15 - 2525


變異數分析探討變異數分析探討 (( 續五續五 ) )

6. 6. F* = MS(trt) / MSE F* = MS(trt) / MSE 為為 FF 分配分配 (df(df11=c-1, =c-1, dfdf22=n-c)=n-c) F* F* 中分子項中分子項 MS(trt) MS(trt) 值愈大值愈大 ,F* ,F* 愈大愈大 (( 位位

在在 FF 曲線右尾曲線右尾 ) )

7. F7. F 分配之曲線為向右傾斜分配之曲線為向右傾斜 , F*, F* 值愈大發值愈大發生機率愈小生機率愈小 .. RRRR 區域在區域在 FF 曲線右尾曲線右尾

8. F*8. F* 值愈大愈容易落在值愈大愈容易落在 RR, RR, 則可拒絕則可拒絕 HoHo

15 - 15 - 2626


單因子變異數分析Ｆ單因子變異數分析Ｆ -- 檢定檢定

One-Way ANOVA F-TestOne-Way ANOVA F-Test

15 - 15 - 2727


單因子單因子 ANOVAANOVA 的不同形的不同形式敘述式敘述

1. 1. 一個觀測值只棣屬於一個母體一個觀測值只棣屬於一個母體2. 2. 檢定多個母體的檢定多個母體的平均數平均數是否均相等是否均相等或者或者3. 3. 檢定多個檢定多個處理的效應處理的效應是否皆相等是否皆相等4. 4. 一個觀測值只受到一種處理方式的影嚮一個觀測值只受到一種處理方式的影嚮

15 - 15 - 2828


合於使用一因子變異數分合於使用一因子變異數分析Ｆ析Ｆ -- 檢定的情況檢定的情況

1.1. 常態假設常態假設 (normality)(normality) 各母體均為常態分配各母體均為常態分配

2.2. 變異數為同質（變異數為同質（ homogeneityhomogeneity ））各母體的變異數皆相等各母體的變異數皆相等

3.3. 觀測值及誤差項為隨機且獨立的觀測值及誤差項為隨機且獨立的隨機樣本抽選時亦為獨立隨機樣本抽選時亦為獨立

15 - 15 - 2929


單因子變異數分析之檢定單因子變異數分析之檢定假設假設

HH00: : 11 = = 22 = = 33 = ... = = ... = cc 所有母體平均數均相等所有母體平均數均相等即各處理並無影響即各處理並無影響 (( 或或

效應相同效應相同 ))

HHaa:: 母體平均數並不全等母體平均數並不全等至少有一母體平均數有至少有一母體平均數有

差異差異處理之間有差異處理之間有差異 (( 處理處理

效應不同效應不同 )) 11 22= …= = …= c c 是錯的是錯的

XX

f(X)f(X)

11 = = 22 = = 33

XX

f(X)f(X)

11 = = 22 33

15 - 15 - 3030


看圖了解變異數分析的原看圖了解變異數分析的原理理

Pop 1 Pop 2 Pop 3

Pop 4 Pop 6

Pop 1 Pop 2 Pop 3

Pop 7 Pop 9Pop 5 Pop 8

上下兩組處理間產生相同的變異上下兩組處理間產生相同的變異但上下兩組各母體內變異不同但上下兩組各母體內變異不同

組內變異不同組間變異不同

AA BB

上下兩組處理間產生不同的變異上下兩組處理間產生不同的變異但上下兩組各母體內變異相同同但上下兩組各母體內變異相同同

可能得到母體平均數均相等的結論可能得到母體平均數均相等的結論 !!

00

00

00

00

15 - 15 - 3131


1.1. 比較組內變異與組與組間變異的情形以檢定各母比較組內變異與組與組間變異的情形以檢定各母體平均數是否相等體平均數是否相等

2.2. 以兩個變異數的比率值為檢定基礎以兩個變異數的比率值為檢定基礎3.3. 若是組間變異量相當程度大於若是組間變異量相當程度大於 > > 組內的變異量組內的變異量

則得到各母體平均數不可能相等則得到各母體平均數不可能相等4.4. 組間變異量與組內變異量可由總變異量分割而得組間變異量與組內變異量可由總變異量分割而得

總變異量﹦組間變異量＋組內變異量總變異量﹦組間變異量＋組內變異量 (n-1) = (c-1) + (n-c)(n-1) = (c-1) + (n-c)

使用變異數分析的原理使用變異數分析的原理

15 - 15 - 3232


單因子變異數分析：單因子變異數分析：總變異量的切割總變異量的切割

因為組間平均數差異產生的變異量

因為組間平均數差異產生的變異量

因為組內隨機樣本誤差產生的變異量因為組內隨機樣本誤差產生的變異量

總變異量總變異量

Sum of squares errorSum of squares errorSum of squares withinSum of squares withinWithin groups variationWithin groups variation

Sum of squares treatmentSum of squares treatmentSum of squares amongSum of squares amongSum of squares betweenSum of squares betweenAmong groups variationAmong groups variation

15 - 15 - 3333


總變異總變異

2

1 1

1 1

( )

: the -th observation in group

: the number of observations in group

: the total number of observations in all groups

: the number of groups

the over

j

j

nc

ijj i

ij

j

nc

ijj i

SST X X

X i j

n j

n

c

X

Xc

all or grand mean

15 - 15 - 3434


總變異量之公式與圖解總變異量之公式與圖解

X X 總樣總樣本平均本平均

第一組第一組第二組第二組第三組第三組

反應反應 , X, X

2

221

211

Xa

inXXXXXTotalSS

22

212

11

Xa

inXXXXXTotalSS

X11

15 - 15 - 3535


2

1

( )c

j jj

SSA n X X

組間（處理與處理之間）組間（處理與處理之間）之變異量之變異量

Variation Due to Differences Among Groups

1

SSAMSA

c

i j

: The sample mean of group

: The overall or grand mean

jX j

X

15 - 15 - 3636


組間（處理與處理之間）組間（處理與處理之間）之變異量之變異量

XX

XX33

XX22XX11


反應值反應值 (X)(X)

22

22

2

11 XXnXXnXXnSSTrt aa 22

22

2

11 XXnXXnXXnSSTrt aa

( 各組的平均值對總平均產生 ) 的差異平方

15 - 15 - 3737


Summing the variation within each group and then adding over all groups.

: The sample mean of group

: The -th observation in group

j

ij

X j

X i j

組內組內 (( 隨機誤差、模型後隨機誤差、模型後誤差誤差 )) 變異量變異量

2

1 1

( )jnc

ij jj i

SSW X X

SSWMSW

n c

j

15 - 15 - 3838


組內組內 (( 隨機誤差、模型後隨機誤差、模型後誤差誤差 )) 變異量變異量

XX22XX11

XX33


反應反應 , X, X

個別觀察值相較所屬組平均數差異平方和

22121

2111 )(...)()( aan XXXXXXSSE

a

15 - 15 - 3939


組內組內 (( 隨機誤差、模型後隨機誤差、模型後誤差誤差 )) 變異量變異量 (continued)

2 2 21 1 2 2

1 2

( 1) ( 1) ( 1)

( 1) ( 1) ( 1)c c

c

SSWMSW

n c

n S n S n S

n n n

For c = 2, this is the pooled-variance in the t-Test.

•If more than 2 groups, use F Test.

•For 2 groups, use t-Test. F Test more limited.

j

15 - 15 - 4040


單因子單因子 ANOVAANOVA 的的 F-F- 檢定檢定統計統計

1.1. 檢定統計檢定統計 Test statisticTest statistic FF = = MS(Trt)MS(Trt) / / MSEMSE

MS(Trt)MS(Trt) =SS =SS (Trt)(Trt) / / 11 組間變異量除以其自由度的平均組間變異量除以其自由度的平均 MSEMSE = SSE / = SSE / 22 組內變異量除以其自由度的平均組內變異量除以其自由度的平均

2.2. 所對應的自由度所對應的自由度 Degrees of freedomDegrees of freedom 11 = c -1 = c -1

22 = n - c = n - c c = c = 組數；母體個數組數；母體個數 (( 處理個數處理個數 // 水準數水準數 //群數群數 // 組數組數 )) n = n = 所有的樣本數；總樣本數所有的樣本數；總樣本數

15 - 15 - 4141


建立建立 ANOVA ANOVA 表表

Source ofSource ofVariationVariation來源來源

DegreesDegreesofof

FreedomFreedom

Sum ofSum ofSquaresSquares平方和平方和

MeanMeanSquareSquare均方和均方和

FF

TreatmentTreatment組間；處理組間；處理

c - 1c - 1 SSASSA MSA =MSA =SSA/(c - 1)SSA/(c - 1)

MSA/MSA/MSEMSE

ErrorError誤差；組內誤差；組內

n -cn -c SSESSE MSE =MSE =SSE/(n - c)SSE/(n - c)

TotalTotal總和總和

n - 1n - 1 SS(Total) =SS(Total) =SSA+SSESSA+SSE

15 - 15 - 4242


F-F- 檢定檢定統計量之臨界值統計量之臨界值

若是各處理母體間平若是各處理母體間平均數差異大均數差異大 , , 則則 FF = = MSTMST / / MSEMSE 1. 1.

總是使用單尾檢定呦總是使用單尾檢定呦Always One-Tail!Always One-Tail!

FF pp nn pp(( ,, )) 1100

Reject HReject H00

Do NotDo NotReject HReject H00

FF

15 - 15 - 4343


例題一﹕單因子例題一﹕單因子 ANOVAANOVA

你是生產管理經理，欲知道你是生產管理經理，欲知道三台機器的產品裝箱平均時三台機器的產品裝箱平均時間是否有差異。因此你抽選間是否有差異。因此你抽選了具相同訓練及經驗的操作了具相同訓練及經驗的操作員，並隨機指定至此三台機員，並隨機指定至此三台機器；每台五人。並測試得到器；每台五人。並測試得到了下列的裝箱時間。了下列的裝箱時間。以顯著水準以顯著水準 .05 .05 ，檢定三，檢定三台機器的裝箱台機器的裝箱平均時間平均時間是否是否有差異有差異 ??

Mach1Mach1 Mach2Mach2 Mach3Mach325.4025.40 23.4023.40 20.0020.0026.3126.31 21.8021.80 22.2022.2024.1024.10 23.5023.50 19.7519.7523.7423.74 22.7522.75 20.6020.6025.1025.10 21.6021.60 20.4020.40

15 - 15 - 4444

銘傳應用統計系銘傳應用統計系例題一﹕單因子例題一﹕單因子 ANOVAANOVA

27

26

25

24

23

22

21

20

19

••

•••

•••••

••••

•

Time in SecondsMachine1 Machine2 Machine325.40 23.40 20.0026.31 21.80 22.2024.10 23.50 19.7523.74 22.75 20.6025.10 21.60 20.40

1 2

3

24.93 22.61

20.59 22.71

X X

X X

1X

2X

3X

X

15 - 15 - 4545


例題一﹕單因子例題一﹕單因子 ANOVAANOVA

Machine1 Machine2 Machine3

25.40 23.40 20.0026.31 21.80 22.2024.10 23.50 19.7523.74 22.75 20.6025.10 21.60 20.40

2 2 25 24.93 22.71 22.61 22.71 20.59 22.71

47.164

4.2592 3.112 3.682 11.0532

/( -1) 47.16 / 2 23.5820

/( - ) 11.0532 /12 .9211

SSA

SSW

MSA SSA c

MSW SSW n c

1

2

3

24.93

22.61

20.59

22.71

X

X

X

X

5

3

15

jn

c

n

15 - 15 - 4646


例題一﹕建立ＡＮＯＶＡ表例題一﹕建立ＡＮＯＶＡ表

電腦報表電腦報表 From ComputerFrom Computer

Source ofSource ofVariationVariation

Degrees ofDegrees ofFreedomFreedom

Sum ofSum ofSquaresSquares

MeanMeanSquareSquare

(Variance)(Variance)

FF

TreatmentTreatment(Machines)(Machines)

3 - 1 = 23 - 1 = 2 47.164047.1640 23.582023.5820 25.6025.60

ErrorError 15 - 3 = 1215 - 3 = 12 11.053211.0532 .9211.9211

TotalTotal 15 - 1 = 1415 - 1 = 14 58.217258.2172

15 - 15 - 4747


FF00 3.893.89

例題一﹕例題一﹕ F-F- 檢定檢定平均數相平均數相等等

1. H1. H00: : 11 = = 22 = = 33

2. H2. Haa: : Not all equalNot all equal

= = .05.05

11 = = 2 2 22 = = 12 12

Critical Value(s):Critical Value(s):

5. 5. 在在 HoHo 下下 , test statistic, test statistic: :

6. Decision:6. Decision:

Conclusion:Conclusion:

在在 = .05= .05 下拒絕Ｈ下拒絕Ｈ oo

有充分證據顯示三台機器有充分證據顯示三台機器裝箱平均時間至少一台不裝箱平均時間至少一台不等等

= .05= .05

F*F*MSAMSA

MSEMSE

23.52823.528

921192112525 66

....

15 - 15 - 4848


利用利用 EXCELEXCEL 求解求解

Use tools | data analysis | ANOVA: single Use tools | data analysis | ANOVA: single factor factor

EXCEL worksheet that performs the one-EXCEL worksheet that performs the one-factor ANOVA of the examplefactor ANOVA of the example

Microsoft Excel Worksheet

15 - 15 - 4949


15 - 15 - 5050


15 - 15 - 5151


例題二﹕單因子例題二﹕單因子 ANOVAANOVA

你是銘傳軟體公司的教育訓練你是銘傳軟體公司的教育訓練主管，為比較四種不同訓練方主管，為比較四種不同訓練方式所需平均時間的差異性。隨式所需平均時間的差異性。隨機抽選了情況相近的機抽選了情況相近的 1212 位員工位員工，並測得各時間如下：，並測得各時間如下：試以顯著水準試以顯著水準 =.05=.05 檢定之。檢定之。M1M1 M2M2 M3M3 M4M41010 1111 1313 1818

99 1616 88 232355 99 99 2525

AloneAlone GroupGroup Class Class

15 - 15 - 5252


利用利用 EXCELEXCEL 求解求解

Use tools | data analysis | ANOVA: single Use tools | data analysis | ANOVA: single factor factor

EXCEL worksheet that performs the one-EXCEL worksheet that performs the one-factor ANOVA of the examplefactor ANOVA of the example


15 - 15 - 5353


15 - 15 - 5454


15 - 15 - 5555


例題二﹕建立ＡＮＯＶＡ表例題二﹕建立ＡＮＯＶＡ表

Source ofSource ofVariationVariation

Degrees ofDegrees ofFreedomFreedom

Sum ofSum ofSquaresSquares

MeanMeanSquareSquare

(Variance)(Variance)

FF

TreatmentTreatment(Methods)(Methods)

4 - 1 = 34 - 1 = 3 348348 116116 11.611.6

ErrorError 12 - 4 = 812 - 4 = 8 8080 1010

TotalTotal 12 - 1 = 1112 - 1 = 11 428428

15 - 15 - 5656


FF00 4.074.07

例題二﹕例題二﹕ F-F- 檢定檢定平均數相平均數相等等

1. H1. H00: : 11 = = 22 = = 33 = = 44

2. H2. Haa: : Not all equalNot all equal

= = .05.05

11 = = 3 3 22 = = 8 8

4. Critical Value(s):4. Critical Value(s):

5. 5. 在在 HoHo 之檢定統計值之檢定統計值: :

6. Decision:6. Decision:

Conclusion:Conclusion:

在在 = .05= .05 下拒絕Ｈ下拒絕Ｈoo

有充分證據顯示四種訓練有充分證據顯示四種訓練方式平均時間至少一種有方式平均時間至少一種有差異差異

= .05= .05

F*F*MSAMSA

MSEMSE

116116

1010111166..

15 - 15 - 5757


配對平均數的多重比較配對平均數的多重比較 TuTukey-Kramer key-Kramer 多重比較多重比較

1. 1. 經經 ANOVAANOVA 分析後，拒分析後，拒絕平均數全等的假設絕平均數全等的假設2. 2. 多重比較多重比較 (multipl(multiple comparisons)e comparisons)

例如例如 : (: (11 = = 22))≠≠ 33

3. 3. 常用方法常用方法 : Bonferroni, T: Bonferroni, Tukey, Scheffé. ukey, Scheffé.

X

f(X)

1 = 2 3X

f(X)

1 = 2 3

2 Groupings2 Groupings

15 - 15 - 5858


例題一﹕單因子例題一﹕單因子 ANOVAANOVA(( 續續 ))

你是生產管理經理，欲知道你是生產管理經理，欲知道三台機器的產品裝箱平均時三台機器的產品裝箱平均時間是否有差異。因此三台機間是否有差異。因此三台機器；每台五人。並測試你抽器；每台五人。並測試你抽選了具相同訓練及經驗的操選了具相同訓練及經驗的操作員，並隨機指定至此得到作員，並隨機指定至此得到了下列的裝箱時間。了下列的裝箱時間。以顯著水準以顯著水準 .05 .05 ，檢定三，檢定三台機器的裝箱台機器的裝箱平均時間平均時間是否是否有差異有差異 ??如果有差異請指出如果有差異請指出何者機器最佳何者機器最佳 ??


15 - 15 - 5959


Tukey-Kramer Tukey-Kramer 多重比較多重比較過程過程 : : 例題一例題一

1. Compute absolute mean 1. Compute absolute mean differences:differences:Machine1 Machine2 Machine3

25.40 23.40 20.0026.31 21.80 22.2024.10 23.50 19.7523.74 22.75 20.6025.10 21.60 20.40

1 2

1 3

2 3

24.93 22.61 2.32

24.93 20.59 4.34

22.61 20.59 2.02

X X

X X

X X

2. Compute critical range:

3. All of the absolute mean differences are greater. There is a significant difference between each pair of means at 5% level of significance.

( , )'

1 1Critical Range 1.618

2U c n cj j

MSWQ

n n

15 - 15 - 6060


隨機完全區集設計隨機完全區集設計 (RCBD)(RCBD)

Items are divided into blocksItems are divided into blocks Individual items in different samples are Individual items in different samples are

matchedmatched Or repeated measurements are takenOr repeated measurements are taken Reduced within group variation (i.e.: Reduced within group variation (i.e.:

Remove the effect of block before testing)Remove the effect of block before testing)

Response of each treatment group is Response of each treatment group is obtainedobtained

15 - 15 - 6161


隨機完全區集設計隨機完全區集設計 (RCBD)(RCBD)例題例題

因子因子 (( 訓練方法訓練方法 ))

因子水準因子水準

區集大一區集大一大二大二大三大三

觀察值大一觀察值大一大二大二大三大三

21 hrs21 hrs 17 hrs17 hrs 31 hrs31 hrs



15 - 15 - 6262


隨機完全區集設計隨機完全區集設計 (RCBD)(RCBD)(( 變異分解變異分解 ))

處理因子變異 SSA

處理因子變異 SSA

區集因子變異 SSBL

區集因子變異 SSBL總變異

SST總變異

SST

Commonly referred to as:Commonly referred to as:Sum of squares errorSum of squares errorSum of squares Sum of squares

unexplainedunexplained

Commonly referred to as:

Sum of Squares Among

Among Groups Variation

=

+

+誤差變異

( 無法解釋之因素 ) SSE

誤差變異

( 無法解釋之因素 ) SSE

Commonly referred to as:

Sum of Squares among Block

15 - 15 - 6363


總變異總變異

2

1

the number of blocks

the number of groups or levels

the total number of observations

the value in the -th block for the -th treatment level

the mean of all val

c r

ijj i

ij

i

SST X X

r

c

n n rc

X i j

X

ues in block

the mean of all values for treatment level

1

j

i

X j

df n

15 - 15 - 6464


處理因子之變異處理因子之變異

2

1

1 (treatment group means)

1

1

c

jj

r

iji

j

SSA r X X

XX

rdf c

SSAMSA

c

15 - 15 - 6565


區集因子之變異區集因子之變異

2

1

1 (block means)

1

1

r

ii

c

ijj

i

SSBL c X X

X

Xc

df r

SSBLMSBL

r

15 - 15 - 6666


誤差之變異誤差之變異

2

1 1

1 1

1 1

c r

ij i jj i

SSE X X X X

df r c

SSEMSE

r c

15 - 15 - 6767


RCBDRCBD 之之 F-F- 檢定檢定

No treatment effectNo treatment effect

Test StatisticTest Statistic

Degrees of FreedomDegrees of Freedom

0 1 2: cH

1 : Not all are equaljH

MSAF

MSE

1 1df c

2 1 1df r c 0

UF F

Reject

15 - 15 - 6868


RCBDRCBD 之變異數分析表之變異數分析表

變異來源變異來源自由度自由度平方和平方和均方均方ＦＦ -- 檢檢定量定量

處理處理 c – 1c – 1 SSASSA MSA = MSA = SSA/(c – 1)SSA/(c – 1)

MSA/MSA/MSEMSE

區集區集 r – 1r – 1 SSBLSSBLMSBL =MSBL =

SSBL/(r – 1)SSBL/(r – 1)MSBL/MSBL/MSEMSE

誤差誤差 (r – 1) (r – 1) cc – – 1)1) SSESSE

MSE = MSE =

SSE/[(r – 1)SSE/[(r – 1)(c– (c– 1)]1)]

總和總和 rc – 1rc – 1 SSTSST

15 - 15 - 6969


例題一﹕例題一﹕ RCBDRCBD 之之 ANOVANOVAA 分析分析

你是生產管理經理，欲你是生產管理經理，欲知道三台機器的產品裝知道三台機器的產品裝箱平均時間是否有差異箱平均時間是否有差異。因此你抽選了五個不。因此你抽選了五個不同經驗的操作員，並隨同經驗的操作員，並隨機超做此三台機器；並機超做此三台機器；並測試得到了下列的裝箱測試得到了下列的裝箱時間。時間。以顯著水準以顯著水準 .05 .05 ，檢定，檢定三台機器的裝箱三台機器的裝箱平均時平均時間間是否有差異是否有差異 ??如果有如果有差異哪一台機器較佳差異哪一台機器較佳 ??

人　人　 Mach1Mach1 　　Mach2Mach2 　　 MachMach33一　一　 25.4025.40　　　　 23.4023.40 　　 20.0020.00二　二　 26.3126.31　　　　 21.8021.80 　　 22.2022.20三　三　 24.1024.10　　　　 23.5023.50 　　 19.7519.75四　四　 23.7423.74　　　　 22.7522.75 　　 20.6020.60五　五　 25.1025.10　　　　 21.6021.60 　　 20.4020.40

15 - 15 - 7070


例題一﹕例題一﹕ RCBDRCBD 之計算之計算

Machine1 Machine2 Machine3

25.40 23.40 20.0026.31 21.80 22.2024.10 23.50 19.7523.74 22.75 20.6025.10 21.60 20.40

2 2 25 24.93 22.71 22.61 22.71 20.59 22.71

47.164

8.4025

/( -1) 47.16 / 2 23.5820

/ ( -1) 1 8.4025 / 8 1.0503

SSA

SSE

MSA SSA c

MSE SSE r c

1

2

3

24.93

22.61

20.59

22.71

X

X

X

X

5

3

15

r

c

n

15 - 15 - 7171


例題一﹕例題一﹕ RCBDRCBD 之之 ANOVANOVAA 分析表分析表

變異來源變異來源自由度自由度平方和平方和均方均方 FFStatisticStatistic

處理處理 22SSA=SSA=47.16447.164

MSA = MSA = 23.58223.582

23.582/1.05023.582/1.0503=22.4523=22.452

區集區集 44SSBL=SSBL=2.65072.6507

MSBL =MSBL =

.6627.6627

.6627/1.0503.6627/1.0503

=.6039=.6039

誤差誤差 SSE=SSE=8.40258.4025

MSE = MSE =

1.05031.0503

總和總和 1414 SST=SST=58.217258.2172

15 - 15 - 7272


例題一﹕例題一﹕ RCBD RCBD 處理因子處理因子水準之檢定水準之檢定

F0 4.46

HH00: : 11 = = 22 = = 33

HH11: Not All Equal: Not All Equal

= .05= .05

dfdf11= 2 = 2 dfdf22 = 8 = 8

Critical Value(s):Critical Value(s):

Test Statistic:

Decision:

Conclusion:

Reject at = 0.05

There is evidence that at least one i differs from the rest.

= 0.05

FMSA

MSE

23 582

1.050322.45

.

15 - 15 - 7373


RCBDRCBD 的的 ExcelExcel 求解求解

Tools | data analysis | ANOVA: two factor Tools | data analysis | ANOVA: two factor without replicationwithout replication

Example solution in excel spreadsheetExample solution in excel spreadsheet


15 - 15 - 7474


15 - 15 - 7575


15 - 15 - 7676


Tukey-KramerTukey-Kramer 　多重比　多重比較程序較程序 : : 例題一例題一

1. Compute absolute mean 1. Compute absolute mean differences:differences:Machine1 Machine2 Machine3

25.40 23.40 20.0026.31 21.80 22.2024.10 23.50 19.7523.74 22.75 20.6025.10 21.60 20.40

1 2

1 3

2 3

24.93 22.61 2.32

24.93 20.59 4.34

22.61 20.59 2.02

X X

X X

X X

2. Compute Critical Range:

3. All of the absolute mean differences are greater. There is a significant difference between each pair of means at 5% level of significance.

( , 1 1 )

1.0503Critical Range 4.04 1.8516

5U c r c

MSEQ

r

15 - 15 - 7777


Tukey-Kramer Tukey-Kramer 多重比較多重比較　利用　利用 PHStatPHStat

PHStat | c-sample tests | Tukey-Kramer prPHStat | c-sample tests | Tukey-Kramer procedure …ocedure …

Example in excel spreadsheetExample in excel spreadsheet


15 - 15 - 7878


15 - 15 - 7979


ＣＣ RDRD 與與 RCBD RCBD 之關係之關係

CRD SST=SSA+SSE(CRD)CRD SST=SSA+SSE(CRD)

RCBD SST=SSA+SSBL+SSE(RCBD)RCBD SST=SSA+SSBL+SSE(RCBD)

SSE(CRD)=SSBL+SSE(RCBD)SSE(CRD)=SSBL+SSE(RCBD)

RCBDRCBD 將區集因子的變異從將區集因子的變異從 CRDCRD 的誤差變的誤差變中分解出來中分解出來

RCBDRCBD 的誤差變異永遠比的誤差變異永遠比 CRDCRD 為小為小

15 - 15 - 8080


無母數方法無母數方法Kruskal-Wallis Rank TesKruskal-Wallis Rank Tes

t t Extension of Wilcoxon Rank-Sum Test Extension of Wilcoxon Rank-Sum Test

Tests the equality of more than two (Tests the equality of more than two (cc) ) population medianspopulation medians

Distribution-free test procedureDistribution-free test procedure

Used to analyze completely randomized experiUsed to analyze completely randomized experimental designs mental designs

Use Use 22 distribution to approximate if each sampl distribution to approximate if each sample group size e group size nnjj > 5 > 5 dfdf = = c c – 1– 1

15 - 15 - 8181


K-W Rank TestK-W Rank Test 之假設與之假設與穩健性穩健性

AssumptionsAssumptions Independent random samples are drawnIndependent random samples are drawn Continuous dependent variableContinuous dependent variable Data may be ranked both within and among Data may be ranked both within and among

samplessamples Populations have same variabilityPopulations have same variability Populations have same shapePopulations have same shape

Robust with regard to last two conditionsRobust with regard to last two conditions Use Use FF test in completely randomized designs test in completely randomized designs

and when the more stringent assumptions holdand when the more stringent assumptions hold

15 - 15 - 8282


K-W Rank TestK-W Rank Test 之方法之方法

Obtain ranksObtain ranks In event of a tie, each of the tied values In event of a tie, each of the tied values

gets its average rankgets its average rank

Add the ranks for data from each of the c Add the ranks for data from each of the c groups groups Square to obtain Square to obtain ttjj

22

2

1

123( 1)

( 1)

cj

j j

TH n

n n n

1 2 cn n n n

15 - 15 - 8383


K-W Rank TestK-W Rank Test 之方法之方法 ((續續 ))

Compute test statisticCompute test statistic

# Of observation in # Of observation in jj –th sample –th sample H H may be approximated by chi-square distmay be approximated by chi-square dist

ribution with ribution with df = c –1 df = c –1 when each when each nnj j >5>5

(continued)

2

1

123( 1)

( 1)

cj

j j

TH n

n n n

1 2 cn n n n

jn

15 - 15 - 8484


K-W Rank TestK-W Rank Test 之方法之方法 ((續續 ))

Critical value for a given Critical value for a given Upper tail Upper tail

Decision ruleDecision rule Reject Reject HH00: M: M11 = M = M22 = ••• = m = ••• = mc c if test if test

statistic statistic HH > >

Otherwise do not reject Otherwise do not reject HH00

2U

2U

15 - 15 - 8585


例題一﹕ 例題一﹕ K-W Rank TestK-W Rank Test

你是生產管理經理，欲知道你是生產管理經理，欲知道三台機器的產品裝箱平均時三台機器的產品裝箱平均時間是否有差異。因此你抽選間是否有差異。因此你抽選了具相同訓練及經驗的操作了具相同訓練及經驗的操作員，並隨機指定至此三台機員，並隨機指定至此三台機器；每台五人。並測試得到器；每台五人。並測試得到了下列的裝箱時間。了下列的裝箱時間。以顯著水準以顯著水準 .05 .05 ，檢定三，檢定三台機器的裝箱台機器的裝箱平均時間平均時間是否是否有差異有差異 ??


15 - 15 - 8686


Machine1 Machine2 Machine3 14 9 2 15 6 7 12 10 1 11 8 4 13 5 3

例題解例題解 : : 第一步求第一步求 RanksRanks

Raw Data Ranks

65 38 17

Machine1 Machine2 Machine325.40 23.40 20.0026.31 21.80 22.2024.10 23.50 19.7523.74 22.75 20.6025.10 21.60 20.40

15 - 15 - 8787

銘傳應用統計系銘傳應用統計系例題解例題解 : : 第二步求第二步求 H H 值值

212

3( 1)( 1) 1

2 2 212 65 38 173(15 1)

15(15 1) 5 5 5

11.58

Tc jH n

n n nj j

15 - 15 - 8888

銘傳應用統計系銘傳應用統計系例題解例題解 : : 第三步中位數之檢定第三步中位數之檢定HH00: M: M11 = M = M22 = M = M33

HH11: Not all equal: Not all equal

= .05= .05

dfdf = = cc - 1 = 3 - 1 = 2 - 1 = 3 - 1 = 2

Critical Value(s):Critical Value(s):Reject at

Test Statistic:

Decision:

Conclusion:有證據證明三種機器的組裝時間是有差異的 .

= .05

= .05

H = 11.58

0 5.991

15 - 15 - 8989


K-W Test K-W Test 利用利用 PHStatPHStat 求求解解

PHStat | c-sample tests | Kruskal-Wallis raPHStat | c-sample tests | Kruskal-Wallis rank sum test …nk sum test …

Example solution in excel spreadsheetExample solution in excel spreadsheet


15 - 15 - 9090


15 - 15 - 9191


15 - 15 - 9292


結論結論

1.1. 描述變異數分析描述變異數分析 analysis of variance (ANOVA)analysis of variance (ANOVA)

2.2. 解說變異數分析的原理解說變異數分析的原理3.3. 比較各種的實驗設計比較各種的實驗設計4.4. 多母體平均數的比較與檢定多母體平均數的比較與檢定

完全隨機設計完全隨機設計 Completely randomized designCompletely randomized design 隨機完全區集設計隨機完全區集設計 randomized complete block desigrandomized complete block desig

nn Kruskal-Wallis rank testKruskal-Wallis rank test

15 - 15 - 9393


關於本課程關於本課程 ......

1.1. 你此堂課學到的最重要的觀念為何你此堂課學到的最重要的觀念為何 ??

2.2. 是否還有相關問題與疑問是否還有相關問題與疑問 ??

3.3. 如何改善今後的學習如何改善今後的學習 ??

請你靜下來想一想並回答下列問題請你靜下來想一想並回答下列問題 ::

Documents

變異數分析 ( 一 )