Neural network and GA approaches for dwelling fire occurrence prediction

Preview:

Citation preview

โ ป โ ป วธโครงขายประสาทเทยมและวธจนเนตกอลกอรทมสาหรบวธโครงขายประสาทเทยมและวธจนเนตกอลกอรทมสาหรบ

การทานายการเกดไฟไหมในทพกอาศยการทานายการเกดไฟไหมในทพกอาศยNeural network and GA approaches for dwelling fire occurrence predictionNeural network and GA approaches for dwelling fire occurrence prediction

L Yang C W Dawson M R Brown L Yang C W Dawson M R Brown M GellM GellL.Yang, C.W.Dawson, M.R.Brown L.Yang, C.W.Dawson, M.R.Brown M.GellM.Gell

อาจารยทปรกษาอาจารยทปรกษา

ผชวยศาสตราจารย ดรผชวยศาสตราจารย ดร กมลชนก พานชการกมลชนก พานชการ ผชวยศาสตราจารย ดรผชวยศาสตราจารย ดร..กมลชนก พานชการกมลชนก พานชการ

นาเสนอโดยนาเสนอโดย

นางสาวสรกลยา ประมวล รหสประจาตว นางสาวสรกลยา ประมวล รหสประจาตว 5030420750304207นางสาวสรกลยา ประมวล รหสประจาตว นางสาวสรกลยา ประมวล รหสประจาตว 5030420750304207

รายวชาสมมนา รายวชาสมมนา 2 2 ปการศกษา ปการศกษา 25522552

หวขอทนาเสนอหวขอทนาเสนอหวขอทนาเสนอหวขอทนาเสนอ

1. บทนา (Introduction)

2 การเลอกตวแปร (I t l ti )2. การเลอกตวแปร (Input selection)

3. การลดจานวนตวแปร (Reducing input dimension)

4. การสรางโมเดลโดยวธโลจสตก (A logistic model for prediction)

5. การสรางโมเดลโดยวธโครงขายประสาทเทยม (Neural network based prediction 5. การสรางโมเดลโดยวธโครงขายประสาทเทยม (Neural network based prediction

model)

6 การสรางโมเดลโดยวธจเนตกอลกอรทม (GA b d di ti d l)6. การสรางโมเดลโดยวธจเนตกอลกอรทม (GA based prediction model)

7. การเปรยบเทยบโมเดลทงสามโมเดล

8. อภปรายและสรปผล (Discussion and conclusions)

บทนา บทนา (Introduction)(Introduction)บทนา บทนา (Introduction)(Introduction)

1. พยากรณการเกดไฟไหมในทพกอาศยเมอง Derbyshire ทเปนพนทในประเทศ

องกฤษ 189 เขตองกฤษ 189 เขต

2. ใชวธวเคราะหองคประกอบหลกในการลดตวแปร โดยพจารณาทงหมด 7 ตวแปร

ป เหลอเพยง 3 ตวแปร

3. วธการสรางโมเดลทใชในการพยากรณทงหมด 3 วธ ไดแก

3.1 วธโลจสตกโมเดล

3.2 วธโครงขายประสาทเทยม

3.3 วธจเนตกอลกอรทม

4 เปรยบเทยบความแมนยาของโมเดล โดยใชเกณฑเปรยบเทยบโมเดลดวย Mean 4. เปรยบเทยบความแมนยาของโมเดล โดยใชเกณฑเปรยบเทยบโมเดลดวย Mean

Square Error

ป ใ โ ป ใ โการเลอกตวแปรในการสรางโมเดลการเลอกตวแปรในการสรางโมเดล

การเลอกตวแปร การเลอกตวแปร (Input selection)(Input selection)การเลอกตวแปร การเลอกตวแปร (Input selection)(Input selection)

Table 1

Correlation between the number of dwelling fires and the possible influencing factors

Correlation Population Unemployment Maximum

temperature

Minimum

temperature

Number of

Dwelling fires0.528 0.554 -0.044 -0.0306

Table 2 Correlation between the number of dwelling fires and the population distribution

Correlation Population in various ages

0~4 5~11 12~18 19~64 65~74 Over 75

Number of

Dwelling fires0.564 0.527 0.496 0.50 0.486 0.523

การเลอกตวแปร การเลอกตวแปร (Input selection)(Input selection)การเลอกตวแปร การเลอกตวแปร (Input selection)(Input selection)

ตวแปรทนามาพจารณาไดแก

ตวแปรท 1 AGE0 คอประชากรทมอายตากวา 4 ป

ตวแปรท 2 AGE5 คอประชากรทมอาย 5 ถง 11 ป

ตวแปรท 3 AGE12 คอประชากรทมอาย 12 ถง 18 ป

ตวแปรท 4 AGE19 คอประชากรทมอาย 19 ถง 64 ป ตวแปรท 4 AGE19 คอประชากรทมอาย 19 ถง 64 ป

ตวแปรท 5 AGE65 คอประชากรทมอาย 65 ถง 74 ป

ป ป ป ไปตวแปรท 6 AGE75 คอประชากรทมอาย 75 ปขนไป

ตวแปรท 7 UNEMP คอประชากรทวางงาน

ป ป การลดจานวนตวแปรอสระการลดจานวนตวแปรอสระ

การลดจานวนตวแปร การลดจานวนตวแปร (Reduce Input dimension)(Reduce Input dimension)การลดจานวนตวแปร การลดจานวนตวแปร (Reduce Input dimension)(Reduce Input dimension)

ใชวธ Principal Component Analysis: PCA ในการลดจานวนตวแปร

การเลอกตวแปร การเลอกตวแปร (Input selection)(Input selection)การเลอกตวแปร การเลอกตวแปร (Input selection)(Input selection)

โครงสรางการพยากรณการเกดไฟไหม

การแบงขอมลในการสรางและตรวจสอบโมเดลการแบงขอมลในการสรางและตรวจสอบโมเดลการแบงขอมลในการสรางและตรวจสอบโมเดลการแบงขอมลในการสรางและตรวจสอบโมเดล

ขอมลทใชในการสรางโมเดลและตรวจสอบโมเดล

ขอมลไฟไหมจาก 189 เขต

181 เขต 8 เขต

Training Set Test Set

ตวเปรยบเทยบผลลพธตวเปรยบเทยบผลลพธตวเปรยบเทยบผลลพธตวเปรยบเทยบผลลพธ

ตวเปรยบเทยบผลลพธทใชกบชดขอมลทดสอบ

คาความคลาดเคลอนเฉลยกาลงสอง (Mean squared error :MSE)

=

−∑n

2

i i

i 1

(A M )== i 1MSE

n

โดยท Ai คอจานวนไฟไหมทเกดขนจรง

M คอเปนคาพยากรณจานวนการเกดไฟไหม Mi คอเปนคาพยากรณจานวนการเกดไฟไหม

n คอจานวนขอมลของชดทดสอบ

ใ ใ โ ใ ใ ใ โ ใ วธการทใชในการสรางโมเดลในการพยากรณวธการทใชในการสรางโมเดลในการพยากรณ

L i i R i A l iL i i R i A l iLogistic Regression AnalysisLogistic Regression Analysis

การพยากรณโดยวธโลจสตก การพยากรณโดยวธโลจสตก (A logistic model for prediction)(A logistic model for prediction)การพยากรณโดยวธโลจสตก การพยากรณโดยวธโลจสตก (A logistic model for prediction)(A logistic model for prediction)

โมเดลการถดถอยโลจสตก

log(FIRE + l) = a b × PC1 c × PC2 d × PC3+ + + 1

การประมาณคาพารามเตอร a, b, c และ d สามารถหาไดจากวธการประมาณคากาลง

( )สองนอยสด (Least Square Estimation: LSE)

Table 3 Estimates of the parameters of the logistic model

Model Constant (a) PC1(b) PC(c) PC(d)

Parameter estimate 0.421 0.07099 -0.0165 0.0432

Standard error 0.019 0.008 0.026 0.028

การพยากรณโดยวธโลจสตก การพยากรณโดยวธโลจสตก (A logistic model for prediction)(A logistic model for prediction)การพยากรณโดยวธโลจสตก การพยากรณโดยวธโลจสตก (A logistic model for prediction)(A logistic model for prediction)

ผลลพธทได คา MSE มคาเทากบ 4 875คา MSE มคาเทากบ 4.875

N l N k N l N k Neural Network Neural Network

การพยากรณโดยวธโครงขายประสาทเทยม การพยากรณโดยวธโครงขายประสาทเทยม (Neural network model)(Neural network model)การพยากรณโดยวธโครงขายประสาทเทยม การพยากรณโดยวธโครงขายประสาทเทยม (Neural network model)(Neural network model)

โมเดลโครงขายประสาทเทยม (Neural Network Model)

คอโมเดลทางคณตศาสตร สาหรบประผลสารสนเทศดวยการคานวณแบบโครงขาย

โดยไดรบแนวคดจากการทางานของโครงขายประสาทในสมองมนษย

รปท ก. โมเดล Neuron ในสมองมนษย รปท ข. โมเดล Neuron ในคอมพวเตอร

การพยากรณโดยวธโครงขายประสาทเทยม การพยากรณโดยวธโครงขายประสาทเทยม (Neural network model)(Neural network model)การพยากรณโดยวธโครงขายประสาทเทยม การพยากรณโดยวธโครงขายประสาทเทยม (Neural network model)(Neural network model)

1 Feedback network ขอมลทประมวลผลในวงจรขายจะมการปอนกลบเขาไปยงวงจรขาย

สถาปตยกรรมของโครงขาย

1. Feedback network ขอมลทประมวลผลในวงจรขายจะมการปอนกลบเขาไปยงวงจรขาย

หลายๆ ครงจนกระทงไดคาตอบออกมา (Recurrent network)

Input nodes Output nodes

รปท ค. สถาปตยกรรมของ Feedback network

การพยากรณโดยวธโครงขายประสาทเทยม การพยากรณโดยวธโครงขายประสาทเทยม (Neural network model)(Neural network model)การพยากรณโดยวธโครงขายประสาทเทยม การพยากรณโดยวธโครงขายประสาทเทยม (Neural network model)(Neural network model)

2. Feedforward network ขอมลทประมวลผลในวงจรขายจะถกสงไปในทศทางเดยวโดย

ไมมการยอนกลบของขอมล หรอ Node ใน layer เดยวกนกไมมการเชอมตอกน y

Output layerInput layer Hidden layers

รปท ง. สถาปตยกรรมของ Feedforward network

การพยากรณโดยวธโครงขายประสาทเทยม การพยากรณโดยวธโครงขายประสาทเทยม (Neural network model)(Neural network model)การพยากรณโดยวธโครงขายประสาทเทยม การพยากรณโดยวธโครงขายประสาทเทยม (Neural network model)(Neural network model)

Transfer Function

1. Sigmoid Function

2. Binary Functiony

3. Linear Function

Algorithm

1. Backpropagation Algorithm

2. Levenberg-Marquardt Algorithm

3. Quasi-Newton Algorithm

4. Conjugate Gradient Algorithm

การพยากรณโดยวธโครงขายประสาทเทยม การพยากรณโดยวธโครงขายประสาทเทยม (Neural network model)(Neural network model)การพยากรณโดยวธโครงขายประสาทเทยม การพยากรณโดยวธโครงขายประสาทเทยม (Neural network model)(Neural network model)

ขอมลทใชในการสรางโมเดลและตรวจสอบโมเดล

ขอมลไฟไหมจาก 189 เขต

181 เขต 8 เขต

Training Set Test SetValidation Set

การพยากรณโดยวธโครงขายประสาทเทยม การพยากรณโดยวธโครงขายประสาทเทยม (Neural network model)(Neural network model)การพยากรณโดยวธโครงขายประสาทเทยม การพยากรณโดยวธโครงขายประสาทเทยม (Neural network model)(Neural network model)

โมเดลโครงขายประสาทเทยมทเหมาะสมกบปญหามากทสด

PC1Sigmoid Linear

PC1

PC2 YLevenberg-Marquardt

PC3

Input(3 i )

Output(1 t t)

Hidden1(10 d )

Hidden2(25 d )(3 inputs) (1 output)(10 nodes) (25 nodes)

การพยากรณโดยวธโครงขายประสาทเทยม การพยากรณโดยวธโครงขายประสาทเทยม (Neural network model)(Neural network model)การพยากรณโดยวธโครงขายประสาทเทยม การพยากรณโดยวธโครงขายประสาทเทยม (Neural network model)(Neural network model)

ผลลพธทได

คา MSE มคาเทากบ 2 375 คา MSE มคาเทากบ 2.375

G ti Al ithG ti Al ithGenetic AlgorithmGenetic Algorithm

การพยากรณโดยวธจเนตกอลกอรทม การพยากรณโดยวธจเนตกอลกอรทม (Genetic Algorithm)(Genetic Algorithm)การพยากรณโดยวธจเนตกอลกอรทม การพยากรณโดยวธจเนตกอลกอรทม (Genetic Algorithm)(Genetic Algorithm)

จเนตกอลกอรทม (Genetic algorithm: GA)

เปนวธการคนหาคาตอบซงเปนคาตอบทเหมาะสมทสด

โดยไดแนวความคดมาจากทฤษฎววฒนาการ Charles Darwin

จเนตกอลกอรทมเปนการคานวณอยางหนงทกลาวไดวาม

“ววฒนาการ” อยในขนตอนของการหาคาตอบ

การพยากรณโดยวธจเนตกอลกอรทม การพยากรณโดยวธจเนตกอลกอรทม (Genetic Algorithm)(Genetic Algorithm)การพยากรณโดยวธจเนตกอลกอรทม การพยากรณโดยวธจเนตกอลกอรทม (Genetic Algorithm)(Genetic Algorithm)

องคประกอบของจเนตกอลกอรทม

1. รปแบบโครโมโซม ใชนาเสนอรปแบบของคาตอบทเปนไปไดสาหรบปญหา1.1 Binary Encoding 1.2 Permutation Encoding1.3 Valued Encoding 1 4 di1.4 Tree Encoding

2 การสรางประชากรตนกาเนด (Initial Population) คอการสรางกลมประชากร 2. การสรางประชากรตนกาเนด (Initial Population) คอการสรางกลมประชากร เรมตนทใชสาหรบหาคาตอบ (ใชแบบ Random)

3. ฟงกชนประเมนคาความเหมาะสม (Fitness Evaluation) เพอใหคะแนนแตละ ทางเลอก

การพยากรณโดยวธจเนตกอลกอรทม การพยากรณโดยวธจเนตกอลกอรทม (Genetic Algorithm)(Genetic Algorithm)การพยากรณโดยวธจเนตกอลกอรทม การพยากรณโดยวธจเนตกอลกอรทม (Genetic Algorithm)(Genetic Algorithm)

องคประกอบของจเนตกอลกอรทม

โ ป ใ ใ 4. จเนตกโอเปอเรเตอร(Genetic Operator) ซงใชในการพฒนาหาคาตอบทดกวาจาก ประชากรเดมทมอย ไดแก

4 1 Reproduction4.1 Reproduction4.2 Crossover4.3 Mutation

5. คาพารามเตอรตางๆ ทตองใชสาหรบจเนตกอลกอรทม ไดแก5 1 C P b bilit5.1 Crossover Probability5.2 Mutation Probability5.3 Population sizep

การพยากรณโดยวธจเนตกอลกอรทม การพยากรณโดยวธจเนตกอลกอรทม (Genetic Algorithm)(Genetic Algorithm)การพยากรณโดยวธจเนตกอลกอรทม การพยากรณโดยวธจเนตกอลกอรทม (Genetic Algorithm)(Genetic Algorithm)

การพยากรณโดยวธจเนตกอลกอรทม การพยากรณโดยวธจเนตกอลกอรทม (Genetic Algorithm)(Genetic Algorithm)การพยากรณโดยวธจเนตกอลกอรทม การพยากรณโดยวธจเนตกอลกอรทม (Genetic Algorithm)(Genetic Algorithm)

ขอมลเขตท PC1 PC2 PC3 Y

1 X1 Y1 Z1 01 1 1

2 X2 Y2 Z2 3

3 X3 Y3 Z3 93 X3 Y3 Z3 9

4 X4 Y4 Z4 5

5 X Y Z 15 X5 Y5 Z5 1

6 X6 Y6 Z6 2

7 X7 Y7 Z7 7

8 X8 Y8 Z8 0

9 X9 Y9 Z9 0

181 X181 Y181 Z181 12

การพยากรณโดยวธจเนตกอลกอรทม การพยากรณโดยวธจเนตกอลกอรทม (Genetic Algorithm)(Genetic Algorithm)การพยากรณโดยวธจเนตกอลกอรทม การพยากรณโดยวธจเนตกอลกอรทม (Genetic Algorithm)(Genetic Algorithm)

กระบวนการแยกคณลกษณะ

1 Guide point = Xpi , Ypi , Zpi

โดยท P คอลาดบของ Guide point

i คอจานวน Guide point (i= 1 2 k)

Xp1 Y p1 Zp1 . . . Xpk Y pk Zpk = 1 Chromosome

i คอจานวน Guide point (i= 1,2,…,k)

p1 p1 p1 pk pk pk

N1 N k2 2 2 1/ 2

fitness i pj i pj i pjj 1

i 1

1f min((X X ) (Y Y ) (Z Z ) ) (1 E / k)

N ==

= − + − + − +∑ 2

การพยากรณโดยวธจเนตกอลกอรทม การพยากรณโดยวธจเนตกอลกอรทม (Genetic Algorithm)(Genetic Algorithm)การพยากรณโดยวธจเนตกอลกอรทม การพยากรณโดยวธจเนตกอลกอรทม (Genetic Algorithm)(Genetic Algorithm)

Start

k=1 k is the number of guide point

Desired valued = 50Run GA k=k+1

Desired valued 50

Generation = 20

Fitness

<=the desired valueno

E d

yes

End

Fig 6 An Iterative GAFig. 6 An Iterative GA

การพยากรณโดยวธจเนตกอลกอรทม การพยากรณโดยวธจเนตกอลกอรทม (Genetic Algorithm)(Genetic Algorithm)การพยากรณโดยวธจเนตกอลกอรทม การพยากรณโดยวธจเนตกอลกอรทม (Genetic Algorithm)(Genetic Algorithm)

X Y Z X Y Z = 1 Chromosome Xp1 Y p1 Zp1 . . . Xpk Y pk Zpk = 1 Chromosome

ในรอบท 1 Xp1 Y p1 Zp1

ในรอบท 2 Xp1 Y p1 Zp1 Xp2 Y p2 Zp2

ใ ในรอบท k Xp1 Y p1 Zp1 . . . Xpk Y pk Zpk

การพยากรณโดยวธจเนตกอลกอรทม การพยากรณโดยวธจเนตกอลกอรทม (Genetic Algorithm)(Genetic Algorithm)การพยากรณโดยวธจเนตกอลกอรทม การพยากรณโดยวธจเนตกอลกอรทม (Genetic Algorithm)(Genetic Algorithm)

ผลลพธทได

คา MSE มคาเทากบ 2 875 คา MSE มคาเทากบ 2.875

ป โป โสรปผลจากการทดสอบโมเดลสรปผลจากการทดสอบโมเดล

เปรยบเทยบการพยากรณ เปรยบเทยบการพยากรณ 3 3 วธวธเปรยบเทยบการพยากรณ เปรยบเทยบการพยากรณ 3 3 วธวธ

Logistic Model Neural Network Model Genetic Algorithm Model

MSE = 4.875 MSE = 2.375 MSE = 2.875

ขอด ขอด ขอด

- แกปญหาความไมเปนเชงเสนไมยงยากและงายตอการใชงาน

คานวณผลลพธไดรวดเรว

ขอด ขอด ขอด

- งายตอความเขาใจและเหนกระ

บวนการทกขนตอน ใ ป ป คานวณผลลพธไดรวดเรว บวนการทกขนตอน- มความสามารถในการปรบเปลยน

และสามารถเรยนรสภาพแวดลอม

ใหมๆได

ขอเสย ขอเสย ขอเสย

ใหมๆได

ความสมพนธจรงซบซอน

มากกวาทจะใช Logistic

model

- การคานวณผลลพธเสยเวลามาก

ในการคานวณแตละโครงขาย

กระบวนการซบซอน และคาตอบ

ทไดอาจไมใชคาตอบทดทสด

model

สรปผลสรปผลสรปผลสรปผล

ขอสรปจากงานวจย

1. ผลลพธการทานายไมเปนทนาพอใจ เนองจากขาดตวแปรทมผลตอการเกดไฟ

ไหมเชนขอมลทางดานพฤตกรรมในชวตประจาวนของมนษย

2. อณหภมสง/ตา มผลตอจานวนการเกดไฟไหมนอยมาก

3. เทคโนโลยดานโครงขายประสาทเทยมและจเนตกอลกอรทม สามารถ

ป ใ ใ ไฟไ ไ นามาประยกตใชและพฒนาตวแบบในการทานายการเกดไฟไหมได

Recommended