Upload
mercia
View
37
Download
0
Embed Size (px)
DESCRIPTION
Universidad de Oviedo. RAÚL PINO DIEZ EPSI de GIJÓN. DPTO. DE ADMÓN. DE EMPRESAS Y CONTABILIDAD. PREVISIÓN DE SERIES TEMPORALES MEDIANTE REDES NEURONALES ARTIFICIALES. REDES NEURONALES ARTIFICIALES · ADQUISICIÓN DE CONOCIMIENTO EXPERIMENTAL A PARTIR DE EJEMPLOS. - PowerPoint PPT Presentation
Citation preview
Universidad de OviedoDPTO. DE ADMÓN. DE
EMPRESAS Y CONTABILIDAD
RAÚL PINO DIEZEPSI de GIJÓN
PREVISIÓN DE SERIES TEMPORALES MEDIANTEREDES NEURONALES ARTIFICIALES
REDES NEURONALES ARTIFICIALES
ADQUISICIÓN DE CONOCIMIENTO EXPERIMENTAL A PARTIR DE EJEMPLOS.
GENERALIZACIÓN DEL CONOCIMIENTO ADQUIRIDO.
APROXIMACIÓN “PIECE-WISE” DE LAS FUNCIONES.
LAS RNAs SON NO-LINEALES
()AXÓN
SOMA
DENDRITAS
SINÁPSIS
EN
TR
AD
A SA
LID
A
(a) (b)
DISPOSITIVOS QUE SIMULAN LA ESTRUCTURA DE CÁLCULO PARALELO, DISTRIBUIDO Y ADAPTATIVO DEL CEREBRO.
65
APLICACIÓN DE RNA EN PREVISIÓN
1. ARQUITECTURA DE LA RED PERCEPTRÓN MULTICAPA (MLP) ........................ (RUMMELLHART and McCLELLAND, 1986)REDES PARCIALMENTE RECURRENTES ............ (JORDAN, 1986; ELMAN, 1990)TIME DELAY NETWORKS (TDNN) ......................... (WAIBEL, 1989)COUNTERPROPAGATION NETS ........................... (HETCH-NIELSEN, 1987)RADIAL BASIS FUNCTION (RBF) ………………….. (POWELL, 1987)
W’jk
Wij
U’k
Uj
entrada oculta
salida
PERCEPTRÓN MULTICAPA (MLP) REDES PARCIALMENTE RECURRENTESRED BACKPROPAGATION (BPN) (JORDAN, 1986; ELMAN, 1990)
2. CONFIGURACIÓN DE LA RED
* Nº DE NEURONAS DE ENTRADA (LACHTERMACHER and FULLER, 1995)
* Nº DE CAPAS OCULTAS Y TAMAÑO DE CADA UNA (CYBENKO, 1989)2n+1 (LIPPMANN,1987); 2n (WONG, 1991); n/2 (KANG,1991)
- PREVISIÓN UN PASO ADELANTE- PREVISIÓN VARIOS PASOS ADELANTE
MÉTODO DIRECTO PREVISION ITERATIVA
* ENLACES ENTRE LAS NEURONAS
- RED TOTALMENTE CONECTADA
- ENLACES DIRECTOS (DULIBA, 1991; CHEN, 1992)
* FUNCIÓN DE ACTIVACIÓN
- LINEAL, SIGMOIDE, TANGENTE HIPERBÓLICA
7
7
15 12
3
1
7
8
11
* Nº DE NEURONAS DE SALIDA
- REDES SEPARADAS (CHOI et al., 1997)
APLICACIÓN DE RNA EN PREVISIÓN
66
3. ALGORITMOS DE ENTRENAMIENTO * BACKPROPAGATION WITH MOMENTUM ……… (RUMELHART, 1986)* BACKPROPAGATION WITH WEIGHT DECAY …. (WERBOS, 1988)* QUICKPROP …………………………………………. (FAHLMAN, 1988)* RPROP ……………………………………………….. (RIEDMILLER and BRAUN, 1993)
4. PREPROCESADO DE DATOS(VAN EYDEN, 1996; AZOFF, 1994) 5. CONJUNTOS DE ENTRENAMIENTO, VALIDACIÓN Y TEST 6. MEDIDAS DE EFICIENCIA(MAKRIDAKIS et al., 1982) * MAD* SSE * MSE * RMSE * MAPE ....
APLICACIÓN DE RNA EN PREVISIÓN
APLICACIÓN DE RNA EN PREVISIÓN
MÉTODO DE BÚSQUEDA Y VALIDACIÓN DE UNA CONFIGURACIÓN DE RED NEURONAL ANÁLISIS DE LA SERIE TEMPORAL. (ACF, PACF, EACF, IACF) SELECCIÓN Y VALIDACIÓN DE LA CONFIGURACIÓN DE LA RED NEURONAL. (ACF, PACF, ANÁLISIS DE LA VARIANZA, ETC.) CÁLCULO DE PREVISIONES.
ANÁLISIS DE LA SERIE TEMPORAL (IDENTIFICACIÓN)
CONFIGURACIÓN INICIAL
VALIDACIÓN
MODIFICACIÓN DE LA
CONFIGURACIÓN INICIAL
PREVISIÓN
NO
SI
67
B A S E D E E J E M P L O S D E
E N T R E N A M I E N T O
V E C T O R D E E N T R A D A
P A R A P R E V I S I Ó N
R E D M L P P A R A P R E V I S I Ó N
C Á L C U L O D E L A P R E V I S I Ó N
R E D A R T - 1 P A R A S E L E C C I Ó N
APLICACIÓN DE RNA EN PREVISIÓN
MÉTODO DE ENTRENAMIENTO SELECTIVO DE UNA RED NEURONAL ARTIFICIAL SERIE TEMPORAL LARGA => MUCHO TIEMPO DE ENTRENAMIENTO PENG et al, 1992 HO et al., 1992 VERMAAK, 1998 VENTAJAS: VELOCIDAD DE ENTRENAMIENTO MODELO ACTUALIZADO FACIL AUTOMATIZACIÓN
APLICACIÓN DE RNAs EN PREVISIÓN
CALCULO DE PREVISIONES PARA: SERIES UNIVARIANTES CON Y SIN TENDENCIA.CON Y SIN ESTACIONALIDAD MODELOS AUTORREGRESIVOS NO ESTACIONARIOS MODELOS MEDIA MÓVIL NO INVERTIBLES MODELOS UNIVARIANTES CON CAMBIO DE PARÁMETROS MODELOS DE FUNCIÓN DE TRANSFERENCIA SISTEMAS MULTIVARIANTES SISTEMAS MULTIVARIANTES NO ESTACIONARIO SISTEMAS MULTIVARIANTES CON CAMBIO DE PARÁMETROS SISTEMAS UNIVARIANTES Y MULTIVARIANTES CON MÁS DE 10.000 DATOS
68
AR(2)
APLICACIÓN DE RNAs EN PREVISIÓN (I) SERIES UNIVARIANTES (I)
AR(1)EST(12)
0
0.5
1
1.5
2
0 20 40 60 80 100 120 140 1600.4
0.6
0.8
1
1.2
1.4
1.6
151 152 153 154 155 156 157 158 159
AL09Red Neuronal
0.0
0.5
1.0
1.5
2.0
0 10 20 30 40 50 60 70 80 90 100
0
0.2
0.4
0.6
0.8
1
1.2
90 91 92 93 94 95 96 97 98 99 100
BJ06Red Neuronal
1
1.1
1.2
1.3
1.4
1.5
1.6
1.7
146 147 148 149 150 151 152 153 154 155
Serie Red
0.0
0.2
0.4
0.6
0.8
1.0
1.2
1.4
1.6
1.8
0 20 40 60 80 100 120 140
1
1.5
2
2.5
3
3.5
4
4.5
0 20 40 60 80 100 120 1401.5
1.6
1.7
1.8
1.9
2
137 138 139 140 141 142 143 144 145 146
Serie UN21
Red Neuronal
AR(1)
MA(2)
AR(2) MA(12)EST(12)
APLICACIÓN DE RNAs EN PREVISIÓN (I) SERIES UNIVARIANTES (II)
3
4
5
6
7
8
0 20 40 60 80 100
3
4
5
6
7
8
95 96 97 98 99 100 101 102 103 104 105 106
AL03Red Neuronal
MA(1,12)EST(12)
MA(1,12)EST(12)
1.8
1.9
2
2.1
2.2
2.3
2.4
2.5
169 170 171 172 173 174 175 176 177 178
Serie Red
MA(1)EST(4)
0
1
2
3
4
5
6
7
0 20 40 60 80 100 120 140 160
0
5
10
15
20
25
30
0 20 40 60 80 100
10
12
14
16
18
20
22
24
26
28
30
96 97 98 99 100 101 102 103 104 105 106 107 108
AL04Red Neuronal
0
1
2
3
4
5
6
7
0 10 20 30 40 50 60 70 80 90 100 110 120 130 1403
3.5
4
4.5
5
5.5
6
6.5
135 136 137 138 139 140 141 142 143 144
BJ08Red Neuronal
69
APLICACIÓN DE RNAs EN PREVISIÓN (II) SERIES NO ESTACIONARIAS
-20
0
20
40
60
80
100
120
140
281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300
IR25 Red
-1
0
1
2
3
4
0 40 80 120 160 200 240 280
2
2.2
2.4
2.6
2.8
3
3.2
3.4
3.6
281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300
AR1
Red Neuronal
-4000000
-3000000
-2000000
-1000000
0
1000000
2000000
3000000
4000000
0 40 80 120 160 200 240 280-4000000
-3000000
-2000000
-1000000
0
1000000
2000000
3000000
4000000
5000000
281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300
AR22
Red Neuronal
-40
-20
0
20
40
60
80
100
120
140
160
0 40 80 120 160 200 240 280
AR(1)
AR(2)
AR(2)
MA(2)
MA(2)
MA(2)
APLICACIÓN DE RNAs EN PREVISIÓN (III) SERIES NO INVERTIBLES
30
32
34
36
38
40
0 40 80 120 160 200 240 280
32
33
34
35
36
37
38
281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300
MA20
Red Neuronal
28
30
32
34
36
38
40
42
0 40 80 120 160 200 240 28032
32.5
33
33.5
34
34.5
35
35.5
36
36.5
37
281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300
MA22
Red Neuronal
28
30
32
34
36
38
40
281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300
IR13 Red
28
30
32
34
36
38
40
42
0 40 80 120 160 200 240 280
70
APLICACIÓN DE RNAs EN PREVISIÓN (V) SISTEMAS MULTIVARIANTES
APLICACIÓN DE RNAs EN PREVISIÓN (IV) FUNCIÓN DE TRANSFERENCIA
48
50
52
54
56
58
60
280 285 290 295
Serie Y
Red
-3
-2
-1
0
1
2
3
0 25 50 75 100 125 150 175 200 225 250 275 300
45
48
51
54
57
60
63
0 25 50 75 100 125 150 175 200 225 250 275 300
Xt
Yt
0
1
2
3
4
5
6
7
8
9
10
148 149 150 151 152 153 154 155 156 157
I1
I1 Red
0
5
10
15
20
25
30
35
148 149 150 151 152 153 154 155 156 157
I2
I2 Red
0
2
4
6
8
10
12
14
16
148 149 150 151 152 153 154 155 156 157
I3
I3 Red
0
5
10
15
20
25
30
0 10 20 30 40 50 60 70 80 90 100 110 120 130 140 150 160
I1
I2
I3
AR(1)
APLICACIÓN DE RNAs EN PREVISIÓN (VI) SERIES CON CAMBIO DE PARÁMETROS
SERIE 1 SERIE 2
- 3
- 2
- 1
0
1
2
2 9 1 2 9 2 2 9 3 2 9 4 2 9 5 2 9 6 2 9 7 2 9 8 2 9 9 3 0 0
S e r i e 1R e d N e u r o n a l
- 6
- 5
- 4
- 3
- 2
- 1
0
1
2
3
2 9 1 2 9 2 2 9 3 2 9 4 2 9 5 2 9 6 2 9 7 2 9 8 2 9 9 3 0 0
S e r i e 2R e d N e u r o n a l
71