87
INTELIGENTNO UPRAVLJANJE Primjene neuronskih mreža Vanr. Prof.dr. Lejla Banjanovic-Mehmedovic Copyright: Lejla Banjanovic- Mehmedovic Inteligentno upravljanje

INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

  • Upload
    others

  • View
    5

  • Download
    1

Embed Size (px)

Citation preview

Page 1: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

INTELIGENTNO UPRAVLJANJE

Primjene neuronskih mreža

Vanr. Prof.dr. Lejla Banjanovic-Mehmedovic

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 2: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Primjene neuronskih mreža

� Aproksimacija funkcija� Klasifikacija� Predikcija� Predikcija� Identifikacija i upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 3: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

� Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje nelinearno preslikavanje, što predstavlja karakteristiku koju je moguće iskoristiti pri sintezi nelinearnih kontrolera, tj. njihovu primjenu u upravljanju.

Primjene neuronskih mreža

� Pogodno istrenirana mreža poseduje sposobnost generalizacije u slučaju da se pobudi ulazima kojih nije bilo meñu podacima za trening (neuronske mreže odlikuju se mogućnošću obučavanja i adaptacije).

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 4: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Neuronske mreže kao aproksimatori funkcija

� Ulaz:

� Pomoćna varijabla:

( ) ( ) ( ) ( )[ ]Tn ixixixix ,,, 21 ⋯=

( ) ( ) ( ) ( )[ ]Tiziziziz ,,, ⋯=� Izlaz:

� Skup podataka za treniranje:

Copyright: Lejla Banjanovic-Mehmedovic

( ) ( ) ( ) ( )[ ]Tn iziziziz

z,,, 21 ⋯=

( ) ( ) ( )( ),y i G x i z i=

( ) ( )( ) ( ) ( )( ){ }1 , 1 , , ,G x y x M y M= ⋯

Inteligentno upravljanje

Page 5: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Definicija problema aproksimacije funkcije� Problem aproksimacije je odreñivanje optimalnih

vrijednosti parametara θ = θ* uz koje je funkcija Fnajbolja aproksimacija funkcije G:

Copyright: Lejla Banjanovic-Mehmedovic

[ ] θρ θ ρ θ θ∗ ≤ ∀ ∈ ( )( , ), ( ) ( , ), ( ) , RnF G F Gx x x x

Inteligentno upravljanje

Page 6: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Definicija problema aproksimacije funkcije� Stone Weierstrassov-ova teorema (Stone, 1948)

dokazuje da za bilo koji ε > 0 i bilo koju kontinuiranu funkciju G(x), x Rn, postoji funkcija F(x) za koju vrijedi nejednačina |G(x) - F(θ,x)| < ε za x Rn(x) , gdje je ε mali realni broj.

� Kolmogorov teorema (Kolmogorov, 1957) dokazuje da � Kolmogorov teorema (Kolmogorov, 1957) dokazuje da se proizvoljna kontinuirana funkciju, definisana na n(x) -dimenzionalnoj hiperkocki, može aproksimirati superpozicijom konačnoga broja kontinuiranih funkcija jedne varijable.

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 7: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Neural Networks in Matlab

net = newff(minmax(D), [h o], {'tansig', 'tansig'}, 'traincgf'); net = train(net, D, L);

Copyright: Lejla Banjanovic-Mehmedovic

net = train(net, D, L);test_out = sim(net, testD);

where:D is training data feature vectors (row vector)L is labels for training datatestD is testing data feature vectors h is number of hidden unitso is number of outputs

Inteligentno upravljanje

Page 8: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Primjer 1.� Problem računanja pritiska idealnog plina. Prema idealnom

plinskom zakonu važi pV = nRT, iz čega dobijemo da je pritisak p = nRT/V,

� gdje je: � p – pritisak [Pa],� V – zapremina [m3],� V – zapremina [m3],� n – molarna masa [mol],� R – univerzalna plinska konstanta: 8.314472 [JK-1mol-1],� T – termodinamička temperatura [K].� Način kreiranja uzoraka iz eksperimentalnih mjerenja. Ulazne

varijable su masa i zapremina, a izlazna varijabla je pritisak, tj. ulazno-izlazni parovi za proces treniranja su oblika: G((n(i),V(i),p(i)).

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 9: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Primjer: neuronske mreže kao aproksimatori funkcije

� % Postavljanje parametara treniranja� n=1:100; % molarna masa [mol]� V=linspace(2,50,100); % zapremina [m^3]� T=293.15; % konstanta - termodinamicka temperatura [K] (25°[C])� R=8.314472; %univerzalna plinska konstanta [J/(Kmol)]� target = n*R*T./V; %prema zakonu za idealne plinove pV=nRT

p = nRT/V

Copyright: Lejla Banjanovic-Mehmedovic

� target = n*R*T./V; %prema zakonu za idealne plinove pV=nRT� input = [n;V]; %ulazne varijable su masa i zapremina� % Kreiranje neuronske mreže� net = newff([min(n) max(n);min(V) max(V)],[5 1],

{'logsig','purelin'},'trainlm');� % Parametri treniranja mreže.� net.trainParam.show=NaN;� net.trainParam.epochs=100;� net.trainParam.lr=0.05;� net.trainParam.goal=1e-3;

Inteligentno upravljanje

Page 10: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Primjer 1: Neuronske mreže kao aproksimatori funkcije

% Treniranje mreže.net=train(net,input(:,1:2:100),target(1:2:100));% Testiranje trenirane mreže.output=sim(net,input);greska=(output-target)*100/max(target);

Copyright: Lejla Banjanovic-Mehmedovic

% Prikaz rezultataplot(target,'o'); %zeljeni pritisakhold onplot(output,'g*'); %dobijeni pritisaktitle('Treniranje neuronske mreže');

Inteligentno upravljanje

Page 11: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Primjer 1: Neuronske mreže kao aproksimatori funkcije

Copyright: Lejla Banjanovic-Mehmedovic

Loša aproksimacija neuronske mreže strukture [5 1] sa brzinom učenja 0.05

Konfiguracija mreže [10 5 1] kroz 100 epoha treniranja, koja daje mnogo bolje rezulate

Inteligentno upravljanje

Page 12: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

RBF MREŽE

� NEWRB dodaje neurone u skriveni sloj RBF mreže sve dok se ne dostigne specificirana srednja kvadratna greška.

� “Radial basis” funkcija za implementaciju u Matlabu:net = newrb(P,T,GOAL,SPREAD, MN, DF)gdje su : gdje su : P ulazni vektor podatakaT ciljni vektor izlazaGOAL srednje kavadratna greška (default = 0.0)SPREAD širina “radial basis” funkcija (default = 1.0)MN maksimalan broj neurona, default Q.DF broj neurona koji se dodaje izmeñu prikaza,

default = 25.

Inteligentno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

Page 13: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Primjer: RBF mreže kao aproksimatori

� Generisati ulazne podatke za funkciju

kada je

2( ) 3y x x x= +

4 4x− ≤ ≤

� Izvršiti aprokimaciju sa RBF neuronskom mrežom.

4 4x− ≤ ≤

Inteligentno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

Page 14: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Rješavanje problema pomoću MATLAB/Neural Network Toolboxa

� % Generisanje podataka (ukupno dobivamo 41 podatak)

� x=-4:0.05:4; y=x.*x+3*x;� P=x;T=y;� % Grafički prikaz podataka

� plot(P,T,’o’)� plot(P,T,’o’)� grid; xlabel(’time (s)’); ylabel(’output’); title(’parabola’)

-4 -3 -2 -1 0 1 2 3 4-5

0

5

10

15

20

25

30

time (s)

outp

ut

parabola

Inteligentno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

Page 15: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Rezultati treniranja RBF mreže� net1=newrb(P,T,0.01);� %Simulacija podataka

� a= sim(net1,P);� %Grafički prikaz � %Grafički prikaz

rezultata i greške

� plot(P,a-T,P,T)

Inteligentno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

Page 16: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Primjena neuronskih mreža u klasifikaciji i predikcijiklasifikaciji i predikciji

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 17: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Evaluacija klasifikacijskih modela� Osnovni zadatak evaluacije klasifikacijskih modela je izmjeriti u

kojem stepen predikcije sugerisana izgrañenim modelom odgovara stvarnosti.

� Matrica grešaka za problem s dvije klase (Confusion matrix )

Inteligentno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

� Stvarno pozitivni (eng. True Positives - TP) i stvarno negativni (eng. True Negatives - TN) ishodi predstavljaju ispravnu klasifikaciju(predikciju).

� Lažno pozitivni (eng. False Positives - FP) i lažno negativni (eng. False Negatives - FN) ishodi predstavljaju dva moguća tipa greške.

Page 18: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Kriteriji verifikacije

TNFNFPTP

TNTPACC

++++=

� Korišteni kriteriji: tačnost (ACC), senzitivnost (TPR), specifičnost (TNR), odziv, preciznost (PR), pozitivna prediktivna vrijednost (PPV), negativna prediktivna vrijednost (NPR) i f-mjera (F1).

FPTP

TPPR

+=

TNFNFPTPACC

+++=

TNTP

TPTPR

+=

TNTP

TNTNR

+=

FPTPPR

+=

FNTN

TNNPR

+=

FNFPTP

TPF

++=

2

21

Inteligentno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

Page 19: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Evaluacije klasifikacijskih modela

Inteligentno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

Page 20: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Primjer složenije matrice grešaka

Inteligentno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

Page 21: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

K-unakrsna kros-validacija� K-struka unakrsna validacija (engl. k-fold cross

validation) � Slučajno rasporediti primjere za učenje u k odvojenih

skupova Ti , za i = 1, . . . , k, � tipično po 30+ primjera.

� Za i = 1 do k ponovi: � –Koristi Ti kao testni skup, a ostale podatke Tm, iskoristi za učenje

modela hi . � – Na testnom skupu Ti izračunaj grešku Li modela hi. Izračunaj

prosječnu grešku za svih k modela.

Inteligentno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

Page 22: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

K-unakrsna kros-validacija

Inteligentno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

Page 23: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Detekcija poremećaja u odabranim sekcijama kotla u termoelektrani sekcijama kotla u termoelektrani primjenom neuronskih mreža

Inteligentno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

Page 24: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Specifična problematika objekta� Termoelektrane su i dalje značajni industrijski

objekti – oko 40% udjela u globalnoj proizvodnji električne energije.

� Kotao – jedno od najznačajnijih postrojenja u termoelektrani.Najznačajnije sekcije (ne postoji jedinstvena � Najznačajnije sekcije (ne postoji jedinstvena podjela):� Sistem voda-para – napajanje kotla, pregrijačka sekcija,

meñupregrijačka sekcija, bubanj itd.� Sistem za spaljivanje uglja – mlinovi i dodavači uglja,

ventilatori svježeg zraka, mazutni gorionici itd.� Sistem dimnih plinova – elektrofilteri, ventilatori dimnih

plinova, rotacioni zagrijači itd.

Inteligentno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

Page 25: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Odabrane procesne veličine� Sve procesne veličine iz sistema za nadzor i

upravljanje blokom 4 u Termoelektrani “Tuzla”:� Moguće klase anomalija (klasa, 0) i normalno

ponašanje (klasa, 1)� Odabrane ulazne veličine pregrijačke sekcije:� Odabrane ulazne veličine pregrijačke sekcije:

� Temperatura primarne pare� Protok primarne pare� Protok vode za hlañenje primarne pare

� Odabrane veličine sekcije bubnja:� Nivo napojne vode u bubnju� Pritisak pare u bubnju� Protok napojne vode prema bubnju

Inteligentno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

Page 26: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Konfiguracija MLP mrežeParametri korišteni za testiranje MLP mreže su:

� Broj skrivenih slojeva: 3� Broj neurona po skrivenom sloju: 10-30� Koeficijent brzine učenja: 0,001-0,3� Broj epoha: 100-900� Broj epoha: 100-900� Momentum učenja: 0,1-0,9 (samo za algoritam

učenja koji koristi momentum)

� Prilikom testiranja uticaja jednog od parametara sve ostale vrijednosti su na minimumu.

Inteligentno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

Page 27: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Testiranje – MLP mrežaMjera

(pregrijači) 30 neurona Koef. brzine 0,3 900 epoha Momentum

0,7

ACC 0,9028 0,9646 0,9076 0,7271

TPR 0,5312 0,5148 0,5360 0,6203

TNR 0,4688 0,4852 0,4640 0,3797

PR 0,8620 0,9396 0,8606 0,6682

NPR 0,9538 0,9926 0,9688 0,8494

F1 0,9080 0,9656 0,9133 0,7677

Mjera (bubanj) 25 neurona Koef. brzine

0,3 900 epoha Momentum 0,9

ACC 0,9383 0,9799 0,9542 0,8934

TPR 0,5202 0,5011 0,5160 0,5293

TNR 0,4798 0,4989 0,4840 0,4707

PR 0,9142 0,9779 0,9280 0,8561

NPR 0,9660 0,9819 0,9837 0,9395

F1 0,9406 0,9799 0,9555 0,8987

Inteligentno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

Page 28: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Rezultati detekcije anomalija u TE

Inteligentno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

Prikaz ulaza i uporednih rezultata izlaza korištenih neuronskih mreža

Page 29: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Primjena MLP i RBF neuronskih mreža u predikcijimreža u predikciji

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 30: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

ITS� Predikcija profila brzine (kontinulana varijabla) na

osnovu atributa signala komunikacije i distance

Inteligentno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

Page 31: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Ulazni atributi za par vozila

2

4

6

8RSSI

Signal strength RSSI between communicating agents

Inteligentno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

0 200 400 600 800 1000 1200 1400 1600 1800 20000

Sample #

0 200 400 600 800 1000 1200 1400 1600 1800 20000

500

1000

1500

2000

2500

3000

Sample #

Dis

tanc

e (m

)

Distance between communicating agents

Page 32: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Gradnja prediktivnog modela� Gradnja prediktivnog modela korištenjem različitih

topologija MLP i RBF neuronskih mreža

NNType

NN LR SpreadMNE Perfor

mance(MSE)

Output error predict

Inteligentno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

Type(MSE) R2 RMSE

MLP 10 0.001 n/a 500 6,26 0,2762 2,6350MLP 20 0.001 n/a 500 6,22 0,2730 2,3686MLP 30 0.001 n/a 1000 6,20 0,2851 2,3488MLP 10 0.01 n/a 500 6,35 0,2584 2,3923MLP 20 0.01 n/a 1000 6,21 0,2920 2,3375MLP 30 0.01 n/a 1000 6,13 0,2918 2,3378RBF 25 n/a 0,5 500 0,675 0,9053 0,8550RBF 25 n/a 0,1 500 0,087 0,9917 0,253RBF 25 n/a 0,05 500 0,029 0,9981 0,1211

Page 33: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Rezultati predikcije korištenjem MLP neuronske mreže

5

10

15

Speed (km

/h)

Samples of evaluated training data and training error

Measured value

Predicted valueError

Inteligentno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

0 100 200 300 400 500 600 700 800 900

0

Speed (km

/h)

0 50 100 150 200 250 300

0

5

10

15

Speed (km

/h)

Samples of evaluated prediction data and training error

Measured value

Predicted valueError

Page 34: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Rezultati predikcije korištenjem RBF neuronske mreže

0

5

10

15

Spe

ed (km

/h)

Samples of evaluated training data and training error

Measured value

Predicted valueError

Inteligentno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

0 100 200 300 400 500 600 700 800 900

0

0 50 100 150 200 250 300

0

5

10

15

Spe

ed (km

/h)

Samples of evaluated prediction data and training error

Measured value

Predicted valueError

Page 35: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Ocjenjivanje mreže u zadaćama regresije (predikcije)

� Srednja kvadratna greška (Root mean square error):

� Koeficijent determinacije:� Koeficijent determinacije:

� Pearsonov koeficijent:

� yi i fi – mjerene i predvidjene vrijednosti sa NM, n –broj uzoraka testnih podataka.

Inteligentno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

Page 36: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Primjena MLP neuronskih mreža u identifikaciji i upravljanjuu identifikaciji i upravljanju

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 37: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

� Zbog svoje nelinearne prirode (nelinearne aktivacijske funkcije), neuronske mreže su pogodne za realizaciju kompleksnih nelinearnih funkcija i sistema.

� Osnovna osobina zbog koje su neuronske mreže vrlo dobar

Primjena neuronskih mreža u identifikaciji

� Osnovna osobina zbog koje su neuronske mreže vrlo dobar alat za identifikaciju sistema je mogućnost da uče iz iskustva (treniranje). Osim toga, neuronske mreže mogu se primijeniti i na netrenirane ulaze, gdje se na osnovu naučenog može prediktovati izlaz iz procesa.

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 38: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

� Zakonitosti ponašanja nekog dinamičkog sistema najčešće se opisuju matematičkim modelom. Matematički model sistema odreñuje se teoretskom ili eksperimentalnom analizom ili njihovom kombinacijom.

� Ako se posmatraju tehnički sistemi, teoretskom analizom se dobivaju tzv. fizikalni matematički modeli sistema, koji fizikalne zakonitosti njegovog ponašanja opisuju

Identifikacija sistema

fizikalne zakonitosti njegovog ponašanja opisuju matematičkim jednačinama. Taj se postupak naziva modeliranjem sistema.

� Eksperimentalna analiza podrazumijeva odreñivanje tzv. eksperimentalnog matematičkog modela sistema na osnovu skupa mjernih vrijednosti ulaznih i izlaznih signala sistema. Ovaj se postupak naziva identifikacijom sistema.

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 39: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

� Postupak identifikacije odvija se u nekoliko osnovnih koraka:

� prikupljanje ulazno-izlaznih podataka, tj. mjernih vrijednosti ulaznih i izlaznih signala procesa

Identifikacija sistema

vrijednosti ulaznih i izlaznih signala procesa� izbor strukture modela procesa� izbor kriterija kvaliteta modela procesa� estimacija parametara modela procesa� izbor optimalne dimenzije modela i njegovo

vrednovanje.

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 40: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Identifikacija sistema

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 41: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

� Identifikacija procesa zasniva se na mjernim vrijednostima ulaznih i izlaznih signala procesa, tzv. ulazno-izlaznim podacima.

� Ulazno-izlazni podaci najčešće se prikupljaju za vrijeme posebno pripremljenog identifikacijskog eksperimenta, a postupak odreñivanja modela procesa provodi se

Identifikacija sistema

postupak odreñivanja modela procesa provodi se naknadno bez interakcije s procesom (off-line identifikacija).

� Izbor strukture modela procesa - najvažniji i najsloženiji korak postupka identifikacije procesa. Pri izboru strukture modela korisno je imati na raspolaganju odreñena saznanja o procesu (može pomoći teoretska analiza procesa). Ako je vrlo malo a priori znanja dostupno, uobičajeno se koristi opšti model (tzv. model crne kutije, engl.black-box model).

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 42: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

� Uobičajena pretpostavka u identifikaciji procesa je da je proces koji se identificira linearan i vremenski nepromjenljiv.

� Meñutim, kod nekih procesa nelinearnost je jako izražena tako da linearni modeli nisu dovoljno dobri za

Identifikacija sistema

izražena tako da linearni modeli nisu dovoljno dobri za opis njihovog ponašanja, već se moraju primijeniti nelinearni modeli.

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 43: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Identifikacija sistema� Široka klasa nelinearnih dinamičkih procesa može se opisati sljedećim

diskretnim izrazima u prostoru stanja :

� gdje je:� u(k) – vektor ulaznih signala procesa dimenzije n(u);� x(k) – vektor varijabli stanja procesa dimnezije n(x);

)())(),(,()(

))(),(,()1(

kkukxkhky

kwkxkgkx

ξ+==+

Copyright: Lejla Banjanovic-Mehmedovic

� x(k) – vektor varijabli stanja procesa dimnezije n(x);� y(k) – vektor izlaznih signala procesa dimenzije n(y);� g – vektorska funkcija koja opisuje dinamiku procesa,� h- vektorska funkcija koja opisuje ovisnost izlaznih signala procesa o

varijablama stanja;� w(k) – vektor slučajnih varijabli sa svojstvima Gaussovog bijelog šuma

očekivanja i varijance, tzv. procesni šum ( engl. process noise);� ξ(k) – vektor slučajnih varijabli sa svojstvima Gaussovog bijelog šuma

tzv. mjerni šum

Inteligentno upravljanje

Page 44: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Identifikacija sistema

� U teoriji sistema je od primarne važnosti poznavanjefunkcije koja opisuje ulazno-izlazno ponašanje procesa,jer se sva interakcija s procesom odvija preko ulaznih iizlaznih signala.

Copyright: Lejla Banjanovic-Mehmedovic

� Ekvivalentna forma ponašanja nelineranog dinamičkogsistema u prostoru stanja može se prikazati sa sljedećimulazno-izlaznim opisom:

)(),,()( 11 kyukfky kk ζ+= −−

Inteligentno upravljanje

Page 45: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Identifikacija sistema� Kao aproksimacijska funkcija uobičajeno se primjenjuje

funkcija parametrirana konačno-dimenzionalnim vektorom parametara :

),,,( 11 Θ−− kkN yukf

� Parametriranjem funkcije odreñena je struktura modela procesa:

� Predikcijski model procesa ili prediktor!

� Vektor signala greški izmeñu izlaznih signala procesa i modela (vektor predikcijskih greški):

Copyright: Lejla Banjanovic-Mehmedovic

),,,()( 11 Θ= −−∧

kkN yukfky

)()()( kykyke∧

−=

Inteligentno upravljanje

Page 46: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Identifikacija sistema

Copyright: Lejla Banjanovic-Mehmedovic

[ ] ),)(),(()),(()( Θ=Θ=∧

kkfkfky uyNN ϕϕϕ[ ] [ ]T

uy nbkukunakykykkk )(),...,1(),(),...,1()(),()( −−−−== ϕϕϕU statistici se predikcijski model naziva nelinearnom regresijom, vektor regresijskim vektorom, dok se njegove komponente nazivaju regresorima.

)(kϕ

Inteligentno upravljanje

Page 47: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Identifikacija sistema� Razdvajanjem funkcije u kompoziciju dviju

funkcija razdvaja se i problem izbora strukture opšteg nelinearnog modela procesa na dva zasebna problema:� izbor regresijskoga vektora , odnosno funkcije )(kϕ ),( 11 −− kk yuϕ� izbor regresijskoga vektora , odnosno funkcije

koja preslikava prostor prošlih mjernih vrijednosti ulaznih i izlaznih signala procesa u regresijski prostor i

� izbor funkcije koja preslikava regresijski prostor u izlazni prostor modela procesa

Copyright: Lejla Banjanovic-Mehmedovic

)(kϕ ),( 11 −− kk yuϕ

),( ΘϕNf

Inteligentno upravljanje

Page 48: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

� U nelinearne modele spadaju :•NFIR modeli (engl. Nonlinear FIR models)•NARX modeli (engl. Nonlinear ARX models)•NOE modeli (engl. Nonlinear OE models)

Modelske strukture

•NOE modeli (engl. Nonlinear OE models) •NARMAX modeli ( engl. Nonlinear ARMAX models),•NBJ modeli (engl. Nonlinear BJ models).

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 49: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Modelske strukture� U najopštijem slučaju, struktura modela može imati

oblik:

� Nelinearni modeli:

Copyright: Lejla Banjanovic-Mehmedovic

� Nelinearni modeli:•NFIR modeli (engl. Nonlinear FIR models)•NARX modeli (engl. Nonlinear ARX models)•NOE modeli (engl. Nonlinear OE models) •NARMAX modeli ( engl. Nonlinear ARMAX models),•NBJ modeli (engl. Nonlinear BJ models).

Inteligentno upravljanje

Page 50: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Izbor regresijskog vektoraIzbor (pseudo) regresijskog vektora φ(k)

� Tabela 1. Pregled regresora, odgovarajućih linearnih modela i grupa nelinearnih modela procesa

RegresoriLinearni

Grupa

nelinearnih

Copyright: Lejla Banjanovic-Mehmedovic

RegresoriLinearni

modelnelinearnih

modela

FIR model NFIR modeli

ARX model NARX modeli

OE model NOE modeliARMAX model

NARMAX modeli

BJ model NBJ modeli

Inteligentno upravljanje

Page 51: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Strukture modela procesa shodno izboru regresorskog vektora

NARX

Inteligentno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

Page 52: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

NARMAX

Strukture modela procesa shodno izboru regresorskog vektora

Inteligentno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

NOE

NFIR

Page 53: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Izbor aproksimatorske funkcije

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 54: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

� Nakon što je izabrana struktura modela procesa pristupa se estimaciji parametara modela s ciljem pronalaženja vrijednosti parametara uz koje predikcijska greška poprima najmanji iznos.

� Model procesa može se smatrati dobrim tek kada ukupna predikcijska greška e*(Θ) na čitavom skupu mjernih podataka poprimi najmanji iznos. Iznos ukupne predikcijske greške mjeri se

Kriterij kvaliteta

poprimi najmanji iznos. Iznos ukupne predikcijske greške mjeri se kriterijem kvaliteta :

� U slučaju on-line identifikacije koristi se modifikovani kriterij kvaliteta :

gdje je faktor zaboravljanja.

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 55: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

� Zadaća postupaka estimacije parametara modela je pronalaženje optimalnih vrijednosti parametara modela Θ* uz koje je predikcijska greška najmanja,odnosno tražimo minimum kriterija kvaliteta:

Θ*=arg min ζ(Θ)� Za primjenu postupaka estimacije parametara modela

Estimacija parametara modela procesa

� Za primjenu postupaka estimacije parametara modela potrebno je, osim strukture, izabrati i optimalnu dimenziju modela procesa. Pod optimalnom dimenzijom modelaprocesa smatra se ona dimenzija koja model čini dovoljno fleksibilnim da može modelirati svu relevantnu dinamiku procesa, ali koja previše ne povećava iznos varijance predikcijske greške

� Završnu fazu postupka identifikacije predstavlja vrednovanje modela procesa. Cilj je objektivno vrednovati identificirani model procesa, odnosno ocijeniti stepen podudarnosti njegovog ponašanja s ponašanjem stvarnoga procesa.

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 56: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Postupci vrednovanja modela procesa� Usporedbu ponašanja modela procesa i

stvarnoga procesa treba provoditi na podacima koji nisu korišteni za estimaciju parametara modela (podaci za vrednovanje).

� Za vrednovanje modela procesa koriste se ,,� Za vrednovanje modela procesa koriste se

� parametarski i � korelacijski postupci.

Copyright: Lejla Banjanovic-Mehmedovic

,,

Inteligentno upravljanje

Page 57: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Strukture upravljanja zasnovane na neuronskim zasnovane na neuronskim mrežama

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 58: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

� Meñu najznačajnije primjene vještačkih neuronskih mreža ubraja se njihova primjena u upravljanju nelinearnim procesima.

� Četiri strukture upravljanja:� Inverzno upravljanje (engl. Inverse Control);

� Upravljanje s referentnim modelom (engl. Model

Strukture upravljanja zasnovane na neuronskim mrežama

� Upravljanje s referentnim modelom (engl. Model Reference Control)

� Upravljanje s unutarnjim modelom (engl. Internal Model Control)

� Prediktivno upravljanje (engl. Predictive Control).

� Zajednička karakteristika svih ovih struktura upravljanja je zasnovanost na identificiranom neuronskom modelu procesa.

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 59: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

� Inverzno upravljanje se zasniva na primjeni inverznogmodela procesa koji se spaja u seriju s procesom.

� Inverzni model procesa, predstavljen neuronskommrežom, djeluje kao regulator.

� Inverzni neuronski regulator može se opisati izrazom:

Inverzno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 60: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Inverzno upravljanje� Prema načinu učenja inverznog neuronskog

regulatora razlikuju se:� neposredno učenje (učenja parametri regulatora se određuju

bez prethodne identifikacije modela procesa)� posredno učenje (prvo se identificira model procesa koji se � posredno učenje (prvo se identificira model procesa koji se

zatim koristi pri učenju parametara regulatora).

� Osnovni problem kod inverznog upravljanjavezan je uz invertibilnost modela procesa (akonelinearni operator, koji predstavlja proces, više ulaznih vrijednosti preslikava u istu izlaznuvrijednost, tada ne postoji jedinstveno rješenjeinverznog problema).

Inteligentno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

Page 61: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Upravljanje elektrohidraučkim sistemom korištenjem inverznog modela

Inteligentno upravljanje

Copyright: Lejla Banjanovic-Mehmedovic

Page 62: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

� Kao referentni model može se odabrati bilo koji stabilni model definisan ulazno-izlaznim vrijednostima {yr(k),yrm(k)}.

� U praksi se najčešće kao referentni model koristi linearni sistem drugog reda:

Upravljanje s referentnim modelom

referentni model koristi linearni sistem drugog reda:

Yrm(k) = (1+p1+p2) * yr(k) + p1 * yrm(k-1) + p2 * yrm(k-2)

gdje je :

Copyright: Lejla Banjanovic-Mehmedovic

Blok šema sistema upravljanja s referentnim modelom i neuronskim regulatorom

Inteligentno upravljanje

Page 63: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

� Upravljanje s unutarnjim modelom (IMC upravljanje) zasniva se na modelu procesa i nainverznom modelu procesa.

� U strukturu upravljanja uključena je povratna veza posignalu razlike izmeñu procesa i njegovog modela, a rezultat je kompenzacija vanjskog poremećaja.

Upravljanje s unutarnjimmodelom (IMC upravljanje)

rezultat je kompenzacija vanjskog poremećaja.

IMC upravljanje može se primijeniti isključivo zaupravljanje procesima kojisu stabilni u otvorenojpetlji.

Copyright: Lejla Banjanovic-Mehmedovic

Iznimno prikladan za upravljanje industrijskim procesima.

Inteligentno upravljanje

Page 64: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

� Prediktivno upravljanje je jedan od koncepata upravljanja zasnovanih na modelu procesa.

� Model procesa služi za predviñanje (predikciju)

Prediktivno upravljanje

predviñanje (predikciju) budućih vrijednosti izlaza procesa više koraka unaprijed.

� Postupak izračunavanjaupravljačkog signala svodi se na minimiziranje kriterijskefunkcije:

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 65: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

NARMA –L2 kontroler

� Narma-L2 je jedna od popularnih struktura neuronske mreže za predikciju i kontrolu.

� Osnovna ideja ove šeme upravljanja je primjena linearnog metoda ulaza-izlaza (izlaz postaje linearna funkcija novih kontrolnih ulaza).

� Kao i kod upravljanja s referentnim modelom, prvi korak u � Kao i kod upravljanja s referentnim modelom, prvi korak u korištenju Narma-L2 kontrolera je identifikacija sistema koji trebamo kontrolisati.

� Standardan model koji se koristi za predstavljanje generalno vremenskih diskretnih nelinearnih sistema je nelinearni autoregresivni model pokretnih prosjeka (nonlinear autoregressive-moving average model, NARMA):

gdje je u(k) ulaz u sistem, a y(k) izlaz iz sistema.

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 66: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Primjena dinamičkih neuronskih mreža u upravljačkim strukturama� Problem pri korištenju ovog kontrolera jeste da

treniranje mreže može biti znatno sporo zbog upotrebe BP algoritma.

� Zbog toga se koristi sljedeći model :

Copyright: Lejla Banjanovic-Mehmedovic

Narma- L2 kontroler može bitijako dobro korišten i za praćenjenekih primjera trajektorija.

Inteligentno upravljanje

Page 67: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Kontrola brzine automobila uz pomoć Narma-L2 kontrolera

� Za pravilan rad Narma-L2 kontrolera postoji sekvenca koraka:� Network Architecture (služi za podešavanje topologije

mreže)� Training Data (služi za odreñivanje modela na kojeg � Training Data (služi za odreñivanje modela na kojeg

se primjenjuje upravljački signal uz pomoć trenirajućih podataka)

� Training Parameters (služi za konačno treniranje kontrolera baziranog na neuronskoj mreži)

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 68: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Primjer:Regulacija brzine automobila – Tempomat� Auto tempomat je primjer upravljanja u zatvorenoj

povratnoj spregi čija je namjena da dostigne i održava brzinu automobila konstantnom bez obzira na vanjske smetnje kao što su vjetar, kvalitet ceste, različiti uslovi vožnje isl.

� Ovo se može postići mjerenjem brzine i njenim � Ovo se može postići mjerenjem brzine i njenim poreñenjem sa željenom te regulacijom iste upotrebom kontrolera.

� Drugi Njutunov zakon:

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 69: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Princip rada Narma-L2 kontrolera baziranog na neuronskoj mreži

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 70: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Kontrola brzine automobila uz pomoć Narma-L2 i PID kontrolera

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 71: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Identifikacija procesa sa NARMA-L2 kontrolerom

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 72: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Proces treniranja mreže -dobivanje modela sistema

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 73: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Proces treniranja mreže

Copyright: Lejla Banjanovic-Mehmedovic

Prikaz najmanje kvadratne greške koja je postignuta na 50-toj epochi

Inteligentno upravljanje

Page 74: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Training – prikaz treniranja kontrolera

Određivanje težinskih kojeficijenata

neuronske mreže

Copyright: Lejla Banjanovic-Mehmedovic

neuronske mreže

Inteligentno upravljanje

Page 75: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Validation – prikaz validacije

Provjera da li je daljne traženje težinskih kojeficijenata opravdano ili ne.

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 76: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Usporedba NARMA –L2 i PID kontrolera

� PID: � pojačanje P komponenea 0.03 � pojačanje I komponente

0.0045

� Narma-L2 neural network � Narma-L2 neural network controller:� Broj neurona u skrivenom

sloju : 13� Vrijeme uzorkovanja: 0.01

sekundi� Broj epocha kontrolera: 50� Broj odgoñenih ulaza: 3� Broj odgoñenih izlaza: 3� Broj trenirajućih uzoraka:

7500

Copyright: Lejla Banjanovic-Mehmedovic

Plava isprekidana kriva - SetPoint Zelena puna kriva - Odziv PI kontroleraCrvena puna kriva - Odziv Narma-L2 kontrolera

Inteligentno upravljanje

Page 77: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

� Proces – jednostavna, jednosegmentna robotska ruka.

Primjer upravljanja jednosegmentnom rukom

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 78: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

� Jednačina kretanja ruke data je izrazom:

φ - ugao ruke, m - obrtni moment pogonjen DC motorom.

Primjer

m - obrtni moment pogonjen DC motorom.

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 79: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

� Prije podešavanja parametara kontrolera moramo obaviti identifikaciju procesa.

� Da bi što bolje identificirali proces moramo dobro odabrati parametre kao što je broj neurona u skrivenim slojevima, maximalan broj epoha, vrijeme uzorkovanja itd.

� U tabeli - prikaz na koji način reaguje sistem pri promjeni

Primjer

� U tabeli - prikaz na koji način reaguje sistem pri promjeni odreñenih parametara, odnosno u kojem slučaju dobivamo najmanju grešku praćenja.

Broj neurona u skrivenim slojevima

Vrijeme uzorkovanja Maksimalan broj epoha Greška praćenja

10 0.05 300 10-4

13 0.05 300 0.5*10-3

20 0.05 300 2*10-4

10 0.05 800 10-4

10 0.1 300 2*10-4

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 80: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

� Neuronski kontroler baziran na referentnom modelu predstavljen je u Neural Network Toolbox-u. Struktura upravljanja referentnim modelom koristi dvije neuronske mreže: mrežu kontrolera i mrežu modela procesa. Model procesa se prvo identificira, a zatim se

Primjer

procesa. Model procesa se prvo identificira, a zatim se trenira kontroler tako da izlaz procesa slijedi izlaz referentnog modela.

� Cilj je trenirati kontroler tako da robotska ruka prati referentni model:

gdje je yr izlaz iz referentnog modela,a r je ulazni referentni signal.

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 81: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Primjena dinamičkih neuronskih mreža u upravljačkim strukturama

� Kontroler baziran na referentnom modelu

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 82: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Broj neurona u skrivenim slojevima

Vrijeme uzorkovanja

Ts

Broj neurona u skrivenim

slojevima kod kontrolera

Maksimalan broj epoha

Greška praćenja

Primjena dinamičkih neuronskih mreža u upravljačkim strukturama

kontrolera

10 0.05 13 300 2*10-4

10 0.05 20 300 2*10-4

13 0.05 13 300 2*10-3

13 0.1 13 300 0.8*10-3

13 0.01 13 300 2*10-4

13 0.01 13 800 0.9*10-4

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 83: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

�Odziv kontrolera s referentnim modelom s postavljenim parametrima : Ts=0.05 i broj neurona u skrivenim slojevima kod kontrolera : 13 i 20.

Primjena dinamičkih neuronskih mreža u upravljačkim strukturama

� Primjećujemo da mijenjanjem broja neurona u skrivenim slojevima kod kontrolera dobivamo identičan ili neznatno različit odziv kontrolera.

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 84: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

� Neuronska mreža prediktivnog kontrolera, koja je implementirana u Neural Network Toolbox softveru, koristi model neuronske mreže nelinearnog procesa da predvidi buduće performanse procesa.

Primjena dinamičkih neuronskih mreža u upravljačkim strukturama

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 85: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

N2

� Posmatrat ćemo kako se kontroler ponaša mijenjanjem parametara kontrolera.

� Na slikama je prikazan odziv

Primjena dinamičkih neuronskih mreža u upravljačkim strukturama

� Na slikama je prikazan odziv prediktivnog kontrolera za vrijednosti parametra a). N2 =4 , b). N2 =6 .

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 86: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Primjena dinamičkih neuronskih mreža u upravljačkim strukturama

� Narma-L2 kontrolera u primjeni - proces robotske ruke.

� Odzivi za različite promjene parametara:Broj neurona u

skrivenim slojevima

Vrijeme uzorkovanja

Ts

Maksimalan broj epoha

Greška praćenja

10 0.05 300 5*10-3

13 0.05 300 2*10-4

13 0.05 800 10-4

13 0.1 300 3*10-3

10 0.01 300 1.5*10-3

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje

Page 87: INTELIGENTNO UPRAVLJANJE Primjene neuronskih mrežalejla-bm.com.ba/IU/IU5_Primjene_neuronskih_mreza.pdf · Neuronske mreže teoretski posjeduju mogućnost da aproksimiraju bilo koje

Primjena dinamičkih neuronskih mreža u upravljačkim strukturama

� Na slikama su predstavljeni odzivi Narma-L2 kontrolera s odzivi Narma-L2 kontrolera s postavljenim vremenom uzorkovanja 0.05 i maksimalnim brojem epoha a). 300, b). 800.

Copyright: Lejla Banjanovic-Mehmedovic

Inteligentno upravljanje