Upload
mustafa-kehonjic
View
9
Download
2
Embed Size (px)
Citation preview
Sven LonariNeuronske mree: Uvod
1-1
Neuronske mree:Uvod
Prof. dr. sc. Sven Lonari
Fakultet elektrotehnike i [email protected]://ipg.zesoi.fer.hr
Pregled predavanja
to su neuronske mree ?
Organizacija mozga Modeli neurona
Arhitekture mrea
Reprezentacija znanja Vizualizacija procesa u neuronskim mreama
Umjetna inteligencija i neuronske mree Povijest
Motivacija
Mozak rauna na posve drugi nain od konvencionalnih digitalnih raunala neuroni su pet-est redova veliine sporiji od digitalne
logike (ms i ns) mozak nadoknauje brzinu ogromnim brojem neurona
(mozak ima oko 10 milijardi neurona i oko 60 000 milijardi meuspojeva)
mozak je enormno energetski efikasan (10-16 J po operaciji u sekundi prema 10-6 J po operaciji u sekundi)
mozak je veoma kompleksno, nelinearno, paralelno raunalo
Primjeri efikasnosti
Ljudski vid kao problem obrade informacija npr. prepoznavanje lica ovjek obavlja u 100-200 ms,
dananja raunala trebaju vie vremena (ako uope mogu tono obaviti taj zadatak)
Sonar imia detektira udaljenost objekta (npr. insekta), brzinu, veliinu,
veliinu raznih dijelova objekta, azimut i elevaciju objekta sve operacije odvijaju se u mozgu veliine ljive imi moe locirati i uhvatiti svoj plijen sposobnou i
tonou na kojoj bi pozavidio svaki sonarski ili radarski inenjer
Kako je to mogue ?
Nakon roenja mozak ima velike mogunosti da se izgrauje pomou onoga to zovemo iskustvo
Iskustvo se gradi godinama: najbri razvoj deava se tijekom prve dvije godine ivota
(tada se formira 1 milion sinapsi u sekundi) razvoj mozga nastavlja se i nakon te poetne faze
dendriti
tijelo neurona
sinaptikiulazi
axon sinaptikiterminali
Piramidalni neuron
Dendriti primaju ulaz s drugih neurona
Axon prenosi impulse dalje
Sinaptiki terminali dotiu dendrite drugih neurona
Sven LonariNeuronske mree: Uvod
1-2
Sinapse
Sinapse omoguuju interakciju izmeu neurona
Presinaptiki proces oslobaa tvar koja difundira kroz sinaptiku pukotinu i izaziva postsinaptiki proces
Sinapsu moemo zamisliti kao nereciproni etveropol
Piramidalni neuron moe imati: 10000 ili vie ulaznih sinapsi njegov izlaz moe se prenositi na tisue drugih neurona
Podjela neuronskih mrea
Bioloke (prirodne) neuronske mree bioloki organizmi mozak ljudi i ivotinja visoka sloenost i paralelizam
Umjetne neuronske mree motivirane biolokim neuronskim mreama za sada su dosta primitivne imitacije biolokih mrea implementacija na digitalnim raunalima ope namjene ili
pomou specijaliziranih sklopova (analognih, digitalnih, hibridnih)
tema ovog predmeta
Definicija umjetne neuronske mree
Alexander i Morton (1990)
Umjetna neuronska mrea je masivno paralelni distribuirani procesor koji je dobar za pamenje iskustvenog znanja
Slina je mozgu u dva aspekta: Znanje se stie kroz proces uenja
Meusobne veze izmeu neurona se koriste za spremanje znanja
Svojstva neuronskih mrea
Nelinearnost
Preslikavanje ulaz-izlaz (uenje s nadzorom) Adaptivnost
Tolerancija na greke (fault tolerance)
Mogunost VLSI implementacije Neurobioloka analogija
Modeli neurona
Elementi modela neurona: Skup sinapsi tj. ulaza od kojih svaki ima svoju jainu tj.
teinu. (Notacija: Signal xj na ulazu j neurona k ima teinu wkj )
Sumator za zbrajanje oteanih ulaza. Ove operacije raunaju linearnu kombinaciju ulaza
Nelinearna aktivacijska funkcija koja ograniava izlaz neurona na interval [0,1]
Modeli neurona
x1 x2 xp ulazi
wkp
wk1
wk2
+ (.) yk izlaz
k prag
uk
aktivacijska funkcija
( )kkk
p
jjkjk
uy
xwu
=
==
1
Sven LonariNeuronske mree: Uvod
1-3
x1 x2 xp ulazi
wkp
wk1
wk2
+ (.) yk izlaz uk
aktivacijska funkcija
wk0=k x0=-1
Modeli neurona
Prag k moe se prikazati kao dodatni ulaz iznosa -1 i teine k
Aktivacijske funkcije
Aktivacijska funkcija tipa prag:
( )