Neuro 01

Sven LonariNeuronske mree: Uvod

1-1

Neuronske mree:Uvod

Prof. dr. sc. Sven Lonari

Fakultet elektrotehnike i raunarstvasven.loncaric@fer.hrhttp://ipg.zesoi.fer.hr

Pregled predavanja

to su neuronske mree ?

Organizacija mozga Modeli neurona

Arhitekture mrea

Reprezentacija znanja Vizualizacija procesa u neuronskim mreama

Umjetna inteligencija i neuronske mree Povijest

Motivacija

Mozak rauna na posve drugi nain od konvencionalnih digitalnih raunala neuroni su pet-est redova veliine sporiji od digitalne

logike (ms i ns) mozak nadoknauje brzinu ogromnim brojem neurona

(mozak ima oko 10 milijardi neurona i oko 60 000 milijardi meuspojeva)

mozak je enormno energetski efikasan (10-16 J po operaciji u sekundi prema 10-6 J po operaciji u sekundi)

mozak je veoma kompleksno, nelinearno, paralelno raunalo

Primjeri efikasnosti

Ljudski vid kao problem obrade informacija npr. prepoznavanje lica ovjek obavlja u 100-200 ms,

dananja raunala trebaju vie vremena (ako uope mogu tono obaviti taj zadatak)

Sonar imia detektira udaljenost objekta (npr. insekta), brzinu, veliinu,

veliinu raznih dijelova objekta, azimut i elevaciju objekta sve operacije odvijaju se u mozgu veliine ljive imi moe locirati i uhvatiti svoj plijen sposobnou i

tonou na kojoj bi pozavidio svaki sonarski ili radarski inenjer

Kako je to mogue ?

Nakon roenja mozak ima velike mogunosti da se izgrauje pomou onoga to zovemo iskustvo

Iskustvo se gradi godinama: najbri razvoj deava se tijekom prve dvije godine ivota

(tada se formira 1 milion sinapsi u sekundi) razvoj mozga nastavlja se i nakon te poetne faze

dendriti

tijelo neurona

sinaptikiulazi

axon sinaptikiterminali

Piramidalni neuron

Dendriti primaju ulaz s drugih neurona

Axon prenosi impulse dalje

Sinaptiki terminali dotiu dendrite drugih neurona

Sven LonariNeuronske mree: Uvod

1-2

Sinapse

Sinapse omoguuju interakciju izmeu neurona

Presinaptiki proces oslobaa tvar koja difundira kroz sinaptiku pukotinu i izaziva postsinaptiki proces

Sinapsu moemo zamisliti kao nereciproni etveropol

Piramidalni neuron moe imati: 10000 ili vie ulaznih sinapsi njegov izlaz moe se prenositi na tisue drugih neurona

Podjela neuronskih mrea

Bioloke (prirodne) neuronske mree bioloki organizmi mozak ljudi i ivotinja visoka sloenost i paralelizam

Umjetne neuronske mree motivirane biolokim neuronskim mreama za sada su dosta primitivne imitacije biolokih mrea implementacija na digitalnim raunalima ope namjene ili

pomou specijaliziranih sklopova (analognih, digitalnih, hibridnih)

tema ovog predmeta

Definicija umjetne neuronske mree

Alexander i Morton (1990)

Umjetna neuronska mrea je masivno paralelni distribuirani procesor koji je dobar za pamenje iskustvenog znanja

Slina je mozgu u dva aspekta: Znanje se stie kroz proces uenja

Meusobne veze izmeu neurona se koriste za spremanje znanja

Svojstva neuronskih mrea

Nelinearnost

Preslikavanje ulaz-izlaz (uenje s nadzorom) Adaptivnost

Tolerancija na greke (fault tolerance)

Mogunost VLSI implementacije Neurobioloka analogija

Modeli neurona

Elementi modela neurona: Skup sinapsi tj. ulaza od kojih svaki ima svoju jainu tj.

teinu. (Notacija: Signal xj na ulazu j neurona k ima teinu wkj )

Sumator za zbrajanje oteanih ulaza. Ove operacije raunaju linearnu kombinaciju ulaza

Nelinearna aktivacijska funkcija koja ograniava izlaz neurona na interval [0,1]

Modeli neurona

x1 x2 xp ulazi

wkp

wk1

wk2

+ (.) yk izlaz

k prag

uk

aktivacijska funkcija

( )kkk

p

jjkjk

uy

xwu

=

==

1

Sven LonariNeuronske mree: Uvod

1-3

x1 x2 xp ulazi

wkp

wk1

wk2

+ (.) yk izlaz uk

aktivacijska funkcija

wk0=k x0=-1

Modeli neurona

Prag k moe se prikazati kao dodatni ulaz iznosa -1 i teine k

Aktivacijske funkcije

Aktivacijska funkcija tipa prag:

( )