11
Sven Lon ari Neuronske mreže: Uvod 1-1 Neuronske mreže: Uvod Prof. dr. sc. Sven Lon ari Fakultet elektrotehnike i ra unarstva [email protected] http://ipg.zesoi.fer.hr Pregled predavanja Što su neuronske mreže ? Organizacija mozga Modeli neurona Arhitekture mreža Reprezentacija znanja Vizualizacija procesa u neuronskim mrežama Umjetna inteligencija i neuronske mreže Povijest Motivacija Mozak “ra una” na posve drugi na in od konvencionalnih digitalnih ra unala neuroni su pet-šest redova veli ine sporiji od digitalne logike (ms i ns) mozak nadokna uje brzinu ogromnim brojem neurona (mozak ima oko 10 milijardi neurona i oko 60 000 milijardi me uspojeva) mozak je enormno energetski efikasan (10 -16 J po operaciji u sekundi prema 10 -6 J po operaciji u sekundi) mozak je veoma kompleksno, nelinearno, paralelno ra unalo Primjeri efikasnosti Ljudski vid kao problem obrade informacija npr. prepoznavanje lica ovjek obavlja u 100-200 ms, današnja ra unala trebaju više vremena (ako uop e mogu to no obaviti taj zadatak) Sonar šišmiša detektira udaljenost objekta (npr. insekta), brzinu, veli inu, veli inu raznih dijelova objekta, azimut i elevaciju objekta sve operacije odvijaju se u mozgu veli ine šljive šišmiš može locirati i uhvatiti svoj plijen sposobnoš u i to noš u na kojoj bi pozavidio svaki sonarski ili radarski inženjer Kako je to mogu e ? Nakon ro enja mozak ima velike mogu nosti da se izgra uje pomo u onoga što zovemo “iskustvo” Iskustvo se gradi godinama: najbrži razvoj dešava se tijekom prve dvije godine života (tada se formira 1 milion sinapsi u sekundi) razvoj mozga nastavlja se i nakon te po etne faze dendriti tijelo neurona sinapti ki ulazi axon sinapti ki terminali Piramidalni neuron Dendriti primaju ulaz s drugih neurona Axon prenosi impulse dalje Sinapti ki terminali doti u dendrite drugih neurona

Neuro 01

Embed Size (px)

Citation preview

  • Sven LonariNeuronske mree: Uvod

    1-1

    Neuronske mree:Uvod

    Prof. dr. sc. Sven Lonari

    Fakultet elektrotehnike i [email protected]://ipg.zesoi.fer.hr

    Pregled predavanja

    to su neuronske mree ?

    Organizacija mozga Modeli neurona

    Arhitekture mrea

    Reprezentacija znanja Vizualizacija procesa u neuronskim mreama

    Umjetna inteligencija i neuronske mree Povijest

    Motivacija

    Mozak rauna na posve drugi nain od konvencionalnih digitalnih raunala neuroni su pet-est redova veliine sporiji od digitalne

    logike (ms i ns) mozak nadoknauje brzinu ogromnim brojem neurona

    (mozak ima oko 10 milijardi neurona i oko 60 000 milijardi meuspojeva)

    mozak je enormno energetski efikasan (10-16 J po operaciji u sekundi prema 10-6 J po operaciji u sekundi)

    mozak je veoma kompleksno, nelinearno, paralelno raunalo

    Primjeri efikasnosti

    Ljudski vid kao problem obrade informacija npr. prepoznavanje lica ovjek obavlja u 100-200 ms,

    dananja raunala trebaju vie vremena (ako uope mogu tono obaviti taj zadatak)

    Sonar imia detektira udaljenost objekta (npr. insekta), brzinu, veliinu,

    veliinu raznih dijelova objekta, azimut i elevaciju objekta sve operacije odvijaju se u mozgu veliine ljive imi moe locirati i uhvatiti svoj plijen sposobnou i

    tonou na kojoj bi pozavidio svaki sonarski ili radarski inenjer

    Kako je to mogue ?

    Nakon roenja mozak ima velike mogunosti da se izgrauje pomou onoga to zovemo iskustvo

    Iskustvo se gradi godinama: najbri razvoj deava se tijekom prve dvije godine ivota

    (tada se formira 1 milion sinapsi u sekundi) razvoj mozga nastavlja se i nakon te poetne faze

    dendriti

    tijelo neurona

    sinaptikiulazi

    axon sinaptikiterminali

    Piramidalni neuron

    Dendriti primaju ulaz s drugih neurona

    Axon prenosi impulse dalje

    Sinaptiki terminali dotiu dendrite drugih neurona

  • Sven LonariNeuronske mree: Uvod

    1-2

    Sinapse

    Sinapse omoguuju interakciju izmeu neurona

    Presinaptiki proces oslobaa tvar koja difundira kroz sinaptiku pukotinu i izaziva postsinaptiki proces

    Sinapsu moemo zamisliti kao nereciproni etveropol

    Piramidalni neuron moe imati: 10000 ili vie ulaznih sinapsi njegov izlaz moe se prenositi na tisue drugih neurona

    Podjela neuronskih mrea

    Bioloke (prirodne) neuronske mree bioloki organizmi mozak ljudi i ivotinja visoka sloenost i paralelizam

    Umjetne neuronske mree motivirane biolokim neuronskim mreama za sada su dosta primitivne imitacije biolokih mrea implementacija na digitalnim raunalima ope namjene ili

    pomou specijaliziranih sklopova (analognih, digitalnih, hibridnih)

    tema ovog predmeta

    Definicija umjetne neuronske mree

    Alexander i Morton (1990)

    Umjetna neuronska mrea je masivno paralelni distribuirani procesor koji je dobar za pamenje iskustvenog znanja

    Slina je mozgu u dva aspekta: Znanje se stie kroz proces uenja

    Meusobne veze izmeu neurona se koriste za spremanje znanja

    Svojstva neuronskih mrea

    Nelinearnost

    Preslikavanje ulaz-izlaz (uenje s nadzorom) Adaptivnost

    Tolerancija na greke (fault tolerance)

    Mogunost VLSI implementacije Neurobioloka analogija

    Modeli neurona

    Elementi modela neurona: Skup sinapsi tj. ulaza od kojih svaki ima svoju jainu tj.

    teinu. (Notacija: Signal xj na ulazu j neurona k ima teinu wkj )

    Sumator za zbrajanje oteanih ulaza. Ove operacije raunaju linearnu kombinaciju ulaza

    Nelinearna aktivacijska funkcija koja ograniava izlaz neurona na interval [0,1]

    Modeli neurona

    x1 x2 xp ulazi

    wkp

    wk1

    wk2

    + (.) yk izlaz

    k prag

    uk

    aktivacijska funkcija

    ( )kkk

    p

    jjkjk

    uy

    xwu

    =

    ==

    1

  • Sven LonariNeuronske mree: Uvod

    1-3

    x1 x2 xp ulazi

    wkp

    wk1

    wk2

    + (.) yk izlaz uk

    aktivacijska funkcija

    wk0=k x0=-1

    Modeli neurona

    Prag k moe se prikazati kao dodatni ulaz iznosa -1 i teine k

    Aktivacijske funkcije

    Aktivacijska funkcija tipa prag:

    ( )