formalnie:

Sztuczne sieci neuronowe: neuron [perceptron] Dorota Cendrowska

nieformalnie:

Od czegoś trzeba zacząć...

Plan wykładu

„siedlisko” inteligencji ludzkiej matematyczny model neuronu interpretacja parametrów neuronu perceptron/neuron (?)

Inspiracje

neuron biologiczny

Błona komórkowa aksonu i ciała neuronu zawiera kanały jonowe bramkowane elektrycznie (bramkowane potencjałem), które pozwalają neuronowi na generowanie i propagację (przesyłanie) impulsu elektrycznego (potencjał aktywacyjny). Te impulsy są wytwarzane i przesyłane przez jony obdarzone ładunkiem takie jak sód (Na+), potas (K+), chlor (Cl-) oraz wapń (Ca2+).

„

Model neuronu

wejścia

Model neuronu

wejścia NET

Model neuronu

wejścia NET funkcja aktywacji wartość wyjścia

Funkcje aktywacji

dyskretne

?

Funkcje aktywacji

dyskretne (unipolarne)

x1x2

xn

...

w1w2

wn

y

x1x2

xn

...

w1w2

wn

y

Funkcje aktywacji

dyskretne (bipolarne)

x1x2

xn

...

w1w2

wn

y

x1x2

xn

...

w1w2

wn

y

Neuron neuronowi (nie)równy

schemat neuronu:

alternatywnie (literatura):

x1x2

xn

...

w1w2

wn

y

+

x1

x2

xn

.

.

.

u

w1

w2

wn

w0

1

f(u) y

+

x1

.

.

.

u

w1

w0

x0=-1

f yx2

w2

xnwn

+

x1

x2

xn

.

.

.

u

w1

w2

wn

-

f(u) y

Jeden neuron, wiele schematów (?)

x1x2

xn

...

w1w2

wn

y

Jeden neuron, wiele schematów (?)

x1x2

xn

...

w1w2

wn

y

Jeden neuron, wiele schematów (?)

x1x2

xn

...

w1w2

wn

y

x1x2

xn...

w1w2

wn

y

1 -

Jeden neuron, wiele schematów (?)

x1x2

xn

...

w1w2

wn

y

x1x2

xn...

w1w2

wn

y

-1

x1x2

xn...

w1w2

wn

y

1 -

Jeden neuron, wiele schematów (?)

x1x2

xn

...

w1w2

wn

y

x1x2

xn...

w1w2

wn

y

-1

x1x2

xn...

w1w2

wn

y

1 -

Alternatywy cd.... sztuczny neuron w literaturze

schemat neuronu w piśmiennictwie:

+

x1

.

.

.

u

w1

w0

x0=-1

f yx2

w2

xnwn

L. Rutkowski, Metody i techniki sztucznej inteligencji

Alternatywy cd.... sztuczny neuron w literaturze

schemat neuronu w piśmiennictwie:

+

x1

x2

xn

.

.

.

u

w1

w2

wn

w0

1

f(u) y

St. Osowski, Sieci neuronowe w ujęciu algorytmicznym

Alternatywy cd.... sztuczny neuron w literaturze

schemat neuronu w piśmiennictwie:

+

x1

x2

xn

.

.

.

u

w1

w2

wn

-

f(u) y

J. Korbicz, A. Obuchowicz, D. UcińskiSztuczne sieci neuronowe, podstawy i zastosowania

Funkcje aktywacji

ciągłe unipolarne — sigmoidalne

ciągłe bipolarne — tangensoidalne

x1x2

xn...

w1w2

wn

y

1 -

1

0

x1x2

xn...

w1w2

wn

y

1 --1

1

ciągłe sigmoidalne

Funkcje aktywacji

x1x2

xn...

w1w2

wn

y

1 -

1

0

x1x2

xn...

w1w2

wn

y

1 --1

1?

ciągłe sigmoidalne

ciągłe tangensoidalne

Funkcje aktywacji

x1x2

xn...

w1w2

wn

y

1 -

1

0

x1x2

xn...

w1w2

wn

y

1 --1

1

Interpretacja geometryczna

-31 -1

1-6

x1x2

Interpretacja geometryczna

-31 -1

1-6

x1x2

Interpretacja geometryczna

-31 -1

1-6

x1x2

Interpretacja geometryczna

x1

x2

-31 -1

1-6

x1x2

Interpretacja geometryczna

[-3, 1]

[w1, w2]

[-3, 1]

-31 -1

1-6

x1x2

Interpretacja geometryczna

-31 -1

1-6

x1x2

?

??

?

??

Interpretacja geometryczna

-31 -1

1-6

x1x2 -1

1-6

-31

x1x2

?

Interpretacja geometryczna

-31 -1

1-6

x1x2 -1

1-6

-31

x1x2

Dychotomizator: „ręczna robota”

?

Dychotomizator: „ręczna robota”

?

Dychotomizator: „ręczna robota”

?

[-5, 2]

Dychotomizator: „ręczna robota”

[w1, w2]=[-2, -5] [w1, w2]=[2, 5]

[-5, 2]

Dychotomizator: „ręczna robota”

[w1, w2]=[-2, -5] [w1, w2]=[2, 5]

-2-5 ?

??

x1x2

25 ?

??

Perceptron…

perceptron: neuron o dyskretnej funkcji aktywacji zastosowanie: klasyfikacja zdolność do uogólniania (?)

Perceptron…

perceptron: neuron o dyskretnej funkcji aktywacji zastosowanie: klasyfikacja zdolność do uogólniania (?)

jak zwykle, zamiast zakończenia...

filozoficznie:

fragment okładki i książki pt. „Paddington daje sobie radę”(autor: Michael Bond)

— Wie pani — powiedział do pani Bird, gdy przyszła do jadalni, by sprawdzić, czy już zjadł grzankę z marmoladą — nigdy dotąd nie zrobiłem wszystkiego, bo gdybym zrobił, to nie czekałyby mnie już żadne niespodzianki.