img049

Rozdział 4

Nieliniowe sieci neuronowe

4.1 Nieliniowy model neuronu

Siecią neuronową, która odegrała historycznie bardzo istotną rolę byI niewątpliwie PERCEPTRON Rosenblatt.a [Rose-62]¹. Ta klasyczna konstrukcja (z 1957 rokuj zawierała bardzo wiele oryginalnych i ciekawych elementów (na przykład losowy mechanizm doboru połączeń między neuronami), których jednak nie będziemy tu szczegółowo dyskutowali, gdyż w rozwoju neurodynamiki stanowiły jedynie epizod. Skupimy natomiast uwagę na najbardziej istotnym nowym elemencie, wnoszonym przez PERCEPTRON w stosunku do omówionej wyżej ADALINE i MADALINE: nieliniowym elemencie przetwarzającym informację w każdym neuronie sieci. Wprowadzenie do sieci neuronowej nieliniowego elementu przetwarzającego informacje jest uzasadnione, ponieważ rzeczywiste biologiczne neurony są nieliniowe. Nieliniowy element przyjmowany w sieciach neuronowych może być opisany rówaniem

^!J = <p{c)

gdzie <p(.) jest wybraną funkcją nieliniową a sygnał e odpowiada łącznemu pobudzeniu neuronu, zgodnemu z formulą przyjmowaną uprzednio dla ADALINE

n

e = 52 Wi Xf «=i

lub uzupełnioną dodatkowo o składnik stały (bias)

11

e = 52 ^w* ** + ^w'o

i — 1

W dalszych rozważaniach będziemy zawsze zakładali, że składnik u?o występuje — najwyżej ma wartość 0. Aby jednak uprościć wszystkie występujące dalej wzory i wyprowadzenia,

1

Jako ciekawostkę warto odnotować fakt. że pierwowzorem perceptronu była ucząca się maszyna (Icarning machinc) zbudowana w 1951 roku precz studentów uniwersytetu Princeton, Marvinn Mińskiego i Deana Edmondsa. Ciekawostka polega na tym, że Miński był potem „grabarzem” i<lei perceptronu, którą totalnie skrytykował w swojej sławnej książce [Min*f>9].

Wyszukiwarka

Podobne podstrony:
img037 37 Rozdział 3. Liniowe sieci neuronowe pokazano jedynie oczy i usta). Takie zadanie nazywa si
img027 Rozdział 3Liniowe sieci neuronowe Prezentację konkretnych sieci neuronowych rozpoczniemy od n
img029 29 Rozdział 3. Liniowe sieci neuronowe że neuron rozpoznaje1 sygnały wejściowe, wyróżnając te
img031 31 Rozdział 3. Liniowe sieci neuronowe jest aprioryczne ustalenie wektora W lub macierzy W* o
img033 33 Rozdział 3. Ijiniowe sieci neuronowe który nie powinien się buntować przeciwko wnioskom fo
img035 35 Rozdział 3. Liniowe sieci neuronowe albo prościejv 3)=ww gdzie A jest pewną ustaloną stalą
img037 37 Rozdział 3. Liniowe sieci neuronowe pokazano jedynie oczy i usta). Takie zadanie nazywa si
img039 39 Rozdział 3. Liniowe sieci neuronowe mu taką strategię liczenia, by zapamięta] i potrafi! p
img041 41 Rozdział 3. Liniowe sieci neuronowe dopasowanie wektora wag    do rozpoznaw
img043 43 Rozdział 3. Liniowe sieci neuronowe3.9 Uczenie z forsowaniem Opisane wyżej techniki samo u
img045 45 Rozdzinl :i. Liniowe sieci neuronowe ma na ogól niewielką wartość, ponieważ poszczególne s
img047 47 Rozdział 3. Liniowe sieci neuronowe nazywanej skumulowanym błędem. Wartości skumulowanego
Sieci CP str037 37 Rozdział 3. Liniowe sieci neuronowe pokazano jedynie oczy i usta). Takie zadanie

więcej podobnych podstron