56

4.4. Formy nieliniowości neuronu

który można rozpisać jako

y =

exp (0e) - exp (- 0e)

exp (0e) + exp (- 0e)'

Przy zastosowaniu tej funkcji y £ (—1,1). Zaletą funkcji tangens hiperboliczny jest także prosta formula, określająca pochodną tej funkcji w zależności od jej wartości

d<p de

Ta formula, podobnie jak wcześniej przytoczony wzór dla funkcji logistycznej, bardzo ułatwia stosowanie odpowiednich funkcji w trakcie procesu uczenia.

Aby uzyskać wartości z przedziału domkniętego y G [—1.1] stosuje się niekiedy funkcję sinus

y = sin (0e).

a dokładniej fragment sinusoidy połączony z płaskimi asymptotami rozciągającymi dziedzinę funkcji:

’

-I

sin(/fa)

1

Taka postać funkcji jest szczególnie przydatna przy budowie sieci dokonującej transformaty Fouriera wejściowego sygnału. Sieć taką badał między innymi Lapcdes [Lape87).

Niekiedy nieliniowość ma postać nie różniczkowalną, przydatną w praktycznych zastosowaniach, ale kłopotliwą do teoretycznej analizy. Z bardziej znanych nieliniowości tego typu wymienić trzeba:

— funkcję signum:

1    gdy    e    >    0

0    gdy    c    =    0

-1    gdy    e    <    0

(i + y) (i -y)

— zmodyfikowaną funkcję signum:

gdy

gdy

e > 0 e <0

— funkcję skoku jednostkowego:

— funkcję perceptronową:

■{

■{

gdy

gdy

gdy

gdy

c > 0 e < 0

e > 0 e < 0

gdy e > 0 gdy c = 0 1 gdy e < 0