非線形関数一覧

ニューラルネットワークを構築する際に、どの非線形関数を選択するかは大事なポイントとなります。
そこでどんな非線形関数があるかそれぞれグラフ化して確認します。

まずは必要なモジュールのインストールとx軸用に等間隔の数値を用意します。

# モジュールのインポート
import chainer.functions as F
import numpy as np
import matplotlib.pyplot as plt

# 等間隔の数値を用意する(x軸用)
D = 100
ndata = np.linspace(-5.0, 5.0, D)

非線形関数をグラフ化するコードは下記の通りです。
1行目のF.absoluteの箇所をそれぞれの非線形関数に置き換えて実行していきます。

ydata = F.absolute(ndata).data   # 非線形関数を変えながら実行する。
plt.plot(ndata, ydata)
plt.show()

非線形関数一覧
F.absolute	F.add	F.arccos
F.arcsin	F.arctan	F.broadcast
F.ceil	F.clipped_relu	F.cos
F.cosh	F.cumprod	F.cumsum
F.digamma	F.dropout	F.elu
F.erf	F.erfc	F.erfcinv
F.erfcx	F.erfinv	F.exp
F.expm1	F.fix	F.flatten
F.flipud	F.floor	F.hard_sigmoid
F.identity	F.leaky_relu	F.lgamma
F.log	F.log10	F.log1p
F.log2	F.log_ndtr	F.ndtr
F.ndtri	F.relu	F.rrelu
F.rsqrt	F.selu	F.sigmoid
F.sign	F.sin	F.sinh
F.softplus	F.sqrt	F.square
F.squeeze	F.tan	F.tanh
F.transpose

(Google Colaboratoryで動作確認しています。)