ランプ関数
定義
以下の関数をランプ関数ramp functionと呼ぶ。
$$ R(x) := \begin{cases} x & x \gt 0 \\ 0 & x \le 0 \end{cases} $$
複数の定義方法1
次のように、複数の方法で定義される。
$$ \begin{align*} R(x) &:= \begin{cases} x & x \gt 0 \\ 0 & x \le 0 \end{cases} \\[1em] &= \max \left\{ 0, x \right\} \\[1em] &= x H(x) \\[1em] &= \dfrac{x + \left| x \right|}{2} \\[1em] &= H(x) \ast H(x) \\[1em] &= \int_{-\infty}^{x} H(\xi) d\xi \end{align*} $$
$H(x)$は単位ステップ関数を、$\ast$は畳み込みを意味する。
説明
妖精の住むランプlampではなく、坂道rampを意味する。関数のグラフが坂道のように見えるためである。
電気工学、信号処理で主に使われる関数で、ランプフィルターやランプ信号などの名前で呼ばれる。機械学習では、ReLUrectified linear unit, ReLUと呼ばれる。この文書ではランプ関数そのものについて説明し、活性化関数としての意味はReLUの文書で説明される。
性質
ランプ関数の導関数は単位ステップ関数である。単位ステップ関数の導関数はディラックのデルタ関数であるため、ランプ関数の二階導関数はデルタ関数である。
$$ R^{\prime}(x) = H(x) \quad \text{and} \quad R^{\prime \prime}(x) = H^{\prime}(x) = \delta (x) $$