📂関数

ランプ関数

定義

以下の関数をランプ関数^{ramp function}と呼ぶ。

$$R(x) := \begin{cases} x & x \gt 0 \\ 0 & x \le 0 \end{cases}$$

複数の定義方法¹

次のように、複数の方法で定義される。

$$\begin{align*} R(x) &:= \begin{cases} x & x \gt 0 \\ 0 & x \le 0 \end{cases} \\[1em] &= \max \left\{ 0, x \right\} \\[1em] &= x H(x) \\[1em] &= \dfrac{x + \left| x \right|}{2} \\[1em] &= H(x) \ast H(x) \\[1em] &= \int_{-\infty}^{x} H(\xi) d\xi \end{align*}$$

$H(x)$は単位ステップ関数を、$\ast$は畳み込みを意味する。

説明

妖精の住むランプ^lampではなく、坂道^rampを意味する。関数のグラフが坂道のように見えるためである。

電気工学、信号処理で主に使われる関数で、ランプフィルターやランプ信号などの名前で呼ばれる。機械学習では、ReLU^{rectified linear unit, ReLU}と呼ばれる。この文書ではランプ関数そのものについて説明し、活性化関数としての意味はReLUの文書で説明される。

性質

ランプ関数の導関数は単位ステップ関数である。単位ステップ関数の導関数はディラックのデルタ関数であるため、ランプ関数の二階導関数はデルタ関数である。

$$R^{\prime}(x) = H(x) \quad \text{and} \quad R^{\prime \prime}(x) = H^{\prime}(x) = \delta (x)$$

参照

• ディラックのデルタ関数
• ステップ関数
• ReLU