logo

機械学習におけるReLUとは? 📂機械学習

機械学習におけるReLUとは?

定義

機械学習において、次の関数を整流線形ユニットRectified Linear Unit(ReLU), レルという。

$$ f(x) = x^{+} := \max \left\{ 0, x \right\} $$

ReLU.png

説明

電気電子工学では、これをランプ関数ramp functionという。マシンラーニングでの活性化関数としての観点でなく、関数自体の説明や性質については、ランプ関数の文書を参照してください。

参照