📂머신러닝

기계학습에서 ReLU란?

정의

기계학습에서, 다음의 함수를 정류 선형 단위^{Rectified Linear Unit(ReLU), 렐루}라 한다.

$$ f(x) = x^{+} := \max \left\{ 0, x \right\} $$

설명

전기전자공학에서는 이를 램프 함수^{ramp function}라 한다. 머신러닝에서 활성화함수로서의 관점이 아닌, 함수 그 자체에 대한 설명이나 성질은 램프 함수 문서를 참고하자.

같이보기

• 디랙 델타 함수
• 계단 함수
• 램프 함수