絶対値関数の微分
📂関数絶対値関数の微分
定理
絶対値関数の微分は以下のように示される。
dxd∣x∣=∣x∣1x={1−1x>0x<0,x=0
説明
実際には絶対値関数はx=0の地点で尖った形をしているため、実数全体の領域では微分不可能だ。しかし、定義域からただ1点を除けば、R∖{0}では微分可能な関数となる。つまり、fとは異なり、以下のように定義されるgは導関数g′を持つことを意味する。
f(x):=∣x∣,x∈R
g(x):=∣x∣,x∈R∖{0}
この時、多くの場合においてg′をfの導関数として取り扱うことができ、これをfの弱導関数と呼ぶ。実際、ディープラーニングで使用されるReLUなどの活性化関数は、x=0で微分不可能であるにも関わらず使用される理由がまさにこれである。
証明
dxd∣x∣=dxdx2=dx2dx2dxdx2=21x21⋅2x=∣x∣1x
■