ReLU

IT위키
(릴루에서 넘어옴)
ReLU(Rectified Linear Unit), 릴루 또는 렐루라고도 한다.

개요[편집]

  • 음수 값은 무시하여 0으로 취하고, 양수 값은 그대로 취하는 활성화 함수
  • y = max(z,0)

종류[편집]

Relu.jpg

  • ReLU
  • Leaky ReLU
  • ELU(Exponential linear Unit)