ReLU

From IT Wiki
ReLU(Rectified Linear Unit), 릴루 또는 렐루라고도 한다.

개요[edit | edit source]

  • 음수 값은 무시하여 0으로 취하고, 양수 값은 그대로 취하는 활성화 함수
  • y = max(z,0)

종류[edit | edit source]

Relu.jpg

  • ReLU
  • Leaky ReLU
  • ELU(Exponential linear Unit)
Retrieved from "https://itwiki.kr/index.php?title=ReLU&oldid=6164"