심층 신경망에서 활성화함수의 선택과 학습에 관한 설명으로 옳지 않은 것은?
- 1시그모이드는 입력의 절댓값이 커질수록 도함수가 0에 가까워지므로, 층이 깊어지면 기울기 소실이 발생하기 쉽다.
- 2ReLU는 모든 입력 구간에서 도함수가 1이므로 기울기 소실 문제가 전혀 발생하지 않는다.
- 3tanh는 출력의 평균이 0에 가까워 시그모이드보다 학습이 안정적인 편이지만, 양끝에서 포화되는 문제는 여전히 남아 있다.
- 4이진분류의 출력층에는 시그모이드를, 다중분류의 출력층에는 소프트맥스를 사용하는 것이 일반적이다.
꿈라CBT