꿈라CBT활성화 함수에 대한 설명으로 가장 적절하지 않은 것은?
- 1시그모이드는 입력의 절댓값이 커질수록 기울기가 0에 가까워지므로, 층이 깊어질수록 기울기 소실 문제가 발생하기 쉽다.
- 2하이퍼볼릭 탄젠트는 출력이 0을 중심으로 대칭이므로, 시그모이드보다 학습 수렴에 유리한 면이 있다.
- 3은닉층의 활성화 함수를 모두 선형함수로 두면 층을 깊게 쌓을수록 표현력이 지수적으로 증가하므로, 비선형 함수 없이도 복잡한 관계를 학습할 수 있다.
- 4렐루는 양수 구간에서 기울기가 1로 일정하여 기울기 소실을 완화하지만, 음수 입력이 계속되면 해당 뉴런이 더 이상 학습되지 않는 문제가 생길 수 있다.