경사하강법에서 학습률(Learning Rate)의 영향에 대한 설명으로 가장 적절한 것은?
- 1학습률이 지나치게 크면 최솟값을 지나쳐 손실이 진동하거나 발산할 수 있고, 지나치게 작으면 수렴이 느리고 얕은 국소 최솟값에 머물기 쉽다.
- 2학습률이 클수록 항상 빠르고 정확하게 수렴하므로 가능한 한 큰 값을 사용해야 한다.
- 3학습률은 손실 함수의 기울기를 계산하는 방식만 바꿀 뿐 이동 거리에는 영향을 주지 않는다.
- 4학습률이 작을수록 손실이 발산할 위험이 커지므로 큰 값으로 시작해 점차 줄여야 한다.
꿈라CBT