꿈라CBT다음 <보기>의 결과에 대한 진단으로 가장 적절한 것은?
보기
배치 크기를 32에서 2,048로 늘리면서 다른 설정은 그대로 두었다.
- 에포크당 학습 시간은 크게 단축되었다(GPU 병렬 처리 효율 향상).
- 그러나 같은 에포크 수에서 손실이 훨씬 덜 감소했다.
- 학습을 충분히 진행해도 검증 성능이 이전보다 낮았다.
- 1배치 크기가 커지면 기울기 추정이 정확해지므로, 검증 성능이 낮아지는 일은 원리적으로 발생할 수 없다.
- 2배치 크기를 키우면 데이터가 중복 사용되어 정보량이 줄어드는 것이므로, 학습 데이터를 64배로 늘려야 한다.
- 3갱신 횟수가 줄고 잡음이 감소해 탐색력이 약해진 것이므로, 학습률을 함께 키우거나 에포크를 조정해야 한다.
- 4배치 크기는 학습 결과에 영향을 주지 않는 순수한 계산 효율 설정이므로, 성능 차이는 초기 가중치의 우연한 차이 때문이다.