꿈라CBT다음 <보기>에서 설명하는 최적화 알고리즘으로 가장 적절한 것은?
보기
- 기본 경사하강법이 좁고 가파른 골짜기에서 좌우로 진동하며 느리게 수렴하는 한계를 보완하려고 고안되었다.
- 가중치를 갱신할 때 이전 단계의 이동 방향을 일정 비율로 누적해 함께 반영한다.
- 물리학의 관성(운동량) 개념에서 착안해, 같은 방향으로 계속 나아갈수록 속도가 붙는다.
- 학습률 자체를 변수마다 다르게 조정하지는 않는다.
- 1Adagrad
- 2Adam
- 3RMSProp
- 4Momentum