꿈라CBT아래 보기에서 설명하는 최적화 알고리즘으로 옳은 것은?
보기
- 경사하강법이 지닌 한계를 보완하기 위해 고안된 기법이다.
- 업데이트할 때마다 이전 기울기(변화량)의 영향을 누적 반영하여 보다 안정적이고 빠른 수렴을 유도한다.
- 물리학의 운동량 개념에서 아이디어를 얻어, 기울기가 진행하는 방향으로 가속도를 부여한다.
- 고차원 공간이나 비볼록 함수에서도 효율적으로 동작한다.
- 1Nesterov Accelerated Gradient(NAG)
- 2Momentum
- 3Adaptive Moment Estimation(Adam)
- 4Adaptive Gradient Algorithm(Adagrad)