Optimizer 머신러닝 모델 학습에서 optimizer 는 꼭 필요한 개념이다. 기계는 주어진 연산에 따라 데이터를 학습시키면서 매 단계마다 손실값(loss)을 계산한다. 그리고 이 손실값을 줄여나가기 위해 변수(variable)들을 약간씩 조정하면서 다시 학습을 진행해 나간다. 손실값이 커진다는 것은 쉽게 말하자면 '주어진 학습데이터에 잘 맞지 않는 모델을 만들어가고 있다'는 건데, 그래서 기계가 중간중간 손실값을 체크하면서 이를 줄여나갈 수 있는 방향으로 최적화(optimization)를 진행하는 것이다. 이 최적화(optimization)를 진행하는 것이 옵티마이저(Optimizer) 이고 손실 함수를 통해 얻은 손실값으로부터 모델을 업데이트하는 방식을 의미한다. 옵티마이저의 종류는 다양한데 (..