[논문투고후기2] What is online(incremental) learning & incremental SVM

Online learning(온라인 학습)은 무엇인가?

머신러닝 모델을 훈련시키기 위해서는 학습 데이터가 필요하다. 모델마다 다르겠지만, 방대한 양의 데이터로 학습할 경우 많은 시간 및 자원을 소모하게 된다. 어떻게든 학습을 하여 최종 모델을 만들었다 가정하자. 만약 이후 새로운 데이터들이 생기면 이를 어떻게 해야할까? 모델을 더 똑똑하게 만들기 위해서는 새 데이터도 포함시켜서 학습을 하면 좋겠는데…다시 학습을 하자니 자원 소모가 너무 커서 문제가 생긴다. 즉 새로운 데이터를 학습하기 위해서는 학습된 데이터와 새로운 데이터를 모두 준비해서 다시 학습을 진행해야 한다. 이러한 일반적인 학습을 우리는 batch, 또는 offline learning이라고 한다.

Online learning, 또는 incremental learning은 새로운 데이터를 학습할 때 기존에 학습된 데이터 없이 새 데이터만을 가지고 학습을 진행하는 방법이다. 새 데이터가 생기면 순차적으로 한 개 또는 작은 묶음 단위로 학습을 하여 빠른 학습 속도를 갖게 된다. 또 학습할 때 offline learning과는 다르게 기존 데이터를 재학습할 필요가 없기 때문에 저장해둘 필요가 없다. 따라서 메모리 측면에서도 이점을 갖는다. 자원을 적게 소모하는 장점 때문에 online learning은 컴퓨팅 자원이 제한된 경우에 적합하다. 특히 edge device같은 곳에서 사용하면 그 강점을 더욱 살릴 수 있게 된다.

Incremental SVM

Incremental SVM은 ..이어서