에포크

[ 혼자 공부하는 머신러닝 + 딥러닝 ] 확률적 경사 하강법

점진적 학습 이전에 학습한 모델을 버리지 않고 새로운 데이터셋에 대해서 조금씩 훈련 대표적인 점진적 학습 알고리즘은 확률적 경사 하강법입니다. 확률적 경사 하강법 경사를 따라 내려가는 방법 가파른 경사를 따라 원하는 지점에 도달하는것이 목표 가파른 길을 찾아 내려오지만 조금씩 내려오는게 중요 → 경사 하강법 모델을 훈련 전체 샘플을 사용하지 않고 하나의 샘플만을 가지고 가파른 길을 찾는 법 → 확률적 경사 하강법 훈련 세트를 한번 모두 사용하는 과정을 에포크, 일반적으로 수십, 수백번 수행 1개의 샘플을 사용해 경사 하강법을 수행하는 방식이 확률적 경사 하강법 여러 개의 샘플을 사용해 경사 하강법을 수행하는 방식이 미니배치 경사 하강법 실전에서 아주 많이 사용하는 방법이다. 전체 샘플을 사용해 경사 하강..