Be easy

인공지능, 머신러닝, 딥러닝 위 그림처럼 딥러닝은 머신러닝의 한 종류이며, 머신러닝은 인공지능의 한 종류 모델 머신러닝은 간단히 ‘데이터를 이용한 모델링 기법’이라고 표현 다시 말하면, 데이터들 중에서 ‘모델’을 뽑아내는 기법 모델은 머신러닝을 통해 얻을 수 있는 최종 결과물을 의미 모델은 ‘가설(Hypothesis)’이라고도 함 과적합(Overfitting) Overfitting은 학습 데이터에 너무 최적화를 하다보니, 실제 데이터와 차이가 많이 발생하는 모델을 만들게 되는 현상 학습 데이터에도 Noise 등이 섞인 데이터들이 섞여 있을 수 있기 때문에 Overfitting을 방지하는 기법들을 적용해야 더 좋은 결과물이 나올 수 있음 반대되는 경우는 Underfitting 위 그림과 같이 Underfi..

1. 적절한 학습률(learning rate) 학습률이 높을 경우 한 번에 이동하는 거리가 커지므로 최적값에 빨리 수렴할 수 있다. 그러나 너무 크게 설정하면 최적값에 수렴하지 못하고 다른 곳으로 발산하는 경우 발생 학습률이 낮을 경우 발산하지 않는 대신 최적값에 수렴하는 시간이 오래 걸림 2. local minimum 지역 최솟값에 안착해 버리는 경우 전역 최솟값을 찾지 못하고 local minimum에 수렴 3. 해결법 Adaptive Gradient Descent 학습 도중에 학습률을 지속적으로 변경 Momentum GD local minimum에 빠지는 경우를 방지하기 위해 관성력을 추가 이외에도 다양한 경사하강법 존재