pytorch1 경사하강법 도대체 그게 뭔데? 딥러닝 모델의 성능을 좌우하는 핵심, 바로 경사하강법입니다.모델이 똑똑해지는 비결, 지금부터 파헤쳐 보겠습니다. 경사하강법, Cost를 줄이는 마법 경사하강법은 모델의 예측값과 실제값 사이의 오차, 즉 Cost를 최소화하는 방법을 제시합니다.쉽게 말해, 산에서 가장 낮은 곳을 찾아 내려가는 것과 같습니다.모델의 Weight, 즉 파라미터를 조절하여 Cost Function의 값을 줄여나가는 것이죠. Weight 업데이트, 학습률의 중요성 경사하강법은 Cost Function의 Gradient(기울기)를 이용하여 파라미터를 업데이트합니다.이때 중요한 것이 바로 학습률(α)입니다.학습률은 파라미터를 얼마나 크게 업데이트할지를 결정하는 값으로, 너무 크면 최적점을 지나쳐 버리고, 너무 작으면 학습 속도가 느.. 2026. 2. 20. 이전 1 다음
