잉카콜라 잉카콜라

유데미 강의를 참고하여 글을 작성하였습니다 목차 1. 경사하강법 2. 확률적 경사하강법 3. 역전파 경사하강법 경사하강법이란 함수의 기울기(경사)를 구하고 경사의 반대 방향으로 계속 이동시켜 극값에 이를 때까지 반복시키는 것이다 ( 기울기가 0이 될 때까지 ) 위와 같은 곡선에 파란색 공이 있다고 가정하겠다 ( 이전 글에 나온 비용함수의 그래프이며 파란색선은 기울기이다 ) 이 공이 아래로 굴러가면 반대쪽에서 더이상 가지 못하고 멈추게 된다 이 지점에서의 기울기는 양수이다 다시 반대쪽으로 굴러가면 위와 같은 그림이 되며 기울기는 음수이다 최종적으로 위와 같이 기울기가 0인 위치에 도달하게 된다 이해를 쉽게 하기위해 공이 굴러가는 것으로 표현하였고 실제 모습은 위와 같다 Gradient Disent( 경사하..