경사하강법
-
Gradient_descent 으로 구현한 Linear_Regression머신러닝(MACHINE LEARNING)/간단하게 이론(Theory...) 2021. 4. 22. 14:17
https://www.boostcourse.org/ai222/lecture/24517 머신러닝을 위한 파이썬 부스트코스 무료 강의 www.boostcourse.org 네이버 부스트 코스 (Linear_Regression) 을 참고하였습니다. 1. 모듈 삽입 In [1]: import numpy as np import matplotlib.pyplot as plt %matplotlib inline import pandas as pd 2. LOAD DATASET 여기서, Load_excel()로 import In the following data X = number of claims Y = total payment for all the claims in thousands of Swedish Kronor for..
-
Gradient_descent(경사 하강법)머신러닝(MACHINE LEARNING)/간단하게 이론(Theory...) 2021. 4. 22. 01:12
경사 하강법 ( Gradient descent)은 1차 근삿값 발견용 최적화 알고리즘 이다. 기본 개념은 함수의 기울기 (경사)를 구하고 경사의 절댓값이 낮은 쪽으로 계속 이동시켜 극값 에 이를 때까지 반복시키는 것이다. -네이버 백과사전- 사전적 의미는 위와 같지만, 좀 더 쉽게 말하자면, 2차방정식에서 배울때, 미분값이 0 인 지점을 구하면, 극소 또는 극대가 되는 점인 걸 상기시켜서, 극값(극소, 극대) 에 가기 위하여, 기울기에 해당하는 변화율을 계속 적용시키는 것이다. 장점은 구현하기 쉽지만, Learning_rate을 직접 설정해주어야 하는 단점과, 출발지점이 올바르지 않을 경우, 이또한 극소 극대가 잘 안구해진다는 단점이 있다. Code 구현을 살펴보자 1. X 와 X^2 에 해당하는 그래프..