경사하강법 Python 파이썬 코드로 구현하기


경사하강법 Python 파이썬 코드로 구현하기

딥러닝을 배우면 정말 지긋지긋하게 나오는 경사하강법입니다. 좀 제대로 머리에 경사하강법 원리를 익히기 위해 여러 소스를 참고해서 파이썬 코드를 작성했습니다. import numpy as np import matplotlib as plt def function(x1, x2): #손실함수 임의로 정의 return 0.5*x1**2 + (5/2)*x2**2 - x1*x2 - 2*(x1 + x2) def gradient(x1, x2): #각 값에 대한 미분식 제시 return np.array([-2 + x1 - x2, -2 - x1 + 5*x2]) x1 = 2 #x1, x2를 임의 값으로 설정 x2= 1 lr = 0.1 # step size (learning rate, 실험을 위해 크게 설정함) precisio..


원문링크 : 경사하강법 Python 파이썬 코드로 구현하기