딥러닝 w값 직접 업데이트 하는법

w1이 조금 변할때 E(총손실 즉 예측값과 실제 결과값 오차)는 얼마나 크게 변하는가 편미분 하라는 기호 이때 총 손실 E는 아래수식으로 구한다 편미분 방법중 쉽게 할수있는 방법(체인룰) 예시로 w3값이 E에 끼치는 영향 구하기 (w3가 z3의 주는영향)*(z3가 a3의 주는영향)*(a3가 E의 주는영향)=w3값이 E에 끼치는 영향 1)w3가 z3의 주는영향 구하기 z3=w3*a1+w4*a2 만약 w3= 1---->1.001만큼 변하면 w3*a1 = 1*a1----->1.001*a1만큼 변함 w4*a2는 w3가 z3의 주는 영향과 상관없으므로 제외시킴 그러므로 w3가 z3의 주는 영향은 a1만큼 변함 2)z3가 a3의 주는영향 구하기 z3가 조금 변하면 얼마나 변하는지 알려면 시그모이드 함수를 미분해야하므로 이렇게 미분해서 계산하면 됨 예시에서 sig(z3)=0.688 이니까 0.688*0.312=0.214=a3의 주는 영향 3)a3가 E의 주는영향 구하기 a3^2 ----> 만약 ...

원문링크 : 딥러닝 w값 직접 업데이트 하는법