수수께끼 고양이

1. 순전파 : y=x1*w1+x2*w2+1*b x1,x2=2,3 w1,w2=3,4 b=1 y=x1*w1+x2*w2+1*b y 2. 평균 제곱 오차 : E=(y-yT)*(y-yT)/2 yT=27 E=(y-yT)**2/2 E 3. 역전파 오차 : yE=y-yT yE=y-yT yE 4. 입력 역전파 : x1E=yE*w1, x2E=yE*w2 5. 가중치, 편향 순전파 : y=x1*w1+x2*w2+1*b, y=w1*x1+w2*x2+b*1 6. 가중치, 편향 역전파 : w1E=yE*x1, w1E=yE*x2 / bE=yE*1 w1E=yE*x1 w2E=yE*x2 bE=yE*1 (w1E,w2E,bE) 7. 신경망 학습 : w1-=lr*w1E, w2-=lr*w2E, b-=lr*bE lr=0.01 w1=w1-lr*w1E ..

딥러닝 동작원리 7가지 공식을 공부합니다. 1. 순전파 : y=x*w+1*b 입력 노드 1개, 출력 노드 1개, 편향으로 구성된 단일 인공 신경입니다. x=2 w=3 b=1 y=x*w+1*b y 2. 평균 제곱 오차 : E=(y-yT)*(y-yT)/2 E는 오차, y는 순저차에 의한 예측값, yT는 목표값 또는 라벨을 의미하며, yT는 입력값 x에 대해 실제로 나오기를 원하는 값입니다. 오차(error)는 손실(loss) 또는 비용(cost)라고도 하며, 오차값이 작을수록 예측을 잘하는 인공신경망입니다. yT=10 E=(y-yT)**2/2 E 3. 역전파 오차 : yE=y-yT yE는 역전파 오차, y는 순전파에 의한 예측값, yT는 목표값 또는 라벨을 나타냅니다. yE의 정확한 의미는 y에 대한 오차 ..

퍼셉트론의 한계 : XOR 단층 신경망은 입력값과 가중치의 곱의 합을 바로 출력값으로 내보내어 XOR 문제를 해결하려고 시도하는 과정에서 한계에 다다릅니다. 단층 신경망으로 구현할 수 없었던 XOR 게이트 문제를 다층 퍼셉트론이 개발되면서 해결되었습니다. 다층 퍼셉트론은 입력층, 은닉층, 출력층으로 구성된 모델로 XOR 게이트의 경우 두개의 입력값과 하나의 출력값을 가진 단층 퍼셉트론 세개를 조합하여 해결할 수 있습니다. AND 구현 def AND(x1,x2): w1,w2=0.4,0.4 # 가지돌기의 굵기 b=-0.6 # 축삭돌기의 굵기(두께), 역치 s=x1*w1+x2*w2+b return 0 if s

편향 개념 : 앞에서 구한 퍼셉트론 수식을 변형하여 역치를 편향 개념으로 바꾸어 봅시다. AND 구현 def AND(x1,x2): w1,w2=0.4,0.4 # 가지돌기의 굵기 b=-0.6 # 축삭돌기의 굵기(두께), 역치 s=x1*w1+x2*w2+b return 0 if s

퍼셉트론 구현하기 : AND, NAND, OR 게이트를 구현해봅니다. AND 구현 def AND(x1,x2): w1,w2=0.4,0.4 # 가지돌기의 굵기 t=0.6 # 축삭돌기의 굵기, 역치 s=x1*w1+x2*w2 return 0 if s