권예영
역전파(Backpropagation)란?
역전파는 신경망 학습에서 중요한 알고리즘으로,정방향(Feed Forward)으로 신호를 보내고 출력과 실제 값 사이의 오차를 구한 뒤, 역방향(Backpropagation)으로 그 오차를 전파하여 가중치를 조정한다.
Backpropagation: 계산된 오차값을 역방향으로 전파하여 각 가중치에 대한 기울기를 계산한다. 이 과정에서 미분이 중요한 역할을 하며, 오차를 각 가중치에 따라 어떻게 조정해야 할지를 결정한다,
Sigmoid 함수가 역전파에 유리한 이유
계산의 간편성: Sigmoid 함수의 미분은 그 자체의 출력값으로 계산할 수 있어 효율적이다.
출력값의 연속성: Sigmoid 함수는 0과 1 사이의 값을 연속적으로 출력하여, 신경망의 출력이 항상 일정한 범위 안에서 유지되게 한다.
경사 하강법과의 상호작용: Sigmoid 함수의 매끄러운 미분 특성은 경사 하강법을 통해 가중치를 점진적으로 조정할 때 유리하다