계산 그래프

Computation Graph

• 역전파
  • 신경망 계산에 있어서 역방향 전파 가 나옴
  • 이를 설명하기 위해 계산 그래프를 소개함

• 계산 그래프
  • J = 3(a + bc) 같은 단순 함수도 그래프로 나타내보면 위와 같이 3가지 단계가 있음
  • 우린 J를 작게 만들고자 하는데, 이렇게 최적화할 변수 등이 있을 때 유용함
  • 현재 계산과정은 왼쪽→오른쪽으로 진행되는데 미분 과정은 반대임.