슬라이딩 윈도우의 컨볼루션 구현

  • 슬라이딩 윈도우를 사용해 컨볼루션을 하기 위해 FC 레이어를 컨볼루션 연산으로 변경하는 법을 알아야한다.
  • 5×5×165\times{}5\times{}16 데이터를 400개 노드가 있는 FC 레이어는 5×5×165\times{}5\times{}16 데이터에 5×55\times{}5 필터 400개로 convolve 한 것과 같고 결과는 1×1×4001\times{}1\times{}400 이 된다.
  • 이는 FC 레이어에서 각 노드가 특정 입력에 대해 계산하는 방식과 동일한 결과를 내며, 이러한 계산을 컨볼루션 필터로 수행할 수 있다.

여기서 FC는 Convolution 으로 변환된 Fully Connected Layer 를 뜻한다.

  • 16×16×316\times{}16\times{}3 이미지 안에 있는 4개의 14×1414\times{}14 영역에 대한 convolution 을 하게 되면 최종 출력에서 (1,1)(1, 1) 의 결과가 좌측 상단 14×1414\times{}14 구역의 컨볼루션 연산 결과임을 알 수 있다.