신경망 표현
히든 레이어의 활성화 값인 , 출력 레이어 활성화 값은 로 표기할 수 있음
이를 일반화 하면 번째 레이어의 출력 값 벡터는 으로 표기할 수 있으며 입력 데이터 벡터인 는 로 표현할 수 있다.
위 표기법에서 는 레이어 번호, 는 노드의 번호이다.
즉 는 아래와 같다
레이어의 갯수가 N개 일 때 N-Layer NN 이라고 부르고, 여기서 N은 입력 레이어를 포함하지 않은 숫자이다. 곧 위 그림은 2-Layer NN 이다.
레이어 1을 벡터화 했을 때 , 는 각각 (3, 3), (3, 1) 행렬이 된다.
레이어 2을 벡터화 했을 때 , 는 각각 (1, 3), (1, 1) 행렬이 된다.