Convolutional Neural Network(CNN)

아래의 자동차를 인식하기 위해서 자동차 그림을 아래와 같이 짤라 각각의 데이터로 입력하게 된다. ‘
이러한 Layer 층을 Convolution Layer라고 한다.
그래서 이 Network이름이 Convolution Neural Networks라고한다.
중간에 ReLU층을 넣고 다시 Convolution layer + POOLing + 마지막으로 Fully Connected Neural Network을 연결하여 결과를 출력하는 Networks를 구성할 수 있다.

시작부터 해서 Network를 이해해 나가보자.

전체 이미지를 한꺼번에 처리하는 것이 아니라 아래와 같이 잘라서 사용해서 처리 하겠다라고 한다.
여기서 처리 하겠다 라는 개념의 용어는 $Filter$라고 한다.
5x5x3 filter
여기서 마지막 3은 원본 그림의 색, 즉 RGB 3가지 색으로 구성되었으므로 3이 되고 5x5의 경우는 사용자가 정의할 수 있다.
Filter 를 궁극적으로 1개의 값을 출력시킨다.
5x5x3의 값을 어떻게 1개의 값으로 만들 수 있을까?
$Wx+b$ 를 사용한다.
이것을 간단하게 5x5x3이 아니라 5개만 있다고 하면 $x_1,x_2,x_3,x_4,x_5$가 있다면 Multi Features Regression과 동일하다.
아래의 식과 같은 형태로
변하지 않는 W(같은 필터이기 때문에)로 옆으로 넘기면서 각각 값들을 가지고오고 아래로 가서도 값을 가지고 오게 된다면 같은 필터로 전체 이미지를 훑고 각각의 점들을 한 값들을 가지고 오게 된다.
이러한 과정을 거치게 되면 몇개의 값 / 점을 모을 수 있을까?

4x4 그림에서 2x2 filter 를 사용한다면 그리고 Strider가 2라면 2칸씩 이동하겠다 라는 뜻이다.
평균을 내자/가장큰놈을 꺼내자/가장 작은놈을 꺼내자 하는 다양한방법이 있다.
하지만 가장 많이 사용되는 것은 가장 큰 값을 가지고 나오는 것이다.
어떠한 순서대로 할것인지는 우리 마음이다. 몇번을 Convolution을 하고 Pooling을하고 이런건 내맘이다.
이 값들 전체가 있을 것읻가. 3x3x10이라는 Convolution Layer가 나왔다면 원하는 깊이의 일반적인 Neural Network에 넣어서 마지막에 Softmax를 이용하여 몇개중의 Label중에 선택할 수 있도록 만들면 된다.