5-1. 합성곱 신경망

Review

• 딥러닝의 역전파
  • 순전파 과정에 따라 계산된 오차 정보가 신경망의 모든 노드(출력층 → 은닉층 → 입력층)로 전송
  • 이때, 계산 과정은 복잡하고 많은 자원을 요구 + 계산 시간 증가

⇒ 이미지 전체를 한 번에 계산하는 것이 아닌 이미지의 국소적 부분을 계산해보자!

ㄴ 합성곱 신경망

5-1-1. 합성곱 층의 필요성

• 합성곱 신경망은 이미지 또는 영상을 처리하는 데 유용한 구조

• 기존의 이미지 분석 과정

  • h * w의 2차원 배열 → flatten → 1차원 배열
  • 각 픽셀에 가중치를 곱하여 은닉층으로 전달

  ⇒ flatten의 단점) 데이터의 공간적 구조 무시

• 이를 보완하기 위해 합성곱 층이 도입됨

5-1-2. 합성곱 신경망 구조

합성곱 신경망(Convolutional Neural Network, CNN)

• 음성 인식이나 이미지/영상 인식에서 주로 사용되는 신경망
• 다차원 배열 데이터를 처리하도록 구성
  • 컬러 이미지 같은 다차원 배열 처리에 특화되어 있음
• 합성곱 신경망 구조
  • 합성곱 층과 풀링층을 거치면서 입력 이미지의 주요 특성 벡터(feature vector)를 추출
  • 이후 추출된 주요 벡터들을 완전 연결층에 통과시켜 1차원 벡터로 변환
  • 마지막으로 출력층에서 활성화함수(softmax 등)를 사용하여 최종 결과가 출력됨

입력층(input layer)

• 입력 이미지 데이터가 최초로 거치게 되는 계층
• 이미지는 높이(height)*너비(width)*채널(channel)의 값을 가지는 3차원 데이터
  • 채널) 1(흑백,grayscale), 3(컬러, RGB)

합성곱 층(convolutional layer)

• 입력 데이터에서 특성을 추출하는 역할

  • 합성곱: 커널(or 필터)이라는 n x m 크기의 행렬이 높이 x 너비 크기의 이미지를 처음부터 끝까지 훑으면서 각 원소 값끼리 곱한 후 모두 더한 값을 출력하는 것

• 입력 이미지가 들어오면 이미지에 대한 특성을 감지하기 위해 커널(kernel) 또는 필터를 사용

  • 이미지의 모든 영역을 훑으면서 특성을 추출 ⇒ 특성 맵(feature map)
  • 일반적으로 33, 55 크기 적용

• 스트라이드(stride)

  • 필터를 적용하는 위치의 간격

  • ⭐ 이동 과정(교재 p.168 ~ 170)

    1. 입력 이미지와 필터를 포갠 다음 대응되는 숫자끼리 곱한 후 모두 더함

       

    2. 필터를 stride만큼 이동

       

    ⇒ 커널은 스트라이드 간격만큼 순회하면서 모든 입력 값과의 합성곱 연산으로 새로운 특성 맵을 만들게 됨

    ⇒ 특성 맵의 크기 축소

  ---

  • 컬러 이미지 합성곱

    ⭐ 필터의 개수는 여전히 한 개

    

    ❓ 필터의 개수가 늘어나면