1. 인공 신경망의 한계와 딥러닝 출현

퍼셉트론(perceptron)

• 다수의 신호를 입력으로 받아 하나의 신호를 출력하는 선형 분류기

  • 신호를 입력으로 받아 ‘흐른다/안 흐른다’ 정보를 앞으로 전달하는 원리로 작동

    

논리 게이트

AND 게이트

• 모든 입력이 ‘1’일 때 작동

  

  

OR 게이트

• 입력에서 둘 중 하나만 ‘1’이여도 작동

  

  

XOR 게이트

• 입력 두 개 중 한 개만 ‘1’일 때 작동

  

  

• 단층 퍼셉트론에서는 AND, OR 연산에 대해서는 학습이 가능하지만, XOR에 대해서는 학습 불가

  • 비선형적 관계 학습 불가

⇒ 입력층과 출력층 사이에 하나 이상의 중간층(은닉층)을 두어 비선형적으로 분리되는 데이터에 대해서도 학습이 가능하도록 다층 퍼셉트론을 고안

<aside> 💡 심층 신경망(Deep Neural Network, DNN) 입력층과 출력층 사이에 은닉층이 여러 개 있는 신경망 ⇒ 딥러닝

</aside>

2. 딥러닝 구조

• 딥러닝: 여러 층을 가진 인공 신경망을 사용하여 학습을 수행하는 것
  • 입력층, 출력층과 두 개 이상의 은닉층으로 구성

2-1. 딥러닝 용어

a. 층(Layer)

• 입력층(input layer): 데이터를 받아들이는 층
• 은닉층(hidden layer): 모든 입력 노드부터 입력 값을 받아 가중합을 계산하고, 이 값을 활성화 함수에 적용하여 출력층에 전달하는 층