<aside> 🌠 ● 적대적 학습 과정을 통해 생성 모델을 추정하는 새로운 프레임워크를 제안

• 데이터 분포를 포착하는 generator($G$)
• 샘플이 실제 훈련 데이터에서 온 것인지 생성된 것인지를 구분하는 discriminator($D$) ● 학습 과정은 minimax 게임으로 설명 가능
• $G$는 $D$가 실수할 확률을 최대화하려고 함
• 최적의 경우 $G$는 훈련 데이터의 분포를 정확히 복원하고, $D$는 모든 입력에 대해 $\frac{1}{2}$의 값을 가짐 ● 해당 프레임워크는 다층 퍼셉트론을 사용하여 역전파로 훈련가능
• 훈련 중에 복잡한 마르코프 체인이나 근사 추론 네트워크를 사용할 필요 x

</aside>

1. Introduction

• 일반적인 딥러닝 프레임워크의 과제는 데이터의 확률 분포를 표현하는 풍부하고 계층적인 모델을 만드는 것임

• 해당 논문에서는 기존의 “복잡한 확률 계산 문제”를 극복하기 위해 새로운 생성 모델 추정 방법을 제안하고 있음

  • 적대적 신경망(adversarial nets) 프레임워크를 사용하여 생성 모델과 판별 모델을 서로 경쟁시키는 방식

  

  출처: https://wikidocs.net/146217

• 생성 모델($G$)은 가짜 데이터를 생성하고, 판별 모델($D$)은 이 데이터를 진짜와 가짜로 구분하려고 함

  • 이 경쟁은 두 모델이 계속해서 개선되도록 유도하며, 최종적으로 가짜 데이터가 진짜 데이터와 구별할 수 없게 만듦

  • 특히, 이 프레임워크는 생성 모델과 판별 모델 모두 다층 퍼셉트론(MLP)을 사용하고, 역전파와 드롭아웃 알고리즘만으로 훈련할 수 있음

    • 복잡한 근사 추론이나 마르코프 체인이 필요하지 않음

    

3. Adversarial nets

• 해당 논문에서는 생성 모델(generator, $G$)와 판별 모델(discriminator, $D$)를 다층 퍼셉트론으로 정의하여 적대적 신경망(adversarial nets) 프레임워크를 제시하고 있음

  • 생성 모델: 노이즈를 입력으로 받아 데이터를 생성
    • $G$는 $D$가 생성된 샘플을 가짜로 판단할 확률을 최소화하도록 훈련됨
  • 판별 모델: 데이터가 실제 데이터인지 생성된 데이터인지를 구분하는 확률을 예측
    • 훈련 데이터와 생성된 데이터에 올바른 레이블을 할당할 확률을 최대화하도록 훈련됨

• 이 과정은 미니맥스 게임으로 설명되며, 두 모델이 점진적으로 개선됨

  

  Eq 1.

  • $x \sim P_{\text{data}}(x)$: 실제 데이터($x$)에 대한 확률 분포로부터 샘플링한 데이터
  • $z \sim P_z(z)$: Gaussian 분포를 사용하는 random noise로부터 샘플링한 데이터
  • $G(z)$: 생성자 $G$가 생성한 모조 데이터
  • $D()$: 진짜 데이터에 가까우면 1로, 가짜 데이터라고 생각되면 0으로 예측(일종의 이진 분류기)

  판별자($D$, discriminator)

  ⇒ 해당 식을 최대화하고 싶다. (잘 구분해낼래 🤩)

  

  파란색) 최적(optimal) 상황 분홍색) 최악의 상황

  생성자($G$, generator)

  ⇒ 해당 식을 최소화하고 싶다.(방해할래 🤪)

  

  update 과정

  • 판별자($D$) 학습 시에는 생성자($G$)를 고정시킨 채 실제 이미지에 대해서는 높은 확률을 반환하는 방향으로, 모조 이미지에 대해서는 낮은 확률을 반환하는 방향으로 가중치를 업데이트함
  • 생성자($G$) 학습 시에는 판별자($D$)를 고정시킨 채 가중치를 업데이트

  $D$와 $G$를 번갈아 가며 최적화하여 훈련

• D를 완전히 최적화하는 것은 계산 비용이 크고 과적합을 초래할 수 있기에, 몇 단계마다 교대로 최적화 함
  • 학습 초기에 $G$가 잘 작동하지 않으면, $D$가 샘플을 쉽게 거부할 수 있기에(= 가짜 판별 난이도가 낮다..) 학습이 어려워질 수 있음
    • 이 경우, $G$를 $\log D(G(z))$를 최대화하도록 훈련하면 초기 학습 단계에서 더 강력한 그래디언트를 제공하여 학습을 촉진할 수 있음

Adversarial Learning

• GAN은 두 개의 신경망, 즉 생성자(Generator, $G$)와 판별자(Discriminator, $D$)를 사용하여 데이터를 생성하고 생성된 데이터와 실제 데이터를 구분하는 방식으로 학습함

• 검은 점선: 실제 데이터의 분포($p_{data}(x)$)를 나타냄
• 녹색 실선: 생성자가 만든 데이터 분포($p_g(G(z))$)를 나타냄
• 파란색 점선: 판별자 $D$의 결정 경계

(a) 초기 상태

• 초기 상태에서는 생성자(G)가 아직 충분히 학습되지 않았음
  • 데이터의 분포 ($p_g$)가 실제 데이터 분포와 상당히 다름
• 판별자($D$)는 데이터의 실제 분포($p_{data}$)와 생성된 데이터의 분포($p_g$)를 잘 구분할 수 있는 상태임