1. 군집분석 개요

• 과제 채점 시 각 군집화 기법의 공통점과 차이점을 혼동하시는 분들이 꽤 계셨습니다.
  • 군집화의 가장 큰 개념은 라벨링되지 않은 데이터들을 특정 개수의 군집으로 묶어, 같은 것은 같게/ 다른 것은 다르게 보고자 하는 것입니다.
  • 이때, 군집화를 하는 기준에 따라 군집화 방법을 구분하게 되는 것입니다.

계층적 vs 분할적

• 일반적으로 군집화 기법을 구분하는 가장 큰 기준은 “계층적” 군집화냐와 “비계층적(분할적)” 군집화냐 입니다.

  

  ▲ 11주차 발표자료(p. 7)

  ---

  • 계층적 군집화
    • 군집의 개수를 미리 지정 x
    • 각 관측지를 하나의 최초 군집으로 지정한 후 한 번에 두 개씩 하나의 군집으로 만들어, 모든 군집들이 하나의 군집이 될 때까지 군집들을 결합해 나가는 방법
  • 분할적 군집화
    • 군집의 개수(k)를 미리 지정
    • 관측치들을 무작위로 k개의 집단으로 분할하고, 다양한 기준(평균값, 최빈값 등)을 이용하여 centroid를 수정해 나가며 집단을 다시 재분류 하는 방법

⇒ 현재 파이썬 머신러닝 완벽가이드 교재에서는 분할적 군집화만을 다루고 있습니다.

분할적 군집화 방법의 구분

• 분할적 군집화는 또 다시 여러 방법으로 나뉘게 됩니다.
  • 프로토타입(중심) 기반
    • KMeans(파머완 7.1장) → 거리 기반
  • 분포 기반
    • GMM(파머완 7.4장) → 확률 기반
  • 밀도 기반
    • 평균 이동(파머완 7.3장)
    • DBSCAN(파머완 7.5장)
  • 그래프 기반
    • 교재에서 다루지 x

2. KMeans vs GMM

11주차 복습과제 #3-1-3

• 해당 문항의 답안과 관련하여 교재의 내용을 조금 수정하는 편이 정확할 것 같습니다.

교재 p. 440

• 위의 빨간색 부분을 다음과 같이 설명하는 게 더 정확할 것 같습니다.

  ⇒ sklearn.GaussianMixtureModel 모듈은 cluster_centers_ 속성을 가지고 있지 않기에, visualize_cluster_plot() 함수에서는 GMM의 군집 중심 좌표를 시각화 할 수 없습니다.

  • visualize_cluster_plot() 함수

• GMM에는 군집 중심점(centroid)에 대한 개념이 명확히 존재하지는 않습니다.

  • model parameter로 정의하지는 않는다는 의미입니다.

• KMeans와 GMM의 작동 방식이 혼동되는 부분이 많기에, 설명을 추가하였습니다.

K- Means

• 대표적인 거리 기반 군집화 방식입니다.

  • 유클리디안 거리(Eucledian distance) 기반

    

  • 군집 중심점(centroid)라는 특정한 임의의 지점을 선택해 해당 중심에 가장 가까운 포인트들을 선택하는 군집화 기법입니다.

  • 군집의 개수(k)만큼 centroid를 설정하고, 각각의 data point들을 가장 근접한 centroid가 위치한 군집으로 군집을 할당하는 방식으로 작동합니다.