<aside> 🌠 Key Words

• Syntatic Structure : "구문 구조", 문장을 하위 구조로 쪼개어 보는 것
• Constituency Structure : "구성 구조", 구문구조 방법 중 하나
• Dependency Structure : "의존 구조", 구문구조 방법 중 하나
• Universial dependencies : 위의 Constituency Structure 와 Dependency Structure 를 동시에 사용하는 구조
• Dependency Grammar : 말그대로 의존 구조의 문법
• Treebank : 구문 분석한것을 tree 구조로 저장해놓은 것
• Parser : 구문 분석기
  • ⭐ Dependency Parser : 의존 구조 분석기
• Greedy transition-based parsing : dependency parser의 알고리즘 중 하나 </aside>

0. Intro

• 왜 NLP에서 구문 분석이 필요할까?
  • 사람들은 복잡한 idea를 소통할 때, 단어들이 큰 단위로 합쳐진 것인 ‘문장’을 활용
  • 따라서, 언어 모델이 문장을 더 깊게 이해하기 위해서는 구문 분석이 요구됨

1. Syntactic Structure: Constituency and Dependency

Constituency Structure

Context-free grammers(CFGs)

• 단어 간의 종속관계를 무시한 채 문장 내의 단어를 각각의 객체처럼 구분하는 방식

• 예시)

  the cuddly cat by the door

  → {the cuddly cat}, {by the door}

  → {the, cuddly, cat}, {by, the, door}

• 문장을 점점 더 작은 단위로 분할

  • 문법(grammer) + 어휘(lexicon)

Dependency Structure

• 문맥 내에서 단어들이 가지는 관계를 고려한 구조 분석
  • 단어들이 문맥에 따라 parent(= root)와 child의 관계를 가지게 됨

구문 분석이 필요한 이유

• 언어의 모호성

  → 모델이 문장 구조를 잘 이해하여 더 정확한 분석을 수행하기 위해서

• 예시

  

  1. 칼로 남성을 살해함(칼: 살해의 도구)
  2. 칼을 가지고 있는 남성을 살해(칼: 남성의 특징)

  (외에도 여러가지 예시가 있다..)

PP attachment ambiguities multiply

• PP(Prepositional Phrase) : 전치사 + 명사 구
  • 또 다른 종류의 모호성
• Catalan 수

  • 단어의 수(n)이 증가함에 따라 문장의 ambiguity는 지수적으로(exponentially) 증가한다.

    

Coordination scope ambiguity

• 문장을 구분해서 읽는 “위치”에 따라 문장의 의미 해석이 달라질 수 있다.
  • 무엇이 무엇을 꾸미는지 명확하지 않은 경우