<aside> 📌 Preliminaries

</aside>

1. Introduction

확률적 ML 관점에서 Generative AL의 fundamental theory Deep NN를 활용한 현대 Generative model들을 어떻게 구현할지

• 수업 목적
  1. Deep Generative model들의 theoretical foundation을 이해
  2. 최신 AI 연구의 Learning principles 이해
• 수업 구성
  1. probabilistic foundations
  2. MCMC thoery
  3. variational techniques from computational statistics
  4. deep generative models (GAN, VAE, Flow, Diffusion, Score-based Generative Model)

The Era of Generative AI

• DALLE-3 (text2image) DALL·E 3
• Sora (text2video *new**) Sora: Creating video from text
• EMO (audio2video *new**) Emo

2. Statistical Principles of Generative AI

How can we understand Generation?

수리통계학 관점에서 generation이란?

• 🖤 컴퓨터는 어떻게 생성할까?
  • e.g.
    • 이미지 생성 = 각 픽셀 위치에 해당하는 RGB 값 생성
    • 텍스트 생성 = 텍스트에 해당하는 숫자 값 생성
    • 오디오 생성 = digitalized continuous 신호 생성
  • 데이터를 숫자로 변환하는 규칙의 집합들을 통해 컴퓨터는 데이터를 읽어낼 수 있음 하지만, 데이터 읽기 ≠ 데이터 생성
• 🖤 Generation은 결국 숫자를 만들어 내는 것❗
  • 그 숫자를 어떤 Rule, 어떤 Pattern에 따라 만들어야 사람이 한 것처럼 생성할까?
    • 사람이 한 것처럼 = Pattern
    • Pattern은 어떻게 정의할까? ➡️ 분포(Data Dist.)로 정의
      • 그 패턴이 높은 확률로 관찰되는 것이냐, 낮은 확률로 관찰되는 것이냐…
      • ⭐ 즉, 패턴이라는 것은 확률! ➡️ inference 가능
• 🖤 Generation?
  • 통계학 & ML ) 생성은 data distribution을 따르는 random variable의 realization으로 표현됨
    • $X\sim \mathbb{P}_{\text{data}}$
      • generative model = random variable
      • generation = sampling from a data distribution
    • $\mathbb{P}(X\in E) = \mathbb{P}_{data}(E)$
      • event: $E \subset \mathbb{R}^d$
      • $\mathbb{P}_{data}(E)$를 직접 알 수는 없지만 좌변에 의해서 관찰은 가능!
        • 좌변 $X_1,…,X_n$ n개의 데이터로 data distribution 추정 가능
      • random variable $X$를 통해서 관찰되는 값이 event $E$에서 관찰되는 확률 = data distribution에서 관찰하는 확률
  • ML 모델의 목적: 숫자들을 출력하는 Pattern을 학습하는 것
    • 통계학 ) pattern := 확률 분포
• 🖤 Generation by query
  • $X|y\sim \mathbb{P}_{\text{data}}$
    • 사용자의 쿼리에 따라 생성하는 경우: 조건부 확률 분포를 활용하면 됨
    • 쿼리가 $y$로 주어졌을 때(conditioning) 이벤트 발생 확률 알 수 있음
      • $\mathbb{P}_{\text{data}}(E|y)$
• ❓ data distribution & data space

Sampling from Known Density Function