Sampling / Rejection Sampling

Inverse CDF Method의 경우 PDF 자체가 단순하여 0~1 범위로 형성되는 CDF를 구할 수 있고,

그렇기 때문에 Uniform distribution을 이용해 sampling이 가능하다.

 

그러나 PDF 자체가 복잡한 경우나 어떤 경우는 0~1로 형성되는 CDF를 구하는 것이 불가능하다.

이때 사용하는 것이 바로 Rejection sampling이다.

 

Rejection sampling은 일단 sampling이 쉽게 가능한 제안 분포(Proposal distribution) q를 설정하고 q에서

Inverse CDF Method를 통한 Sampling을 진행한 뒤, 원래 분포 p와 q의 likelihood 값을 비교하여 

 

q의 영역에 있으면 sampling된 sample을 기각하고, p의 영역에 있으면 그대로 놔둔다.

이를 반복하다 보면 q를 토대로 sampling을 시도했지만, p의 영역에 맞는 sample만 남기고

나머지는 기각시켰기 때문에, p의 distribution에 맞게 sampling이 되게 된다.

 

 

www.youtube.com/watch?v=kYWHfgkRc9s

untitledtblog.tistory.com/134

[머신 러닝] 기각 샘플링 (Rejection Sampling)