PIL image, cv2
(H,W,C)
Pytorch
(C,H,W)
| Sampling / Importance sampling (0) | 2021.04.19 |
|---|---|
| Sampling / Rejection Sampling (0) | 2021.04.19 |
| Sampling / Inverse CDF Method (0) | 2021.04.19 |
| Sampling / Gibbs Sampling (0) | 2021.04.19 |
| negative sampling (0) | 2021.03.21 |
Importance sampling은 Rejection sampling이 샘플을 추출할 때, reject하는 비율이 커서 실제로 원하는 양의 sample을 얻는 데 시간이 오래 걸리는 점을 보완한 것이다. 수식의 전개는 아래 참고 자료를 보면 되고, 결과적으로 실제로는 sampling하기 힘든 p(x) 분포대신 q(x)분포를 이용해서 sampling을 진행하는데, q(x)를 통해 samping한 이후에 q(x),p(x)의 비율을 통해 sampling된 수를 조정해준다. 이러한 방법을 취하면 reject하지 않고 일단 sampling한 이후에 sampling한 수의 값을 조정하기 때문에 reject을 해서 시간이 오래 걸렸던 점이 보완된다.
Importance Sampling (중요도 샘플링)
앞서 배운 여러가지 Rejection sampling(기각 샘플링) 방법들의 경우, 샘플 추출시 reject(기각)하는 비율...
blog.naver.com
강화학습 - (17) 중요도 샘플링
강화학습 중요도 샘플링 (Importance Sampling) 중요도 샘플링이랑 다른 분포에서 샘플링된 값을 가지고, 구하고자 하는 분포(타깃 분포)에서의 기댓값을 유추하는 방법이다. 랜덤 변수 $x$
jyoondev.tistory.com
| Image HWC 순서 (0) | 2021.05.01 |
|---|---|
| Sampling / Rejection Sampling (0) | 2021.04.19 |
| Sampling / Inverse CDF Method (0) | 2021.04.19 |
| Sampling / Gibbs Sampling (0) | 2021.04.19 |
| negative sampling (0) | 2021.03.21 |
Inverse CDF Method의 경우 PDF 자체가 단순하여 0~1 범위로 형성되는 CDF를 구할 수 있고,
그렇기 때문에 Uniform distribution을 이용해 sampling이 가능하다.
그러나 PDF 자체가 복잡한 경우나 어떤 경우는 0~1로 형성되는 CDF를 구하는 것이 불가능하다.
이때 사용하는 것이 바로 Rejection sampling이다.
Rejection sampling은 일단 sampling이 쉽게 가능한 제안 분포(Proposal distribution) q를 설정하고 q에서
Inverse CDF Method를 통한 Sampling을 진행한 뒤, 원래 분포 p와 q의 likelihood 값을 비교하여
q의 영역에 있으면 sampling된 sample을 기각하고, p의 영역에 있으면 그대로 놔둔다.
이를 반복하다 보면 q를 토대로 sampling을 시도했지만, p의 영역에 맞는 sample만 남기고
나머지는 기각시켰기 때문에, p의 distribution에 맞게 sampling이 되게 된다.
www.youtube.com/watch?v=kYWHfgkRc9s
[머신 러닝] 기각 샘플링 (Rejection Sampling)
Rejection sampling (또는 acceptance-rejection method)은 어떠한 주어진 확률 분포에서 효율적으로 샘플을 생성하기 위해 많이 이용되는 알고리즘이다. 우리가 샘플을 추출하고자 하는 확률 분포 $p$에 대
untitledtblog.tistory.com
| Image HWC 순서 (0) | 2021.05.01 |
|---|---|
| Sampling / Importance sampling (0) | 2021.04.19 |
| Sampling / Inverse CDF Method (0) | 2021.04.19 |
| Sampling / Gibbs Sampling (0) | 2021.04.19 |
| negative sampling (0) | 2021.03.21 |
가장 기본적인 sampling 방법이다.
기본적으로 pdf의 cdf를 구하게 되면 범위에 0~1로 설정되게 되고
이는 Uniform distribution을 통한 sampling과정을 통해 각 x에 맞는 sampling이 가능함을 의미한다.
자세한 사항은 아래 참고.
blog.naver.com/PostView.nhn?blogId=jinis_stat&logNo=221648391742
Sampling 방법 / Inverse CDF Method
Sampling Methods 앞으로 monte carlo 섹션에서의 포스팅에서는, 샘플링 방법(Sampling Method)에 대...
blog.naver.com
| Sampling / Importance sampling (0) | 2021.04.19 |
|---|---|
| Sampling / Rejection Sampling (0) | 2021.04.19 |
| Sampling / Gibbs Sampling (0) | 2021.04.19 |
| negative sampling (0) | 2021.03.21 |
| jeffreys prior (0) | 2021.03.18 |
[기술면접] Markov Chain, Gibbs Sampling, 마르코프 체인, 깁스 샘플링 (day2 / 201010)
Q. Markov Chain을 고등학생에게 설명한다면 어떤 방식이 좋을까요? Q. Markov Chain 은 머신러닝 알고리즘 중 어디에 활용이 되나요? Q. 깁스 샘플링 은 무엇인가 Q. 깁스 샘플링 은 왜 쓰는가 ? Q. Markov Cha
huidea.tistory.com
www.secmem.org/blog/2019/01/11/mcmc/
Markov Chain Monte Carlo 샘플링의 마법
이번 포스트에서는 강력한 샘플링 기법 중 하나인 Markov Chain Monte Carlo(MCMC)에 대해 알아보겠습니다. MCMC의 활용도는 굉장히 넓어서 머신러닝을 비롯한 베이지안 통계학, 통계물리학, 컴퓨터비전,
www.secmem.org
Gibbs Sampler (깁스 샘플링)
Gibbs Sampler (Geman and Geman, 1984)는 MCMC Alogrithm의 특별한 방법 중 하나이다. 즉, Gi...
blog.naver.com
| Sampling / Rejection Sampling (0) | 2021.04.19 |
|---|---|
| Sampling / Inverse CDF Method (0) | 2021.04.19 |
| negative sampling (0) | 2021.03.21 |
| jeffreys prior (0) | 2021.03.18 |
| Kernel (Bayesian statistics) (0) | 2021.03.18 |
| Sampling / Inverse CDF Method (0) | 2021.04.19 |
|---|---|
| Sampling / Gibbs Sampling (0) | 2021.04.19 |
| jeffreys prior (0) | 2021.03.18 |
| Kernel (Bayesian statistics) (0) | 2021.03.18 |
| Predictive Distriution (0) | 2021.03.05 |
jangun.com/study/StatisticsConceptProblem.html
Welcome to Jangun
통계학의 개념 및 제문제 지음 : 이 긍희 외 목차 제1장 통계추론의 기초 개념 제2장 통계학과 확률 제3장 모집단의 분포 제4장 표본분포 제5장 점추정 제6장 점추정량의 비교 제7장 가설검정 제8
jangun.com
- 제프리스의 사전분포 검색
| Sampling / Gibbs Sampling (0) | 2021.04.19 |
|---|---|
| negative sampling (0) | 2021.03.21 |
| Kernel (Bayesian statistics) (0) | 2021.03.18 |
| Predictive Distriution (0) | 2021.03.05 |
| Beta distribution (0) | 2021.03.04 |
en.wikipedia.org/wiki/Kernel_(statistics)
Kernel (statistics)
From Wikipedia, the free encyclopedia Jump to navigation Jump to search Window function The term kernel is used in statistical analysis to refer to a window function. The term "kernel" has several distinct meanings in different branches of statistics. Baye
en.wikipedia.org
| negative sampling (0) | 2021.03.21 |
|---|---|
| jeffreys prior (0) | 2021.03.18 |
| Predictive Distriution (0) | 2021.03.05 |
| Beta distribution (0) | 2021.03.04 |
| ML & MAP (0) | 2021.03.04 |