728x90
정보이론 : 엔트로피, KL-Divergence
An Ed edition
reniew.github.io
https://kangbk0120.github.io/articles/2018-03/information-theory
Information Theory에 대한 정리
Information Theory Deep Learning Book Ch.3은 Probability and Information Theory라는 제목입니다. 오늘 발제는 이 중에서도 Information Theory에 대해서 초점을 맞춰서 진행해보려고 합니다. 정보 이론은 말 그대로, 정보라는 개념을 구체화/수치화했다고 생각하시면 됩니다. 이때 가장 기본적인 개념은 드물게 일어나는 사건일수록, 자주 일어나는 사건에 비해 더 많은 정보를 담고 있다는 것입니
kangbk0120.github.io
PRML , Deep Learning book 참고
728x90
'Dic' 카테고리의 다른 글
| Maximum likelihood estimation (0) | 2019.07.24 |
|---|---|
| Hard negative mining (0) | 2019.07.23 |
| F-measure (0) | 2019.07.22 |
| Affinity Propagation (0) | 2019.07.21 |
| logit , sigmoid, softmax (0) | 2019.07.11 |