Paper
Code
github.com/mangye16/Unsupervised_Embedding_Learning
mangye16/Unsupervised_Embedding_Learning
Code for Unsupervised Embedding Learning via Invariant and Spreading Instance Feature - mangye16/Unsupervised_Embedding_Learning
github.com
Method
image를 instance level로 같은 이미지는 가깝게 embedding하고 다른 이미지는 멀리 embedding시킨다.
위 그림은 한 이미지에 augmentation을 적용하기 전 이미지와 후 이미지를 같은 output feature가 나오게 만든다는 의미이다.
이러한 방법을 논문에서는 positive concentrated, negative separated라고 표현한다.
instance-wise한 방법은 general한 feature를 추출하기 때문에 unseen testing categories 구분에도 도움이 된다고 알려져 있다. (Dimensionality Reduction by Learning an Invariant Mapping)
수식은 다음과 같다.
먼저 augmented sample i가 i로 classified 될 확률은 다음과 같다.
sample xj가 instance i로 recognized될 확률은 다음과 같다.
그래서 augmented sample i 가 i로 classifed되고 j로 prediction되지 않을 확률은 다음과 같다.
이 수식에 대한 negative log likelihood를 계산하면,
이를 batch내에 있는 모든 instance에 대해서 계산하면 다음과 같다.
또한 training을 위해서 Siamese Network를 사용한다.
augmented sample의 feature를 뽑기 위함이며, 상세한 사항은 위 그림을 참고하면 된다.
Results
