물공's의 딥러닝

■ 본 논문은, GAN의 Generator → F, G & Discriminator → E, D 각각 분리하여 아키테처를 구성하고 있습니다. ■ F에서 나온 latent space와 E에서 나온 latent space가 서로 동일한 분포를 가진다고 가정해서 연구가 진행 되었으며, F는 deterministic하게 latent space mapping이 이루어지고, G﹒E는 독립적이고 이미 알려진 분포의 noise인 $\eta$를 입력으로 주어 stochastic하게 만듭니다. ■ 결론적으로 latent space의 확률 분포를 adversarial 하게 학습할 수 있는 장점이 있습니다. 그로 인하여 GAN과 비슷한 생성 능력, disentangled representation을 학습한 점을 보여주고 있습..

Abstract Unsupervised image-to-image translation개념 Unsupervised image-to-image translation tasks는 unpaired train data에서 source domain X와 target domain Y간의 mapping이 되는 지점을 찾는 것을 목표로 하는 task 입니다. CUT(Contrastive Learning for unpaired image-to-image Translation) Contrastive Learning for unpaired image-to-image Translation은 두개의 도메인 (X, Y) 모두에 대해 하나의 Encoder만 사용하여 입력, 출력 패치(patch)의 mutual information..

1. 참여 계기 본인의 생각을 글로 다듬어 작성하는 일들은 쉽지 않다고 생각됩니다. 그래서 꾸준히 블로그를 작성하려고 노력한지 어느덧 9년이라는 시간이 흘렀습니다. 하지만 아직 부족함이 많고 특히 학문적인 내용에 대한 글들을 다른 사람들이 볼 때 쉽게 이해할 수 있도록 잘 정리를 한다는 것은 정말 어려운 일인거 같습니다. 그때 글또라는 커뮤니티(?)을 알게 되어 글또 4기부터 지금가지 참여를 하게 되었습니다. 4기때는 그래도 나름 열심히 활동을 했지만 5기때는 활동을 거의 하지 못해서 아쉬움이 많이 남았습니다. 그래서 이번 6기때는 더 나은 글과 더 나은 패드백을 드리기 위해 좀 더 많은 시간을 투자하고 싶어 참여를 신청하게 되었습니다. 2. 얻고 싶은 것. 첫째, 글을 작성할 때 전달하고자 하는 내용을..

글또 5기를 시작했을 때 나의 다짐 글또 4기때 나름(?) 열심히 해서 좋은 글들을 읽고 쓰기도 많이 썻었습니다. 그래서! 이번 5기때는 4기때보다 더 열심히 해야겠다!! 보증금을 전액 다 받아야겠다!!!😤 라는 목표와 다짐으로 5기 참여를 하게 되었었습니다. 이번 글또 5기때 다짐을 다시 한번 정리를 해보면 보증금 전액 환불 받기 많은 논문을 읽고 이해하기 쉽도록 리뷰글 작성하기. 티스토리에서 깃허브 블로그로 이전하기. 글을 작성할 때 논리적으로 작성하기. 하지만... 글또 4기때는 나름 글도 많이 쓰고 피드백도 꾸준히 해드렸지만 글또 5기때는 글도 거의 작성 못하고 활동을 거의 못했던거 같아 아쉬움이 많이 드내요...🥲 요즘은 어덯게 살고 있나? 글또 5기 활동을 하는 도중 드디어 석사 학위 졸업을 ..

1. Abstract image-to-image translation problems에 대한 일반적인 방법부터 Contitional adversarial networks를 사용한 방법까지 조사했다. Image-to-Image translation problems를 다루는 Networks는 입력 이미지에서 출력 이미지로 가는 mapping을 학습할 뿐만 아니라 loss function도 학습한다. 이를 통해 image-to-image translaotion problems에서 각 상황에 따라 사용되는 loss functions이 달랐지만 paper에서 제안한 방식을 적용하면 동일한 loss functions을 사용하여 적용할 수 있다. paper에서 제안한 방법을 사용하면 label maps에서 사진을 합..

1. Abstract [문제점] 정확한 annotation은 시간이 많이 들기 때문에 전문가(방사선사, 의사 등)가 clinical imaging(임상 영상)을 직접 annotation을 표시한 데이터를 얻는 것은 어렵다. 또한 모든 병변에 대해 annotation이 표시되지 않을 수도 있으며 annotation에 대해서 정확하게 이 병변이 어떤 병변인지 설명 되어있지 않은 경우도 있다. [Supervised Learning의 장단점] 전문가로부터 분류된 training data를 받아 Supervised Learning 방식으로 모델을 학습 시키면 좋은 성능을 얻는 반면, annotation이 표시된 병변으로만 제한이 되는게 단점이다. [Unsupervised Learning으로 접근한 f-AnoGAN..

이번엔 Pytorch를 사용하면서 데이터, 학습 과정 등의 시각화에 유용한 TensorBoard를 사용하는 방법을 한번 알아보도록 하겠습니다. 1. Install 우선 TensorBoard는 이름 그대로 Tensorflow를 위해서 개발된 Tools입니다. 그래서 Tensorflow에서만 거의 사용이 되었지만 정말 감사하게도 Pytorch에서도 TensorBoard를 사용할 수 있도록 TensorBoardX라는 라이브러리를 개발을 해주셔서 이제는 Pytorch에서도 Tensorboard를 사용할 수 있게 되었습니다. TensorboardX를 사용하려면 pip을 사용해 TensorboardX를 설치해야 합니다. pip install tensorboardX 2. Sin, Cos Function을 그려보기. ..

Tensorflow 1.x 버전으로 코드를 작성하다가. Naver AI HackaThon을 계기로 Pytorch로 넘어오게 되었다. 어떻게 보면 비슷하지만 약간은 다른 Pytorch를 그동안 접하면서. 초보자들에게 유용한 팁을 한번 간단하게 정리를 해보고자 한다. (이미 잘 하신 분들은 스킵하셔도 됩니다~~) 글의 구성은 다음과 같이 구성이 되어있습니다. Custom Dataset 을 Class로 만들어서 Data Loader 시키기. Transfer Learning and fine tunning with Pytorch Save and Load pickle file Model feature extractor 1. Custom Dataset Loader Pytorch에서 기본적으로 제공해주는 Fashion..