IBOK

StyleGAN2(Analyzing and Improving the Image Quality of StyleGAN, 2020)의 PyTorch 코드를 정리한 글. 위 Repo를 바탕으로 일부 수정했으며, 전체적인 흐름 이해를 위한 코드로, logging 등 많은 부분이 생략되어 있음. StyleGAN 시리즈 설명: https://bo-10000.tistory.com/158 [StyleGAN 시리즈] ProGAN/PGGAN, StyleGAN, StyleGAN2 ProGAN부터 StyleGAN2까지, style transfer에서 가장 유명한 모델인 StyleGAN의 변천사와 각 모델의 특징을 간단히 정리해 보고자 한다. 1. ProGAN/PGGAN (ICLR 2018) Paper: Progressive G..

PointCloud 데이터를 이용한 대표적인 모델인 PointNet의 구조와 PyTorch로 구현한 코드이다. PointNet은 Feature extraction 후 classification / segmentation을 수행할 수 있지만, 본 글에서는 classification을 위한 네트워크만 소개한다. 코드는 가장 star 수가 많은 PyTorch implementation인 아래 Github repo를 참고하여 일부 수정했다. https://github.com/fxia22/pointnet.pytorch/tree/f0c2430b0b1529e3f76fb5d6cd6ca14be763d975 64로 늘려준다. 64차원의 shared mlp에 마찬가지로 T-Net과 matrix multiplication을 ..

Bag of Tricks for Image Classification with Convolutional Neural Networks (He et al., CVPR 2019)에서 소개된 ResNet의 변형 모델들(tweaks)에 대한 PyTorch 코드이다. 논문에서는 두 개의 유명한 변형 모델인 ResNet-B, C를 소개하고, 새로운 구조인 ResNet-D를 제안하고 있다. ResNet 기본적인 ResNet의 구조는 Input stem과 4개의 stage, 그리고 마지막 output layer로 이루어져 있다. Input stem : 7x7 conv와 maxpool로 이루어져 있으며, channel dim을 64로 늘리고 input size를 4배 줄인다. Stage : 한 개의 downsampling..

CBAM: Convolutional Block Attention Module은 ECCV 2018에서 발표된 channel&spatial attention module이다. 코드는 공식 github을 참고하여 조금 수정했다. Paper: https://arxiv.org/pdf/1807.06521.pdf Code: https://github.com/Jongchan/attention-module/ Author's blog: https://blog.lunit.io/2018/08/30/bam-and-cbam-self-attention-modules-for-cnn/ BAM CBAM은 BAM: Bottleneck Attention Module의 후속 논문이다. BAM은 모델의 bottleneck 부분에서 attent..

cycleGAN 논문에서는 cycleGAN의 Loss function을 다음과 같이 정의하고 있다. (identity loss는 optional) 이 수식은 코드로 볼 때 훨씬 간단해진다. 나는 PyTorch를 이용해 cycleGAN의 loss 부분을 다음과 같이 작성했다. 코드는 저자가 공개한 official code와 simplified version(unofficial)을 참고했다. 처음 공부할 때는 simplified version을 통해 전체 구조를 이해한 후, official code를 참고하면 이해하기 편하다. (*cycleGAN의 detail이나, 이론적인 부분은 이 글에서는 설명하지 않기로 한다.) 우선, 각 stage의 loss를 다음과 같이 식으로 정리할 수 있다. 참고로, realA..

PyTorch로 구현한 3D Segmentation 모델 3가지입니다. github.com/bo-10000/pytorch_3d_segmentation bo-10000/pytorch_3d_segmentation PyTorch implementation of VoxResNet, Attention U-Net and V-Net - bo-10000/pytorch_3d_segmentation github.com VoxResNet residual learning을 적용한 모델입니다. residual module(b)을 여러 겹 쌓은 구조를 가지고 있고, 중간중간 auxiliary classifier을 배치하여 그 결과를 합쳤습니다. MICCAI MRIBrainS challenge에서 1위를 차지했습니다. 논문 링크 ..