IBOK

Input channel이 1이고, output channel도 1인 경우는 단순히 single-channel image에 convolution을 하고 bias term을 더해주면 된다. 아래 그림에서는 bias term은 생략됐지만, 2*2 kernel을 사용하고 추가로 bias term이 하나 있으니 이 경우 총 parameter 수는 5이다. 그러나 실제로 deep learning model에 convolution layer을 이용할 때에는 input channel의 수도 여러 개이고, output channel의 수도 여러 개인 경우가 많다. 이 경우 parameter 개수를 계산하는 법을 설명하겠다. Input channel의 수를 $C_{in}$, output channel의 수를 $C_{ou..

흔히 Cross validation은 Train data와 Validation data를, 혹은 Train data와 Test data를 k회 각각 다른 방법으로 분할하여 모델 성능을 검증하는 방법이다. 아래 그림은 5-fold Train-Test cross validation을 설명하고 있다. Train data와 Validation data의 분할에 cross validation을 사용한다면, 다양한 validation data를 이용해 최적의 model parameter을 탐색하기 위함이고, Train data와 Test data의 분할에 cross validation을 사용한다면, 다양한 test data에 대해 model의 성능을 평가하기 위함이다. Nested Cross validation은 ..

2021 ICCV에 Accept된 논문인 "Rethinking the Truly Unsupervised Image-to-Image Translation"을 정리한 글입니다. Naver CLOVA AI에서 작성된 논문입니다. 이전까지의 Unsupervised model (cycleGAN 등)은 사실 Semi-supervised 모델이라고 해야 한다고 얘기하며, Data collection(labeling)이 필요하지 않은 Truly unsupervised model인 TUNIT을 제안하고 있습니다. 논문 링크: https://arxiv.org/pdf/2006.06500 Official code: https://github.com/clovaai/tunit 1. Levels of Supervision in G..

2016년 IEEE TMI에 개제된 논문인 "Loss Functions for Image Restoration with Neural Networks"를 정리한 글이다. Super-resolution, artifact removal, denoising 등 Image restoration task에서 쓰이는 Loss function에 대해 분석했고, Image restoration task에서 좋은 성능을 낼 수 있는 새로운, 미분가능한 loss function을 제안했다. 꽤 옛날 논문이지만, 읽기 쉽고 유명한 논문이라 정리해 보려고 한다. 1. Background Image restoration Image restoration이란, denoising, deblurring, demosaicking, sup..

cycleGAN 논문에서는 cycleGAN의 Loss function을 다음과 같이 정의하고 있다. (identity loss는 optional) 이 수식은 코드로 볼 때 훨씬 간단해진다. 나는 PyTorch를 이용해 cycleGAN의 loss 부분을 다음과 같이 작성했다. 코드는 저자가 공개한 official code와 simplified version(unofficial)을 참고했다. 처음 공부할 때는 simplified version을 통해 전체 구조를 이해한 후, official code를 참고하면 이해하기 편하다. (*cycleGAN의 detail이나, 이론적인 부분은 이 글에서는 설명하지 않기로 한다.) 우선, 각 stage의 loss를 다음과 같이 식으로 정리할 수 있다. 참고로, realA..

pix2pix를 이용해 만든 그림->사진 변환 툴의 일종이다. 링크 : https://affinelayer.com/pixsrv/ Image-to-Image Demo - Affine Layer Interactive Image Translation with pix2pix-tensorflow The pix2pix model works by training on pairs of images such as building facade labels to building facades, and then attempts to generate the corresponding output image from any input image you give it. affinelayer.com 마우스로 고양이 그림을 그리면 고양..

순서: (1) LSTM (2) seq2seq, +attention (3) Show, Attend and Tell Reference: Visualization of seq2seqmodel Visualizing A Neural Machine Translation Model (Mechanics of Seq2seq Models With Attention) Translations: Chinese (Simplified), Japanese, Korean, Russian, Turkish Watch: MIT’s Deep Learning State of the Art lecture referencing this post May 25th update: New graphics (RNN animation, word embedd..

순서: (1) LSTM (2) seq2seq, +attention (3) Show, Attend and Tell reference: colah.github.io/posts/2015-08-Understanding-LSTMs/ Recurrent Neural Network 기본적인 RNN의 구조는 위와 같다. 이전의 state를 함께 input으로 주어 이전 input과의 연관성을 함께 학습해 나간다. 하지만 이러한 구조는, input의 길이가 길어질수록, 네트워크의 뒷부분으로 갈 수록 앞 부분의 정보를 잊어버리는 문제점이 있다. LSTM은 이러한 문제점을 극복하기 위해 제시되었다. Long Short Term Memory 위는 간단한 RNN의 구조, 아래는 LSTM의 구조이다. 각 기호의 의미는 다음과 같다..

heartbeat.fritz.ai/5-regression-loss-functions-all-machine-learners-should-know-4fb140e9d4b0 의 일부를 번역 & 요약한 글 MSE Loss and MAE Loss MSE(Mean Squared Loss, L2 Loss)는 Error의 제곱의 평균을 낸 값입니다. 수식으로 나타내면 아래와 같습니다. 다음은 True value를 100이라고 했을 때 Predicted value를 -10,000에서 10,000까지 변화시켜 가며 그린 그래프입니다. x축은 Predicted value, y축은 MSE Loss의 값을 나타냅니다. MAE(Mean Absolute Loss, L1 Loss)는 Error의 절대값의 평균을 낸 값입니다. 수식으로..

순서: (1) YOLO (2016) (2) YOLOv2 (3) YOLOv3 (4) YOLOv4 YOLO (2016) Redmon, Joseph, et al. "You only look once: Unified, real-time object detection." Proceedings of the IEEE conference on computer vision and pattern recognition. 2016. Paper: www.cv-foundation.org/openaccess/content_cvpr_2016/papers/Redmon_You_Only_Look_CVPR_2016_paper.pdf Official code: pjreddie.com/darknet/yolo/ 논문에서 제시한 모델 구조는 위 ..