IBOK

NVIDIA와 Baidu에서 연구하고 ICLR 2018에 발표된 논문인 Mixed Precision Training을 바탕으로 정리한 글입니다. 딥러닝 학습 과정에서 Mixed Precision을 이용하여 GPU resource를 효율적으로 사용할 수 있는 방법입니다. (NVIDIA 블로그 정리글: developer.nvidia.com/blog/mixed-precision-training-deep-neural-networks/) Floating Point Format 실수를 컴퓨터로 나타내는 방법에 고정소수점(Fixed Pint) 방식과 부동소수점(Floating Point) 방식이 존재합니다. (부동소수점 방식은 떠돌이 소수점 방식이라고도 한다고 합니다. 귀엽네요) 고정소수점 방식은 정수부와 소수부를 ..

Carlini, Nicholas, and David Wagner. "Magnet and" efficient defenses against adversarial attacks" are not robust to adversarial examples." arXiv preprint arXiv:1711.08478 (2017). - 2017년 Carlini와 Wagner이 제안한 MagNet과 "Efficient Defenses~"의 반박 논문.- 1) Meng et al.의 MagNet (2017), 2) Zantedeschi et al.의 "Efficient Defenses Against Adversarial Attacks" (2017), 3) Shen et al.의 APE-GAN (2017) 3가지의 adve..

Cho, Seung Ju, et al. "DAPAS: Denoising Autoencoder to Prevent Adversarial attack in Semantic Segmentation." arXiv preprint arXiv:1908.05195 (2019). Abstract - Denoise autoencoder을 이용하여 semantic segmentation에 대한 adversarial defense 기법을 제안 Introduction - image를 pixel level에서 재구성하여 깨끗한 image를 만든다. - 1) Gaussian distribution, 2) Uniform distribution, 3) Bimodal distribution을 noise로 사용. - Dataset : ..

https://nipy.org/nibabel/coordinate_systems.html Neuroimaging in Python — NiBabel 3.0.2dev documentation Coordinate systems and affines A nibabel (and nipy) image is the association of three things: The image data array: a 3D or 4D array of image data An affine array that tells you the position of the image array data in a reference space. image metadata (dat nipy.org 위의 문서를 정리한 내용. [요약] - Image..

1. Christ, Patrick Ferdinand, et al. "Automatic liver and lesion segmentation in CT using cascaded fully convolutional neural networks and 3D conditional random fields." International Conference on Medical Image Computing and Computer-Assisted Intervention. Springer, Cham, 2016. Goal : Segmentation of liver and its lesions in CT abdomen images Dataset : 3DIRCADb dataset (https://www.ircad.fr/res..

Meng, Dongyu, and Hao Chen. "Magnet: a two-pronged defense against adversarial examples." Proceedings of the 2017 ACM SIGSAC Conference on Computer and Communications Security. 2017. 이미지 출처 : https://www.youtube.com/watch?v=wZ-wIdAcWQE 2017년에 제안된, autoencoder을 이용한 adversarial defense 방법. 개요 - Adversarial attack에 대한 defense 방법. - Autoencoder을 이용하여 "sanitize" 한 input을 classifier에 넣는다. 장점 - target ..

1. Git 설치 및 설정 sudo apt-get install git-core #사용자 정보 추가 (현재 시스템의 모든 디렉토리에서 해당 정보 사용) git config --global user.name "이름" git config --global user.email "이메일 주소" #기본 설정 리스트 확인 git config --list 2. Git Repository 생성 #새로운 프로젝트 생성 git init #Git 서버의 프로젝트 복제 git clone [REPO_URL] [LOCAL_DIR] 3. Branch 생성과 관리 참고: Git 브랜치 - 브랜치란 무엇인가 Branch의 작동구조 Branch 관련 명령어 branch 목록 확인 git branch # 목록에 *이 붙어 있는 것이 현재 ..

state_dict - torch.nn.Module 모델의 각 계층의 학습 가능한 매개변수(model.parameters())들을 매핑하는 dictionary 객체. - torch.optim 옵티마이저 객체 또한 옵티마이저의 상태와 사용된 하이퍼파라미터 정보를 포함한 state_dict를 가짐. state_dict 저장하기/불러오기 저장하기 torch.save(model.state_dict(), PATH) 불러오기 model = TheModelClass(*args, **kwargs) model.load_sate_dict(torch.load(PATH) model.eval() - inference를 위해 학습된 모델의 학습된 매개변수만 state_dict를 이용하여 저장하는 방법. - 모델 저장 시 .pt ..

참고 : https://harryp.tistory.com/168 usage: scp [-12346BCpqrv] [-c cipher] [-F ssh_config] [-i identity_file] [-l limit] [-o ssh_option] [-P port] [-S program] [[user@]host1:]file1 ... [[user@]host2:]file2 cp 명령어와 유사. 파일경로 앞에 출발지/도착지 정보만 붙음. 출발지/도착지가 로컬일시 생략. 1) 로컬-->서버 scp [파일경로] [도착지정보(id@ip)]:[파일경로] 2) 서버-->로컬 scp [출발지정보(id@ip)]:[파일경로] [파일경로]

1. alias 목록 보기 alias 2. alias 설정 1) ~/.bashrc 파일의 맨 아래에 다음 내용 삽입 alias [단축 명령어]='[명령어]' 2) source ~/.bashrc로 재시작