안녕하세요. 오늘은 Deep Learning 분야에서 CNN의 BottleNeck구조에 대해 알아보겠습니다. 대표적으로 ResNet에서 BottleNeck을 사용했습니다. ResNet에서 왼쪽은 BottleNeck 구조를 사용하지 않았고, 오른쪽은 BottleNeck 구조를 사용했습니다. BottleNeck을 설명하기 전, Convolution의 Parameters을 계산할 줄 알아야 합니다. 이 부분은 다른 글에서 자세히 설명하겠습니다. Convolution Parameters = Kernel Size x Kernel Size x Input Channel x Output Channel BottleNeck의 핵심은 1x1 Convolution입니다. ( Pointwise Convolution 이라고도 합..

안녕하세요. 저번 Depthwise Separable Convolution 기법에 대해 글을 올렸습니다. 오늘은 이 기법을 사용한 Xception 논문에 대해 리뷰하도록 하겠습니다. https://openaccess.thecvf.com/content_cvpr_2017/html/Chollet_Xception_Deep_Learning_CVPR_2017_paper.html CVPR 2017 Open Access Repository Francois Chollet; Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2017, pp. 1251-1258 We present an interpretation of In..

글의 가독성을 위해 아래 링크에 정리해둠. https://blog.naver.com/younjung1996/223413266165 [딥러닝] Depth-wise Separable Convolution Depth-wise Separable Convolution은 합성곱 신경망(CNN:Convolution Neural Network)의 효율성과... blog.naver.com 안녕하세요. Google Coral에서 학습된 모델을 통해 추론을 할 수 있는 Coral Board & USB Accelator 가 있습니다. 저는 Coral Board를 사용하지 않고, 라즈베리파이4에 USB Accelator를 연결하여 사용할 생각입니다. 딥러닝을 위해 나온 제품이라 할지라도 아직 부족한 부분이 많습니다. 이런 고성..

오늘은 Pytorch를 통해 RNN을 알아보겠습니다. https://www.youtube.com/watch?v=bPRfnlG6dtU&t=2674s RNN의 기본구조를 모르시면 위 링크를 보시는걸 추천드립니다. Pytorch document에 RNN을 확인하겠습니다. https://pytorch.org/docs/stable/nn.html 1. RNN (default) RNN의 입력은 [sequence, batch_size, input_size] 으로 이루어집니다. import torch import torch.nn as nn input = torch.randn(4, 7, 5) print(input.size()) # 결과 # torch.Size([4, 7, 5]) sequence = 4차원, batch_si..

선형 회귀를 Pytorch로 구현하겠습니다. 이 글을 보시기 전에 아래 링크를 보시는 것을 추천드립니다. https://coding-yoon.tistory.com/50?category=825914 [딥러닝] 선형 회귀(Linear Regression) 지도 학습에는 대표적으로 세가지가 있습니다. 1. 선형 회귀 ( Linear Regression ) : 3월 : 60점, 6월 : 70점, 9월 : 80점이라면, 12월은 몇 점일까? 2. 이진 분류 ( Binary Classification ) : [0, 1], [True, F.. coding-yoon.tistory.com 최대한 선형 회귀식처럼 보기 쉽게끔 코딩하였습니다. # 선형 회귀 import torch import torch.nn as nn # ..

type(nums) 안녕하세요. 이제 파이토치로 딥러닝할 준비가 다 되었습니다. 이제 딥러닝을 하기 전에 파이토치 문법 구조에 대해서 알아보겠습니다. 텐서플로우는 numpyarray를 기본으로 텐서(3차 이상)를 사용한답니다. 우리들이 공부할 파이토치는 torch를 가지고 놉니다. 그냥 numpy = torch 이렇게 보시면 될 것 같습니다. 이번 시간에 파이토치의 기본인 torch는 데이터 전처리 과정이라고 볼 수 있습니다. 수천 수만 데이터를 다루기 위해서는 전처리 과정을 거쳐야 합니다. 모델을 구상하고, 반복, 학습만큼 데이터 전처리 과정은 상당히 중요합니다. 1. 기본 구조 import torch import numpy as np nums = torch.arange(9) nums tensor([0..

안녕하세요. 딥러닝 2번째 시간입니다. 딥러닝 공부를 하는데 와... 상당히 어렵더라구요. 천천히 공부하고 있는데, 아무리 쉽다 쉽다 하지만 어렵습니다. 하지만 포기하지 않고, 조금씩 공부하다 보면 1년 뒤에는 어느정도 할 수 있지 않을까요? 오늘은 파이토치를 설치를 해보겠습니다. https://pytorch.org/ PyTorch An open source deep learning platform that provides a seamless path from research prototyping to production deployment. pytorch.org 들어가줍니다. 요렇게 나오죠?? 이제 자신에게 맞는 것을 선택해줍니다. 저는 일단 GPU가 없기 때문에 CUDA는 NONE으로 하겠습니다. 만..

안녕하세요. 2020년 2월입니다. 1월에 기사준비도 하고, 공부도 이것저것 한 것 같은데 나는 이것을 이루었다! 라고 자신있게 말할 만한게 없는 것 같습니다. 요즘 머신러닝이 너무 핫합니다. 구글, 페이스북에서 텐서플로우, 파이토치 등 무섭게 업데이트되고 있습니다. 좀 더 쉽게, 직관적으로 변하고 있습니다. 쉽게? 직관적? 코드 길이? 귀찮음을 매우 싫어하는 저에게 이건 기회가 아닐까? 생각했습니다. 평소에 관심이 있었던 인공지능이지만, 너무 막연한 벽 때문에 엄두조차 못내고 있었습니다. 4학년이고 맘편히 공부할 수 있는 시간도 없다는 불안함이 저를 부추겼습니다. 그래서 2월에는 인공지능에 한 번 힘을 쏟아볼 생각입니다. 그렇다면 머신러닝을 할 준비를 해야겠죠? https://www.anaconda.c..