글의 가독성을 위해 아래 링크에 다시 정리함. https://blog.naver.com/younjung1996/223413266165 [딥러닝] Depth-wise Separable Convolution Depth-wise Separable Convolution은 합성곱 신경망(CNN:Convolution Neural Network)의 효율성과... blog.naver.com 안녕하세요. 오늘은 CNN에서 Depth-wise Separable Convolution에 대해 이야기해보겠습니다. Depth-wise separable Convolution을 가장 잘 표현한 그림이라고 생각합니다. 하지만 CNN에 대해 자세한 이해가 없으면 이 그림을 보더라도 이해가 잘 가지 않습니다. 위 그림을 이해하기 위해서는..

안녕하세요. 오늘은 Deep Learning 분야에서 CNN의 BottleNeck구조에 대해 알아보겠습니다. 대표적으로 ResNet에서 BottleNeck을 사용했습니다. ResNet에서 왼쪽은 BottleNeck 구조를 사용하지 않았고, 오른쪽은 BottleNeck 구조를 사용했습니다. BottleNeck을 설명하기 전, Convolution의 Parameters을 계산할 줄 알아야 합니다. 이 부분은 다른 글에서 자세히 설명하겠습니다. Convolution Parameters = Kernel Size x Kernel Size x Input Channel x Output Channel BottleNeck의 핵심은 1x1 Convolution입니다. ( Pointwise Convolution 이라고도 합..

안녕하세요. 오늘은 Xception 리뷰 세번 째 시간입니다. 1. The Xception architecture in particular the VGG-16 architecture , which is schematically similar to our proposed architecture in a few respects. 특히 VGG-16계층은 몇 가지 측면에서 Xception 계층과 개략적으로 유사합니다. The Inception architecture family of convolutional neural networks, which first demonstrated the advantages of factoring convolutions into multiple branches operating..

https://openaccess.thecvf.com/content_cvpr_2017/papers/Chollet_Xception_Deep_Learning_CVPR_2017_paper.pdf 안녕하세요. Xception 논문 리뷰 2회차입니다. 1회차 논문리뷰로 An Extreme version of Inception module이 Depthwise Separable Convolution까지 소개했습니다. 아래 전 편의 글을 읽는 것을 추천드립니다. https://coding-yoon.tistory.com/78?category=825914 [딥러닝 논문 리뷰] Xception: Deep Learning with Depthwise Separable Convolutions (feat.Pytorch)(1) 안녕..

안녕하세요. 저번 Depthwise Separable Convolution 기법에 대해 글을 올렸습니다. 오늘은 이 기법을 사용한 Xception 논문에 대해 리뷰하도록 하겠습니다. https://openaccess.thecvf.com/content_cvpr_2017/html/Chollet_Xception_Deep_Learning_CVPR_2017_paper.html CVPR 2017 Open Access Repository Francois Chollet; Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2017, pp. 1251-1258 We present an interpretation of In..

글의 가독성을 위해 아래 링크에 정리해둠. https://blog.naver.com/younjung1996/223413266165 [딥러닝] Depth-wise Separable Convolution Depth-wise Separable Convolution은 합성곱 신경망(CNN:Convolution Neural Network)의 효율성과... blog.naver.com 안녕하세요. Google Coral에서 학습된 모델을 통해 추론을 할 수 있는 Coral Board & USB Accelator 가 있습니다. 저는 Coral Board를 사용하지 않고, 라즈베리파이4에 USB Accelator를 연결하여 사용할 생각입니다. 딥러닝을 위해 나온 제품이라 할지라도 아직 부족한 부분이 많습니다. 이런 고성..

BRNN ( Bidirectional Recurrent Neural Networks )은 반대 방향의 숨겨진 두 레이어를 동일한 출력에 연결합니다. 이러한 형태의 생성 딥 러닝 을 통해 출력 레이어는 과거 (뒤로) 및 미래 (앞으로) 상태에서 동시에 정보를 얻을 수 있습니다. 1997 년 Schuster와 Paliwal이 발명 한 [1] BRNN은 네트워크에서 사용 가능한 입력 정보의 양을 늘리기 위해 도입되었습니다. 예를 들어, MLP ( Multilayer Perceptron ) 및 TDNN ( Time Delay Neural Network )은 입력 데이터를 고정해야하기 때문에 입력 데이터 유연성에 제한이 있습니다. 표준 반복 신경망현재 상태에서 미래의 입력 정보에 도달 할 수 없으므로 (RNN)에..

오늘은 Pytorch를 통해 RNN을 알아보겠습니다. https://www.youtube.com/watch?v=bPRfnlG6dtU&t=2674s RNN의 기본구조를 모르시면 위 링크를 보시는걸 추천드립니다. Pytorch document에 RNN을 확인하겠습니다. https://pytorch.org/docs/stable/nn.html 1. RNN (default) RNN의 입력은 [sequence, batch_size, input_size] 으로 이루어집니다. import torch import torch.nn as nn input = torch.randn(4, 7, 5) print(input.size()) # 결과 # torch.Size([4, 7, 5]) sequence = 4차원, batch_si..

선형 회귀를 Pytorch로 구현하겠습니다. 이 글을 보시기 전에 아래 링크를 보시는 것을 추천드립니다. https://coding-yoon.tistory.com/50?category=825914 [딥러닝] 선형 회귀(Linear Regression) 지도 학습에는 대표적으로 세가지가 있습니다. 1. 선형 회귀 ( Linear Regression ) : 3월 : 60점, 6월 : 70점, 9월 : 80점이라면, 12월은 몇 점일까? 2. 이진 분류 ( Binary Classification ) : [0, 1], [True, F.. coding-yoon.tistory.com 최대한 선형 회귀식처럼 보기 쉽게끔 코딩하였습니다. # 선형 회귀 import torch import torch.nn as nn # ..

안녕하세요. 2020년 2월입니다. 1월에 기사준비도 하고, 공부도 이것저것 한 것 같은데 나는 이것을 이루었다! 라고 자신있게 말할 만한게 없는 것 같습니다. 요즘 머신러닝이 너무 핫합니다. 구글, 페이스북에서 텐서플로우, 파이토치 등 무섭게 업데이트되고 있습니다. 좀 더 쉽게, 직관적으로 변하고 있습니다. 쉽게? 직관적? 코드 길이? 귀찮음을 매우 싫어하는 저에게 이건 기회가 아닐까? 생각했습니다. 평소에 관심이 있었던 인공지능이지만, 너무 막연한 벽 때문에 엄두조차 못내고 있었습니다. 4학년이고 맘편히 공부할 수 있는 시간도 없다는 불안함이 저를 부추겼습니다. 그래서 2월에는 인공지능에 한 번 힘을 쏟아볼 생각입니다. 그렇다면 머신러닝을 할 준비를 해야겠죠? https://www.anaconda.c..