BRNN ( Bidirectional Recurrent Neural Networks )은 반대 방향의 숨겨진 두 레이어를 동일한 출력에 연결합니다. 이러한 형태의 생성 딥 러닝 을 통해 출력 레이어는 과거 (뒤로) 및 미래 (앞으로) 상태에서 동시에 정보를 얻을 수 있습니다. 1997 년 Schuster와 Paliwal이 발명 한 [1] BRNN은 네트워크에서 사용 가능한 입력 정보의 양을 늘리기 위해 도입되었습니다. 예를 들어, MLP ( Multilayer Perceptron ) 및 TDNN ( Time Delay Neural Network )은 입력 데이터를 고정해야하기 때문에 입력 데이터 유연성에 제한이 있습니다. 표준 반복 신경망현재 상태에서 미래의 입력 정보에 도달 할 수 없으므로 (RNN)에..

오늘은 Pytorch를 통해 RNN을 알아보겠습니다. https://www.youtube.com/watch?v=bPRfnlG6dtU&t=2674s RNN의 기본구조를 모르시면 위 링크를 보시는걸 추천드립니다. Pytorch document에 RNN을 확인하겠습니다. https://pytorch.org/docs/stable/nn.html 1. RNN (default) RNN의 입력은 [sequence, batch_size, input_size] 으로 이루어집니다. import torch import torch.nn as nn input = torch.randn(4, 7, 5) print(input.size()) # 결과 # torch.Size([4, 7, 5]) sequence = 4차원, batch_si..

지도 학습에는 대표적으로 세가지가 있습니다. 1. 선형 회귀 ( Linear Regression ) : 3월 : 60점, 6월 : 70점, 9월 : 80점이라면, 12월은 몇 점일까? 2. 이진 분류 ( Binary Classification ) : [0, 1], [True, False], [개, 고양이] 3. 다중 분류 ( Multi classification ) : [A, B, C, D], [개, 고양이, 사슴, 곰] ... 지도 학습 중 가장 대표격인 선형 회귀에 대해 먼저 알아보겠습니다. 입력 X = [1, 2, 3, 4] 출력 Y = [3, 5, 7, 9] 이라면 과연 X=5일 때, Y의 값은? 사람은 쉽게 Y의 값이 11임을 금방 알 수 있습니다. 그렇다..

type(nums) 안녕하세요. 이제 파이토치로 딥러닝할 준비가 다 되었습니다. 이제 딥러닝을 하기 전에 파이토치 문법 구조에 대해서 알아보겠습니다. 텐서플로우는 numpyarray를 기본으로 텐서(3차 이상)를 사용한답니다. 우리들이 공부할 파이토치는 torch를 가지고 놉니다. 그냥 numpy = torch 이렇게 보시면 될 것 같습니다. 이번 시간에 파이토치의 기본인 torch는 데이터 전처리 과정이라고 볼 수 있습니다. 수천 수만 데이터를 다루기 위해서는 전처리 과정을 거쳐야 합니다. 모델을 구상하고, 반복, 학습만큼 데이터 전처리 과정은 상당히 중요합니다. 1. 기본 구조 import torch import numpy as np nums = torch.arange(9) nums tensor([0..

안녕하세요. 딥러닝 2번째 시간입니다. 딥러닝 공부를 하는데 와... 상당히 어렵더라구요. 천천히 공부하고 있는데, 아무리 쉽다 쉽다 하지만 어렵습니다. 하지만 포기하지 않고, 조금씩 공부하다 보면 1년 뒤에는 어느정도 할 수 있지 않을까요? 오늘은 파이토치를 설치를 해보겠습니다. https://pytorch.org/ PyTorch An open source deep learning platform that provides a seamless path from research prototyping to production deployment. pytorch.org 들어가줍니다. 요렇게 나오죠?? 이제 자신에게 맞는 것을 선택해줍니다. 저는 일단 GPU가 없기 때문에 CUDA는 NONE으로 하겠습니다. 만..

안녕하세요. 2020년 2월입니다. 1월에 기사준비도 하고, 공부도 이것저것 한 것 같은데 나는 이것을 이루었다! 라고 자신있게 말할 만한게 없는 것 같습니다. 요즘 머신러닝이 너무 핫합니다. 구글, 페이스북에서 텐서플로우, 파이토치 등 무섭게 업데이트되고 있습니다. 좀 더 쉽게, 직관적으로 변하고 있습니다. 쉽게? 직관적? 코드 길이? 귀찮음을 매우 싫어하는 저에게 이건 기회가 아닐까? 생각했습니다. 평소에 관심이 있었던 인공지능이지만, 너무 막연한 벽 때문에 엄두조차 못내고 있었습니다. 4학년이고 맘편히 공부할 수 있는 시간도 없다는 불안함이 저를 부추겼습니다. 그래서 2월에는 인공지능에 한 번 힘을 쏟아볼 생각입니다. 그렇다면 머신러닝을 할 준비를 해야겠죠? https://www.anaconda.c..