[딥러닝] ResNet - Residual Block 쉽게이해하기! (Pytorch 구현)
·
Python/Deep Learning
안녕하세요. Plain Network(단순히 Layer을 깊게 쌓음)에서 발생하는 Vanishing Gradient(기울기 소실), Overfitting(과적합) 등의 문제를 해결하기 위해 ReLU, Batch Nomalization 등 많은 기법이 있습니다. ILSVRC 대회에서 2015년, 처음으로 Human Recognition보다 높은 성능을 보인 것이 ResNet입니다. 그 위용은 무지막지한 논문 인용 수로 확인할 수 있습니다. 그렇기 때문에 ResNet은 딥러닝 이미지 분야에서 바이블로 통하고 있습니다. Plain Network는 단순히 Convolution 연산을 단순히 쌓는다면, ResNet은 Block단위로 Parameter을 전달하기 전에 이전의 값을 더하는 방식입니다. F(x) : w..
18진수
'Overfitting' 태그의 글 목록