CNN(Convolutional Neural Network)

CNN

• 시각적 영상을 분석하는 데 사용되는 다층의 feed-forward 적인 인공신경망의 한 종류
• 딥러닝에서 심층 신경망으로 분류, 시각적 영상 분석에 주로 적용
• 공유 가중치 구조와 변환 불변성 특성에 기초하여 변이 불변 또는 공간 불변 인공 신경망(SIANN)으로 알려짐
• 영상 및 동영상 인식, 추천 시스템, 영상 분류, 의료 영상 분석 및 자연어 처리 등에 응용
• 합성곱 신경망은 정규화 된 버전의 다층 퍼셉트론
• 데이터에서 계층적 패턴을 활용하고 더 작고 간단한 패턴을 사용하여 더 복잡한 패턴을 표현함으로써 정규화와 같은 효과를 냄
  • 합성곱 신경망의 연결 구조의 복잡성은 유사한 기능의 다층 퍼셉트론에 비해 극단적으로 낮음
• 합성곱 신경망은 뉴런 사이의 연결 패턴이 동물 시각 피질의 조직과 유사하다는 점에 영감을 받음
• 크게 합성곱층(Convolution layer)과 풀링층(Pooling layer)으로 구성

Fully Connected Neural Network와의 차이

• 각 레이어의 입출력 데이터의 형상 유지
• 이미지의 공간 정보를 유지하면서 인접 이미지와의 특징을 효과적으로 인식
• 복수의 필터로 이미지의 특징 추출 및 학습
• 추출한 이미지의 특징을 모으고 강화하는 Pooling 레이어
• 필터를 공유 파라미터로 사용하기 때문에, 일반 인공 신경망과 비교하여 학습 파라미터가 매우 적음

Advantages

• 이미지 인식 문제 높은 정확성
• 인간 도움 없이 주요 특징 자동 검출
• 가중치 공유

Disadvantages

• 물체의 위치나 방향은 encode 하지 않음
• 입력 데이타에 공간적으로 변하지 않는 능력 부족
• 훈련 데이터가 많이 필요함
• 각도 회전, 기울임에 따라 이미지 구별에 어려움
• component의 composition과 position 정보를 잃는다

Minor Drawbacks

• maxpool 같은 연산 때문에 상당히 느림
• GPU가 없으면 긴 학습시간이 소요됨

MLP(ANN) vs RNN vs CNN

Reference

https://www.geeksforgeeks.org/difference-between-ann-cnn-and-rnn/

http://taewan.kim/post/cnn/

https://ko.wikipedia.org/wiki/합성곱_신경망

https://iq.opengenus.org/disadvantages-of-cnn/

https://towardsdatascience.com/applied-deep-learning-part-4-convolutional-neural-networks-584bc134c1e2

https://www.analyticsvidhya.com/blog/2020/02/cnn-vs-rnn-vs-mlp-analyzing-3-types-of-neural-networks-in-deep-learning/

https://www.ssla.co.uk/cnn

https://brunch.co.kr/@kakao-it/158