[딥러닝 - 1] 첫 딥러닝 게시글 시작!!!

안녕하세요. @yoonheeseung입니다.

앞서 가입인사 글에서도 말했듯이 저는 딥러닝 분야에 관심이 많아
이제 대학원에 입학할 예정인데요.
앞으로 공부한 내용들을 정리해서 올리려고 합니다.
제가 글을 많이 써보지 않아 글을 작성하는 능력이 아직은 많이 미숙할 꺼예요.
하지만 이렇게 계속 글을 쓰다보면 언젠가 늘겠죠...?

글 내용은 제가 공부한 것을 바탕으로 작성하는 것이라
제가 개념에 대해 잘못 이해하고 작성한 경우가 있을 거예요.
물론 최대한 개념을 잘 숙지해서 잘못 작성할 일이 없게 하려고 노력은 하겠지만...
혹시라도 틀린 내용이 있다면 코멘트 남겨주세요!!!

1. 딥러닝이란?

딥러닝이라는 개념은 Artificial Neural Networks (ANNs)
즉, 인공신경망에 대한 연구를 바탕으로 하는 것입니다.
인공신경망에 대해 조금 더 심도있게 알고 싶으시다면 Andrew Ng의 강의(https://www.youtube.com/playlist?list=PLZ9qNFMHZ-A4rycgrgOYma6zxF4BZGGPW)
또는 딥러닝 개념에 대해 아주 심플하게 설명해주는 영상
(https://www.youtube.com/playlist?list=PLjJh1vlSEYgvZ3ze_4pxKHNh1g5PId36-)을
참고해주시길 바랍니다.

2. 딥러닝을 위한 기초 배경지식

• 역전파(Backpropagation)
  역전파 알고리즘은 1980년대 이후의 신경망 연구에서 아주 중요한 역할을 한 효율적인 gradient descent 알고리즘입니다.
  역전파 알고리즘에 대해 간단히 설명하자면 지도 학습(supervised learning)으로 신경망을 훈련시키며, output layer에서부터 거꾸로 error를 계산하여 weight를 조정하는 방식입니다.
  역전파 알고리즘을 사용했을 때 training accuracy는 높게 나오나, 성능적인 면에 있어서는 그렇게 만족스러운 결과를 내놓지 못합니다.
  그 이유는 local optima에 자주 빠질 수 있기 때문인데요. 또한, 훈련 데이터의 크기가 충분히 많지 않다면 overfitting 문제도 발생하게 됩니다.
  gradient descent나 역전파에 대해 더 자세히 알고 싶으시다면 (http://1ambda.github.io/data-analysis/machine-learning-week-2/)를 참고해 주세요.

• Support Vector Machine(SVM)
  SVM은 주로 분류와 회귀 분석을 위해 사용합니다. 이름에 Machine이 들어가서 기계로 오해할 수 있으나, SVM은 알고리즘입니다.
  SVM 알고리즘에 대해 간단하게 말하자면 SVM은 주어진 데이터 집합에서 데이터를 분류하는데 가장 큰 폭을 가진 경계를 찾는 알고리즘입니다.
  SVM에 대한 자세한 설명은 (https://www.slideshare.net/freepsw/svm-77055058)를 참조해 주세요.

• K-nearest Neighbour (KNN)
  KNN 알고리즘 역시 지도 학습의 한 종류로서 데이터로부터 거리가 가까운 k개의 다른 데이터의 label을 참조하여 분류하는 알고리즘입니다.
  KNN에 대한 자세한 설명은 아래의 동영상을 참고해주세요.
  (

)

3. 앞으로 공부할 내용

이제 딥러닝 분야를 전문적으로 공부해보려는 석사 1년차로서 뭐부터 어떻게 해야할지 많은 고민을 하고 있습니다.
우선 지금은 YouTube에서 딥러닝 강의를 보면서 딥러닝에 관한 리뷰 논문을 찾아 보고 있습니다.
현재까지 찾은 논문 중에서 읽어볼 예정인 논문은 2017년 논문인
A survey of deep neural network architectures and their applications 입니다.
이 논문에서는 크게 RBM, DBN, Autoencoder, CNN의 구조를 리뷰하고 있습니다.
다음 글에서는 이 4가지 딥러닝 구조에 대해 공부하고 스티밋에 올릴 예정입니다.

그럼 여기서 첫 딥러닝 글을 마치도록 하겠습니다.
스티미안 여러분~ 좋은 하루 되시고 다음에는 더 좋은 글로 찾아뵙도록 하겠습니다.