1. Introduction to Deep Learning

 

위의 그림은 딥러닝 공부를 위한 추천 책이고, 딥러닝 구현에 tensorflow 패키지를 사용한다.

 

 

 

 

 

위의 그림은 AI를 벤다이어그램 형식으로 도식화한 그림이다. AI라는 것은 딥러닝이랑 같은 개념은 아니다. AI라는 개념은 상당히 큰 개념이며 이 하에 실현하기 위한 다양한 방법들이 존재하는 것이다.

AI를 실현하기 위하여 머신러닝이라는 방법을 사용하고 머신러닝 속 신경망이라는 알고리즘이 있으며, 이것이 확장하여 딥러닝의 시초로써 확장하게 된다.

 

 

 

Deep learning = Deep Neural Networks 라고 보아도 된다. 신경망이 무수히 많아 그 계산량이 상당히 많기 때문이다. 아래의 그림과 같이 우리가 원하는 output을 얻기 위해 input을 넣어주는데 이러한 input이 output으로 출력되기 까지 많은 layer를 거치며 계산된다고 생각하면 된다. 하나의 layer를 거치는 과정은 아래에 설명되어 있다.

 

다층 신경망구조

 

 

노드

노드와 노드가 속한 네트워크

뉴럴 네트워크는 위의 그림의 노드에서 일어나는 단순한 연산을 바로 아래의 네트워크 모델을 통해 서로 복잡하게 연결되어 있는 네트워크 모델이다. 단순 연산하는 노드들이 복잡하게 얽혀있는 것이다. 복잡한 알고리즘이다.

 

우선 하나의 노드를 보면 우선 노드에서 하나의 입력값을 받고 적당히 취합을 하여 비선형 변환을 한번 거쳐서 출력을 하게 된다. 그 출력을 다음 노드로 전달하는 방식이다.

 

 이 노드가 속한 네트워크 그림을 보면 두번 째 노드를 보게 되면 가장아래에서 $x_{i}$ 라는 입력 값을 받고 잘 안보이지만 왼쪽 빨간 동그라미에 $w_{ji}$ 라는 웨이트 값을 곱하고, 이것들을 왼쪽에 노드에서 말한 취합부분에서 취합을 하는데 여기서는 그냥 더한다. 그리고 활성화함수를 거쳐 다음노드로 갈 출력값을 출력한다. 

 

 우리가 학습해야할 파라미터는 바로 웨이트인 $w$ 이다. 이 최적의 가중치를 찾아가는 과정이 뉴럴 네트워크를 학습하는 과정이라고 할 수 있다.

 

 

 딥러닝에 들어가기에 앞서 머신러닝에 대한 개념이 필요하기 때문에 이에 대한 설명은 다음 장에서 하도록 한다.

 

 

 

 

 

 

sangheumHwang. deep learning. [Graduate Class at Seoultech]