심층 신경망

심층 신경망(다중 퍼셉트론) 이해

• 기본 퍼셉트론은 간단한 문제만 해결 가능, 보다 복잡한 문제 해결을 위해 심층신경망을 구성
• 심층신경망은 입력층과 출력층 사이에 여러개의 은닉층(hidden layer) 들로 이루어진 인공신경망이다.

 

딥러닝의 큰 흐름 이해

• 딥러닝은 연속된 층(Layer)을 겹겹이 쌓아 올려 구성한 신경망이라는 모델을 사용하여 표현층을 학습한다.
• 얼마나 많은 Layer를 사용했는지가 그 모델의 Depth가 된다.
• 신경망의 핵심 구성요소는 데이터 처리필터라고 생각할 수 있는 층이다. 어떤 데이터가 들어가면 더 유용한 형태로 출력이 되고, 층을 거쳐갈수록 주어진 문제에 더 의미있는 표현을 입력된 데이터로부터 추출한다.
• Layer에서 입력 데이터가 처리되는 내용은 가중치(weight)에 저장되어 있다. 
• 학습이란 주어진 입력을 정확한 타깃에 매핑하기 위해 신경망 모든 층에 있는 가중치 값(Weight Matrix)를 찾는 것을 의미한다.
• 신경망의 출력을 제어하려면 출력이 기대하는 것보다 얼마나 벗어났는지를 측정해야 한다. 이때 신경망의 손실함수(Loss Function) 또는 목적함수(Objective Function)이다.
• 우리는 loss 값을 피드백 신호로 사용하여 현재 샘플의 loss가 감소되는 방향으로 가중치 값을 조금씩 수정한다.