딥러닝

0. referencehttps://arxiv.org/abs/1502.03167 Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate ShiftTraining Deep Neural Networks is complicated by the fact that the distribution of each layer's inputs changes during training, as the parameters of the previous layers change. This slows down the training by requiring lower learning rates and careful paramarxiv..

1.Introduce MNIST - MNIST 데이터 셋은 0부터 9까지의 손글씨 이미지로 구성- 훈련 데이터 60,000장 / 테스트 데이터 10,000장- 각 데이터는 이미지와 라벨로 이루어짐- 각 이미지는 28 * 28 해상도의 흑백사진- 각 픽셀은 0~255로 밝기표현이 되어있음 (0: 검정 / 255: 흰색) 2. MNIST 데이터 출력- MNIST라는 데이터베이스에 대해서 알아봤다면, 한번 실제로 출력해보자.https://github.com/WegraLee/deep-learning-from-scratch  GitHub - WegraLee/deep-learning-from-scratch: 『밑바닥부터 시작하는 딥러닝』(한빛미디어, 2017)『밑바닥부터 시작하는 딥러닝』(한빛미디어, 2017). ..

1. 다차원 배열의 계산1.1. 다차원 배열- 다차원 배열은 기본적으로 숫자의 집합이라고 생각하면 편하다. - 간단히 배열이란 직사각형의 집합이라고 생각하면 된다. 만일 N차원으로 나열된 것이라면 N차원 배열이라고 정의한다.- 특히 2차원 배열은 행렬(Matrix)라고 부르고, 가로방향을 행, 세로 방향을 열이라고 정의한다. cf) 3차이상인 배열은 텐서(Tensor)라고 부른다. - 간단한 코드 예제를 봐보자. 1.2. 행렬 곱 - 이를 예제와 함께 보면 다음과 같다.- m x n 행렬과 n x l행렬의 곱은 m x l 행렬이 된다.  - 행렬 곱은 numpy에서 np.dot()을 이용하여 구할 수 있다. ex)  2. 신경망에서의 행렬 곱 - 신경망과 행렬곱은 무슨 연관이 있을까? - 다음과 같이 신..

1. 퍼셉트론- 다수의 신호를 입력 받아 하나의 신호를 출력하는 체계를 의미- 퍼셉트론 신호는 흐름을 만들고 정보를 앞으로 전달해줌- 퍼셉트론의 OutPut은 1/0 두가지 논리값을 가짐(1: 전류흐름 / 0: 전류 흐름X)- 다음은 퍼셉트론의 구조를 의미변수 설명 -------------------------------------------------------------------------------------------------x1,x2 : inputw1,w2 : 가중치(weight)y : Output------------------------------------------------------------------------------------------------------------ 해..