DS Study

0. Introduction- 우린 Lecture 2 에서 다음과 같은 데이터를 예측하는데 일차 함수를 이용하여 예측하였다. - 과연 일차함수로 다음과 같은 데이터를 예측하는게 가장 적합할까? - 다음과 같이 예측하는 건 어떨까? - 일차 함수로 예측했던것보다 더 데이터를 잘 예측하는 모습을 보인다.- 즉, 이번 챕터에서 배워볼것은 일차 함수로 예측을 하는것이 아닌, - 더 고차원적인 함수로 예측하는 것을 배워볼 것이다. 1. Locally Weighted- 머신러닝은 parameter learning algorithms과 nonparameter learning algorithms으로 나뉜다.1.1. parameter learning algoritmhs- Lecture 2에서 배웠던 선형회귀가 대표적 예..

0. Introduction- 해당 챕터에선 Linear Regression, Gradient Descent, Normal Equation에 대해서 다룬다. 1. Linear Regression- 가장 간단한 학습 알고리즘(Supervised Learning 중에서의 Regression) 중 하나라고 말하고 있다.- 우선 학습 알고리즘을 구축할 때 가장 먼저 해야할 일은 데이터 셋을 수집하는 것부터 시작 된다.- 다음과 같은 키와 몸무게에 대한 데이터가 셋이 주어져 있다고 생각해보자. - 이를 x축을 키, y축을 몸무게로 두어 scatter graph를 그려주면 다음과 같을 것이다.- 우리의 목표는 다음과 같다. "이 데이터를 가장 잘 나타내는 직선의 방정식 찾기"1.1. Supervised Learni..

0. Introduction- 해당 강의의 목적성은 해당 강의를 통해서 머신러닝 전문가가 되었으면 좋겠다는 것이다.- 전반적으로 CS229에선 머신러닝에 대한 내용을 담고있다.- 기본적인 자료구조, 확률과 통계, 선형대수학에 대해서 베이스를 깔고 간다고 가정하고 진행한다. 1. Machine Learning?- 해당 강의에서 머신러닝을 정의를 하는데 다음과 같이 정의한다.- 머신러닝 : "컴퓨터가 명확하게 프로그래밍되지 않고도 학습할 수 있는 능력을 제공한다." 2. Supervised Learning(지도 학습)- 오늘날 가장 널리 사용되는 머신러닝 도구는 Supervised Learning(지도 학습)이라고 한다.- Supervised Learning이란 (입력x와 라벨링된 y)가 있는 데이터 셋이 ..

1. 손실함수(Loss Function)- 신경망 학습에서 현재의 상태를 나타내는 하나의 지표라고 생각하면 됨- 그 지표를 가장 좋게 만들어주는 파라미터를 찾게 해주는 함수라고 생각하자.- 손실함수는 신경망의 성능의 나쁨을 나타내는 지표- 손실 함수의 값이 클수록 좋지 않음을 알 수 있음( 값을 최소로 만드는 게 목적)- 밑시딥1 에선 MSE, CEE 만 다루기에 이 2개에 대해서 알아보자. 2. 평균 제곱 오차(MSE | Mean Squared Error)- 데이터가 신경망을 거쳐 나온 확률 벡터와 라벨을 원 핫 인코딩하여 나온 확률 벡터를 고차원 공간의 점으로 이햐한 후 피타고라스 정리로 거리를 측정함- 미분 계산의 편의를 위해 제곱근은 없애고 앞에 1/2를 곱해줘서 수정해줌(밑시딥1에서) - Cod..