silentbrain

Normal Equation

간단히 집크기에 대한 가격을 도출하는 스토리를 가정하자아래와 같은 4개의 (집 크기, 가격) 데이터셋이 확보되어 있다. (2000, 6000)(1500, 3000)(1300, 2000)(800, 1000) 구하고자 하는 가설 함수 아래와 같고 MSE가 가장 작은 과 를 구해내는 것이 최종 목표임을 잊지 말자. 1, 입력값에 해당하는 집값을 행렬로 표현(1개의 Feature를 가지고 있다) 2. 일단 열을 추가하여 1로 채운다( 때문이다. 이제 Feature는 2가 되었다.) 3. 집 값을 행렬로 표현한다. 4. 이제 행렬로 가설 함수를 표현하면!! 이렇게 된다. 이해가 안된다면 행렬 곱산 방식을 떠올려 보면 된다. 즉, 1개의 컬럼을 가진 행렬 곱으로 1개의 를 모든 데이터셋에 대하여 표현할 수 있다....

경사 하강법(Gradient Descent)의 이해, Feature Scaling, Learning Rate

[경사하강법과 Learning Rate] http://silentbrain.tistory.com/10 에 이어서 이해할 것. ML연산의 최종 목표는 최소 가중치 J(θ_1~n)을 가지는 θ값들의 조합을 찾아내는 것 θ을 어떻게 변경하면서 J값을 계산해가야만 최종적으로 최소의 J값(즉, 가중치 그래프의 가장 바닥과 가까운 곳!)에 다다를 수 있을 것인가에 대한 방법론이 바로 경사 하강법이다. 공식 θ_j := θ_j - α * J(θ)미분 해당 공식이 의미하는 바를 풀이하면, x축 θ, y축 J(θ) 그래프에서 특정 θ_j값에 α를 곱한 J(θ) 그래프 기울기(미분)를 빼면서 θ_j값을 업데이트 해나가는 것 ( := 연산자는 a = a+1 과 같은 대입 연산자로 이해하면 된다.)특정 θ_j 값에서 J(θ)..

RMSE(Root Mean Square Error), 평균 제곱근 편차 계산 과정

[ML 시작하면 처음 튀어나오는 중요 개념!!] 확보된 데이터셋(입력, 결과)의 수량(m)은 3개, 아래와 같다. 척봐도 1차 함수지만 바로 이 0.5를 찾는 것이 바로 이 짓의 목표다! 에서를 찾기 위해 를 무작위로 대입해본다고 가정하고 MSE(mean square error) 산출해보자. 1. 를 2로 가정하면 라는 함수가 만들어진다. 이것을라고 칭한다. (의 h는 ML판에서 보통 hypothesis를 칭하는 듯 하다) 2. 함수에 데이터셋을 넣는다.여기서 실제 데이터 셋의 값과의 오차를 구하고 MSE 산출 공식에 집어 넣자. 3. 실제 데이터셋의 결과값(=y)에서 함수 결과값을 빼서 차이값(Error)을 구한 후 제곱(Square)! 4. 이걸 모조리 더한 다음데이터셋 수량(m = 3)*2 값으로 ..