Linear Regression

Linear Regression을 알아보겠습니다.


Linear Regression은 전체 데이터를 대표하는 성질을 가진 직선을 말합니다.
직선이기에 y = ax + b와 같은 수식으로 표현할 수 있습니다.
예측되는 값이 범위를 가질 때 사용합니다.
예를 들어 성적 예측의 경우 예측 범위는 0 ~ 100 사이의 값이 나와야 할 것입니다.

우리가 Linear Regression을 구하는 이유는 Cost Function의 값을 구하기 위해서입니다.
이렇게 구한 Cost Function을 낮추는 것이 우리의 최종 목표입니다.

Linear Regression y = wx + b에서 Loss 값은 다음과 같이 구할 수 있습니다.






위와 같이 ^가 있는 것을 y hat(y 햇)이라고 읽습니다. 모자를 썼다는 표현이군요.

y hat은 컴퓨터가 추측한 값이고, y는 Label된 정답 값을 말합니다.


Linear Regression y = wx + b에서 Cost 값은 다음과 같이 구할 수 있습니다.






n은 입력 데이터의 개수입니다.

10 개의 데이터가 있으면 10 개의 Loss 가 생기고, 이것을 평균 낸 것이 Cost입니다. 보통 미분을 편하게 하기 위해서 나누기 2를 추가해 줍니다.

기본 표기는 L(W, b)이고 b도 포함되어야 하지만, b의 영향은 미미하므로 생략을 많이 합니다.



끝.


카테고리: Machine learning

댓글

이 블로그의 인기 게시물

Python urllib.parse.quote()

Python OpenCV 빈 화면 만들기

tensorflow tf.random.uniform()

Android Notification with Full Screen

KiCad 시작하기 2 (PCB 만들기)

Android Minimum touch target size

Python bs4.SoupStrainer()

KiCad 시작하기 4 (기존 회로도 수정 및 추가)

음악 총보(Score), 파트보(Part)

tensorflow tf.expand_dims()