Logistic Regression

Logistic Regression을 알아보겠습니다.

​
Logistic Regression은 Binary Classification(이진 분류)에 쓰이는 Regression입니다.
왜냐하면, Linear Regression에서 나온 값을 0~1 사이로 만들어 확률처럼 쓸 수 있게 해줍니다.
​
Logistic Regression에 사용되는 Activation Function(활성 함수)는 Sigmoid입니다.
Sigmoid를 표현할 때에는 σ(시그마)로 표현합니다.

여기서 Z는 linear Regression에서 나온 값입니다. 즉 Z = wx + b

Z가 ∞(무한대)이 된다면, 1처럼 됩니다.

Z가 0이 된다면, 0처럼 됩니다.

​

​

Logistic Regression의 Cost Function은 다음과 같습니다.

Binary Classification에 사용되기 때문에 예상한 것이 맞을 경우와 틀릴 경우 두 가지로 나눠집니다.

log 0의 경우 -∞(무한대)가 나옵니다. - log 0의 경우 ∞(무한대)가 나옵니다.

​

Loss function은 이렇게 틀릴 경우에는 ∞(무한대)가 나오고, 맞을 경우에는 0이 나오게 되어 학습에 도움을 줍니다.

​

​

아래는 Cost 함수입니다. Cost 함수는 J로도 표현합니다.

m은 입력 데이터의 개수입니다.

​

​

끝.

​

카테고리: Machine learning