분류2 로지스틱 회귀 1. 로지스틱 회귀란 로지스틱 회귀는 회귀식을 통해 사실 이진분류를 하는 방법입니다. 예를 들어 학생들의 영어, 수학, 국어 성적등(feature)과 시험합격여부 0, 1(label)이 주어지면, 회귀식을 통해 값 \(x\) 를 찾아내면 그 값으로 분류를 진행하는 것입니다. 통계학에서 두가지 결과만 있을 때, 이항분포의 일종인 베르누이 분포를 사용합니다. 확률론적 방법을 통해 특정 확률이상이면 분류를 시켜주는 방식으로 진행합니다. 우선, 이를 위해 실수값 \(x\) 를 확률 \(p\) 로 만들어주는 절차가 필요합니다. 2. 활성화 함수 활성화함수는 선형회귀식으로 얻은 함수를 곡선형태의 꼴로 변환시켜주는 역할을 합니다. 활성화함수가 되기 위한 조건으로는 미분시 자기자신으로 표현가능하거나, 값이 정의역에서 .. 2022. 12. 20. 회귀와 분류 1. 회귀(Regression) 입력값은 연속값과 이산값이 모두 가능합니다. 출력값은 연속값이 됩니다. 모델(=함수)는 일반적으로 우리가 알고 있는 다양한 함수입니다. 예를 들어 일차함수 \(y=ax+b\) 가 있습니다. 2. 분류(Classification) 입력값은 연속값과 이산값이 모두 가능합니다. 출력값은 이산값이 됩니다. 이진분류의 경우 sigmod function가 주로 사용됩니다. $$y=\frac{1}{1+e^{-x}}$$ 다중분류의 경우 softmax function가 주로 사용됩니다. $$y_i=\frac{e^{x_i}}{\sum_{j=1}^{K}e^{x_j}}$$ 3. 데이터의 구성 Data는 Feature과 Label로 구성됩니다. Feature은 독립변수로도 불리고, Label은 .. 2022. 11. 26. 이전 1 다음