線性回歸和邏輯回歸的關系

線性回歸和邏輯回歸的關系

一、總結

一句話總結：

【需求是讓f(x)來拟合[0,1]】，這個時候應該怎麼做呢。拟合[0,1]就是【二分類】的問題。

【階躍函數不連續，不可導】，是以就【用sigmoid】，是以就是邏輯回歸了

邏輯回歸：$$y = \frac { 1 } { 1 + e ^ { - ( w ^ { T } x + b ) } }$$

二、線性回歸和邏輯回歸的關系

部落格對應課程的視訊位置：

1、線性回歸

一般形式：$$f ( x ) = w _ { 1 } x _ { 1 } + w _ { 2 } x _ { 2 } + \ldots + w _ { d } x _ { d } + b$$

向量形式：$$f ( x ) = w ^ { T } x + b，其中w為w = ( w _ { 1 } ; w _ { 2 } ; \ldots ; w _ { d } )$$

2、拟合[0,1]

這樣的f(x)是用來拟合整個實數級的，而如果我的需求是讓f(x)來拟合[0,1]，這個時候應該怎麼做呢。拟合[0,1]就是二分類的問題。

于是，我們需【将實值f(x)轉換為0/1值】.最理想的是【“機關階躍函數”（unit-step function）】:$$y = \left\{ \begin{array} { c l } { 0 , } & { z < 0

} \\ { 0.5 , } & { z = 0 } \\ { 1 , } & { z > 0 }

\end{array} \right.$$

3、線性回歸和邏輯回歸的關系

但是，階躍函數不連續，不可導，是以就用sigmoid，是以就是邏輯回歸了