01.08 3分鐘理解機器學習算法之線性分類器

線性分類器(Linear Classifiers)是一種假設特徵與分類結果之間存在線性關係的模型,這個模型通過累加各個特徵的數值與特徵的權重的乘積來做決策。

3分鐘理解機器學習算法之線性分類器

線性關係定義

如果我們定義x =來表示n維特徵的列向量,同時用w = 表示n維列向量對應的權重(係數)。同時在增加一個截距b,為了避免其過原點這種硬性假設。由此這種線性關係的表達式為:

3分鐘理解機器學習算法之線性分類器

這裡的f取值範圍分佈在整個實數域。

二分類問題

最簡單二分類問題是希望f取0或1,因此需要一個函數把原先的整個實數域映射到(0,1)。於是一個重要的函數應運而生—邏輯斯蒂(logistic)函數

3分鐘理解機器學習算法之線性分類器

這裡z屬於整體實數域,且g屬於(0,1)它的函數圖像如下:

3分鐘理解機器學習算法之線性分類器

邏輯斯蒂迴歸模型

如果將上面的兩個方程整合,將z替換為f,就獲得了一個經典的線性分類器,邏輯斯蒂迴歸模型(logistic regression):

3分鐘理解機器學習算法之線性分類器

從上圖可以看出模型如何處理一個待分類的特徵向量:如果z=0,那麼g=0.5;如果g<0.5,這特徵向量歸為一類;反之,如果g>0.5,這特徵向量被判別為另一類。

下次更新邏輯斯蒂迴歸相關的實戰案例,歡飲大家關注!!!

好了,今天加班回來有點晚,就到這吧!大家理解了嗎,如有疑問,歡迎關注留


分享到:


相關文章: