Multiclass Classification One-vs-all

、Multiclass Classification One-vs-all

如何使用邏輯迴歸 (logistic regression) 來解決多類別分類問題,具體來說,我想通過一個叫做"一對多" (one-vs-all) 的分類算法?什麼是多類別分類問題?

下面就是多類別分類器的基本思想:(其實一句話總結,還是將複雜問題化簡爲基礎問題,將多類別分類問題轉化爲多個二值分類問題,然後可以求解出多個預測函數hi(x),當有新的x到來時,就可以將其帶入所有的預測函數中,計算中max時的i值,即可得到其所在的分類。)

在我們便有了三個分類器,且每個分類器都作爲其中一種情況進行訓練。總之,我們已經把要做的做完了,現在要做的就是訓練這個邏輯迴歸分類器 h(i) ,其中 i 對應每一個可能的 y=i 。最後,爲了做出預測,我們給出輸入一個新的 x 值,用這個做預測,我們要做的就是在我們三個分類器,裏面輸入 x ,然後選擇一個讓 h 最大的 i ,基本的挑選分類器的方法,選擇出哪一個分類器是可信度最高效果最好的,那麼就可認爲得到一個正確的分類,無論i值是多少 ,我們都有最高的概率值,我們預測 y 就是那個值。