variance與bias


Error = Bias + Variance + Noise


bias描述的是根據樣本擬合出的模型的輸出預測結果的期望與樣本真實結果的差距,反映的是模型在樣本上的輸出與真實值之間的誤差,即模型本身的精準度。模型越複雜,越容易擬合(注意overfitting),bias越小。

varience描述的是樣本上訓練出來的模型在測試集上的表現,反映的是模型每一次輸出結果與模型輸出期望之間的誤差,即模型的穩定性。模型越簡單,variance越小(注意underfitting)。

Error反映的是整個模型的準確度。