【深度學習筆記】瞭解方差-偏差困境

在模型中：
當模型複雜度過低時，偏差則會比較大，訓練出來的模型會欠擬合，因而需要提高模型複雜度來降低模型偏差；
當模型複雜度過高時，方差則會較大，訓練的模型會過擬合，因而需要降低模型複雜度來降低偏差。
因此，模型複雜度的選擇是一個十分糾結的問題，該問題被稱爲「方差-偏差困境」。（如下圖所示）

形象地理解可以舉個這麼例子：
考試前刷題，如果刷得太多了，考試時做題會很死板，思維被侷限了；但如果刷的太少了，你在考試時會因爲沒能瞭解足夠多的題型而失利。如何權衡好刷題數目就是個學問。