先驗、後驗、似然

x:觀測到的樣本。θ:機率模型的參數。3d

 

先驗p(θ):對參數的各類取值的似然先入爲主的判斷blog

後驗p(θ|x):給定樣本後,對參數各類取值的似然作出的判斷im

似然p(x|θ):給定樣本下,參數爲真實值的可能性。或者,模糊地講:參數與樣本的匹配程度。img

 

 

每個樣本集,對應着的模型,中的參數,的真實值,都記載在上帝的記事本中。觀測到樣本後,咱們估計出的參數與真實值的接近程度,就是似然。di

 

咱們如何得知本身計算出的參數與真實值的接近程度?loading

首先咱們要肯定模型,例如正態分佈,θ={μ,σ^2}co

 

能夠這樣想,若是咱們獲得的參數是真實值,那麼在咱們的參數下,樣本出現的機率應該是最高的。也就是在p(x|θ),這個式子中,首先咱們應注意:x是肯定的觀測值。咱們用不一樣的θ進行計算,若是θ是真實值的話,算出來的p應該是全部結果中最大的。ps

 

 

 

 如圖所示,對於兩個肯定的θ,θ1和θ2,咱們代入正態分佈的式子,獲得上圖兩條曲線,發如今θ1的條件下,樣本對應的機率更高,也就是說,現世觀察到的樣本和θ1這個參數更加匹配。θ1,更有可能接近神的筆記本上的那個真正的θ。此時,「似然」p(x|θ1)恰大於「似然」p(x|θ2),這也與前面說的「似然:」那裏相呼應。參數