13 種必須掌握的概率分布 ！干貨總結！

• 共軛意味著它有共軛分布的關系。
  

在貝葉斯概率論中，如果后驗分布 p（θx）與先驗概率分布 p（θ）在同一概率分布族中，則先驗和后驗稱為共軛分布，先驗稱為似然函數(shù)的共軛先驗。共軛先驗維基百科在這里（https://en.wikipedia.org/wiki/Conjugate_prior）。

• 多分類表示隨機方差大于 2。
  
• n 次意味著我們也考慮了先驗概率 p（x）。
  
• 為了進一步了解概率，我建議閱讀 [pattern recognition and machine learning，Bishop 2006]。

代碼：

https://github.com/graykode/distribution-is-all-you-need/blob/master/uniform.py

代碼：

https://github.com/graykode/distribution-is-all-you-need/blob/master/bernoulli.py

• 先驗概率 p（x）不考慮伯努利分布。因此，如果我們對最大似然進行優(yōu)化，那么我們很容易被過度擬合。
  
• 利用二元交叉熵對二項分類進行分類。它的形式與伯努利分布的負對數(shù)相同。

代碼：

https://github.com/graykode/distribution-is-all-you-need/blob/master/binomial.py

• 參數(shù)為 n 和 p 的二項分布是一系列 n 個獨立實驗中成功次數(shù)的離散概率分布。
  
• 二項式分布是指通過指定要提前挑選的數(shù)量而考慮先驗概率的分布。

代碼：

https://github.com/graykode/distribution-is-all-you-need/blob/master/categorical.py

• 多伯努利稱為分類分布。
  
• 交叉熵和采取負對數(shù)的多伯努利分布具有相同的形式。

代碼：

https://github.com/graykode/distribution-is-all-you-need/blob/master/multinomial.py

代碼：

https://github.com/graykode/distribution-is-all-you-need/blob/master/beta.py

• β分布與二項分布和伯努利分布共軛。
  
• 利用共軛，利用已知的先驗分布可以更容易地得到后驗分布。
  
• 當β分布滿足特殊情況（α=1，β=1）時，均勻分布是相同的。

• dirichlet 分布與多項式分布是共軛的。
  
• 如果 k=2，則為β分布。

代碼：

https://github.com/graykode/distribution-is-all-you-need/blob/master/gamma.py

• 如果 gamma（a，1）/gamma（a，1）+gamma（b，1）與 beta（a，b）相同，則 gamma 分布為β分布。
  
• 指數(shù)分布和卡方分布是伽馬分布的特例。

• k 自由度的卡方分布是 k 個獨立標準正態(tài)隨機變量的平方和的分布。
  
• 卡方分布是 β 分布的特例