斯坦福機(jī)器學(xué)習(xí)公開(kāi)課筆記12—K-Means、混合高斯分布、EM算法

　　本文對(duì)應(yīng)斯坦福ML公開(kāi)課的第12個(gè)視頻，第12個(gè)視頻與前面相關(guān)性并不大，開(kāi)啟了一個(gè)新的話題——無(wú)監(jiān)督學(xué)習(xí)。主要內(nèi)容包括無(wú)監(jiān)督學(xué)習(xí)中的K均值聚類(K-means)算法，混合高斯分布模型(Mixture of Gaussians, MoG)，求解MoG模型的EM算法，以及EM的一般化形式，在EM的一般化形式之前，還有一個(gè)小知識(shí)點(diǎn)，即Jensen不等式(Jensen’s inequality)。