python em算法的实现
谢英耀
本文向大家介绍python em算法的实现，包括了python em算法的实现的使用技巧和注意事项，需要的朋友参考一下
''' 数据集：伪造数据集（两个高斯分布混合） 数据集长度：1000 ------------------------------ 运行结果： ---------------------------- the Parameters set is: alpha0:0.3, mu0:0.7, sigmod0:-2.0, alpha1:0.5, mu1:0.5, sigmod1:1.0 ---------------------------- the Parameters predict is: alpha0:0.4, mu0:0.6, sigmod0:-1.7, alpha1:0.7, mu1:0.7, sigmod1:0.9 ---------------------------- ''' import numpy as np import random import math import time def loadData(mu0, sigma0, mu1, sigma1, alpha0, alpha1): ''' 初始化数据集 这里通过服从高斯分布的随机函数来伪造数据集 :param mu0: 高斯0的均值 :param sigma0: 高斯0的方差 :param mu1: 高斯1的均值 :param sigma1: 高斯1的方差 :param alpha0: 高斯0的系数 :param alpha1: 高斯1的系数 :return: 混合了两个高斯分布的数据 ''' # 定义数据集长度为1000 length = 1000 # 初始化第一个高斯分布，生成数据，数据长度为length * alpha系数，以此来 # 满足alpha的作用 data0 = np.random.normal(mu0, sigma0, int(length * alpha0)) # 第二个高斯分布的数据 data1 = np.random.normal(mu1, sigma1, int(length * alpha1)) # 初始化总数据集 # 两个高斯分布的数据混合后会放在该数据集中返回 dataSet = [] # 将第一个数据集的内容添加进去 dataSet.extend(data0) # 添加第二个数据集的数据 dataSet.extend(data1) # 对总的数据集进行打乱（其实不打乱也没事，只不过打乱一下直观上让人感觉已经混合了 # 读者可以将下面这句话屏蔽以后看看效果是否有差别） random.shuffle(dataSet) #返回伪造好的数据集 return dataSet def calcGauss(dataSetArr, mu, sigmod): ''' 根据高斯密度函数计算值 依据：“9.3.1 高斯混合模型” 式9.25 注：在公式中y是一个实数，但是在EM算法中(见算法9.2的E步)，需要对每个j 都求一次yjk，在本实例中有1000个可观测数据，因此需要计算1000次。考虑到 在E步时进行1000次高斯计算，程序上比较不简洁，因此这里的y是向量，在numpy 的exp中如果exp内部值为向量，则对向量中每个值进行exp，输出仍是向量的形式。 所以使用向量的形式1次计算即可将所有计算结果得出，程序上较为简洁 :param dataSetArr: 可观测数据集 :param mu: 均值 :param sigmod: 方差 :return: 整个可观测数据集的高斯分布密度（向量形式） ''' # 计算过程就是依据式9.25写的，没有别的花样 result = (1 / (math.sqrt(2*math.pi)*sigmod**2)) * np.exp(-1 * (dataSetArr-mu) * (dataSetArr-mu) / (2*sigmod**2)) # 返回结果 return result def E_step(dataSetArr, alpha0, mu0, sigmod0, alpha1, mu1, sigmod1): ''' EM算法中的E步 依据当前模型参数，计算分模型k对观数据y的响应度 :param dataSetArr: 可观测数据y :param alpha0: 高斯模型0的系数 :param mu0: 高斯模型0的均值 :param sigmod0: 高斯模型0的方差 :param alpha1: 高斯模型1的系数 :param mu1: 高斯模型1的均值 :param sigmod1: 高斯模型1的方差 :return: 两个模型各自的响应度 ''' # 计算y0的响应度 # 先计算模型0的响应度的分子 gamma0 = alpha0 * calcGauss(dataSetArr, mu0, sigmod0) # 模型1响应度的分子 gamma1 = alpha1 * calcGauss(dataSetArr, mu1, sigmod1) # 两者相加为E步中的分布 sum = gamma0 + gamma1 # 各自相除，得到两个模型的响应度 gamma0 = gamma0 / sum gamma1 = gamma1 / sum # 返回两个模型响应度 return gamma0, gamma1 def M_step(muo, mu1, gamma0, gamma1, dataSetArr): # 依据算法9.2计算各个值 # 这里没什么花样，对照书本公式看看这里就好了 mu0_new = np.dot(gamma0, dataSetArr) / np.sum(gamma0) mu1_new = np.dot(gamma1, dataSetArr) / np.sum(gamma1) sigmod0_new = math.sqrt(np.dot(gamma0, (dataSetArr - muo)**2) / np.sum(gamma0)) sigmod1_new = math.sqrt(np.dot(gamma1, (dataSetArr - mu1)**2) / np.sum(gamma1)) alpha0_new = np.sum(gamma0) / len(gamma0) alpha1_new = np.sum(gamma1) / len(gamma1) # 将更新的值返回 return mu0_new, mu1_new, sigmod0_new, sigmod1_new, alpha0_new, alpha1_new def EM_Train(dataSetList, iter=500): ''' 根据EM算法进行参数估计 算法依据“9.3.2 高斯混合模型参数估计的EM算法” 算法9.2 :param dataSetList:数据集（可观测数据） :param iter: 迭代次数 :return: 估计的参数 ''' # 将可观测数据y转换为数组形式，主要是为了方便后续运算 dataSetArr = np.array(dataSetList) # 步骤1：对参数取初值，开始迭代 alpha0 = 0.5 mu0 = 0 sigmod0 = 1 alpha1 = 0.5 mu1 = 1 sigmod1 = 1 # 开始迭代 step = 0 while (step < iter): # 每次进入一次迭代后迭代次数加1 step += 1 # 步骤2：E步：依据当前模型参数，计算分模型k对观测数据y的响应度 gamma0, gamma1 = E_step(dataSetArr, alpha0, mu0, sigmod0, alpha1, mu1, sigmod1) # 步骤3：M步 mu0, mu1, sigmod0, sigmod1, alpha0, alpha1 = M_step(mu0, mu1, gamma0, gamma1, dataSetArr) # 迭代结束后将更新后的各参数返回 return alpha0, mu0, sigmod0, alpha1, mu1, sigmod1 if __name__ == '__main__': start = time.time() # 设置两个高斯模型进行混合，这里是初始化两个模型各自的参数 # 见“9.3 EM算法在高斯混合模型学习中的应用” # alpha是“9.3.1 高斯混合模型” 定义9.2中的系数α # mu0是均值μ # sigmod是方差σ # 在设置上两个alpha的和必须为1，其他没有什么具体要求，符合高斯定义就可以 alpha0 = 0.3 # 系数α mu0 = -2 # 均值μ sigmod0 = 0.5 # 方差σ alpha1 = 0.7 # 系数α mu1 = 0.5 # 均值μ sigmod1 = 1 # 方差σ # 初始化数据集 dataSetList = loadData(mu0, sigmod0, mu1, sigmod1, alpha0, alpha1) #打印设置的参数 print('---------------------------') print('the Parameters set is:') print('alpha0:%.1f, mu0:%.1f, sigmod0:%.1f, alpha1:%.1f, mu1:%.1f, sigmod1:%.1f' % ( alpha0, alpha1, mu0, mu1, sigmod0, sigmod1 )) # 开始EM算法，进行参数估计 alpha0, mu0, sigmod0, alpha1, mu1, sigmod1 = EM_Train(dataSetList) # 打印参数预测结果 print('----------------------------') print('the Parameters predict is:') print('alpha0:%.1f, mu0:%.1f, sigmod0:%.1f, alpha1:%.1f, mu1:%.1f, sigmod1:%.1f' % ( alpha0, alpha1, mu0, mu1, sigmod0, sigmod1 )) # 打印时间 print('----------------------------') print('time span:', time.time() - start)
以上就是python em算法的实现的详细内容，更多关于python em算法的资料请关注小牛知识库其它相关文章！
类似资料：
-
我已经看到了dijkstra的加权图的算法，我应该怎么做才能在未加权图中找到最短路径？ 我应该考虑所有边之间的权重0或1？ 其次，我想在节点上实现一个bfs来检查一个节点是否可以从任何其他节点到达？有没有可能，因为定义一个2-D数组的给出了一个内存故障。
-
本文向大家介绍KMP算法的C#实现方法，包括了KMP算法的C#实现方法的使用技巧和注意事项，需要的朋友参考一下 本文实例简述了KMP算法的C#实现方法，分享给大家供大家参考。具体如下： 具体思路为：next函数求出模式串向右滑动位数，再将模式串的str的next函数值 存入数组next。 具体实现代码如下： KMP算法代码如下： 希望本文所述对大家的C#程序设计有所帮助。
-
本文向大家介绍python实现的DES加密算法和3DES加密算法实例，包括了python实现的DES加密算法和3DES加密算法实例的使用技巧和注意事项，需要的朋友参考一下 本文实例讲述了python实现的DES加密算法和3DES加密算法。分享给大家供大家参考。具体实现方法如下： 希望本文所述对大家的Python程序设计有所帮助。
-
本文向大家介绍SMO算法实现？相关面试题，主要包含被问及SMO算法实现？时的应答技巧和注意事项，需要的朋友参考一下 选择原凸二次规划的两个变量，其他变量保持不变，根据这两个变量构建一个新的二次规划问题，这样将原问题划分为更小的子问题可以大大加快计算速度，而选择变量的方式是： 其中一个是严重违反KKT条件的一个变量 另一个变量是根据自由约束确定的
-
我无法实现SJF（最短作业优先）算法。 SJF就是这样工作的 如果进程到达0时间，它将工作到下一个进程到达，算法必须检查到达1的到达（进程/进程）是否比当前剩余时间短 示例：P0执行了1，还有2要完成，现在我们有P0，P1，P2，P3，P4 in 1算法将执行最短的一个P3，之后是P0，然后是P4，然后是P1，依此类推。问题是我必须保存所有进程的开始和结束时间执行，以及等待时间。 这是我的最新算法
-
朴素贝叶斯算法 给定数据集$$T={(x{(1)},y{(1)}),(x{(2)},y{(2)}),...,(x{(m)},y{(m)})}$$，其中$$x\in \mathcal{X}\subseteq R^n$$，$$y\in \mathcal{Y}={c_1, c_2,...,c_K}$$，$$X$$是定义在输入空间$$\mathcal{X}$$上的随机向量，$$Y$$是定义在输出空间$$\